Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsNvidia Kyber: Probleme verzögern Scale-out-Rack-„Monster“ wohl bis 2028
Nvidia Kyber wird ein echtes Monster. Ein 78-Layer-Midplane-PCB soll das Rückgrat der neuen Nvidia-Server-Racks bilden. Die Fertigung soll vorerst aber Probleme bereiten, sodass sich das Produkt im Rack nun wohl um ein ganzes Jahr verzögern könnten. Die Lücke muss das bisherige Portfolio füllen.
will jetzt nicht so tun als wär ich der mega experte .. aber so - mal ganz Leiheinhaft
sieht das für mich aus wie ein Albtraum was die Thermik angeht. Bin der Meinung damals gelernt zu haben, dass es einen einfachen grund gibt nicht noch dickere PCB's zu bauen .. die Thermik
mehr Masse speichert wärme .. gut aber da sind Experten am Werk - evtl können die das sogar zu einem Vorteil ummünzen irgendwie ... @theGucky ich vermute, dass sich einzelne Ports da auch ausbauen und tauschen lassen .. also Modular ..
aber an sich bei allem was so komplex (und teuer!!!) ist - ja absoluter Albtraum
So sehr ich dem ganzen KI-Scheiß auch nichts abgewinnen kann, so interessant ist trotzdem die Entwicklung von Hardware, bei der Geld aktuell kaum eine Rolle spielt. Wo sonst würde man jemals ein fingerdickes PCB mit 78 Layern zu sehen kriegen?
Wenn KI auch noch bei Verbindungen zwischen CPUs und den PCBs Innovationen treibt, ist das nur gut.
Auch wenn es nicht immer klappt.
Spacex ist eine Geschichte des Scheiterns um daraus das beste Raumfahrtunternehmen der Geschichte zu machen.
Nvidia mag hier auch länger brauchen. Aber es wird sich lohnen das umzusetzen
Naja Nvidia verzögert viel, sie werden nach jetztigem Stand einer echten AMD Gen nur ihr Super refresh Gegenstellen sie überspringen eine Gen und das obwohl die 5xxx bei Gaming auch fast nur ein Aufguss von 4xxx war, das mag Architektonisch zwar deutlich mehr sein aber 99% von dem was da gemacht wurde bringt für gaming fast nichts.
Auch deren Gaming Arm Kack ist extrem verspätet mindestens 1 Jahr.
Aber Overpromising ist bei Nvidia mittlerweile eben Standard, wie die Aussage das ne 5060 so gut wie ne 4090 sei oder wie war das, wegen Framegen
Und da Nvidia nunmal so viel Kohle macht, bleibt keine Kritik an denen Haften, dagegen wird AMD kritisiert wenn sie was gutes machen, wie FSR4 auf RDNA3 (ihr bastarde macht das nur auf Druck und wieso erst jetzt und ohh wir finden noch ein Haar in der Suppe), Jensen geht rum und nimmt Geldbörsen von Leuten und macht sich Lustig über ihr Geld darin oder so ähnlich... der ist komplett Abgehoben verhält sich deutlich schlimmer aber er ist halt nicht zu nett zu Trump daher hat er absolute Freiheit und Kritik wird abgewehrt.
Bis 40 oder 50 Lagen findet man am Markt Lieferanten für so ein PCB. Je näher man sich der Grenze des machbaren nährt, desto größer werden die zu lösenden Probleme.
Spannend wären weitere Details. Wie groß ist das Panel, wie groß ist der Abstand zwischen den Lagen und wie groß bzw. klein ist der Lochdurchmesser? Irgendwann ist auch mal Schluss, da will das Kupfer in der Galvanik einfach nicht mehr in das Loch und die Bohrung metallisierten. Das geht nicht mehr mit einer handelsüblichen Galvanik. Der Elektrolyt muss entsprechen umgewälzt werden, und natürlich durch das Loch der Bohrung, um an der Lochwand abgeschieden zu werden.
Wenn das die Ursache des Problems ist, dann braucht man u.U. eine neue Galvanikanlage. Wenn es die noch nicht gibt, ist von der Konzeption bis zum Einsatz ein Jahr schon eher knapp, freundlich ausgedrückt.
Naiv waere ich jetzt davon ausgegangen, dass das ein Sandwich von mehreren "normalen" PCBs ist, die dann uebereinandergelegt werden. Das stelle ich mir noch garnicht so problematisch vor.
Da muss dann theoretisch auch nicht alles durchkontaktiert sein, das kann ja der Pin des Verbinders uebernehmen.
Aber dann stellt sich auch die Frage: Wie loetet man so ein Monstrum ueberhaupt und kann man sich sicher sein, das Loetzinn ueberall hinkommt wo man es braucht?
Und dann noch, wenn Verbinder auf beiden Seiten sind? Einfach ins Loetbad kannste das Teil dann jedenfalls nicht tauchen.
Oder loetet man das ueberhaupt? Bei Backplane Verbindern die ich mal bei alten Sachen zu Gesicht bekommen habe, sah es eher so aus als seien die Verbinder garnicht geloetet.
So richtig innovativ ist das eigentlich nicht. Blade-Server gibt es ja schon ewig, neu ist hier "nur", wie viele Blades man zusammenpacken will. Klassischer Fall von "viel hilft viel", nicht von fundamental neuen Lösungen. Was nicht als Kritik an der Idee gemeint ist, das Maximum an Skalierung aus einem Rack rauszuholen ist ein sinnvolles Ziel.
was für eine Bandwidth-Capacity hat das Ding?
Ich errinnere mit noch an die alten C7000 Blade Enclosure, deren Backplane eine Capacity von 5-7 Tb/s hatte.
Ein 78-Layer-Midplane-PCB soll das Rückgrat der neuen Nvidia-Server-Racks bilden. Die Fertigung soll vorerst aber Probleme bereiten, sodass sich das Produkt im Rack nun wohl um ein ganzes Jahr verzögern könnten. Die Lücke muss das bisherige Portfolio füllen.
Das verwundert mich auch, ist das doch ein Rückschritt von dem bisherigen Trend PCI Gen5 auch innerhalb des chassis lieber über Twinax Kabel als PCB zu routen.
Ein PCB ist eher die billige Lösung für die Aufgabe:
Die Isolierung eines Kabels hat nicht nur die gleichmäßigere dielektrische Konstante als FR4 PCB, die extrudierte perfekt runde form und das runde shielding ist auch um Größenordnungen besser als bei PCBs.
In einer Platine gibt es höchstens ground Planes abwechselnd mit signal layern und Via caging oder "picket fencing" um ein Signal vertikal gegen crosstalk abzusichern. Das hat aber wie der Name schon sagt kleine Lücken und bietet nie die ideale 360Grad abschirmung eines Kabels. "Picket fencing" hieße auch sehr viele Buried vias bei einem 72Layer PCB, da die Vias unmöglich durch alle layer gehen können weil sie sonst jegliche routingfläche auffressen würden. Kostet also wieder viel.
Zudem gibt es bei den hohen Frequenzen von PCIeGen6 und NVlink massiv "skin effekt", der bei einem glatten runden Kabel naturgemäßig geringer ist als bei einer rauhen in fr4 gesandwichten Leiterbahn.
Es wundert mich nicht dass Nvidia hier gegen eine Wand läuft.
Aus konstruktionssicht wäre es imo sinnvoller die Konnektoren in eine Metall Backplane mit löchern einzuschrauben und das Routing dahinter per Kabel zu machen. Das ist aber eine extrem komplexe, schwer zu automatisierende Aufgabe.
Volker schrieb:
Über den Serverschrank hinaus war bei Nvidia bislang eigentlich immer eher von Scale-out (Skalierung über mehr Racks) als von Scale-up (Skalierung über mehr Hardware im Rack) die Rede – das Thema verschwimmt hier zunehmend.
Naja, wenn die optische Verbindung genau so schnell ist und topologisch gleichwertig behandelt wird wie die chassisinterne Backplane, dann kann man schon von Scale-up reden.
Zudem kann man das auch anhand der Software ableiten. Scale-Up is wenn die software mit tensor parallelism und nicht pipeline/model parallelism läuft. Systeme mit schlechter Bandbreite, also klassische Scale-Out System würden mit tensor parallelism unheimlich schlecht skalieren.
