News 500-Watt-CPUs: Intel Granite Rapids und Sierra Forest auf LGA 7529

[Looniversity]

Wer bitte betreibt denn Overclocking im Serverbereich?

Investmentbanken. Bei deren (Eigen-)Handelssystemen zählt jede Nanosekunde, und wenn man den Takt hochballert schrumpft die Latenz. Da wird auch ein brutaler Aufwand für maximal optimierten Code getrieben.

Das Problem beim Übertakten ist da natürlich erst recht, dass die Dinger auch trotzdem noch zuverlässig laufen müssen. Wenn ein korruptes Bit die Aktien versehentlich kauft statt verkauft kostet das fast so einen großen Haufen Kohle wie die insgesamt Gewinn in der Abteilung machen können.

 

[MalWiederIch]

Sind sie auch nicht, so fette Heizkörper will kein Mensch haben, Leistung hin oder her. Die meisten hier haben schlicht zu viel Geld über und können nicht in Server-Dimensionen denken, was dort wichtig ist und was nicht. Andere Welt.

Du z.B. - die werden schlichtweg mit Wasser gekühlt …

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[Skysnake]

Windows auf einem alten MacBook + ein sauteures Serverboard auf der Bettdecke. Kann man beides mal machen xD

Ist es ab einer gewissen Sockelgröße nicht viel einfacher die CPUs zu verlöten als einen enormen Aufwand betreiben zu müssen um den Anpressdruck immer gleich zu verteilen? Gerade bei Servern die eh nie wirklich geupgradet werden und so viel Strom verbrauchen, das das doch kein Normalsterbilcher am Ende der Nutzungszeit noch verwenden will würde das doch sicher Sinn machen oder?

An sich ja, aber damit würdest du dich zu sehr einschränken. Ich hatte jetzt erst wieder bei <200 Servern zwei kaputte MBs und eine kaputte CPUs dabei.

Und wenn ich dran denke das es immer mal wieder zu nem reseed von ner CPU in der Laufzeit von 5 Jahren kommt, dann könnte das Problematisch sein. Wobei klar, schlechte Verbindungen sind bei verlöteten CPUs unwahrscheinlicher. Aber nen Lötpunkt kann auch ne Macke haben und man hat den Druck vom Kühler....

Ich denke am Ende von Tag ist der Sockel doch ganz ok.

Schon krass wie riesig ^^. Dauert nicht lange und so ne cpu bekommt alleine ne Schublade in so nem Server Schrank.

Ich die aktuellen AMDs mit 24 Dimms passen schon nicht mehr zwei nebeneinander ins 19" Rack Blade.

einem RZ interessieren die Stromrechnungen für die Server meist eher weniger. Und da träumt auch keiner davon sich mit irgendwelchen Raumtemparaturen von 25°C und mehr rumschlage zu müssen.

In welcher Welt lebst du?

Jeden interessiert das. Die Stromkosten sind in Europa Massiv und selbst in den Staaten ist es einem nicht egal. Zudem musst du das eben auch Kühlen und mehr pro Server bedeutet weniger Server insgesamt. Denn verdammt viele Rechenzentren sind Power Limited. Und nen neuen Mittelsoannungstravo mit nem MW+ bekommst du meist nicht mal eben vom Netzbezreiber genehmigt....

Und ja über 25Grad macht sich eher keiner Sorgen. Da wird eher an 35 oder 40 Grad auf der "kalten" Seite nachgedacht.

Und wenn im Serverraum Hoeheneinheiten frei werden, will man die nicht leer herumstehen lassen, nur weil die konsolidierten Server zu durstig sind.

Das ist aber schon seit ein paar Jahren absoluter Standard wenn man reine Luftkühlung macht. Halbvolle Racks sind der Standard....

Gut das die Server in der Breite genormt sind, also größer als 19" wird die Kantenlänge eines CPUs wohl nicht werden.

Es gibt auch andere Standards mit mehr Breite und auch schon immer Sonderlösungen. Ich würde nicht drauf wetten das 19" in 10 Jahren noch wirklich weit verbreitet ist.

Und was machen wir, wenn wir bei 1000 Cores sind? sind 4kW Verlustwärme für eine CPU Deiner Meinung nach vertretbar?

Ja, das ist ok, wird dieses Jahrzehnt aber nicht mehr kommen. Für die 2030er würde ich aber damit sicher rechnen.

 

[Volker]

Artikel-Update: Weitere Informationen rund um die im Jahr 2024 erwartete Server-Plattform Granite Rapids manifestieren das zuletzt gezeichnete Bild und nennen erneut Details wie die zwölf Speicherkanäle und sechsfache UPI-Verbindungen nebst 6×16 PCIe-5.0-Lanes. Die 500-Watt-Version im A2-Stepping bietet demnach 72 Kerne bei der Nutzung von vermutlich drei Compute-Dies (X3-Version), bei 350 Watt ist aktuell eine 40-Kern-Variante im Einsatz (X1-Version). Das Stepping respektive die Revision deutet daraufhin, dass bereits erste kleinere Fehler beseitigt wurden.

[Bilder: Zum Betrachten bitte den Artikel aufrufen.]​

 

[tarkin77]

72 Cores bei 500W - und das H2 2024. Damit wird Intel noch weiter zurückfallen. Gar keine Chance gegen 128 Core Turin/ 196 Core Turin Dense. Das wird ein Gemetzel.

 

[y33H@]

Wenn die X1-Variante von GNR auf 40C kommt, wären bei X3 dann nicht ~120C zu erwarten? So sieht die Sache vs Turin gleich anders aus ... in H1 kommt zudem SFR mit 144C, sprich noch bevor Turin Dense erscheint.

 

[=dantE=]

Ja, allerdings kommt Sierra Forrest mit bis zu 144 E-Cores auf den Markt.
Wie es darum dann leistungstechnisch bestellt ist, wird sich zeigen müssen.
Dennoch ... es geht bei Intel voran.

 

[Syrato]

72 Cores bei 500W - und das H2 2024. Damit wird Intel noch weiter zurückfallen. Gar keine Chance gegen 128 Core Turin/ 196 Core Turin Dense. Das wird ein Gemetzel.

Das Gemetzel läuft schon eine ganze Weile. Es ist zwar gut, wenn AMD aktuell noch weiter zulegen kann, aber irgendwann muss Intel gleichziehen, sonst kann das wieder übel enden.

 

[Skysnake]

Intel hat vor allem das Problem mit VMware vor der Nase das eine Live Migration aufs neue Blech nicht mehr gehen wird.

Das wird auch die letzten Verfechter von Intel in schwere Erklärungsnot bringen

 

[nciht]

Noch drei Generationen und der Sockel hat die Größe von nem ITX-Board und gekühlt wird dann mit ner Quadroblock-WaKü - klingt albern, wird aber passieren.

 

[bensen]

Wenn die X1-Variante von GNR auf 40C kommt, wären bei X3 dann nicht ~120C zu erwarten? So sieht die Sache vs Turin gleich anders aus ... in H1 kommt zudem SFR mit 144C, sprich noch bevor Turin Dense erscheint.

X1 ist ein HCC Die. Der ist größer als die XCC/UCC Dies. Siehe vorige Folien. Der einzel-Die hat dann ja auch 8 Speicherkanäle.
Allerdings finde ich die Aufteilung schon merkwürdig. XCC wäre dann ja bei 48 und HCC bei 40. Ziemlich dicht beisammen.
Sind wahrscheinlich nicht die max Anzahl Kerne. Wird man abwarten müssen.

 

[y33H@]

GNR hat laut MLID keine HCC/XCC, sondern bis zu drei Compute Dies mit bis zu 44C und die werden mit zwei I/O Dies kombiniert.

 

[bensen]

@y33H@
Ja gut, der erzählt auch viel wenn der Tag lang ist. Ich sehe nirgends Beweise.
Hier in der News sind zumindest Folien die detailliert zeigen wie die Organisation aussieht. Kann natürlich alles Fake sein, aber bis jetzt zumindest etwas überzeugender als leeres Geschwafel in einem Video.

 

[itm]

Die wichtigste Frage wird es von Asrock Rack ein ITX Board geben 🤔

 

[Atkatla]

Intel hat vor allem das Problem mit VMware vor der Nase das eine Live Migration aufs neue Blech nicht mehr gehen wird.

Warum sollte das nicht gehen?

 

[tarkin77]

Ja, allerdings kommt Sierra Forrest mit bis zu 144 E-Cores auf den Markt.
Wie es darum dann leistungstechnisch bestellt ist, wird sich zeigen müssen.
Dennoch ... es geht bei Intel voran.

kommt in einem Jahr... toll. gegen Bergamo denn es dann schon eben so lange gibt.

Glaubst du, dass eine 144 E-Core CPU ohne HT auch nur die geringste Chance gegen 128 Zen4c Cores und 256 Threads haben wird? Bei Intel gehts voran, stimmt ... aber im Rückwärtsgang.

Abgesehen davon, wenn Sierra Forest kommt, ist Turin Dense mit 192 Zen 5C Cores am Horizont.

Würde mich nicht wundern, wenn das Teil dann min. 3x so schnell ist wie Sierra Forest. Die CPU wird alleine 2,66x Anzahl an Threads bieten - mit Zen 5 IPC (!)

Milchmädchenrechnung:

Sagen wir mal 2 next gen Intel E-Cores sind ca. so schnell 2 Zen 4 Threads... was glaub ich schon zu optimistisch ist.

Dann ist eine 144 Core CPU so schnell wie ca. 64 Core Zen 4 Epyc... glaub ich kommt gut hin.

Bergamo ist nun also schon rund doppelt so schnell. Turin Dense legt nochmal 50% Cores drauf und sagen wir min. +15% IPC. Ergibt min. +72% von Bergamo auf Turin Dense.

Das ergibt dann von Zen 4 64C bzw. 144 E-Cores auf Turin Dense Faktor 3,5x Performance (!)

Kein Wunder, wenn die Hyperscaler Intel links liegen lassen und die Epycs mit den "dense" Cores bevorzugen. AMD ist Intel ~2 Generationen voraus.

 

[Philste]

Kommt drauf an, was man als Konkurrenz sieht. Sierra Forest kommt für den SP (also dem kleinen) Sockel, der ungefähr die Dimensionen der aktuellen Gen beibehält. Die Konkurrenz ist also nicht Bergamo, sondern Siena bzw dessen Nachfolger Sorano.

Der kommt aber laut der von MLID geleakten Roadmap erst Mitte bis Herbst 2025 und setzt ebenso wie Siena auf 64 ZENXc Kerne. Und der Vergleich sieht dann schon anders aus.

Klar wildern Bergamo und Turin Dense am oberen Ende der Fahnenstange erstmal alleine weiter, aber da sprechen wir dann wahrscheinlich von ganz anderen Preisen und Die-Größen. Sierra Forest scheint erstmal das Ziel zu haben, Leistung bei extrem niedrigen Siliziumkosten und bei guter Effizienz bereitzustellen.

 

[tarkin77]

Kommt drauf an, was man als Konkurrenz sieht. Sierra Forest kommt für den SP (also dem kleinen) Sockel, der ungefähr die Dimensionen der aktuellen Gen beibehält. Die Konkurrenz ist also nicht Bergamo, sondern Siena bzw dessen Nachfolger Sorano.

Intel zielt mit Sierra auf den gleichen Markt wie AMD mit Dense - Cloud. Siena hat eine komplett andere Ausrichtung.

Und soviel Unterschied zwischen E-Cores und den Dense Kernen von AMD ist am Ende nicht. Bisschen größer sind die Cores schon, aber nicht viel!

Zen 4 Cores + L2 sind 50% kleiner als Intel P-Cores mit L2. Und Zen 4C ist nochmal 35% kleiner als Zen 4.

E Core Area ist ca. 1/4 der P Cores? Ich finde dazu nichts.

P-Cores sind 7,68mm² (laut AMD doppelt so groß wie Zen 4)
E-Cores 2mm² ??
Zen 4: 3,84mm²
Zen 4C: 2,48mm²

Also rein von der Core Area sind 144 Sierra Cores und 128 Bergamo Cores dicht beieinander. Letzter ist aber wahrscheinlich bis zu 100% schneller . Also ich sehe nicht, wie bei Intel irgendetwas "voran" gehen soll. Eher das Gegenteil. Ist natürlich alles sehr Milchmädchenhaft gerechnet... keiner weiß, wie groß die E-Cores in Sierra wirklich sind, ob 2 E-Cores vergleichbar mit 2 Zen 4 Threads sind ist auch fraglich... In einem Jahr werden wir es wissen. Aber ich glaube man kann schon sagen - Sierra wird nicht konkurrenzfähig sein. Keine Chanche.

 

[y33H@]

@y33H@Ja gut, der erzählt auch viel wenn der Tag lang ist. Ich sehe nirgends Beweise.
Hier in der News sind zumindest Folien die detailliert zeigen wie die Organisation aussieht. Kann natürlich alles Fake sein, aber bis jetzt zumindest etwas überzeugender als leeres Geschwafel in einem Video.

Wo siehst du in der News denn Folien dazu wie GNR intern aufgebaut ist?

 

[Philste]

P-Cores sind 7,68mm² (laut AMD doppelt so groß wie Zen 4)
E-Cores 2mm² ??
Zen 4: 3,84mm²
Zen 4C: 2,48mm²

Diese Vergleiche kann man gerne wieder anstellen, wenn auch Intel zu einem Node der 5nm Klasse gewechselt ist, so macht das leider noch keinen Sinn. ZEN4 ist im Vergleich zu ZEN3 trotz fullnodeshrink kaum kleiner geworden, braucht also im Umkehrschluss deutlich mehr Transistoren für 13% IPC.

Intel zielt mit Sierra auf den gleichen Markt wie AMD mit Dense - Cloud. Siena hat eine komplett andere Ausrichtung.

Mag sein. Wenn aber ein hypothetischer 144 Kern Sierra Forest nur die Hälfte von einem 128 Kern Bergamo kostet und auch nur die Hälfte verbraucht, ist man trotzdem Konkurrenzfähig, auch wenn die Leistung pro CPU deutlich unter der von Bergamo liegt. Dass diese 144 Kerne lange nicht das Ende der Fahnenstange sind, sollte klar sein. Das sollte etwa die Die Fläche von 40-45 P-Cores sein.

Entweder ist die Entwicklung einer größeren Version gescheitert, oder man bringt absichtlich erst nur eine kleinere Version. Aber Sierra Forest jetzt schon als nicht Konkurrenzfähig zu bezeichnen, ist meiner Meinung nach falsch.