News Serienfertigung gestartet: Micron bestückt Nvidias H200 mit 144 GB HBM3E

[ruthi91]

Um HBM in einer APU zu rechtfertigen müssten da auch mehr Shader rein, zb so 20-28CUs. Aber eine Radeon 7500 gibts leider nicht. Und selbst dann hat man am Ende einen Chip der 400-600€ kostet für einen ziemlich kleinen Kundenkreis. Ich sehe da am ehesten noch Konkurrenz zu Einsteiger Gaming Notebooks zb mit RTX4050.

Wie Rickmer geschrieben hat sind die Serverkarten einfach zu lukrativ.

 

[-Ps-Y-cO-]

GPU mit einmal normalem und einmal vergoldetem 24GB VRAM.

I'll take that golden sample

Karte kann kleiner Dimensioniert werden.
Karte kann "besser" gekühlt werden. (Volle Konzentration das Package zu kühlen)
Bandbreite zählt. Vielleicht nicht im Gaming als solches, aber allgemein ist das extrem viel wert. Grad was alles abseits des Triangel-Rendering geht.

Angenommen;
GPU 6900Ti kostet $1000
24GB GDDR macht einen Aufpreis von $100
24GB HBM machen einen Aufpreis von $270

100% entscheide ich mich für die HBM variante. Warum?
Weil HBM einfach der bessere Speicher ist.
Facts.

Egal in was, ob Video oder Audio, ob KI oder AI, ob Berechnung von Matrizen oder Daten aus Datenbanken, ob Adobe oder Unreal, ob Blender oder VisualStudio, HBM ist einfach besser.

Früher haben Leute ihre 88MHz CPU auf 93MHz geprügelt.... Die waren Stolz wie Bolle.
Und ich will HBM.

 

[Rickmer]

24GB HBM machen einen Aufpreis von $270

Versuch's mit einem Vielfachen davon.

Allein schon weil nvidia rechtfertigen muss, die limitierten HBM und CoWoS Kapazitäten nicht in eine weitere H200 GPU die für $40k verkauft wird zu stecken.

 

[ThirdLife]

24GB HBM machen einen Aufpreis von $270

Eben nicht. Das ist dein Wunschpreis und nicht der Preis den man aufrufen müsste um den Verlust an Accelerator-Packaging auszugleichen. Wie @Rickmer sagte kannst du da problemlos vom Dreifachen ausgehen.

Ey ich liebe geile Hardware aber für geschätzte 5% Mehrleistung in Games leg ich sicher keine 3,5k€ aufn Tisch für ne HBM 4090. Das ist einfach nur nutzlos.

Das Einzige was profitieren würde wären Anwendungen mit massivem Bandbreiten-Bedarf und abgesehen von Mining, DL/AI/ML fällt mir da echt wenig ein was man sinnvoll damit tun könnte im privaten Bereich.

Dürfte auch nicht nötig sein hier sauteures HBM + Packaging zu kaufen wenn GDDR7 vor der Türe steht und mit 32-36 Gbps vermutlich mehr als genug Leistung bietet gerade im Highend-Consumer-Bereich. Mit 36er Speicher wären bei 384er Interface 1,728 TB/s drin was über 71% Steigerung wäre ggü. aktuellem 21000er Memory auf einer 4090.

 

[Saugbär]

Das Problem von HBM 3 ist, das es garnicht zu kaufen ist.
Die ganze Jahresproduktion ist längst verkauft..

 

[C4rp3di3m]

Die sollen endlich wieder HBM bringen, dann Zahl ich auch gerne paar Euro mehr, wäre wenigstens mal wieder ein standalone Merkmal

 

[foofoobar]

Palim Palim:

https://www.golem.de/news/instinct-mi300-amd-will-mit-hbm3e-besser-als-nvidia-sein-2402-182624.html

 

[BxBender]

Das erklärt dann wohl auch, warum der Speichertyp bereits für das ganze laufende Jahr ausverkauft ist? ^^

Ergänzung (27. Februar 2024)

Wird HBM (1) gar nicht mehr prdouziert? Die Dinger waren in den ersten Iterationen doch schon brachial gut. Die sind ggf. günstiger und für Consumer geeignet.

HBM1 kann nur 1GB pro Chip.
Deshalb hatte die erste AMD Karte damit doch auch nur 4GB VRAM.
War das die Fury? Oder wie hieß die noch? Verwechsle das immer mit dem Chip Fuji oder so.
Mit HMB2 wäre sicher noch was möglich, aber da wäre bei 4x4GB dann bei 16GB Sense, und das rechnet sich für die "günstigeren" Kartenausführungen kostentechnisch vermutlich bis heute nicht.
Da braucht man wohl auch nicht die hohe Transferrate.
Für Kompaktplatinen wäre es aber eigentlich dennoch recht interessant, um ordentliche Rechenleistung auch in Kleingehäuse quetschen zu können.

 

[Flutefox]

HBM1 kann nur 1GB pro Chip.
Deshalb hatte die erste AMD Karte damit doch auch nur 4GB VRAM.
War das die Fury? Oder wie hieß die noch? Verwechsle das immer mit dem Chip Fuji oder so.

Das wäre für Midrange usw. kein Beinbruch, da sich durch die Baugröße etc. durchaus andere Vorteile ergeben.

 

[BDR529]

Ach ja... ich hätte auch so gerne 32GB HMB3 auf meiner RTX 4060... dann wäre es ganz bestimmt eine sehr schnelle und zukunftssichere Karte!

Wer den Fehler findet, darf ihn behalten.

 

[washieiko]

Solche Meldungen erzeugen bei mir immer die Nachfrage: Wer hat da wen ausspioniert? Halte es für eher unwahrscheinlich, dass bei zwei verschiedenen Forschungen am Ende das selbe Produkt entsteht.

 

[Schokolade]

Solche Meldungen erzeugen bei mir immer die Nachfrage: Wer hat da wen ausspioniert? Halte es für eher unwahrscheinlich, dass bei zwei verschiedenen Forschungen am Ende das selbe Produkt entsteht.

Ich bin da nicht allwissend, aber HBM ist doch genauso ein Standard der JEDEC, wie z.B. DDR, LPDDR RAM usw. auch. Die Hersteller wie Micron, Samsung, SK Hynix und co. beteiligen sich vermutlich an der Entwicklung und produzieren eigene Variationen davon, wie bei den üblichen DDR Rambausteinen ja auch.