News High Bandwidth Flash: Sandisk verkündet Tapeout, Sample-Termin und Jim Keller

[MichaG]

Der neue Speichertyp High Bandwidth Flash (HBF) rückt der Serienreife wieder ein Stück näher. Sandisk vermeldet das Tape-Out und kündigt Musterchips für 2027 an. Einen namhaften Neuzugang gibt es im technischen Beirat: Mit Jim Keller stößt der Tenstorrent-CEO und frühere Chiparchitekt von AMD, Apple und Intel hinzu.

Zur News: High Bandwidth Flash: Sandisk verkündet Tapeout, Sample-Termin und Jim Keller

 

[Rickmer]

Derweil die Forschung: haben grade ein Paper veröffentlicht, das die Menge an VRAM für Training um Faktor 3 (oder mehr) reduzieren kann und dabei möglicherweise sogar noch bessere Resultate liefert

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[steirerblut]

Wär natürlich top wenn die Lücke zwischen DRAM/HBM und klassischen NVMe Speicher geschlagen werden kann. Erste Praxistests werden spannend. Die Frage ist halt was von den ganzen Joint Ventures mit Kioxia/SK Hynix übrig bleibt wenn das Design tatsächlich Marktreife erreicht und dann in ein paar Monaten kopiert wrid. Nand skaliert ja seit Jahren nicht mehr in immer kleinere Strukturen -> DUV müsste also locker ausreichen und wird ja aktuell in China hochskaliert?
Nvidia verwendet ja schon länger zwei Speicherklassen (HBMX + LPDDRX).

 

[Holzinternet]

Schöne Entwicklung aber ich als Gamer sehe nur die Preise weiter steigen🫣

DDR5 ist schon viel zu teuer. Neues Spielzeug rückt immer weiter in die Ferne.

Schön und schade zugleich.

Gruß
Holzinternet

 

[yetisports]

Derweil die Forschung: haben grade ein Paper veröffentlicht, das die Menge an VRAM für Training um Faktor 3 (oder mehr) reduzieren kann und dabei möglicherweise sogar noch bessere Resultate liefert

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

Bedeutet also mehr Speicher kombiniert mit mehr Speichereffizienz, also noch bessere Modelle.

 

[Land_Kind]

Der Jim Keller kann einfach nicht aufhören...

 

[stefan92x]

Derweil die Forschung: haben grade ein Paper veröffentlicht, das die Menge an VRAM für Training um Faktor 3 (oder mehr) reduzieren kann und dabei möglicherweise sogar noch bessere Resultate liefert

Nett. Wobei HBF natürlich sehr klar Inferenz als Anwendungsbereich hat, aber eben nicht Training.

Schöne Entwicklung aber ich als Gamer sehe nur die Preise weiter steigen🫣

Nicht unbedingt. Wie @Rickmer gerade gepostet hat, gibt es Entwicklungen, durch die weniger RAM fürs Training benötigt wird.

Und HBF bedeutet, dass weniger DRAM für Inferenz benötigt wird und durch deutlich billigeren NAND ersetzt werden kann.

Solche Entwicklungen sind genau die richtigen, um die Eskalation der Speicherpreise wieder einzufangen.

 

[LamaMitHut]

@stefan92
Das Jevons-Paradoxon könnte auch doppelt zuschlagen. Erstens durch effizientere Algorithmen, zweitens durch effizientere Hardware/Rechenzentren.

https://de.wikipedia.org/wiki/Jevons-Paradoxon