Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsHigh Bandwidth Flash: SanDisk holt SK Hynix mit ins Boot
SanDisk gibt Vollgas beim geplanten High Bandwidth Flash (HBF), der für „bahnbrechende Speicherkapazität und Leistung für die nächste Generation von KI-Inferenzen“ sorgen soll. Dafür holt sich SanDisk jetzt noch Unterstützung von SK Hynix ins Boot, den Marktführer bei High Bandwidth Memory (HBM).
Ich will skeptisch sein und sagen, dass Flash nie schnell genug sein wird um wirklich große LLMs performant nutzbar zu machen. Insbesondere die Latenzen werden ein riesiges Problem sein.
Aber was weiß ich schon... mal abwarten, was das fertige Produkt so bringt.
Vielleicht eine ähnliche Hierarchie wie bei Caches oder auch dem Menschen:
-Alles was schnell gehen muss im L1-Cache oder dem Muskel-Gedächtnis
-Komplexere Dinge L2 bzw. Kurzzeit-Gedächtnis
Eine gute Nachricht, da SK Hynix sehr viel Kompetenz in diesem Bereich in die Zusammenarbeit einbringen wird. Und die bestimmt horrenden Entwicklungskosten lassen sich so wohl auch leichter finanzieren.
Bis ein HBF-Produkt auf den Markt kommt wird es aber wohl noch einige Zeit dauern. Und dann muss es ja auch funktionieren und beweisen, dass es auch tatsächlich einen relevanten Mehrwert bringt.
HBF ist als Ergänzung zu HBM angedacht, also als eine neue, zusätzliche Speicherebene. Hier dazu ein weiterführender Artikel.
OT-Frage: Die Entwicklung von HBM wurde doch ursprünglich von AMD begonnen. Muss SK Hynix deshalb an AMD Lizenzgebühren bezahlen? Weiss da jemand etwas darüber?