High Bandwidth Flash: HBF soll 512 GB mit 3 TB/s verbinden

SK Hynix und Sandisk konkretisieren ihre Pläne für High Bandwidth Flash. Der nun veröffentlichte Standard sieht Speicherstapel mit bis zu 512 GByte und einer Bandbreite von maximal 3 TByte/s vor. Über UCIe soll sich der NAND-basierte Speicher unmittelbar mit CPUs, GPUs und anderen Beschleunigern verbinden lassen.

Neue Speicherebene zwischen HBM und SSD

Die beiden Speicherhersteller haben die ersten Standardspezifikationen für High Bandwidth Flash im Rahmen der Fachmesse Future of Memory and Storage 2026 vorgestellt. Die Spezifikation wurde über das Open Compute Project veröffentlicht und steht damit grundsätzlich auch anderen Herstellern und Systementwicklern offen.

HBF soll eine neue Ebene innerhalb der Speicherhierarchie bilden. Die Technik soll näher am Prozessor arbeiten und eine wesentlich höhere Bandbreite als herkömmliche SSDs erreichen, zugleich aber mehr Kapazität zu niedrigeren Kosten als High Bandwidth Memory bieten. HBM wird aus gestapelten DRAM-Chips aufgebaut und kommt unter anderem direkt neben leistungsfähigen GPUs und KI-Beschleunigern zum Einsatz.

High Bandwidth Flash basiert dagegen auf NAND-Flash. Dieser speichert Daten dauerhaft und erlaubt eine höhere Speicherdichte, erreicht normalerweise aber weder die Zugriffszeiten noch die Bandbreite von DRAM. HBF soll diese Lücke zumindest teilweise schließen, ohne HBM vollständig zu ersetzen.

Drei Leistungsklassen mit bis zu 3 TByte/s

Die Spezifikation sieht Stapel aus acht oder 16 NAND-Dies vor. Je nach Aufbau sollen Kapazitäten von bis zu 512 GByte möglich sein. Für die Übertragungsleistung wurden drei Klassen definiert, die eine Bandbreite von etwa 0,4 bis 3,0 TByte/s abdecken.

Der Standard enthält darüber hinaus Vorgaben für elektrische Eigenschaften, Schnittstellen, die Zuverlässigkeit und das Packaging der gestapelten NAND-Dies. Auch Richtlinien für Lese- und Schreibzugriffe auf Softwareebene gehören zur Spezifikation.

Die Anbindung an den jeweiligen Prozessor soll über UCIe erfolgen. Der offene Chiplet-Standard ermöglicht eine schnelle Verbindung unterschiedlicher Halbleiterbausteine innerhalb eines Systems beziehungsweise Packages. HBF könnte dadurch mit verschiedenen CPUs, GPUs oder speziell für KI entwickelten Beschleunigern kombiniert werden.

Sandisk und SK Hynix sehen den Speicher insbesondere als Ergänzung zu HBM. Häufig benötigte Daten könnten weiterhin im schnellen DRAM liegen, während große Datenbestände im HBF-Speicher in unmittelbarer Nähe des Beschleunigers vorgehalten werden. Erst deutlich seltener benötigte Inhalte müssten dann von einer SSD nachgeladen werden.

Vor allem für die KI-Inferenz gedacht

Als wichtigstes Einsatzgebiet nennen die Unternehmen die KI-Inferenz, also die Verwendung bereits trainierter Modelle. Große Sprachmodelle benötigen nicht nur viel Rechenleistung, sondern müssen auch umfangreiche Modellgewichte und weitere Daten möglichst schnell bereitstellen. Reicht der Speicher direkt am Beschleuniger nicht aus, kann das Nachladen von einer SSD die Verarbeitung bremsen.

HBF soll hier eine größere Speicherkapazität in Prozessornähe ermöglichen. Aufgrund des verwendeten NAND-Flash eignet sich die Technik vor allem für Daten, die häufig gelesen, aber vergleichsweise selten verändert werden. HBM dürfte wegen seiner geringeren Latenz und besseren Schreibleistung weiterhin für besonders zeitkritische Daten benötigt werden.

An der Standardisierung beteiligen sich neben Sandisk und SK Hynix inzwischen auch Google und der auf KI-Prozessoren spezialisierte Hersteller Tenstorrent. Die beteiligten Unternehmen wollen HBF dadurch nicht als proprietäre Einzellösung, sondern als herstellerübergreifenden Industriestandard etablieren. Angaben zu ersten Serienprodukten oder einem konkreten Marktstart enthält die Ankündigung noch nicht.

SK Hynix zeigt NAND mit 375 Speicherschichten

Auf der Messe zeigt SK Hynix außerdem erstmals seinen NAND-Flash der zehnten Generation. Der als „V10 4D NAND“ bezeichnete Speicher besitzt 375 Speicherschichten und befindet sich noch in der Entwicklung.

Im Vergleich zur vorherigen Generation soll die Energieeffizienz um den Faktor 2,5 steigen. SK Hynix plant, Anfang 2027 mit der Serienfertigung darauf basierender Enterprise-SSDs zu beginnen. Einen direkten Zusammenhang zwischen dem neuen 375-Layer-NAND und ersten HBF-Produkten stellt das Unternehmen bislang nicht her.