News Speicher für KI-Beschleuniger: Kioxia will Nvidia eine 100-Millionen-IOPS-SSD liefern

MichaG

Redakteur
Teammitglied
Registriert
Juli 2010
Beiträge
14.273
  • Gefällt mir
Reaktionen: =dantE=, schneeland, Pry_T800 und 5 andere
Schön krass wie die Technik sich so weiterentwickelt dank KI. Irgendwann haben wir auch etwas davon.
 
  • Gefällt mir
Reaktionen: XD-User, MalWiederIch, schneeland und eine weitere Person
Kioxia ist zu spät!

Erst letztens auf AliExpress eine solche SSD neben den anderen 99-cent high performance Platten gesehen 😄😄
 
  • Gefällt mir
Reaktionen: XD-User, Boulettendieb, 9t3ndo und 19 andere
  • Gefällt mir
Reaktionen: Otorva, 9t3ndo, Ichthys und 2 andere
Wär das nicht eigentlich jetzt genau die richtige Anwendung für 3D Xpoint Speicher und RAM?
 
  • Gefällt mir
Reaktionen: MalWiederIch, Aslo, DenB und 6 andere
RAM wird bezogen auf die Speicherkapazität platz- und energietechnisch wohl seine Nachteile haben (sonst würde man ihn ja nehmen^^).

Und 3D Xpoint war halt zu teuer. Ich denke aber auch, dass Intel/Micron da vlt. etwas vorschnell gehandelt haben. Ja, die NAND-Flash Konkurrenz war preislich nicht schlagbar, aber der 3DXPoint Speicher hatte halt andere Qualitäten, die jetzt evt. zum Tragen kommen könnten, wenn man die Produktion/Forschung nicht eingestellt hätte.
 
  • Gefällt mir
Reaktionen: 9t3ndo, radoxx, INe5xIlium und 4 andere
Fight for Right schrieb:
Für mich auch eine bitte
Klar macht dann ca.899.654$ bitte. Oder gleich das Gesamtsyste um diese auch betreiben zu können?
12.076.433$ bitte
;)

SSD960 schrieb:
...dank KI. Irgendwann haben wir auch etwas davon.
Bis wir davon profitieren könnte es noch 2032 oder später werden.
Pcie7 vielleicht früher, aber die IOPS in der Form direkt vermutlich nie oder 20 Jahre später, da es eine Auftragsfertigung ist.

Für uns könnte jedoch trotzdem höhere IOPS dabei rauskommen von sagen wir 10 Millionen, aber wohl kaum vor 2032.
 
Indirekt profitieren wir doch heute schon. Vom Floorplanning bis zur Chipmaske benötigt man in der Halbleiterbranche immer größere Supercomputer um weiter zu kommen, ASML und dessen Zulieferer wissen die Rechenleistung bestimmt auch zu nutzen.
 
  • Gefällt mir
Reaktionen: Azdak
Sicherlich eine fast rein-optische Übertragung bis kurz vor die Logik. Würde vermuten, dass es erstmal keinem herkömmlichen Standard wie PCI entspricht. Mit Glück wird's dann einer...
 
Danke für den interessanten Bericht.

Das sind die Prestige Projekte zum üben die die Hersteller mit viel Aufwand und viele Geld halt machen müssen.
Die Erfahrungen daraus werden sukzessive auch im Konsumer Bereich ankommen.
 
PCi
B226 schrieb:
Sicherlich eine fast rein-optische Übertragung bis kurz vor die Logik. Würde vermuten, dass es erstmal keinem herkömmlichen Standard wie PCI entspricht. Mit Glück wird's dann einer...
PCIE7.0 wird, zumindest auf dem Mainboard, wohl noch bei Kupfer bleiben. Für 8.0 könnte dass dann aber anders aussehen. Da wird dann langsam auch die Frage aufkommen, ob wir im Consumer Bereich überhaupt noch die gleiche Technik sehen werden oder ob der Enterprise Markt immer weiter entschwindet.
 
  • Gefällt mir
Reaktionen: stevefrogs
Mal eine frage für uns Normale User.
"Kioxia hatte zuvor eine 10-Millionen-IOPS-SSD auf Basis des eigenen XL-Flash für 2026 angekündigt. Wie in so kurzer Zeit diese Leistung noch einmal verzehnfacht werden soll, bleibt die große Frage."
-
PCIe 5.0 wäre da schon zu langsam oder ?
Also ich vermute die neuen SSD,s bräuchten dann schon langsam PCIe 6.0 Mainboards oder ?
 
Also 100 Millionen 4K IOPs sind selbst mit 16 PCIe Gen 7 Lanes nicht möglich. Benötigt werden 381GB/s an Datenrate, x16 PCIe Gen7 stellt aber nur 256GB/s in eine Richtung zur Verfügung.
 
  • Gefällt mir
Reaktionen: Sebbi und MichaG
Kann ich mir irgendwie nicht vorstellen wie so eine Steigerung in der kurzen Zeit möglich sein soll.

MichaG schrieb:
Auftraggeber sei Nvidia, der die SSDs direkt an seine KI-Beschleuniger anbinden will.
Wieso „der“ an dieser Stelle?! 🤷🏻‍♂️
 
Die GPU würde damit zum Kernstück werden und die CPU nur noch zweite Geige Spielen. Vermutlich würde es sich dann lohnen die CPU in die GPU zu intregieren. Und ja ich weiss AMD macht das schon anders herum mit seiner Halo CPU, ABER NVidia braucht da ne neue fanzy bezeichnung. Also wird es dann die „GCPU AI“!

Und bevor jetzt einer Sagt „Das ist ein schrecklicher Marketing Name!“ , Ich hab mich nur dem Marketing niveau der grossen Konzerne angepasst.


Es war aber abzusehen, dass Daten den directen weg über grossen Speicher nehmen werden. Sie wird im Consumerbereich erst mal keine relevanz haben, aber vielleicht für inovationen sorgen die der Allgemeinheit helfen.
 
Dieses Kioxia-Gerücht über eine 100-Millionen-IOPS-SSD für KI-Beschleuniger von Nvidia ist ein Meilenstein.

Die bisherigen Lösungen von Samsung und Co. kratzen kaum an der 10-Millionen-Marke, was im Kontext der enormen Anforderungen von LLMs und KI-Trainings schlicht nicht ausreicht. Der Engpass liegt oft nicht mehr bei der GPU-Leistung, sondern beim Speicher-Subsystem, das die Daten nicht schnell genug nachliefern kann. Hier reden wir nicht nur von Bandbreite, sondern vor allem von Random-I/O-Performance.

Kioxia scheint genau dieses Problem erkannt zu haben. Eine 100-Millionen-IOPS-SSD würde das PCIe-Interface bis an die absolute Grenze ausreizen. Das ist nicht nur eine schlichte Weiterentwicklung, sondern eine fundamentale Neugestaltung der Speicherarchitektur. Es würde die Latenzen massiv reduzieren und die Effizienz von AI-Clustern revolutionieren. Wenn das stimmt, hat Kioxia das Potenzial, sich als der führende Anbieter von High-End-Speicherlösungen für den KI-Markt zu etablieren.
 
  • Gefällt mir
Reaktionen: HtOW und WauWauWau
qiller schrieb:
Und 3D Xpoint war halt zu teuer. Ich denke aber auch, dass Intel/Micron da vlt. etwas vorschnell gehandelt haben.
Das glaube ich nicht, die wussten schon ganz gut was möglich war und was nicht. Das Problem war ja afaik, dass man die 3D Skalierung nicht hinbekommen hat. Und damit hatte man dann null Chancen preislich und bei der Kapazität große Sprünge zu machen. Es war kein Problem, nicht mit NAND konkurrieren zu können. Aber man konnte sich auch kaum von DRAM absetzen. Bei der Kapazität nur Faktor 2 und beim Preis ebenso. Das war einfach viel zu wenig.

Aber ja, genau so eine Technologie bräuchte man jetzt. XL-NAND oder Samsungs Z-NAND waren nie so wirklich erfolgreich, da sehr teuer. Aber das weiterzuentwickeln scheint interessant zu sein, da der Bedarf im Vergleich zu ein paar Jahren zuvor extrem gestiegen ist
Ergänzung ()

Viper816 schrieb:
Bis wir davon profitieren könnte es noch 2032 oder später werden.
Pcie7 vielleicht früher, aber die IOPS in der Form direkt vermutlich nie oder 20 Jahre später, da es eine Auftragsfertigung ist.
Also wenn du mit "uns" den Consumerbereich meinst, dann wird PCIe 7.0 garantiert nicht eher kommen. Eher deutlich später.
Der PCIe 6.0 Standard wurde 2022 verabschiedet. Enterprise Produkte kommen 2026. Im Consumerbereich werden erste Produkte wohl zwischen 2028 und 2030 kommen. "Breit" im Einsatz (wie heute PCIe 5.0 dann eher 2030-2032).
PCIe 7.0 wurde erst dieses Jahr finalisiert. Enterprise Produkte dann 2028-2029. Consumer Produkte kann ich mir 2032 definitiv noch nicht vorstellen.
Die Komplexität ist so hoch und der Nutzen so gering. PCIe 5.0 hat man schon eher als high-end Zugpferd implementiert als denn wirklich als nutzbringendes Feature. Die Kosten waren noch überschaubar. Wird mit PCIe 6 und 7 anders aussehen.
Ergänzung ()

qiller schrieb:
Also 100 Millionen 4K IOPs sind selbst mit 16 PCIe Gen 7 Lanes nicht möglich. Benötigt werden 381GB/s an Datenrate, x16 PCIe Gen7 stellt aber nur 256GB/s in eine Richtung zur Verfügung.
Wie in der News schon angedeutet. Vielleicht waren 512 Bit IOPS gemeint. Dann reicht PCIe 7.0 x8.
Nur wird es bis dahin noch keine PCIe 7.0 Plattform geben.
 
Zuletzt bearbeitet:
Bekommen wir dann neue 4TB M.2 SSD's mit 100mio IOPS?
 
Zurück
Oben