News SOCAMM: LPDDR5X-basierte RAM-Riegel für hohe Kapazität und Bandbreite

[ETI1120]

Habe schon damals in das Forum dazu geschrieben, dass ich diese Aussage für "gelogen" halte, da man so mindestens einen JEDEC-Standard verletzen würde (entweder den für LPDDR4/5(X) oder den für (LP-)CAMM2 oder gar beide). (LP-)CAMM2 wurde ja genau dazu entwickelt LPDDR4/5(X) mit ihren JEDEC Spezifikationen in Systemen wechselbar installieren zu können.

Strix Halo hat ein 256 bit Speicherinterface. In welchem dieser Standard wird garantiert, dass ein 256 bit Speicherinterface mit 8000Gbps und LPCAMM2 realisiert werden kann?

Die Frage ist im übrigen, ob AMD beim Design von FP11 und Strix Halo überhaupt LPCAMM2 auf der Rechnung hatte. Der LPCAMM2 Standard wurde im Dezember 2023 veröffentlicht. Im Oktober 2024 wurde der "LPDDR5 CAMM2 Connector Performance Standard" veröffentlicht. Wenn ich die überschwänglichen Zitate durchlese, bekomme ich Zweifel, ob man ohne den "LPDDR5 CAMM2 Connector Performance Standard" überhaupt LPCAMM2 Geräte umsetzen konnte.

AFAIU war das Lenovo Notebook mit LPCAMM2 Ergebnis eines gemeinsamen Pilot-Projektes von Lenovo und Micron zu LPCAMM2.

Mikron bietet LPCAMM2 Module nur mit 7500Gbps an. Bei Samsung und SK Hynix habe ich keine Parts gefunden. D. h. LPCAMM2 sieht extrem mau aus.

Es wäre Mal interessant zu erfahren warum es mit LPCAMM2 so zäh ist. Es sieht so ziemlich nach Totgeburt aus.

Japp, vermutlich hätte es zuviel gekostet das so zu machen. Denn dem kann man ja durchaus begegnen, mit höherwertigen Platinen, Bauteilen usw.

Das mit den Kosten finde ich sehr fragwürdig. Bei den Servern nahm man bei den normalen DIMMs die niedrigere Datenraten bei einem breiterem Speicherinterface hin*). Für hohe Datenraten hat man nun MRDIMMs entwickelt.

Die Aussage von Nirav Patel im Video ist eindeutig, um es mit LPCAMM2 hinzubekommen hätten die Datenrate, weiter gesenkt werden müssen, als es Framework für akzeptabel gehalten hat.

Es fällt auf, dass bei allen Geräten mit Strix Halo, die Anordnung der LPDDR5-Bausteine identisch ist. Diese Anordnung kann unmöglich mit LPCAMM2 umgesetzt werden. Für mich ist es ein Indiz dass Strix Halo entwickelt wurde, ohne LPCAMM2 zu berücksichtigen. Was beim zeitlichen Ablauf nicht überrascht.

*) Obwohl wegen PCIe 5.0 so oder so teure Materialien für die Mainboardsverwendet werden müssen.

Bei SOCAMM wird Geld zu Anfang erstmal kaum ne Rolle spielen, bei den ersten Geräten, die sackteuer sind.

Eine Rolle wird allerdings spielen, dass die Geräte für das Zusammenspiel mit SOCAMM entwickelt wurden.

Nvidia wird ein ausreichendes Volumen an SOCAMM-Modulen bestellen.

Und die Gruppierung von vier Modulen nah um die CPU herum heißt ja, das es irgendwie auch mit der Signaintegrität hier wohl geht.

Was aber nicht unbedingt Rückschlüsse auf Strix Halo zulässt.

Die Frage ist auch, warum hat Nvidia mit SOCAMM nochmal ein eigenes Modul entwickelt, wenn es schon LPCAMM2 gibt? Laut Jedec sollte LPCAMM2 doch auch für Server geeignet sein. Hat Nvidia nur der Formfaktor nicht gepasst, oder gab es da noch anderes?

Es fällt auf dass bei SOCAMM die zusätzlichen Bauelemente zwischen den LPDDR-Packages sitzen und bei LPCAMM2 auf eine Insel ausgelagert wurden. Bei SOCAMM sind diese Bauelemente sehr nahe an den Bohrungen. Bei LPCAMM2 ist um die Bohrungen relativ viel freie Fläche.

Eine Frage zu den 32 GB LPDDR5X Packages: Sind sie exklusiv für Nvidia oder kommen die auch für andere Anwender auf den Markt? Aktuell habe ich in den Katalogen maximal 24 GB LPDDR5X Packages gesesehen.

Im übrigen fällt auf, dass auch bei den Notebooks LPCAMM2 so gut wie gar nicht auf dem Markt angekommen ist. Liegt das nur an dem nachgereichten "LPDDR5 CAMM2 Connector Performance Standard"?

Ist aber schon krude, wenn Framework (die ja für ihre Modularität schon Premium-Preise aufrufen) genau an diesem Punkt spart und eine inzwischen wechselbare Komponente fest verbaut, weil es in der Herstellung ein paar Euro mehr kostet und man somit dem Gedanken der Modularität zuwider läuft.

Das Alleinstellungsmerkmal von Framework ist die Modularität.

Das ist Framework bewusst. Die anderen Neuvorstellungen behalten die Modularität, nur der Framework Desktop verzichtet darauf.

Bei den anderen Neuvorstellungen verzichtet Framework ebenfalls auf LPCAMM2 und bleibt bei SoDIMM.

Wenn es ein gemeinsames Muster gibt, ist es dass Framework LPCAMM2 vermeidet und nicht dass Framework auf die Modularität verzichtet.

 

[foofoobar]

Wie sieht das eigentlich preislich bei LPDDR-RAM aus? Steuern wir auf eine LPDDR-only-Zukunft zu so sehr wie sich die Einsatzszenarien aktuell erweitern?

Das wäre eine Zukunft mit schlechten Latenzen.

 

[Volker]

Artikel-Update: Im Messeverlauf konnte noch einmal mehr auf Tuchfühlung mit SOCAMM gegangen werden. Die Micron-Module in der neuen DGX Station sind so noch einmal näher zu sehen.

[Bilder: Zum Betrachten bitte den Artikel aufrufen.]​

Auch Samsung teilte daraufhin die Pläne zu SOCAMM mit, grenzte aber ebenfalls das Einsatzszenario erst einmal auf Profilösungen ein. Die 128 GByte fassenden Module sollen hier jeweils eine Bandbreite von 120 GB/s bieten.

[Bilder: Zum Betrachten bitte den Artikel aufrufen.]​

 

[beckenrandschwi]

Sehr schön. Durch die Verschraubung macht es auch einen sehr robusten Eindruck.
Und 2 der Module sollten auch keine größere Fläche einnehmen, als 4 Standard DDR5 Module.

 

[ghecko]

Habe schon damals in das Forum dazu geschrieben, dass ich diese Aussage für "gelogen" halte

Keine Ahnung wie sich Leute ohne einen Master in Elektrotechnik herausnehmen, diese Aussage als Lüge zu bezeichnen.

Ob SOCAMM für Halo eine Option gewesen wäre?? Vielleicht. Der Interconnect scheint vom Routing näher an fest verlötete LPDDR5 heran zu kommen. Kommt halt zu spät für den Framework. Für den gab es keine Alternative als er entwickelt wurde. Aber dann vllt in den Framework Desktop 2...

 

[Ironbutt]

Signalintegrität ist eine B*tch, das ist schon beim "popeligen" USB-2 der Fall und ich möchte ehrlich nicht wissen, wie kompliziert es im Falle von RAM ist.

Aber daraus einen Unwillen zu dichten, halte ich für überheblich.

 

[CDLABSRadonP...]

Mit welcher Begründung? Weniger als die Hälfte der Bandbreite? Klingt eher nach DIMM vs verlötet. Oder CAMM (DDR5) und nicht LPCAMM.

Sie hatten auf jeden Fall reagiert, als jemand den Riegel von Crucial verlinkt hatte und gemeint, dass wenn es bloß um so wenig Geschwindigkeitsverlust gegangen wäre, sie in jedem Fall gewechselt hätten.
https://www.crucial.de/memory/ddr5/CT64G75C2LP5X
War im Framework-Subreddit, dachte eigentlich, dass ich das auch mal hier geposted hatte; bislang finde ich es aber nicht wieder.

Ob SOCAMM für Halo eine Option gewesen wäre?? Vielleicht. Der Interconnect scheint vom Routing näher an fest verlötete LPDDR5 heran zu kommen. Kommt halt zu spät für den Framework. Für den gab es keine Alternative als er entwickelt wurde. Aber dann vllt in den Framework Desktop 2...

Diesmal sind ja auch von vorneherein mehrere Riegel eingeplant und auch, wie man sieht, praktisch realisiert worden. DualChannel-LPCAMM war hingegen nicht eingeplant.

 

[DevPandi]

Nicht nur das: Bei LPDDR5X mit 8533 MT/s bedeutet das pro (Dual-Channel) Modul ~136,5 GB/s an Durchsatz, was zu 546 GB/s an

Also am Ende ein 512-Bit Interface.

Bei Strix Halo würde es bei 256 Bit bleiben und damit bei 273 GB/s.

Gut, Epycs haben ja schon 512 Bit als SI.

Ich find SOCAMM aktuell ansprechender als die CAMM-Module die Dell da entwickelt hat. Es wird wieder spannend.

 

[Flutefox]

als die CAMM-Module die Dell da entwickelt hat.

CAMM ist mehr oder minder ja auch ein Eigengebräu von Dell, was außerhalb kaum Verbreitung gefunden hat. Die zuständigen Manager bei Dell hätten auch direkt auf LPCAMM2 wechseln können, aber da war das Kind vmtl. bereits in den Brunnen gefallen.

 

[mae]

DualChannel-LPCAMM war hingegen nicht eingeplant.

Ich kann mich dunkel daran erinnern, Zeichnungen von einem gestuften CAMM-Interface (oder war's LPCAMM?) gesehen zu haben, wo auf der einen Stufe ein CAMM installiert werden sollte und auf der zweiten Stufe noch eines.

Noch zum Vergleich zwischen SOCAMM und CAMM: CAMMs wurden ja auch fuer nicht-Stapel-Chips, wie man sie auf normalen DDR5-DIMMs verwendet. Mit den 4 Chips, die auf ein SOCAMM passen, kaeme man damit derzeit auf bestenfalls 16GB pro SOCAMM. Da braucht es schon Stapelchips, damit SOCAMMs sinnvoll sind.

 

[ETI1120]

Ich kann mich dunkel daran erinnern, Zeichnungen von einem gestuften CAMM-Interface (oder war's LPCAMM?) gesehen zu haben, wo auf der einen Stufe ein CAMM installiert werden sollte und auf der zweiten Stufe noch eines.

Das war CAMM2 und nicht LPCAMM2.
Bei CAMM2 gibt es auch Module mit einem Kanal 64 bit

Bei LPCAMM2 gibt es nur Module mit 128 bit.

Noch zum Vergleich zwischen SOCAMM und CAMM: CAMMs wurden ja auch fuer nicht-Stapel-Chips, wie man sie auf normalen DDR5-DIMMs verwendet. Mit den 4 Chips, die auf ein SOCAMM passen, kaeme man damit derzeit auf bestenfalls 16GB pro SOCAMM. Da braucht es schon Stapelchips, damit SOCAMMs sinnvoll sind.

SOCAMM und LPCAMM2 verwenden LPDDR5. Das sind keine einzelnen Chips sondern Packet die aus gestapelten Dies bestehen.

AFAIU wird das über Wirebonding gelöst.

Bei Micron sind LPDDR5x Pacjes mit 24 GB in der Einführung und bei SOCAMM ist sogar die Rede von 32 GB (256 GB)

 

[Elthy]

Geiler Scheiß, aber wie bei den ganzen anderen neuen Speicherstandards die letzten Jahre bleibt die Frage ob man sowas als Normalo jemals zu Gesicht bekommt. Hätte auch Vorteile für CPU-Kühler, die könnte man flacher bauen und so in kleinen Gehäusen eine größere Kühlfläche unterkriegen.

 

[ETI1120]

CAMM ist mehr oder minder ja auch ein Eigengebräu von Dell, was außerhalb kaum Verbreitung gefunden hat.

Die CAMM Module von Dell sind die Basis für den CAMM2 Standard, was der Name ja auch nahelegt. AFAIK basiert auch LPCAMM2 auf einem Design von Dell.

 

[Flutefox]

@ETI1120 Es ist klar, dass Dell CAMM als Vorlage für CAMM2/LPCAMM2 dient, soweit waren vmtl. bereits alle, die über ein wenig Leseverständnis verfügen.

Dennoch wird CAMM bereits in einigen Geräten verwendet und auch in einigen neuen Geräten, die dieses Jahr auf den Markt kommen, bspw. das Dell Pro Max 16 Plus und 18 Plus. Dort werden keine LPCAMM2 oder CAMM2 Module verbaut, sondern reguläre CAMM Module.

 

[ETI1120]

Ich find SOCAMM aktuell ansprechender als die CAMM-Module die Dell da entwickelt hat. Es wird wieder spannend.

CAMM und das darauf basierende CAMM2 verwenden DDR5-Bausteinen. Damit kann man prinzipiell keine so kompakten Module wie SOCAMM bauen.

Man muss SOCAMM mit LPCAMM2 vergleichen, da ist es nicht ganz so krass.

SOCAMM ist ein bisschen länger aber erheblich schmaler.
SOCAMM 90 x 14 mm²
LPCAMM2 78 mm lang und misst an der breitesten Stelle 34 mm.

Die Breite spielt keine Rolle, wenn man nur ein Modul unterbringen muss. Auch ansontesn sieht man bei LPCAMM2 erheblich mehr von der Leiterplatte als bei SOCAMM.

Wenn man 2 Module nebeneinander unterbringen muss, ist die Breite der Module der kritische Faktor. Deshalb hat Nvidia bei SOCAMM mit den 14 mm ist das Modul nur 1,6 mm breiter als es die LPDDR5x-Packages 12,4 x 15,0 mm² sind.

Ich kann mich dunkel daran erinnern, Zeichnungen von einem gestuften CAMM-Interface (oder war's LPCAMM?) gesehen zu haben, wo auf der einen Stufe ein CAMM installiert werden sollte und auf der zweiten Stufe noch eines.

Was Du meinst sind die DXXX Single Channel CAMM2 (ganz rechts):

https://pics.computerbase.de/1/1/2/4/6/9-9984f8c2ba909abb/8-1080.f6a8864a.png

Hier hat ein Modul einen halben Kontaktstreifen, der sockel auf dem Board hat wie du schreibst 2 Stufen:

https://pics.computerbase.de/1/1/0/2/8/1-3bfccb5c3b757da7/1-1280.96d963ab.jpg

LPCAMM2 gibt es nur als Dual Channel

@ETI1120 Es ist klar, dass Dell CAMM als Vorlage für CAMM2/LPCAMM2 dient, soweit waren vmtl. bereits alle, die über ein wenig Leseverständnis verfügen.

Dell hat CAMM der Jedec übergeben und im Rahmen der Jedec wurde unter der aktiven Mitwirkung von Dell der Standard mit CAMM2 und LPCAMM2 entwickelt. CAMM ist die Basis von CAMM2 und LPCAMM2. Und nicht nur eine Vorlage an der sich Jedec orientiert hat um etwas eigenständiges zu entwickeln.

https://pics.computerbase.de/1/1/2/4/6/9-9984f8c2ba909abb/2-1080.efa6231d.png

Dennoch wird CAMM bereits in einigen Geräten verwendet und auch in einigen neuen Geräten, die dieses Jahr auf den Markt kommen, bspw. das Dell Pro Max 16 Plus und 18 Plus. Dort werden keine LPCAMM2 oder CAMM2 Module verbaut, sondern reguläre CAMM Module.

Was darauf hindeutet, dass für den Notebookjahrgang 2025 CAMM2 bzw. LPCAMM2 noch nicht bereit waren.

Der LPDDR6 Standard ist offensichtlich fertig. Vielleicht gibt es im Rahmen der Vorstellung des Standards auch Informationen warum es bei LPDDR5 LPCAMM2 so schleppend läuft.

 

[C4rp3di3m]

Gab doch schon bei DDR mit den Lappydimms und RDiMMS für Server etc. genug Varianten.
Ich bevorzuge normalen RAM und das kann gerne so bleiben. Nur das endlich mal mehr große Module kommen wäre schön, wenn ich bei RDiMM ECC nach 256er schaue findet man fast bzw. nichts und wenn extrem teuer. Was ist im Consumerbereich eigentlich max. Kapa. bei einem Riegel?

 

[mae]

Was ist im Consumerbereich eigentlich max. Kapa. bei einem Riegel?

Seit kurzen gibt es unbuffered DIMMs und SO-DIMMs mit 64GB.

 

[Flutefox]

Hier stand sehr viel Text

Danke, ist ja nicht so als hätte ich durchscheinen lassen, dass mir diese Sachverhalte bekannt sind Captain Obvious!

 

[HerrRossi]

Kann man sowas nicht auch mal für Grafikkarten erfinden?

 

[bensen]

GDDR taktet halt noch ein vielfaches höher.
Der muss so dicht wie möglich und ohne Unterbrechung an die GPU.