News Speicher zu teuer: Nvidia DGX Spark gibt es bald auch mit der Hälfte RAM

Gibt es den Kasten dann auch für den halben Preis? Bestimmt nicht.
Selten war neue Hardware so unattraktiv wie momentan.
 
Ist doch noch günstig, da gibt's inzwischen andere Dimensionen, aber die 5000€ sind woanders besser angelegt.
 
Beim DGX Spark kann man den Preis definitiv kritisieren. 64 GB für 5000 Dollar sind alles andere als günstig. Nur ist der direkte Vergleich mit einem normalen Gaming PC plus Grafikkarte ziemlich schief. GB pro Euro allein sagt bei so einer Plattform ungefähr so viel aus wie Hubraum über einen Server. ^^

Beim von CB getesteten 128 GB Asus lagen mit Qwen3 Next 80B A3B 125 W an der Steckdose an, mit ComfyUI 155 W und maximal wurden 217 W gemessen. Wohlgemerkt für das komplette System. Eine RTX 5090 ist von Nvidia mit 575 W TGP spezifiziert... nur für die Grafikkarte. CPU, RAM, SSD und der Rest möchten dann ebenfalls versorgt werden. Überraschung. ^^ Das ist ausdrücklich kein Performancevergleich. Es zeigt nur, dass „nimm halt eine Grafikkarte“ als Universalantwort ungefähr so viel Tiefgang hat wie die Stromrechnung danach. Der GB10 kombiniert eine 20 Core Arm CPU mit Blackwell GPU und Unified Memory. Dazu DGX OS und ConnectX 7 mit bis zu 200 Gbit/s. Ob man das braucht, ist eine völlig andere Frage. Dass es Teil der Plattform ist, dagegen nicht.

Natürlich werden kleinere Modelle effizienter und Quantisierung kann den Speicherbedarf deutlich reduzieren. Daraus wird nur kein Naturgesetz, nach dem mehr Speicher plötzlich überflüssig wäre. Kontext, KV Cache, Parallelbetrieb und speicherhungrigere Modelle bleiben trotzdem ziemlich reale Dinge. Die 64 GB Variante ist abgesehen vom halbierten Speicher technisch zur 128 GB Version entsprechend positioniert und die Vernetzung bleibt erhalten. Man darf 4999 Dollar dafür trotzdem völlig überzogen finden. Aber erst Plattform, Speicherarchitektur und Einsatzzweck ausblenden und anschließend mit „meine Grafikkarte kostet weniger“ den großen Faktencheck aufführen... da liegt der eigentliche Engpass vielleicht doch nicht im Unified Memory. ^^
 
  • Gefällt mir
Reaktionen: WauWauWau, Meliodas2077, blubberbirne und 2 andere
Wobei sich mir der Mehrwert gegenüber Strix oder jetzt Gorgon Halo kaum noch ergibt.
Ich habe beide Systeme DGX und Strix Halo zum Testen zur Verfügung und gerade Qwen 3.8 Flash Next läuft auf dem AMD System in den Tests performanter und stabiler. Also der Verweis ist quatsch und das AMD System liefert mittlerweile bis zu 192 GB. Mit 10GB Interconnect bzw. mittlerweile über Thunderbolt Link ist der Connect zwar nicht so schnell wie bei Nvidia aber dafür braucht man dann schon wieder mehrere Sparks und hat im Zweifelsfall einfach noch ein normales X86 System für andere Zwecke.
 
  • Gefällt mir
Reaktionen: bullit1, boypac007, SweetOhm und 4 andere
Ich sehe den DGX Spark etwas anders. Für Office, bisschen Browser und normale Desktopanwendungen wäre das Ding natürlich absurd teuer. Dafür ist er aber auch nicht gedacht.

Wenn jemand sich technisch weiterentwickeln und beispielsweise tiefer in lokale LLMs, CUDA, Machine Learning oder Robotik einsteigen möchte, kann so ein System durchaus eine Investition in neue Möglichkeiten sein. Man muss dafür auch kein Unternehmen mit eigenem Rechenzentrum sein. Auch jemand mit einem normalen Job kann sich so eine Maschine hinstellen, Linux darauf betreiben und anfangen, sich ernsthaft mit diesen Technologien zu beschäftigen.

Gerade bei Nvidia finde ich das Gesamtpaket interessant. CUDA ist eben nicht nur irgendeine Bibliothek für LLMs. Nvidia baut inzwischen einen ziemlich großen Stack aus CUDA, PyTorch Unterstützung, Isaac, Isaac Sim, GR00T und Jetson für Robotik auf. Bei humanoiden Robotern soll Jetson AGX Thor beispielsweise direkt als Rechensystem im Roboter eingesetzt werden. Das bedeutet natürlich nicht, dass ein DGX Spark ein Jetson Thor ersetzt, aber man bewegt sich beim Entwickeln und Lernen im selben Nvidia Ökosystem.

Auch beim Preis sollte man die Entwicklung etwas differenzierter betrachten. Der DGX Spark mit 128 GB Unified Memory und 4 TB SSD startete als Founders Edition ursprünglich bei 3.999 US Dollar vor Steuern. Inzwischen ruft Nvidia dafür 6.950 US Dollar auf. Genau deshalb finde ich die Preisentwicklung ebenfalls ziemlich heftig. Andererseits wird Hardware allgemein nicht gerade billiger und irgendwann muss man entscheiden, ob man nur auf bessere Preise wartet oder mit dem arbeiten möchte, was verfügbar ist.

Für mich hängt es deshalb komplett vom Einsatzzweck ab. 5.000 oder 6.000 Euro für einen besseren Office Rechner wären völlig daneben. Derselbe Betrag für eine Linux Workstation, auf der man lokale LLMs, CUDA, Agenten, Machine Learning und Teile moderner Robotik Entwicklung lernen und praktisch ausprobieren kann, ist eine andere Rechnung. Ein Hobby darf schließlich auch etwas kosten, besonders wenn daraus irgendwann beruflich etwas Neues entstehen kann.

AMD ist dabei durchaus eine Alternative. Ryzen AI Max Systeme bieten ebenfalls bis zu 128 GB Unified Memory und ROCm wird deutlich besser. AMD unterstützt inzwischen unter anderem PyTorch, llama.cpp, Ollama, ComfyUI und LM Studio auf dieser Plattform. Trotzdem ist das Nvidia Ökosystem mit CUDA und gerade im Bereich Robotik derzeit wesentlich breiter aufgestellt.

Ob einem das den Preis wert ist, muss am Ende jeder selbst entscheiden. Ich finde nur die Aussage „zu teuer, kauft doch keiner“ bei so einer spezialisierten Maschine etwas kurz gedacht. Der Wert hängt ziemlich stark davon ab, was man damit machen will.
 
  • Gefällt mir
Reaktionen: interesTED, SweetOhm und WauWauWau
Lora schrieb:
Aber erst Plattform, Speicherarchitektur und Einsatzzweck ausblenden und anschließend mit „meine Grafikkarte kostet weniger“ den großen Faktencheck aufführen
Und dann noch was finden müssen wo man die Grafikkarte einstecken kann. Da sollte man halt auch nicht bei der CPU geizen ...

Deshalb gab es ziemlich schnell nach der Ankündigung von M5 Ultra Scherzvergleiche mit der NVIDIA 6000pro. Da sah zum selben Preis die Grafikkarte gegenüber dem Computer nicht so gut aus. Scherzvergleiche weil Grafikkarte und Computer ganz groß geschrieben waren.
 
  • Gefällt mir
Reaktionen: Lora
Mich würde es schon locken, richtig große Modelle laufen zu lassen und ich hatte noch etwas Hoffnung auf RTX Spark gelegt, weil die Dinger ja ohne die sündhaft teuren NICs kommen, aber selbst 1.000 EUR weniger als die DGX Spark machen den Braten nicht fett.
 
Jan schrieb:
Das wird nicht günstiger bei gleichem RAM und ich vermutet, Varianten mit 24 und 32 GB gibt es nur als Feigenblatt - aber die will am Ende niemand verkaufen, weil sie weniger Marge abwerfen.
Da bleibt die Frage ob die überhaupt Sinn machen, also ob deren AI Performance wirklich nennenswert über eine RTX 5070 Mobile und RTX 5070 Ti Mobile hinausgeht.
 
Unsere Firma hat sich letztens ein Asus GX10 mit 128GB RAM für 4000€ geholt. Anfang des Jahres sollen die noch bei 3000€ gewesen sein. Unglaublich wie die Preise steigen.
 
Mir wird der DGX Spark in den Kommentaren etwas zu sehr auf „64 GB für 5.000 Dollar“ oder „dafür bekomme ich einen PC mit Grafikkarte“ reduziert. Den Preis kann man kritisieren, aber der Vergleich hinkt für mich. Für Unternehmen kann so eine Kiste in dieser Bauweise durchaus interessant sein: lokale KI, RAG, Planungsmodelle oder sensible Finanzdaten, die man nicht unbedingt in irgendeine Cloud schieben will. Klar zeigt Strix Halo, dass NVIDIA hier nicht alternativlos ist. Gerade deshalb finde ich die 64-GB-Version interessant. Warum für 128 GB bezahlen, wenn man sie für den eigenen Anwendungsfall gar nicht braucht? Am Ende geht es halt nicht darum, möglichst viel RAM für 5.000 Dollar zu bekommen, sondern darum, was die Kiste im Unternehmen tatsächlich leisten soll.
 
Wenn du sinnvoll mit lokalen LLMs vor allem in großem Kontext, komplexen Ablaufen, Multi-Agents, mehreren Usern etc. arbeiten willst, gibt es nur MEHR Speicher. Die 64 GB sind ein Witz für das was übrig bleibt.

PS: Ich spreche im Firmenkontext weil ich die letzten Wochen fast täglich an einem DGX Spark und einem Strix-Halo Cluster teste.
 
  • Gefällt mir
Reaktionen: wGuardian
Völlig unnötig. Für das Geld kann man sich lieber einen PC mit 3090 und 64GB RAM kaufen. Mit Strata läuft darauf Qwen 3.8 Flash Next mit 70tp/s. Da kommt die Spark nicht dran.
 
Ach, du kommst mit guten Vorschlägen, dabei brauchst du dich einfach nur an Jensen Huang halten "The more You buy the more you save"
Bildschirmfoto_20261005_170659.png
 
  • Gefällt mir
Reaktionen: bullit1
Oktober 2026
Zurück
Oben