Test Nvidia DGX Spark im Test: Ein Blick auf den kleinsten KI-Supercomputer der Welt

[Vigilant]

Ganz schön viel Gedröhne wegen einem Stück Hardware, das schon nächstes, spätestens übernächstes Jahr veraltet sein wird. Ob es sich etabliert, entscheidet eh "der Markt".

Vermutlich wird es eine mehr oder weniger lange Konvergenz-Phase geben, in der die heutigen PC-Strukturen mit KI-Fähigkeiten zusammenrücken, bzw. als zusätzliche Merkmale Einzug in die lokalen Plattformen halten.

 

[stefan92x]

Das kann ich nicht beurteilen, aber ich finde es dennoch falsch das als Vorbote für die Zukunft von Verbraucherprodukten anzuführen

Ist es aber nicht. Der hier verbaute GB10 (und die Kiste als ganzes) ist natürlich eine Profilösung. Aber dieser Chip ist halt auch die Basis für den N1/N1X, der bald erscheinen soll und eben für Notebooks gedacht ist.

Sie diesen Abschnitt also als Vorschau dafür, ob man mit einem Nvidia-Notebook zocken können wird.

 

[NguyenV3]

Ob die Testinhalte für den Artikel von nVidia teilweise vorgegeben/gewünscht wurden...

Aus dem Artikel entnommen:
ComputerBase hat den Ascent GX10 von Asus leihweise zum Testen erhalten. Eine Einflussnahme des Herstellers auf den Bericht fand nicht statt, eine Verpflichtung zur Veröffentlichung bestand nicht. Es gab kein NDA.ComputerBase hat den Ascent GX10 von Asus leihweise zum Testen erhalten. Eine Einflussnahme des Herstellers auf den Bericht fand nicht statt, eine Verpflichtung zur Veröffentlichung bestand nicht. Es gab kein NDA.

...aber ich finde es dennoch falsch das als Vorbote für die Zukunft von Verbraucherprodukten anzuführen bzw. dafür als solches zu werben...

Der Artikel spricht in dem Gaming-Kontext den Nvidia N1X an. Und das ist mit Consumer gemeint:
"Da jüngste Gerüchte davon sprechen, dass die Consumer-Variante jetzt wirklich bald erscheinen könnte, hat sich auch ComputerBase dieses Thema noch einmal angesehen."

Also ja. Ein Vorbote für die Zukunft. Passt also alles sehr gut zusammen. Mich hat schon interessiert, wie das Teil mit der limitierten Speicherbandbreite abschneidet. Danke CB weiter so!

...natürlich wird es mit der vorhandenen Leistung aktuell keine Gamer wirklich ansprechen...

Das sehen wir ja dann -> CB

 

[ddr5_ecc]

Ich bin überrascht, dass es doch nur so mittelprächtig läuft.

Ehrlich gesagt könnte es gut sein, dass sich ein Panther Lake da gut einreiht.

Panther Lake und Intel AI Playground könnte da einiges mit nach Hause holen.

Wäre interessant die große Panther Lake GPU und 96GB RAM zu testen.

Bottleneck ist das 128bit LPDDR5X Speicherinterface - aber der Rest ist gut aufgestellt.

 

[nutrix]

Ich hatte die DGX Spark in der FE Edition hier stehen, und das Ding hat mich nur geärgert. Nichts lief auf Anhieb, viele Abstürze, ich mußte das Ding mehrfach komplett zurücksetzen, weil nichts mehr ging. Im Forum gabs haufenweise Fehler- und Problemmeldungen, die mich auch betrafen.

Einzig LM-Studio mit LLMs laden hat gut funktioniert. 70b Llama lief einwandfrei, auch wenn dann das RAM voll belegt war, und es lief in einer guten Performance mit schnellen Antwortzeiten. Nur dafür waren mir die 4500 € zu viel für nur diesen Zweck, und hab das Ding wieder zurückgeschickt. Sorry, für das Geld erwarte ich, daß das Gerät out-of-the-box einigermaßen funktioniert, und das man hier nicht ewig viel ruminstallieren und probieren muß, bis endlich was funktioniert.

 

[stefan92x]

Panther Lake und Intel AI Playground könnte da einiges mit nach Hause holen.

Das Problem ist nur, dass Intel keine Lösungen hat, die skalieren.

Grace Blackwell geht vom Spark bis hoch zum NVL72-Rack. Intel kann kein Rackscale, Intel hat noch nichtmal mehr große Datacenter-GPUs.

 

[Chismon]

Ist es aber nicht.

Dann sollten die Autoren das aus dem Artikel entfernen oder es klar stellen.

 

[stefan92x]

Dann sollten die Autoren das aus dem Artikel entfernen oder es klar stellen.

Viel klarer also so geht es doch nicht?

Gerüchten zufolge war dieselbe Architektur für das Jahr 2025 auch als Nvidia N1(X) vorgesehen, der Windows-Arm-Notebooks mit Nvidia SoC ermöglichen sollte, doch um dieses Projekt war es zuletzt lange still. Jüngsten Meldungen zufolge soll die Plattform aber jetzt kurzfristig im 1. Quartal 2026 erscheinen. Ein Blick auf GB10 ist damit auch weiterhin ein Blick in die Consumer-Zukunft.

 

[Alphanerd]

Warum sollte man sich sowas auf den Tisch stellen? ...und warum muss das Ding so klein sein?

Auf den Schreibtisch, weil es klein ist. Es ist so klein, weil es keinen Sinn ergibt es größer zu bauen.

 

[Jan]

Dann sollten die Autoren das aus dem Artikel entfernen oder es klar stellen.

Ich habe nirgendwo davon gesprochen, dass DGX Spark quasi 1:1 mit 128 GB (V)RAM und ConnectX-7-Ports für Consumer kommt. Es geht einzig und allein um "GB10" - und der kommt Gerüchten zufolge als N1X, wenn dann auch mit weniger angekoppeltem Speicher.

 

[nutrix]

Warum sollte man sich sowas auf den Tisch stellen? ...und warum muss das Ding so klein sein?

Weil man selbst mit KI Zeugs entwickelt, und man eine wirklich angenehme kleine Box hat, die man sich so einfach nebendran hinstellen kann, die erstaunlich leise bleibt und gerade mal handwarm wird.

 

[Chismon]

Ein Vorbote für die Zukunft. Passt also alles sehr gut zusammen.

Zukunft von "Consumer Products" allgemein und das sehe ich eben anders und Stand jetzt (siehe Gamingtest) taugt es als Basis wenig, es sei denn man stellt den Spielemarkt künstlich (wegen KI Ausrichtung) auf massiven Speicherbedarf um, weil nVidia sich das so wünscht (um vereinfacht noch mehr Profit zu machen).

Ich finde nicht, dass das so passt bzw. die Zukunft im Bereich Gaming passend wiederspiegelt oder gar die eines Allzweckgeräts, aber da Dich das Gerät ja so unheimlich interessiert hat, solltest Du vielleicht mit dem Gedanken spielen eines (für Gaming) zu kaufen.

Zudem braucht nicht alles per NDA abgedeckt werden, nVidia kann sich auch Inhalte ohne NDA wünschen und dann liegt es an CB diese umzusetzen oder nicht.

 

[=dantE=]

Ich dachte nach Erscheinen des DGX Spark ich hole mir das Vergnügen, und kann durchaus einen Mehrwert für's Firmenportfolio erschaffen. Der Finge war schon am Abzug ... dann kam der RAM Dämpfer.

Heute nehme ich die Credits zusammen und spare lieber auf das kommende AM6 System. Denn dann werde ich wohl oder übel zu nVidia als Grafikadapter greifen um deren gesamtes Feature-Set gleich mitnutzen zu können. Mit Radeon bin ich so langsam auch durch, denn für das zocken allein ist der Kram schon lange nicht mehr im Rechner.

Außerdem brauche ich zur Anschaffung auch wieder ordentlich RAM ... und DDR5 nenne ich bis jetzt nicht mein eigen bzw. DDR6 muss dann auch noch beschafft werden ... und das wird glaube ich recht teuer.

Dennoch ... schöne "Spielzeuge".
Hätte durchaus ein paar nette Ideen so ganz unabhängig von den etablierten Anbietern mit entsprechenden Datenschutzmaßgaben.

 

[stefan92x]

Zukunft von "Consumer Products" allgemein und das sehe ich eben anders und Stand jetzt (siehe Gamingtest) taugt es als Basis wenig

Ja und? Dann stellt man halt als Fazit fest: So richtig spannend für die meisten Consumer wird Nvidias N1 nicht werden.

Heute nehme ich die Credits zusammen und spare lieber auf das kommende AM6 System

Willst du wirklich bis 2030 sparen?

DDR6 muss dann auch noch beschafft werden ... und das wird glaube ich recht teuer.

Wenn man sich anschaut, dass es immer noch nicht spezifiziert ist, und wie lange es bei DDR5 gedauert hat, bis es nicht nur auf dem Markt war, sondern auch sinnvoll bezahlbar wurde, dann ist ein warten auf DDR6 nicht sinnvoll.

 

[Chismon]

Ich habe nirgendwo davon gesprochen, dass DGX Spark quasi 1:1 mit 128 GB (V)RAM und ConnectX-7-Ports für Consumer kommt. Es geht einzig und allein um "GB10"

Nun, dann haben wir da den folgenden verallgemeinernden Satz:

Ein Blick auf GB10 ist damit auch weiterhin ein Blick in die Consumer-Zukunft.

wohl im Kontext im Artikel alle falsch verstanden, wie es scheint. Ich schrieb übrigens auch nicht, dass es 1:1 kommen wird und weiss nicht, wie Du darauf kommst?

Ich habe auch keine Glaskugel und evt. weisst Du zur Zukunft deutlich mehr (was unter nVidia NDA stehen könnte), aber auf Basis dieses Testartikels/Ausblicks sehe ich diesen von nVidia vermarkteten "Mini Super Computer" eher als wenig attraktive/verheißende (KI) Consumer-Zukunft für den durchschnittlichen Verbraucher.

 

[Alphanerd]

Du solltest dringend raus, Gras berühren.

 

[Chismon]

So richtig spannend für die meisten Consumer wird Nvidias N1 nicht werden.

Wenn das so sein sollte, wieso dann als Zukunft von "Consumer Products" ankündigen/anpreisen? Nun ja, vielleicht generiert das auch einfach nur mehr Aufmerksamkeit.

 

[KurzGedacht]

@Ceberus Wenn ein Rentner Microsoft Aktien (kein KI Unternehmen) und Apple (verweigert sich ja KI) abstößt, ist das ein Signal, dass eine mögliche KI-Blase bald platzt? Das sind doch zwei der Unternehmen, die sehr hohe Gewinne einfahren?

Die Aktien Kurse basieren aber hauptsächlich auf der Annahme zukünftiger massiver Gewinn Steigerungen. An der Börse wird die Zukunft gehandelt.
Bei MS ist aktuell eben eingepreist, dass die mit AI viel Geld machen. Passiert das nicht, schmiert der Kurs ab, ganz egal ob das Kerngeschäft von heute gut Funktioniert oder nicht.
Ähnliches gilt für Apple.

 

[=dantE=]

Willst du wirklich bis 2030 sparen?

Mein nächstes System wird höchstwahrscheinlich ein AM6 System werden, ja. Der einzige Grund warum ich eher eine Anschaffung vornehmen würde, wäre, wenn das System vorher abraucht.

dann ist ein warten auf DDR6 nicht sinnvoll

Je nachdem was auf AM6 kommt, wird angeschafft.
Ich warte ja nicht weil ich Hardware X brauche, sondern weil ich mir nach X Jahren und dann mit neuer Platform einfach wieder etwas gönnen wollen würde.

AM5 lasse ich nach derzeitigem Kenntnissstand aus, da ich momentan und auf absehbare Zeit keine Rechenpower für Spiele brauche ... und für den anderen Kram habe ich ein dezidiertes Blech mit genügend Power. Das habe ich noch nicht so lange und damit komme ich gut über die Runden.

 

[Yosup]

Ob die Testinhalte für den Artikel von nVidia teilweise vorgegeben/gewünscht wurden und der Ausblick, dass es ein Vorbote des "General Purpose" Gerät der Zukunft sei, oder eben von CB so angedacht war, kann ich nicht beurteilen.

Ich verstehe es eher so, dass der DGX Spark insofern als Vorbote für Consumer-Produkte dienen kann, als dass andere Produkte auf der gleichen Plattform für Consumer - bspw in Form von Notebooks - angedacht sind, aber nicht in der Form wie es der DGX Spark darstellt.

Die Aussage von CB wäre dann ähnlich zu verstehen, wie sie auch schon mal Single-Thread-Ergebnisse von Xeon oder Epyc auf die Consumer-Palette übertragen haben (oder umgekehrt). Weil die Cores ja tatsächlich die jeweils gleichen sind. Trotzdem würde doch keiner eine solche Xeon/Epyc-Platform bezüglich consumertauglichkeit (oder umgekehrt) kritisieren.

Die Consumer-Produkte, die auf dieser Plattform erwartet werden, dürften vermutlich keine 128 GB unified RAM und vor allem kein 200 GBit Ethernet-Interface haben. Eventuell sind auch ein paar der 20 Cores deaktiviert.

[...] ist es auf CB i.d.R. auch nicht üblich professionelle Hardware (auf Spieleleistung hin) zu testen.

Hier wackelt aber irgendwie der Schwanz mit dem Hund. NVidias Produktportfolio richtet sich ja nicht nach dem, was CB damit tut. Das meinte ich mit "Und wenn CB mit dem Spark einen Nagel in die Wand kloppt...".

Wenn AMD der CB-Redaktion einen Epyc mit 256 Kernen zum Testen anbietet, dann wird sich CB diese Gelegenheit sicherlich nicht entgehen lassen und keiner drückt damit aus, dass das künftig eine Consumer-Plattform wäre.