Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
TestNvidia DGX Spark im Test: Ein Blick auf den kleinsten KI-Supercomputer der Welt
Nvidia DGX Spark ist „der weltweit kleinste KI-Supercomputer“ und neben der Founders Edition in vielen Partnerdesigns verfügbar. Das auf dem GB10 Superchip basierende, 128 GB Unified Memory bietende Linux-System holt Nvidias AI-Plattform nach Hause. Ein Blick auf die Plattform am Beispiel des „Preisbrechers“ Asus Ascent GX10.
Sehr interessant. Wird sich vermutlich auch schnell weiterentwickeln, der Preis in Zukunft sinken. Bin gespannt, wann sich die noch relativ frische Technik in einem "normalen" PC als Erweiterung des aktuellen Konzepts finden lassen wird.
Danke für den Test,
Mir fehlen leider weitere AI tests. Z.b, Text2Image oder Text2Video - genau hier sollte der viele VRAM helfen - für höhere Auflösungen und längere Videos. Das wäre wirklich interessant wie weit man hier kommt.
AFAIK ist Strix Halo v.a. in Szenarien langsamer als die Spark, wenn die Geschwindigkeit viel von 4 Bit Sparsity profitieren kann. Strix Halo/RDNA kann das leider nicht nativ.
Danke für den Test! Vor allem das ist ihr als Vergleich das Model von AMD antreten lässt, super!
Ich entwickle selbst ein eigenes Produkt basierend auf das Produkt von HP, der im Kern auch der Original DGX Spark ist und warte noch auf die Zulieferung des Testgeräts.
Da hatte ich mich auch für interessiert und angeblich setzen viele Modelle dedizierten VRAM voraus und können mit den 128GB RAM nichts anfangen, bzw. es eben gerade nicht als 128GB "VRAM" nutzen.
Sehr stark in dem Bereich sind auch Apple M3 (Ultra) und M4 - zumiondest bei LLM und nicht grafiklastigen Modellen.
Für DGX spricht ja eher "nur" CUDA
Ergänzung ()
TriceO schrieb:
Da hatte ich mich auch für interessiert und angeblich setzen viele Modelle dedizierten VRAM voraus und können mit den 128GB RAM nichts anfangen, bzw. es eben gerade nicht als 128GB "VRAM" nutzen.
Glaube nicht dass die Modelle das unterscheiden können bei NVidia Unified memory. Unified RAM ist ja VRAM von der Schnittstelle her nur "etwas" langsamer.
Naja wenn man was damit anfangen will bringt hat biliger - wenn es die Anforderungen dann doch nicht erfüllt - halt gar nichts. Dann hat man nur einen Türstoppper
Ein neuer M3 Ultra mit doppelt(!) so viel RAM kostet 6.800 finde das nicht so extrem teurer als DGX mit halb so viel RAM?
Insgesamt also kein wirklich schlechts Paket, aber im Vergleich deutlich zu teuer.
Dem aufgebauten Hype wird es in meinen Augen definitiv nicht gerecht.
128GB RAM für unter 3000€ und dazu gibt es auch noch einen PC.
Sonst muss man natürlich sagen, der PC macht nur Sinn, wenn man große Modelle nutzt und damit ist natürlich ein Vergleich zu Nvidia GPUs auch nur ein interessanter Nebenaspekt. Wer 12GB Modelle nutzt, der braucht diesen Rechner hier nicht.
Habe den tollen Artikel meinem Bruder geschickt, der seinen Bachelor in Informatik fast in der Tasche hat und bereits viel mit KI zu tun hat. Seine bisherigen Modelle laufen auf dem M2 seines Mac Airs, da wartet er bislang einen Tag für die Berechnung für einfache Modelle. Es ist toll, dass da jetzt was recht Niedrigschwelliges für kommende Entwickler angeboten wird.
40W im Idle unter Linux 😳 Im Vergleich zu Strix Halo ist das mehr als das Doppelte.
Im Leerlauf kann der PC im „Mini-PC“ von Beelink auf einen Verbrauch von knapp 15 Watt aus der Steckdose gebracht werden, 4,6 Watt davon gehen an die APU.
