Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
Mit RTX Spark (N1X) liefert Nvidia erstmals einen Chip, der ganz ohne CPU von AMD oder Intel Notebooks und Mini-PCs mit Windows betreiben kann. Unified Memory und damit potenziell viel Grafikspeicher (für lokale KI) bringt die neue Arm-Blackwell-Plattform auch noch mit. Wir haben Nvidia RTX Spark bereits testen können.
Preis ist natürlich - vor allem aufgrund der aktuellen Situation - absolut drüber und fällt für mich damit raus, aber von den Leistungsdaten her finde ich das Gesamtpaket schon echt stimmig.
Diese Performance bei unter 80W finde ich beeindruckend, das kann selbst Apple nicht wirklich besser.
Dass man dann zusätzlich dazu noch recht ordentlich darauf spielen kann, machts nochmal interessanter.
Wenn sies jetzt noch 2-3mm dicker machen, dass die Kühlung besser arbeiten kann, wäre es für mich aktuell das interessanteste Gesamtpaket am Markt.
Auch wenn dies meiner Meinung nach erst ein Pipe-Cleaner ist.
Zukünftige Varianten mit aktuellen ARM Architekturen und besseren Software Support werden nochmal was drauf legen!
Fehlt nur noch dass Qualcomm im GPU Bereich nachlegt dann haben wir endlich wieder Konkurrenz! Vor allem wenn die AI Blase dann endlich platzt…
Würde auch generell hoffen dass die großen APUs mehr TDP bekommen und sich ggf. auch bis zu 175 oder gar 250 Watt flexibel gönnen können. Das wäre im Bereich von größeren Notebooks und müsste ordentlich Mehrleistung bringen. Insbesondere mit 384-Bit LPDDR6…
Endlich mehr Abwechslung im Bereich CPU/Mobile. Das wird Intel und AMD hoffentlich anregen, ggf. auch mal die ARM‑Welt zu betrachten. Wenn man sieht, wo es Apple mit der M-Serie hingebracht hat. Viel Leistung bei moderatem Energieverbrauch und guter Akkulaufzeit.
Mal schauen, wie kommende Gen's bei NVIDIA aussehen und wie die RTX Sparks sich auf Linux schlagen werden.
Prefill mit langen Context ist das was es wirklich Interessant machen würde, aber man erkennt die reduzierte TDP im Vergleich zu DGX Spark. Bei kurzen Kontext scheint es fast gleichauf. Ich tu mir schwer den Use Case bei den Preisen zu finden. Microsoft und Nvidia sprechen ja von von Code Assistant zum Cloud Model. Das passt leider selten zu den Vorgaben; zumindest bei den Projekten die Cloud LLMs explizit ausschließen.
Aaalso Unified Memory ist ja nichts Neues. Mein alter Mini PC (iGPU R5 5560U) hat 256 MB VRAM und wenn der mehr VRAM braucht, nimmt der sich einfach halt mehr. Nennt sich Smart Access Memory. Auch auf mein HX 370 PC habe ich 1GB VRAM eingestellt und kann damit ohne Probleme Cyberpunk zocken und LLM Studio nutzen.
Verstehe ich das richtig, dass der Unified Memory nicht direkt 4GB VRAM auf den Speicher blockt und ich kann volle 32GB nutzen? Eigentlich praktisch, denn dumme Programme erkennen eine fette GPU und ich muss nicht direkt 1-2GB als simulierten VRAM blockieren. Aber sagen wir mal wir haben die 24 GB Version und ein Spiel oder LLM will gerne 10GB VRAM haben. Lagert es dann auf dem RAM aus? Oder verweigert Nvdia das? Dann ist das ja sowieso völlig egal.
(Ups bei mein HX 370 steht ja auch 16GB gemeinsamer Videospeicher, obwohl ich nur 1GB zugewiesen habe.)
Zum Produkt: 4x96GB mit 256 Bit und 9400MT/s. Ich sag euch eins: Das wird teuer.
Schön dass es auch Alternativen zu Qualcomm gibt.
Jetzt bitte noch mit 128 Bit 32 GB und für unter 40W. Also ein Pendant zu M6.
das CPU Limit sieht man ganz gut in den Benchmarks, ansich die Leistung einer mobilen 4070/5070, aber verliert in FullHD gegenüber dem 9955HX3D fast 50-80% Leistung, schon irgendwie unterirdisch in Gears of War
Ich kann mir leider keine Meinung bilden, da ich kein Entwickler bin und im Text steht es ist nur für Entwickler gedacht.
Aber gut, dass die Entwickler ihr "leicht" verdientes Geld durch Einsatz von viel KI dort ausgeben dürfen. So schließt sich der Kreis.
Das ist natürlich hart. Da die 128 GB für die Modellgröße erst interessant werden, weiß ich wirklich nicht, was dieser Rechner soll. Mit Speculative Decoding könnte man vllt. auf 12-18 t/s kommen. Aber für den Preis echt mau. Zum Vergleich - single inference läuft auf einer RTX PRO 6000 Gemma 31B FP8 mit 1 zusätzlichen Token Speculative Decoding bei 60 t/s.
Endlich mehr Abwechslung im Bereich CPU/Mobile. Das wird Intel und AMD hoffentlich anregen, ggf. auch mal die ARM‑Welt zu betrachten. Wenn man sieht, wo es Apple mit der M-Serie hingebracht hat. Viel Leistung bei moderatem Energieverbrauch und guter Akkulaufzeit.
Mal schauen, wie kommende Gen's bei NVIDIA aussehen und wie die RTX Sparks sich auf Linux schlagen werden.
Also für mich ist es ne reine AI Maschine. In Preis/Leistung ist man mit ner anderen mobile dGPU sicherlich besser aufgestellt, falls es zum Zocken geht. Wie zu erwarten ist der große Vorteil der Speicher für AI Modelle, weil man damit eben große Modelle (ausreichend performant?) nutzen kann.
Es ist grundsätzlich ein guter Schritt zum Enablement von local AI, was ich in Zukunft für alle immer noch schöner fände, als sich von großen mitlesenden Firmen abhängig zu machen, aber wir sind ja noch mitten im Wettrennen der Forschung. Wo die Reise hingeht und endet weiß niemand. Das ist jetzt ein temporäres Halo Produkt, so wie AMD es mit Strix Halo ja auch schon lange auf dem Markt hat, nur dass das besser unterstützte CUDA jetzt mit an Board ist.
Ob man so einen dicken Speicher für local AI in einem Laptop braucht sei auch mal dahin gestellt. In einem MiniPC, den man gut kühlen kann ohne Akkusorgen und mit vllt. größeren Power Budgets für CPU/GPU Part sehe ich das um einiges sinnvoller. Aber wahrscheinlich wird es Leute geben, die das brauchen und den Preis zahlen. Enjoy 🤷
