RTX Spark im Test: AI- und Anwendungs-Leistung

Bevor es an Benchmarks zur „AI-Leistung“ von RTX Spark geht, muss das im Vergleich zu bisherigen Angeboten von Nvidia eigentlich neue Feature noch einmal vorangestellt werden, denn es erschließt eine ganz eigene neue „Leistungsklasse“: Unified Memory. Denn Blackwell-GPUs, die AI ausführen, gibt es in allen möglichen Klassen schon seit fast zwei Jahren und RTX Spark macht hier generell nichts anders.

Unified Memory

Doch damit LLMs performant auf GPUs ausgeführt werden können, müssen sie komplett oder zumindest die aktuell benötigten Modellgewichte (Mixture of Experts) vollständig in deren Speicher liegen. Beim Einsatz von Agenten steigt der Speicherbedarf weiter an, denn nur wenn die Agenten genug „Kontext“ im Speicher halten können, können sie länger (selbstständig) performant an einem Thema arbeiten. Dasselbe gilt, wenn Agenten für verschiedene Aufgaben verschiedene LLMs im Speicher vorhalten sollen.

Und während selbst eine GeForce RTX 5090 Laptop GPU oder RTX Pro 5000 für Notebooks nur 24 GB bietet, kann RTX Spark – je nach Konfiguration – auf wesentlich mehr „VRAM“ zugreifen. Der Grund ist, dass sich CPU und GPU einen gemeinsamen Speicher teilen („Unified Memory“ oder „Shared Memory“).

Wie viel Grafikspeicher zur Verfügung stehen kann, hängt vom Gesamtspeichervolumen ab. Der rote Faden: Als RAM müssen immer mindestens 16 GB verfügbar sein.

Modell	Anteil GPU-Speicher
	Default	Einstellbar
Nvidia RTX Spark 24 GB	8 GB	4 – 8 GB
Nvidia RTX Spark 32 GB	14 GB	4 – 16 GB
Nvidia RTX Spark 48 GB*	22 GB	4 – 32 GB
Nvidia RTX Spark 64 GB	30 GB	4 – 48 GB
Nvidia RTX Spark 96 GB*	46 GB	4 – 72 GB
Nvidia RTX Spark 128 GB	62 GB	4 – 96 GB
* Zum Start nicht angekündigt, kommen aber auch

Im Muster des Asus ProArt P16 mit 64 GB LPDDR5X sind also minimal 4 und maximal 48 GB „VRAM“ einstellbar, eine Änderung der Einstellung erfordert einen Neustart.

Unified Memory ist dabei kein reines „KI-Thema“. Auch Spiele, die schon bei RTX 4000 Laptop GPUs Anfang 2023 in Full HD mit maximalen Details bei nur 8 GB Probleme machten, und Anwendungen wie in der Video-Produktion profitieren von mehr schnellem GPU-Speicher.

Doch Achtung: Die Einstiegskonfiguration von RTX Spark mit 24 GB bietet maximal nur „so viel VRAM“ wie eine GeForce RTX 5060 oder 5070 Laptop GPU in der 8-GB-Version. Von dieser Warte aus bietet RTX Spark also keinen Vorteil gegenüber dem klassischen CPU+dGPU-Gespann. Erst bei 32 GB sind bis zu 16 GB VRAM konfigurierbar – immerhin RTX-5080-Laptop-GPU-Niveau.

Benchmarks

Die „KI-Leistung“ von RTX Spark ist mit Blick auf die interne, aber auch die externe Konkurrenz damit immer aus zwei Perspektiven zu betrachten:

1. Was geht überhaupt (a.k.a gibt es genug „VRAM“)
2. Wie schnell geht das, was geht?

Ein Blick aus beiden Perspektiven liefern die folgenden Benchmarks, die mit llama-bench auf allen Systemen mit der gleichen llama-Version (B11370, Arm64 oder x86) und CUDA 13.4 durchgeführt wurden. Speculative Decoding fand keine Anwendung.

Der direkte Vergleich mit GeForce-GPUs, die namentlich mit RTX Spark in einer Liga spielen (5070 und 4070 Laptop), bietet sich dabei nur mit LLMs an, die in deren 8 GB großen VRAM passen, denn andernfalls müssen Modellbestandteile im RAM abgelegt werden, was die Leistung drastisch senkt.

Zwei Modelle, die auch RTX 5070 und 4070 Laptop GPU noch stemmen, sind Qwen2.5 Coder 7B und Qwen3 8B. In beiden Modellen erreicht RTX Spark N1X im Vollausbau im Performance-Profil des Asus ProArt P16 das Leistungsniveau der RTX 4070 Laptop GPU mit weit höherer TDP. Im Prompt-Processing liegt auch die RTX 5070 Laptop GPU mit weniger Shadern, aber höherem Takt dank deutlich höherer TDP (ca. 125 Watt vs. ~60 Watt bei Spark) nur knapp in Front, kann sich aber bei der Token Generation absetzen.

Beim Prompt-Processing kommt es vorrangig auf die Rechenleistung an, die trotz niedriger TDP dank breitem Chip bei RTX Spark vergleichsweise hoch ausfällt. Token Generation ist wiederum stärker von der Speicherbandbreite abhängig und die RTX 5070 Laptop bietet mit 384 zu 300 GB/s immerhin 28 Prozent mehr.

Bei Qwen3 14B fallen die beiden klassischen GPUs dann bereits zurück: Der VRAM ist zu klein, Bestandteile müssen in den Arbeitsspeicher ausgelagert werden. Das Problem verschärft sich bei Qwen3.8 27B und gipfelt bei Gemma 4 31B darin, dass die 32 GB RAM auf dem System mit GeForce RTX 4070 Laptop GPU auch nicht mehr ausreichend bemessen sind – das Modell läuft gar nicht. RTX Spark mit 64 GB Speicher und davon zugewiesenen 48 GB für die GPU stemmt hingegen all diese Modelle.

Warum fehlen hier weitere Systeme von AMD oder Intel oder Apples MacBooks? Wir sind uns im Klaren darüber, dass in diesen Vergleich auch andere Systeme, insbesondere MacBooks, gehören. Uns liegen aktuell aber keine solchen Systeme vor. Wir arbeiten daran!

Leistung in Anwendungen

Ist ausschließlich CPU gefragt, platziert sich der RTX Spark N1X in Multi-Core-Szenarien vorne im – zugegeben nach dem Wechsel des Parcours noch überschaubaren – Windows-Vergleichsfeld.

Im „Best-Case“-Performance-Profil im Asus ProArt P16 liegt das SoC letztendlich dort, wo es zu erwarten war: Knapp hinter dem neuen Qualcomm Snapdragon X2 Elite X2E‑90‑100 (Test) mit in Summe nur 18 Kernen, von denen sechs sogar besonders effizient sind. Aber die Architektur ist neuer, der Takt der großen P-Cores mit bis zu 5,0 GHz deutlich höher.

Dass RTX Spark in Sachen CPU-Leistung kein Konkurrent für Apple ist, zeigen der Blick an die Spitze und auf den Platz direkt hinter Nvidias Chip: Der neue M6 mit nur 12 Kernen liegt in Schlagdistanz, der M5 Max mit 18 Kernen ist weit voraus.

In den drei Single-Core-Szenarien wird die schon etwas ältere Arm-Architektur des RTX Spark ebenfalls sichtbar: Die neuen Qualcomm-Chips liegen klar, die Apple Silicon der M-Serie sehr klar vorne.

Der nachfolgende Überblick enthält neben den bereits im Durchschnitt betrachteten reinen CPU-Lasten auch noch GPU-Compute-Anwendungen. In Affinity Photo sind die Apple-GPUs traditionell extrem stark, in Blender wiederum behauptet sich die GPU des N1X mit 20 Prozent Vorsprung gegenüber der GPU im neuen Apple M6. Beim Hardware-Encoding in Adobe Premiere, bei dem die GPU viele, aber nicht alle Aufgaben übernehmen kann, liegt wieder der M6 knapp vorne.

Zwischenfazit

Dank Unified Memory macht RTX Spark schon in der kleinsten Speicherkonfiguration KI-Anwendungen möglich, die eine RTX 5070 Laptop GPU mit 8 GB nicht mehr stemmen kann. Je größer der Speicher, desto mehr geht: Die 64-GB-Variante hängt mit bis zu 48 GB Grafikspeicher aktuelle dGPU-Alternativen von Nvidia bereits um den Faktor 2 ab. Mit der 128-GB-Version stehen 96 GB zur Verfügung. Mehr schafft im Notebook-Umfeld nur AMD Gorgon Halo mit 192 GB RAM.

Die Leistung des SoC liegt dabei je nach konkreter Last auf dem Niveau der dGPU GeForce RTX 5070 Laptop GPU oder etwas dahinter. Die Effizienz liegt deutlich höher.

RTX Spark erfindet „KI auf Blackwell“ nicht neu, eröffnet der Plattform dank Unified Memory aber völlig neue Möglichkeiten. Microsoft will sie über eigene Agenten in Windows 11 (z.B. Autopilot) und die noch einfachere Integration von Agenten wie OpenClaw und Hermes Agent in Zukunft nutzen. In einer sicheren Umgebung und mittels „Hybrid Intelligence“ auf Wunsch in Kombination mit Cloud-AI-Plattformen – je nachdem, was für die aktuelle Aufgabe der beste Ansatz ist.

In klassischen Anwendungen erreicht Spark am oberen TDP-Limit eine durchaus hohe Leistung, sticht aber nicht aus der Konkurrenz hervor. Dass die Kerne nicht mehr die neuesten sind, wird deutlich sichtbar – insbesondere mit Blick auf die bärenstarken Arm-Kerne von Apple.