Test RTX Spark im Test: Nvidia betritt Neuland

[Coenzym]

Isn Versuch. 1. Gen zu teuer, zu langsam (token/sec). 2. Gen. möglicherweise "brauchbarer".

 

[RealMax123]

Eigentlich wäre das Konzept schon intressant und universell, vorallem für so ein Subnotebook-Netbook-Zwischending das leichter und mobiler ist als x86 Core Ultra oder Ryzen AI Notebooks mit GeForce RTX Mobile, aber deutlich mehr Performance für Gaming und Videobearbeitung hat als reine Netbooks.

Aber 2.899€ Einstiegspreis ist dafür leider viel zu teuer.

 

[Jan]

Würde mich interessieren ob Du @Jan das messen/bestimmen konntest?

Siehe Abschnitt Leistunsgaufnahme allein NBA 2K27 vs Gears of War. Beides spiele, ganz andere Verteilung der Watt.

 

[ActionNews]

Meine Meinung? Können sie sich sonst wo hin stecken. Nvidia wird ja schon ekstatisch wenn nur jemand das Wort "AI" in den Raum flüstert und bekommen $-Zeichen in den Augen. "Gamer" sind denen doch schon längst egal. Sieht man doch auch dass sie die 5090 jetzt offiziell aus deren eignen Online-Shop genommen haben ... klar warum eine 5090 für 6700€ verkaufen wenn man den gleichen Chip auf einer KI-Beschleuniger-Karte für den dreifachen Preis an die KI Firmen verkaufen kann.

Ne Nvidia von euch kaufe ich nichts mehr. Und schon gar nicht einen KI-Beschleuniger Laptop.

 

[steirerblut]

Danke für das Review. Das "99% Performance on battery" versprechen ist aus meiner Sicht das größte Problem. Wenn ich schon nen großen Chip habe möchte ich den, zumindest an der Steckdose, auch im >150W Bereich loslassen. Gerade weil raw Compute für Input Tokens und Gesamtlaufzeiten extremst wichtig sind. Aus meiner Sicht wird von all den N1X Möglichkeiten das Modell mit der größten Kühllösung langfristig am relevantesten bleiben.

Ansonsten, wie im Artikel erwähnt, vor der Bestellung einmal worksonwoa bemühen. Ich und die Eltern merken keine Unterschied, wir sind aber auch keine Tontechniker, Editoren, sitzen in einem Labor an Software Y oder ähnliches. Irgendwie arbeitet ja jeder auf seine eigene Art und Weise.

 

[Faint]

Habe gestern Abend nochmal mit meiner "Chefin" gequatscht. Wir werden das 16" ProArt SparK Teil mal testen. 3.6K netto. Ist viel aber liegt im Rahmen dessen was Neugeräte bei uns kosten. Wenn ich dann im Hotel noch Zocken kann, wäre das ein netter Zusatz.

 

[TeeKayEV]

Die lächerlichen 300 GBs sind im Vergleich zu normalen dualcanal DDR RAM sehr schnell aber extrem Larm in Vergleich zu schnellen dedizierten gpus.

Als Vergleich ein M5 max ist bei 614 GBs.

Und noch einmal: Decode, bei der die Speichergeschwindigkeit eine Rolle spielt, ist nur eine von zwei Aufgaben bei der Ausführung eines LLM. Die andere Aufgabe ist Prefill. Da ist die Speichergeschwindigkeit praktisch egal und es kommt auf die Leistung der GPU an. Da ist Spark deutlich schneller als jeder Mac (ja, auch M5 Ultra). Beide Aufgaben zusammen müssen zwingend bei jedem Prompt erledigt werden. Und beide zusammen ergeben die Ausführungsgeschwindigkeit. Was soll also der ständige Hinweis auf die höhere Bandbreite beim Mac, ohne darauf hinzuweisen, dass man beim Mac dafür länger auf die Vollendung der Prefill-Phase warten muss?

 

[Werderwunder]

Wenn mir jemand einen Kaffee für 20,- hinstellt, ist es schlichtweg egal, ob das jetzt ein handwerklich perfektes Exemplar aus handverlesenen Bohnen ist, viele der aktuellen Neuvorstellungen im Bereich technischer Spielereien sind halt in komplett surreale Preisbereiche abgedriftet, egal ob Handy Notebooks, PC Komponenten, da bin ich komplett raus.

 

[DonDonat]

Selbst wenn man die Laufzeit da hin bekommt, wo sei bei der Akku-Größe sein sollte und die Performance und Kompatibilität noch mal verbessert: wer soll sowas nutzen? Endkunden nicht und Pro-Anwender brauchen fast immer mehr. Sei es mehr bei Software wo Windows on Arm immer noch limitiert, sobald man nicht mehr Standard-Software nutzt, oder bei der Leistung.

Bleibt also nur eine sehr kleine Gruppe an Leuten, die (semi-) Professionell LLMs lokal ausführen, daher vom Extra an GPU Speicher profitieren, und die nach dem Ende der "KI" Blase mit hoher Sicherheit auch deutlich weniger LLM-Usage haben werden.

Spark ist ein Produkt, dass nur weil die "KI" Blase existiert überhaupt entstanden ist und sobald die Blase weg ist, ist auch das Produkt und jeglicher Support weg, da es einfach kaum Kunden für sowas gibt. Sicher, ein paar Leute werden es auch nach dem Ende der Blase weiter für LLMs nutzen, dass dürften aber nicht ansatzweise genug sein um ein komplett eigenes Produkt zu rechtfertigen.

 

[stefan92x]

@DonDonat wer heute eine sinnvolle Nutzung für lokale LLMs hat, wird das auch weiterhin haben und nicht plötzlich wieder damit aufhören. Die Blase ist eine Finanzierungsblase der großen Cloud-Anbieter und Frontier-Labs, deren Umsätze weit unter dem sind, was sie eigentlich bräuchten, um ihre Pläne refinanzieren zu können. Das kann durchaus platzen, aber deswegen wird kein einziger seinen Spark abschalten.

Eher im Gegenteil, falls die Datacenter-Blase platzt könnten diese Geräte für lokale AI für die Hardwarehersteller noch den sichersten Umsatz bieten.

 

[TeeKayEV]

und die nach dem Ende der "KI" Blase mit hoher Sicherheit auch deutlich weniger LLM-Usage haben werden.

Die LLM Blase ist eine Investmentblase - es wurde mehr Kapital investiert, als das Produkt während der realistischen Nutzungszeit der gekauften Hardware erarbeiten kann. Wieso sollte jemand aufhören, LLMs zu nutzen, nur weil die Investmentblase platzt und es zu Abschreibungen auf die gebauten Rechenzentren kommt?

Eher stärkt das Platzen der Blase die Nutzung lokaler LLMs, weil die Verfügbarkeit günstiger Cloudlösungen sinken dürfte.

 

[Faint]

Bleibt also nur eine sehr kleine Gruppe an Leuten, die (semi-) Professionell LLMs lokal ausführen, daher vom Extra an GPU Speicher profitieren, und die nach dem Ende der "KI" Blase mit hoher Sicherheit auch deutlich weniger LLM-Usage haben werden.

Spark ist ein Produkt, dass nur weil die "KI" Blase existiert überhaupt entstanden ist und sobald die Blase weg ist, ist auch das Produkt und jeglicher Support weg, da es einfach kaum Kunden für sowas gibt. Sicher, ein paar Leute werden es auch nach dem Ende der Blase weiter für LLMs nutzen, dass dürften aber nicht ansatzweise genug sein um ein komplett eigenes Produkt zu rechtfertigen.

Ich glaube dein Bild von dem Was diese KI Blase ist und wie es nach dem Zusammenbruch aussieht, ist leicht verschoben. KI bleibt und gerade die lokale Nutzung wird immer relevanter.

 

[pianon]

windows. das ding ist doa

 

[Pheenox]

Ganz ehrlich? Haut mich nicht aus den Socken. Das hätte ich schon erheblich früher erwartet.
NVIDIA hatte vor 15 Jahren bereits die Tegra-Serie in Subnotebooks/Netbooks und Tablets verbaut. Dieser war damals schon Windows-fähig; allerdings in der spezifischen Windows RT Ausprägung, da das "normale" Windows x86 basiert ist.

Selbst Microsoft-Geräte wurden damals mit Tegra-Chips verkauft (Microsoft Surface RT). Man hatte also schon das Wissen rund um Windows und wie man es ohne x86-Architektur ans Laufen kriegt.

Da frage ich mich:
NVIDIA hat schon lange eigene Chips ohne Intel und AMD im Portfolio gehabt und gesehen, dass Intel lange nichts auf die Kette bekommen hat und AMD quasi kampflos das Feld überlassen hat; denn die Stromsäufer vorn Intel kann man in Notebooks nicht allzu gut brauchen wenn man sie nicht gerade ganz krass beschneidet.

Warum hat man nicht schon lange die zweifellos vorhandenen Ressourcen und vorhandenes Wissen genutzt, um auch im Prozessorsegment AMD das Wasser abzugraben? Der Schritt von ARM ohne x86 zu ARM mit x86 (abstrakt geschrieben) kann für den Branchenprimus NVIDIA keine allzu große Hürde sein wenn man überlegt, was sie mit DLSS zu leisten im Stande sind.

Die einzige Vermutung die ich habe ist, dass das Consumersegment mal wieder deutlich weniger attraktiv ist als das B2B Geschäft und man deswegen deutlich weniger Aufwand in die erst jetzt erfolgte Auslieferung gesteckt hat.

Deswegen sage ich bei dieser Entwicklung und Vorstellung des NX1:
Das war längst überfällig, warum hat man sich so elends lange Zeit damit gelassen?

 

[TeeKayEV]

Deswegen sage ich bei dieser Entwicklung und Vorstellung des NX1:
Das war längst überfällig, warum hat man sich so elends lange Zeit damit gelassen?

Weil der RTX Spark mit kleiner Speicherausstattung keine Vorteile ggü. Wintel+Nvidia-GPU bietet. Ein Vorteil ergibt sich mit großer Speicherausstattung und den nötigen Speicher verwendet Nvidia lieber für Datacenter-Produkte, die inzwischen auch LPDDR als Hauptspeicher nutzen. Eine B300 Workstation für 120.000 Euro benötigt 512 GB LPDDR.

Ich frag mich eher, was mit den Mobile-GPUs passieren wird. Solange die günstiger und schneller sind als RTX Spark mit wenig Speicher, wird RTX Spark ein Rohrkrepierer sein. D.h. Nvidia müsste die Mobile GPUs entweder einstellen oder massiv verteuern, um RTX Spark zu pushen.

 

[peacermaker]

Wer soll sowas kaufen mit 64gb ü 6k € habe den Artikel gar nicht erst zu ende gelesen und eh das wieder in bezahlbare Regionen kommt gibt es schon bessres und bezahlbares zur Zeit völlig sinnfrei sowas anzubieten bei den Speichermangel der zur Zeit herrscht.

 

[fdsonne]

Gegenüber den M-Prozessoren von Apple in Sachen KI schlicht zu wenig Performance, in Sachen Gaming aufgrund des Preises auch völlig uninteressant.

Die Aussage zu "KI" verstehe ich nicht!?
Welchen "M-Prozessor" meint das jetzt? Die Max Version? Ja das mag in Sachen Bandbreite stimmen - aber das wäre auch kein fairer Vergleich. Die Teile kosten aktuell doch eher in der Region 5500€ bei 64GB als 16" oder knapp 5200€ als 14". Das sind locker 1000€ Differenz zu den hier genannten neuen NV Produkten.

Die M5-Pro Version ist günstiger, teilweise knapp unter 4000€ zu haben. Aber letztlich am Ende hat diese Version eben hardwareseitig faktisch keinen Vorteil, den man pauschal mit "schlicht zu wenig Performance" bei der GB10 NV Version begründen kann. Es ist real praktisch eher so, dass die Unterschiede stark davon abhängen, was man überhaupt damit anstellt. Kurzer Prompt/Eingabe, langer Output. Viel Eingabe, Parallelbetrieb vs. Single, Dense Model vs. MoE, ... Da gibt es so viele Parameter wo GB10 durchaus nennenswerte Vorteile haben kann, dass man das nicht einfach mit "Gegenüber den M-Prozessoren von Apple in Sachen KI schlicht zu wenig Performance" abtun kann.

Also der Privatanwender wird ohnehin einen großen Bogen um RTX Spark machen und Profis setzen wohl eher auf Apple.

Ist dem so? Der Apple Vorteil war mMn bisher die Portabilität des Gerätes. Das MacBook vereint viel in einem Gerät. Das konnten bisher andere nicht liefern. So eine Kombo wie NV hier bringt hätte aber zumindest Potential diese Lücke zu schließen.

Wer Linux nutzen möchte, der greift zu AMDs Strix Halo oder Gorgon Halo.

Auch das ist wieder pauschal nicht haltbar. Rein von der Hardware hat die alte RDNA3.5 Basis die schlechteste Ausgangsbasis ggü. den neuen M-Prozessoren und NVs Blackwell GPU Part. Nur weil Linux relativ gut auf dem Kram läuft wird die Leistungsfähigkeit dessen was man damit am Ende überhaupt erreichen will, doch nicht auf einmal egal!?
Zudem preislich diese Hardware auch nicht mehr sonderlich attraktiv ist. Die HP Version mit 64GB kostet ab 3500€. Dafür dass man dann den Bastelkram mit Linux und ROCm hat? Muss man meiner Ansicht nach echt wollen.

Was soll also der ständige Hinweis auf die höhere Bandbreite beim Mac, ohne darauf hinzuweisen, dass man beim Mac dafür länger auf die Vollendung der Prefill-Phase warten muss?

Das liegt wohl eher an Unwissen und fehlender Aufklärung auch seitens der Hardware Redaktionen. Weil man dort eben "nur" Benchmarks zeigt und nicht erklärt, was das am Ende überhaupt bedeutet. Das ging bisher unter FPS in Games noch halbwegs auf. Weil jeder wusste was FPS sind. Aber bei KI Leistung passt das nicht (mehr).

Und dazu kommt noch eine ganz andere Schwierigkeit in diesem Anwendungsfeld -> und das ist die Vergleichbarkeit. Hardware Redaktionen bevorzugen für Tests quasi 100% vergleichbare Basis. Das ist real praktisch aber in aller Regel nicht gegeben. Mir als Anwender ist es doch schnurz egal ob ich über Offloading Teile in den RAM auslagere bei einer dGPU bspw. oder nicht. Solange das am Ende den gewünschten Effekt hat. Das vernichtet aber jegliche Vergleichbarkeit, weil es eben gerade im Notebook Umfeld dann wieder extrem auf die Basis ankommt. Sprich wie viel RAM hat das Teil, welchen RAM, steckbar langsamer SODimm oder schneller LPDDR5X? Wie ist die Anbindung der dGPU? Welche Modelle fahre ich - Dense vs. MoE kann dann drastische Unterschiede machen usw.

NVIDIA hat schon lange eigene Chips ohne Intel und AMD im Portfolio gehabt und gesehen, dass Intel lange nichts auf die Kette bekommen hat und AMD quasi kampflos das Feld überlassen hat; denn die Stromsäufer vorn Intel kann man in Notebooks nicht allzu gut brauchen wenn man sie nicht gerade ganz krass beschneidet.

Du unterschätzt den Software Stack massiv. Es hat sonst wie viele Jahre benötigt um non x86 based Systeme im PC Client halbwegs zu etablieren. Hardware Entwicklung dauert Jahre, viele viele Jahre. Das sowas technisch und theoretisch geht, das ist völlig klar. Aber was bringt es einer Firma wie NV, wenn sie Hardware auf den Markt werfen, die am Ende dann nicht angenommen wird? Es war doch überhaupt nicht ihr Geschäftsmodell?

 

[Magellan]

Sieht doch eigentlich nach einer recht runden Sache aus. Dass das Release wohl etwas später kam als ursprünglich geplant würde ich mal auf das Erstlingswerk schieben, umso spannender werden dann die kommenden Generationen bei denen man durch die Vorarbeit entsprechend schneller am Markt sein dürfte.

 

[DazingDev]

Ich freue mich sehr auf die Laptops. Als KI-Entwickler hat es für mich aber tatsächlich auch einen direkten Nutzen. Da Inferenz in Zukunft allein durch den Stromverbrauch noch höhere Kosten verursachen wird, ist ARM eine gute Richtung, die man beibehalten sollte. Für mich einen Laptop zu haben, auf dem ich entwickeln kann, ohne auf GPU-Server zuzugreifen (was bestehende GPUs für Workflows freihält), ist für alle Beteiligten gut. Und natürlich bin ich froh, auf dem Gerät auch das ein oder andere Spiel zu spielen. Bezüglich der Inferenzleistung des GB10 kann ich nur sagen, dass man darauf achten sollte, welche Engine man nimmt, ob diese mit NVFP4 klarkommt und dass sich die Leistung vor allem bei parallelen Anfragen bemerkbar macht. Und zum Preis, Apple Geräte sind dennoch viel Teurer für die TPS die man bekommen kann, und was es Gaming angeht habe ich maue Erfahrungen gemacht dort..

 

[Icke-ffm]

zu dem schluss:

"Die Akkulaufzeiten sind nicht schlecht, aber insbesondere mit Blick auf das MacBook Pro hat Nvidia in einer nächsten Generation noch Arbeit vor sich"
kann man nur kommen wenn man einen 99,9Wh nicht als das schlechteste hinstellt.

was bitte macht der HP EliteBoard G1a mit seinem 32Wh in dem Vergleich ? kein Display und auch nur 1/3 Akku das auch AMD es besser kann habt Ihr 2024 schon getestet und selbst da sind nur 78Wh verbaut

https://www.computerbase.de/artikel...tt_lange_laufzeiten_fuer_office_und_streaming