News RTX Spark N1X: Nvidia steigt im Oktober gegen AMD und Intel in den Ring

[Ewoodster]

Verstehe ich das richtig, mit der Kiste kann man DDR5 RAM als Unified Memory der GPU zur Verfügung stellen und damit brauchbar für KI verwenden? Das ist interessant

Das ist halt der Notebook Ableger des DGX Spark, den es schon fast ein Jahr lang gibt. Ja, der hat einen großen Unified Memory Pool, aber die Speicherbandbreite ist recht limitiert. Hier ist ein M5 Max deutlich im Vorteil. Der Spark ist super bei Prefill, aber nur mäßig bei Token Generation.

 

[Monarch2]

80W TDP? Zu dem zu garantiert saftigen Preis wird dieses Ding keine brauchbare Inferenz-Performance liefern.

 

[schwimmcoder]

Arm-CPU

Und damit ist das Ding schon halb beerdigt. Weder guten Linux noch Windows Support. Da muss Nvidia über den Preis kommen oder MASSIV die Treiber und Kernel patchen.

 

[Ayo34]

Für mich sind diese Geräte überhaupt keine Konkurrenz zu anderen Windows-PCs. Sie sind ein Angriff auf den Mac. Wer keine KI-Modelle nutzt, braucht diese teuren „Mini“-PCs nicht. Aber mit 128 GB RAM und GPU kann man das Ding schon sehr sparsam 365 Tage im Jahr laufen lassen. Und dann ist auch der Preis wieder okay.

 

[Col. Jessep]

@mykoma

You can’t start a fire without a spark.

Ich halte es da mit dem Boss.

Der Name passt um ein Feuer in der Intel/Amd Welt zu entfachen.

 

[eastcoast_pete]

@Jan : Kannst Du/Könnt Ihr hier mal nachhaken? Angeblich sollen in Taiwan die NGX Laptops nur in homöopathische Dosen (Stückzahlen) erhältlich sein bzw gewesen sein. Soll laut Quellen dort an den sehr niedrigen Zuteilungen von NGX SoCs an OEMs liegen.

Wenn dem tatsächlich so ist, wäre der "Launch" v.a. dafür da, damit keiner sagen kann, Nvidias lang angekündigter AI Laptop wäre nie erschienen.

 

[GrumpyCat]

Und beim RTX Spark bekommt man CUDA dazu, was ein größerer Pluspunkt ist.

Braucht man für LLM-Inferenz doch nicht; was anderes macht mit den Kisten niemand; für ernsthaftes Training sind sie zu klein, was den RAM-Ausbau angeht. Oder übersehe ich was? Mehrere gekoppelte Geräte können vielleicht was.

 

[dayworker123]

Ich verstehe halt nicht warum Nvidia nicht die Dinger subventioniert, die haben doch genug Asche aus ihrer KI-Sparte. Mir als Firma wäre mein Ansehen und die Vervielfältigung meines Ökosystems wichtiger als kurzzeitger maximaler Profit.

Ja da biste anders gestrickt , als die Lederjacke . Manchmal steigt Zuviel Geld im Kopf keine Ahnung das Geld kann man im seinen Leben nicht mehr ausgeben, aber manche wollen mehr und mehr . Und deswegen ist Bill Gates auch schon lange nicht mehr der Reichste techn. Milliardär , her hat wohl auch erkannt dass man was zurück geben kann wenn man zweistellige Milliarden Beträge hat. Und Steve Jobs nutzt z.b sein Vermögen auch schon lange Nicks mehr , den dass Leben kann man sich nicht erkaufen. ( rip S.J.)

 

[Hartwarezoo]

S.P.A.R.K
Denke die haben die punkte vergessen.
Wenn der Preis stimmt nehme ich gerne so einen dgx oder rtx.

• SPARK for German: Ein Projekt des Goethe-Instituts und der American Association of Teachers of German (AATG), das für „Strukturiertes Programm zum Aufbau von Ressourcen und Kompetenzen“ (bzw. im Englischen Structured Programme for the Development of Resources and Skills) steht. [1]
• SPARK-Framework (KI-Prompts): Ein Leitfaden zum Erstellen guter KI-Befehle, stehend für Specify your goal, Provide context, Add constraints, Request format, und Know your audience. [1]
• SPARK-Führungskräfte-Modell: Ein Ansatz für Leadership-Verhalten, der Share Information, Play to Strengths, Ask for Input, Recognize Needs und Keep Commitments zusammenfasst. [1]
• Schulen / Organisationen: Bestimmte Privatschulnetzwerke nutzen S.P.A.R.K. als Akronym für Werte wie Service, Persistence, Achievement, Responsibility und Kindness. [1]

 

[ecth]

Mich nervt da der Hype. Ja, Nvidia, ja, jeder zweite hat da Aktien drin. Aber ich hatte Kollegen, die wegen KI von Spark geschwärmt haben, das als großen Apple M[x] Konkurrenten sahen und Strix Halo nicht mal kannten.

Dabei wird gerade mit Windows und ohne Apple Ökosystem Nvidia dieselben Probleme haben, wie Snapdragon. Versteht mich nicht falsch, ich hab so ein Snapdragon Windows Surface daheim und es ist echt gut. Aber das Allheilmittel wird Nvidia jetzt auch nicht aus dem Hut zaubern.

Und natürlich Preise. Gerade Nvidia 🫠

 

[wagga]

Nur 4 USB Anschlüsse für einen Desktop PC, sind etwas dünn wenn schon 2 für Maus und Tastatur belegt werden.

 

[hans_meiser]

Als oller Beobachter glaube ich nicht, daß das Sinn ergibt.

Das Ziel ist wohl lokale AI, oder zumindest die Vorstellung und den Wunsch. Aber das ist mMn. kompletter Quatsch. Skalieren kann das nicht, und AI ist sowieso Server-Side, wenn man's ernst nimmt.

Seltsame Entwicklung, und ich glaube das wird nichts.

 

[LencoX2]

Dieses Gerät ist mit dem Konzept schon auf Nischendasein ausgelegt.

Wer Windows einsetzt, tut das, weil jede SW und HW drauf läuft (also x86).
Exakt das verliert man hier bei RTX Spark mit ARM.
Da könnten sie auch gleich Linux nehmen..... achja, das gibts ja schon.

 

[haxtible]

Sag ja das ist nur der Anfang sozusagen die erste Gen und punktet mit 5070 Standard ,das werden bald die DISKRETEN Gpus veraltet sein und nicht mehr effizient genug um mitzuhalten.

 

[jit-010101]

Oder auch:

Wie man aus Schei**e (=der Resterampe) Gold macht.

 

[Pigeonzilla]

Braucht man für LLM-Inferenz doch nicht; was anderes macht mit den Kisten niemand; für ernsthaftes Training sind sie zu klein, was den RAM-Ausbau angeht. Oder übersehe ich was? Mehrere gekoppelte Geräte können vielleicht was.

LLM`s ja, aber das ist ja nur ein teil der KI anwendungen. Es gibt ja noch andere Tools wie Bild, video, sound, 3d druck und bestimmt noch andere dinge die mir nicht einfallen die teilweise zumindest offline und teilweise CUDA exclusiv sind. Dafür reicht so ne Kiste allemal und das Offline zeug wird immer besser ohne gleich ein Rechenzentrum zu benötigen und ist in sachen Datenschutz halt das non+ultra.

 

[GrumpyCat]

Es gibt ja noch andere Tools wie Bild, video, sound, 3d druck

Das braucht aber alles kaum VRAM und läuft dann auf einer klassischen Grafikkarte (mit schnellem GDDR) deutlich besser als auf vergleichsweise langsamem LPDDR, bei niedrigeren Kosten...?

 

[Pigeonzilla]

@GrumpyCat Also zumindest die Tests was ich mit Video AI gemacht hab belegt gut und gerne 50GB Ram und fast vollständig meine 24GB Vram der 4090. Wie das aufgeteilt wird kann ich leider nicht sagen und Benches hab ich auch keine gefunden, kann mir aber durchaus vorstellen dass die Spark mit 128GB in dem Szenario schneller ist.
Ich mach damit aber nix sinnvolles weil ich mir die Hardware eh zum Zocken angeschafft hab bevor lokal AI überhaupt wirklich ein Thema war, ist eher so ein "Ah das kann man also auch machen". Wär ich jetzt aber ein Content Creator oder Marketingfritze würd ich eher auf nen Spark gehen als auf Consumer Hardware zwecks flexiblität und Effizienz.

 

[GrumpyCat]

Naja Spark hat um die 300GB/Sek Bandbreite, eine 4090 um die 1000GB/Sek Bandbreite; die rohe Rechenleistung der 4090 ist auch etwa dreimal so hoch. Selbst wenn ein Workload mehr RAM benötigt (als die 4090 bereitstellt), wird Spark da also alles andere als ein Überflieger sein. Anbieter von AI-Kram für Bilder und Audio wären also schon eher schräg drauf, mehr als die typischen 32GB vorauszusetzen, die man auf bezahlbaren GPUs nunmal hat.

 

[Pigeonzilla]

@GrumpyCat Ja aber die 4090 ist nicht mehr als neuware zu kaufen. Das Äquivalent ist die 5090 mit 32GB und die kostet fast so viel wie ein DGX Spark als ganze Plattform mit 128GB.
Und vorraussetzen wollen die hersteller wohl nicht mehr als 640kb RAM, technisch ist das leider halt einfach nicht drin . Ich glaub es geht keiner an ein Programm heran und sagt "So, ich entwickle jetzt einen Speicherfresser"
Aber ja, wenn dir 16GB Vram langen dann tuts am schluss auch ne 5060TI 16GB wenn man zwingend CUDA braucht für 1/10 des preises.