Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
Holy Shit ist die CPU-Leistung dürftig bei spielbaren Frames (HD bis WQHD), die UHD Benchmarks sind ja nur hypothetisch/theoretisch weil VRAM-abhängig. Mit 15FPS kann man nicht ernsthaft spielen.
Er meint vermutlich den Laptop-Markt. Die letzte/schnellste dGPU war eine RX 7900M. Die wurde nur in einem Gerät verbaut und hatte 100W Idle ganz nach dem Vorbild der Desktop-Variante. Der verbuggte Technikmüll ist zurecht krachend gescheitert. Seitdem gibt es nur Gerüchte zu RDNA4 Laptops.
Prinzipiell ein nettes Notebook, zudem es alle meine Kernanforderungen gut trifft. Es kann gut spielen, lokale KI und ist kompakt. Preis ist natürlich ein jenseits von gut und böse.
Jetzt kommt das ABER: Ich möchte die lokale KI auch dann nutzen, wenn das Notebook ausgeschaltet, abwesend oder von den Kindern belagert ist. Meine Agenten laufen 24/7. Daher ist und bleibt der RTX Spark oder MacStudio im Rack und ein leichtes Notebook für mich die bessere Kombi. Spielen fällt dann leider hinten runter.
also genau das was man für ki braucht, schnellen speicher, hat dieses ding nicht. aber viel davon.
aha.
totgeburt.
durch destillation und quantisierung kommt man in zukunft wohl eher mit weniger schnellem als mit viel langsamen speicher voran - außer man läßt xx agenten laufen welche in jeder instanz ihren eigenen speicher allokieren?
Holy Shit ist die CPU-Leistung dürftig bei spielbaren Frames (HD bis WQHD), die UHD Benchmarks sind ja nur hypothetisch/theoretisch weil VRAM-abhängig. Mit 15FPS kann man nicht ernsthaft spielen.
Liegt's denn an der CPU? Das aufgeführte Laptop mit Ryzen 9 9955HX3D ist sogar langsamer in UHD, vermutlich aufgrund des dünnen VRAMs der RTX 5070 Laptop, wie du ja selbst sagst. Warum dann die 15 fps für das Spark-Laptop heranziehen, wenn ein theoretisch vergleichbares Gerät es nicht besser macht?
E-Day scheint bei moderater Auflösung bspw. ganz annehmbar spielbar zu sein.
Davon abgesehen sollte man aber auch keine Wunder erwarten, wenn ARM-Referenzkerne, wenngleich relativ moderne, für x86-Systeme geschriebenen Code auszuführen haben, zumal mit stark limitierter TDP. Die kommen ja nicht mal annähernd auf das Power-Korsett eines 290HX Plus oder 9955HX3D.
Viel zu teuer für das was Spark leistet, da ist ein Notebook mit einer RTX 5070 billiger und besser für gaming und KI. Wenn es wenigstens billiger wäre, aber so und mit den ganzen ARM Prozessor Nachteilen ... ne danke, da bleib ich bei Intel und meiner 5090
@K3ks Stimmt nicht ganz, mit LM Studio kann er Teile der LLM-Modelle die den VRam der Grafikkarte überschreiten in den System-Ram auslagern, ist zwar dann langsamer, aber es funktioniert. ich kann so auch große 122B Modell in Q6 oder teilweise in Q8 auch laden, die eigentlich nicht in meine 5090 VRam passen würden. Natürlich laufen sie entsprechend langsam - so wie sie in Spark auch langsam sind, aber man kann sie benutzen - ganz ohne RTX-Spark.
Apples Emulationsschicht war alles nur nicht performant und auch hier wird es keine Ewigkeit dauern. Im Gegensatz zu Qualcomm und Apple, hat Nvidia einen guten Draht zu Spielstudios und Windows mitsamt aller APIs, DX12 und RTX sind allesamt vorhanden. Im besten Fall braucht es nur einen Compilerrun und die Emulation ist Geschichte.
Bei GPU Anwendungen und KIs, dreht sich die Welt sowieso schon lange um Nvidia, hier braucht man sich eigentlich gar nicht erst Gedanken zu machen.
Bei der Akkulaufzeit musste ich schmunzeln. War schon ganz angetan vom Gesamtkonzept. Zocken im Hotelzimmer und viel power für KI und viel Akku für die Zeit beim Kunden. Aber letzteres ist dann wohl doch nicht so sehr wie ich es mir erhofft habe. Mein M5Max is da doch insgesamt das bessere Paket.
Keine Ahnung wieso, aber unter Windows finde ich ARM noch immer richtig Mist. Apple hat das irgendwie besser und vor allen Dingen deutlich leistungsfähiger geschafft. x86 bzw. AMD64 (x86_x64) ist unter Windows immer noch das beste Gesamtpaket. Kompatibilität, Performance, warum auf Teufel komm raus unterschiedliche Wege gehen, anstatt den bewährten.
Das ist dann aber kein unified memory sondern shared memory. Der ganze Witz an unified memory ist ja, dass man eben nicht neustarten muss und die Aufteilung zwischen System- und Grafikspeicher zur Laufzeit ständig verändert werden kann.
Sagt wer? Apple ist im Prefill chronisch langsam, was je nach Promptlänge durch eine schnellere Decode-Phase nicht mehr aufgeholt werden kann. Gerade bei diesen beiden Architekturen (Spark vs M5) ist es gar nicht so einfach zu entscheiden, welche Maschine man für local LLM kaufen sollte. Daher gibts ja schon Versuche, den Prefill auf Nvidia auszuführen und für Decode dann an Apple zu übergeben.
Komischer Artikel.
Man hätte ja wenigstens im Test etwas an Software testen können. Stattdesen werden nur Produkte erwähnt, die super toll ganz super klasse laufen. Sind wir hier auf einer Kaffeefahrt? Ich will doch aber gerade wissen, was eben nicht läuft!
