Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
TestAMD Gorgon Halo im Test: 192 GB stemmen im GMKtec EVO-X5 Pro riesige LLMs
Gorgon Halo bietet bis zu 192 GB Unified Memory für lokale KI, Nvidia RTX Spark bietet so viel Speicher nicht. Wir haben uns anhand des GMKtec EVO-X5 Pro mit AMD Ryzen AI Max+ PRO 495 im Test angesehen, was mit 192 GB Speicher möglich ist und wie sich das System damit im Vergleich zur Konkurrenz schlägt.
Habe selbst eine Maschine mit Strix Halo und 128 GB RAM, so dass qualitativ gute Modelle lokal laufen. Habe damals aber knapp 3000€ mit 5 Jahren Support (HP) bezahlt, > 6000€ ohne richtigen Support ist wahnsinnig.
Da könnt ihr ja nix für, aber dass das Thema PC Hardware Test sich mal wie im Auto Bereich der Test von einem Porsche anfühlt, hätte ich ja nicht gedacht.
USB 4v2 ist interessant als stabile Alternative zu Oculink. Das sieht man noch viel zu selten (genau wie entsprechende externe Gehäuse).
Leider gibt es nur die 192GB Variante. Damit ist das Teil für alle anderen Einsatzzwecke uninteressant weil zu teuer. Ne 48GB Version wäre ein echt krasser Allround-Mini-PC mit der Option in Zukunft flott ne eGPU anzubinden. Aber gut. Ist halt die Frage ob man sich den RDNA 3.5-Kram noch antuen sollte angesichts B390, wenn man nicht auf den vielen Speicher scharf ist. Trotzdem schade, dass Hersteller sich derart auf den KI-Markt einschießen.
Welches große Modell, das 192GB RAM benötigt, ist denn - abseits von Lexikonwissen - wirklich besser als Qwen3.8 27B Q4 oder Qwen3.8-Flash-Next? Die laufen bei mir beide auf der 4090, letzteres mit offloading, aber trotzdem ziemlich flott. Oder mit anderen Worten: wozu braucht man so viel RAM? Ja, Kontext, aber der wird auch ab einer gewissen Größe schwierig, weil sich die Modelle darin "verlaufen" können und nicht das finden, was sie brauchen.
Bei dem Preis 30toks bei Modellen die groß genug um den Speicher zu füllen? Wie soll das wirtschaftlich sein? Die Frage stelle ich mir bei den Geräten jedes Mal, und jedes Mal interessierts keinen
Für 6.599 € ist das Ding für lokale LLMs schlicht zu teuer und mit 273 GB/s Speicherbandbreite für große Modelle auch zu langsam. In den Rechenzentren gibt es aktuell ein Überangebot an GPU-Kapazität, im Endkundenmarkt dagegen nicht. Da miete ich mir für die Dauer des Bedarfs lieber etwas bei RunPod & Co., statt Geld in Hardware zu stecken Aber ich boykottiere auch subjektiv den Hardwaremarkt gerade.