Test AMD Gorgon Halo im Test: 192 GB stemmen im GMKtec EVO-X5 Pro riesige LLMs

Volker

Ost 1
Teammitglied
Registriert
Juni 2001
Beiträge
20.544
Gorgon Halo bietet bis zu 192 GB Unified Memory für lokale KI, Nvidia RTX Spark bietet so viel Speicher nicht. Wir haben uns anhand des GMKtec EVO-X5 Pro mit AMD Ryzen AI Max+ PRO 495 im Test angesehen, was mit 192 GB Speicher möglich ist und wie sich das System damit im Vergleich zur Konkurrenz schlägt.

Zum Test: AMD Gorgon Halo im Test: 192 GB stemmen im GMKtec EVO-X5 Pro riesige LLMs
 
  • Gefällt mir
Reaktionen: BrollyLSSJ, Teckler, Holzinternet und 2 andere
Hey Sam, schau mal. Dort wird der ganze RAM Verbaut.
 
  • Gefällt mir
Reaktionen: Teckler, potatoreactor, thornhill und 6 andere
Habe selbst eine Maschine mit Strix Halo und 128 GB RAM, so dass qualitativ gute Modelle lokal laufen. Habe damals aber knapp 3000€ mit 5 Jahren Support (HP) bezahlt, > 6000€ ohne richtigen Support ist wahnsinnig.
 
  • Gefällt mir
Reaktionen: aspro, Bigfoot29, darth_mickrig und 2 andere
Beim Preischild sinkt das Interesse gegen null sollen sie das zeug Sam schicken der hat es nötig
 
  • Gefällt mir
Reaktionen: eMiu
Austronaut schrieb:
Ich :)
Habe hier schon 2 Strix Halo Notebooks mit je 64GB und bin mir echt am überlegen noch grössere Maschine für 2-3 Mitarbeiter zu holen.


@CB Redaktion
Hey langsam werden die AI Tests mit den Models bei euch echt gut!
Danke für die Bandbreite!
 
  • Gefällt mir
Reaktionen: Sherman789, Dgini, Bigfoot29 und 2 andere
Danke für das Review :)

Oder auch: Packt ihn, er hat LPDDR5X! :grr:

Volker schrieb:
Gorgon Halo
128 GB Unified Memory
Ist die Beschriftung bei den AI Benchmarks korrekt? Das Testgerät hat doch 192 GB, oder?
 
  • Gefällt mir
Reaktionen: Bigfoot29 und Volker
Oh cool 😁

Ach mist, hab den Preis gesehen.

Da könnt ihr ja nix für, aber dass das Thema PC Hardware Test sich mal wie im Auto Bereich der Test von einem Porsche anfühlt, hätte ich ja nicht gedacht.
 
  • Gefällt mir
Reaktionen: Schumey und Rickmer
Der trölfndreißigste LLM-Mini-PC. Gähn

USB 4v2 ist interessant als stabile Alternative zu Oculink. Das sieht man noch viel zu selten (genau wie entsprechende externe Gehäuse).

Leider gibt es nur die 192GB Variante. Damit ist das Teil für alle anderen Einsatzzwecke uninteressant weil zu teuer. Ne 48GB Version wäre ein echt krasser Allround-Mini-PC mit der Option in Zukunft flott ne eGPU anzubinden. Aber gut. Ist halt die Frage ob man sich den RDNA 3.5-Kram noch antuen sollte angesichts B390, wenn man nicht auf den vielen Speicher scharf ist. Trotzdem schade, dass Hersteller sich derart auf den KI-Markt einschießen.
 
Rickmer schrieb:
Ist die Beschriftung bei den AI Benchmarks korrekt? Das Testgerät hat doch 192 GB, oder?

Ja natürlich hat er die, fixed.
 
  • Gefällt mir
Reaktionen: Alphanerd, Jan und Rickmer
Welches große Modell, das 192GB RAM benötigt, ist denn - abseits von Lexikonwissen - wirklich besser als Qwen3.8 27B Q4 oder Qwen3.8-Flash-Next? Die laufen bei mir beide auf der 4090, letzteres mit offloading, aber trotzdem ziemlich flott. Oder mit anderen Worten: wozu braucht man so viel RAM? Ja, Kontext, aber der wird auch ab einer gewissen Größe schwierig, weil sich die Modelle darin "verlaufen" können und nicht das finden, was sie brauchen.
 
  • Gefällt mir
Reaktionen: H6-Mobs und Jan
Bei dem Preis 30toks bei Modellen die groß genug um den Speicher zu füllen? Wie soll das wirtschaftlich sein? Die Frage stelle ich mir bei den Geräten jedes Mal, und jedes Mal interessierts keinen :)
 
Mich hätte der Abstand zum 395 interessiert.
 
Für 6.599 € ist das Ding für lokale LLMs schlicht zu teuer und mit 273 GB/s Speicherbandbreite für große Modelle auch zu langsam. In den Rechenzentren gibt es aktuell ein Überangebot an GPU-Kapazität, im Endkundenmarkt dagegen nicht. Da miete ich mir für die Dauer des Bedarfs lieber etwas bei RunPod & Co., statt Geld in Hardware zu stecken :) Aber ich boykottiere auch subjektiv den Hardwaremarkt gerade.
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: feris
Rückmeldung zu den KI-Tests: Gute Modellauswahl! :)
 
  • Gefällt mir
Reaktionen: thornhill, Jan und Volker
Sapphire Forum
Zurück
Oben