AMD Gorgon Halo im Test: Benchmarks in AI, Anwendungen und Spielen

 2/3
Volker Rißka
17 Kommentare

AI-Leistung

Die AI-Leistung steht bei dem Mini-PC an erster Stelle. Die in Gorgon Halo integrierte NPU mit 55 TOPS interessiert Käufer in dieser Geräteklasse aber nicht. Denn LLMs laufen auf der GPU ab.

LLM-Benchmarks vs. Nvidia RTX Spark und Apple M5 Max

Um zu zeigen, wie schnell die Plattform in diesen Szenarien (KI-Chatbots, KI-Agenten) ist, haben wir das System durch die gleichen llama.cpp-Benchmarks gejagt wie zuletzt Apple MacBook Pro und RTX Spark. Auf Gorgon Halo kam sowohl die ROCm- als auch die Vulkan-Variante von llama.cpp zum Einsatz. Und es kamen neue LLMs dazu – darunter auch Qwen3 235B A22B (Q4_K_M), das 137 GB GPU-Speicher belegt und im Vergleich daher nur auf dem GMKtec EVO-X5 pro lief:

Qwen3 235B A22B (Q4_K_M) belegt 137 von 176 GB vom maximal verfügbaren GPU-Speicher
Qwen3 235B A22B (Q4_K_M) belegt 137 von 176 GB vom maximal verfügbaren GPU-Speicher

Dass AMD und die Partner im Gorgon-Halo-Kontext nur noch von übergroßen Modellen (235B, 300B oder gar 320B) am besten, hat aber nicht nur als Hintergrund, dass andere Systeme hierzu gar nicht in der Lage sind.

Ein anderer ist: In LLMs, die auch Hardware von Nvidia oder Apple stemmen kann, steht die Plattform nicht in der ersten Reihe: Bei Token-Generation (Ausgabe einer Antwort aus dem LLM) wird so nicht einmal ein RTX Spark geschlagen, ein aktuelles MacBook Pro liegt sehr deutlich voraus.

LLM-Performance
LLM-Performance – Token Generation (128 Tokens)
  • Qwen2.5 Coder 7B (Q4_K_M):
    • GeForce RTX 4070 Ti Super Desktop
      48 GB RAM, 16 GB VRAM
      124,8
    • MacBook Pro OLED (M5 Max) – MLX
      128 GB Unified Memory
      118,5
    • MacBook Pro OLED (M5 Max)
      128 GB Unified Memory
      106,8
    • GeForce RTX 5070 Ti Laptop GPU
      32 GB RAM, 12 GB VRAM
      102,3
    • GeForce RTX 5070 Laptop GPU
      64 GB RAM, 8 GB VRAM
      76,2
    • Nvidia RTX Spark (N1X) – NB
      64 GB RAM (dv. 48 GB VRAM)
      57,6
    • GeForce RTX 4070 Laptop GPU
      32 GB RAM, 8 GB VRAM
      53,5
    • Gorgon Halo – Vulkan
      192 GB Unified Memory
      50,7
    • Gorgon Halo – ROCm 10.0
      192 GB Unified Memory
      44,2
    • Mac mini (M6) – MLX
      32 GB Unified Memory
      35,1
    • Mac mini (M6)
      32 GB Unified Memory
      33,8
  • Qwen3 8B (Q4_K_M):
    • GeForce RTX 4070 Ti Super Desktop
      48 GB RAM, 16 GB VRAM
      115,5
    • MacBook Pro OLED (M5 Max) – MLX
      128 GB Unified Memory
      105,1
    • MacBook Pro OLED (M5 Max)
      128 GB Unified Memory
      98,8
    • GeForce RTX 5070 Ti Laptop GPU
      32 GB RAM, 12 GB VRAM
      95,0
    • GeForce RTX 5070 Laptop GPU
      64 GB RAM, 8 GB VRAM
      70,9
    • Nvidia RTX Spark (N1X) – NB
      64 GB RAM (dv. 48 GB VRAM)
      51,5
    • GeForce RTX 4070 Laptop GPU
      32 GB RAM, 8 GB VRAM
      49,6
    • Gorgon Halo – Vulkan
      192 GB Unified Memory
      46,7
    • Gorgon Halo – ROCm 10.0
      192 GB Unified Memory
      40,7
    • Mac mini (M6) – MLX
      32 GB Unified Memory
      32,5
    • Mac mini (M6)
      32 GB Unified Memory
      31,5
  • Qwen3 14B (Q4_K_M):
    • GeForce RTX 4070 Ti Super Desktop
      48 GB RAM, 16 GB VRAM
      66,3
    • MacBook Pro OLED (M5 Max) – MLX
      128 GB Unified Memory
      60,1
    • MacBook Pro OLED (M5 Max)
      128 GB Unified Memory
      57,6
    • GeForce RTX 5070 Ti Laptop GPU
      32 GB RAM, 12 GB VRAM
      53,6
    • Nvidia RTX Spark (N1X) – NB
      64 GB RAM (dv. 48 GB VRAM)
      29,1
    • Gorgon Halo – Vulkan
      192 GB Unified Memory
      26,4
    • Gorgon Halo – ROCm 10.0
      192 GB Unified Memory
      24,5
    • Mac mini (M6) – MLX
      32 GB Unified Memory
      17,8
    • Mac mini (M6)
      32 GB Unified Memory
      17,1
    • GeForce RTX 4070 Laptop GPU
      32 GB RAM, 8 GB VRAM
      12,0
      nicht genug VRAM
    • GeForce RTX 5070 Laptop GPU
      64 GB RAM, 8 GB VRAM
      4,3
      nicht genug VRAM
  • Qwen3.8 27B (Q4_K_M):
    • GeForce RTX 4070 Ti Super Desktop
      48 GB RAM, 16 GB VRAM
      34,6
    • MacBook Pro OLED (M5 Max) – MLX
      128 GB Unified Memory
      33,3
    • MacBook Pro OLED (M5 Max)
      128 GB Unified Memory
      29,4
    • Nvidia RTX Spark (N1X) – NB
      64 GB RAM (dv. 48 GB VRAM)
      16,2
    • Gorgon Halo – Vulkan
      192 GB Unified Memory
      13,9
    • Gorgon Halo – ROCm 10.0
      192 GB Unified Memory
      13,4
    • Mac mini (M6) – MLX
      32 GB Unified Memory
      10,0
    • Mac mini (M6)
      32 GB Unified Memory
      9,2
    • GeForce RTX 5070 Ti Laptop GPU
      32 GB RAM, 12 GB VRAM
      2,0
      nicht genug VRAM
    • GeForce RTX 4070 Laptop GPU
      32 GB RAM, 8 GB VRAM
      1,5
      nicht genug VRAM
    • GeForce RTX 5070 Laptop GPU
      64 GB RAM, 8 GB VRAM
      1,0
      nicht genug VRAM
  • Gemma 4 31B (Q8_K_XL):
    • MacBook Pro OLED (M5 Max) – MLX
      128 GB Unified Memory
      26,2
    • MacBook Pro OLED (M5 Max)
      128 GB Unified Memory
      15,3
    • Nvidia RTX Spark (N1X) – NB
      64 GB RAM (dv. 48 GB VRAM)
      7,7
    • Gorgon Halo – Vulkan
      192 GB Unified Memory
      6,6
    • Gorgon Halo – ROCm 10.0
      192 GB Unified Memory
      6,3
    • GeForce RTX 4070 Ti Super Desktop
      48 GB RAM, 16 GB VRAM
      1,2
      nicht genug VRAM
    • GeForce RTX 5070 Laptop GPU
      64 GB RAM, 8 GB VRAM
      0,4
      nicht genug VRAM
    • GeForce RTX 5070 Ti Laptop GPU
      32 GB RAM, 12 GB VRAM
      0,0
      nicht genug VRAM + RAM
    • GeForce RTX 4070 Laptop GPU
      32 GB RAM, 8 GB VRAM
      0,0
      nicht genug VRAM + RAM
    • Mac mini (M6)
      32 GB Unified Memory
      0,0
      nicht genug Speicher
    • Mac mini (M6) – MLX
      32 GB Unified Memory
      0,0
      nicht genug Speicher
  • GPT OSS 120B (MXFP4):
    • MacBook Pro OLED (M5 Max)
      128 GB Unified Memory
      109,4
    • MacBook Pro OLED (M5 Max) – MLX
      128 GB Unified Memory
      108,8
    • Gorgon Halo – Vulkan
      192 GB Unified Memory
      56,6
    • Gorgon Halo – ROCm 10.0
      192 GB Unified Memory
      48,2
    • Nvidia RTX Spark (N1X) – NB
      64 GB RAM (dv. 48 GB VRAM)
      nicht genug Speicher
    • GeForce RTX 5070 Ti Laptop GPU
      32 GB RAM, 12 GB VRAM
      nicht genug Speicher
    • GeForce RTX 5070 Laptop GPU
      64 GB RAM, 8 GB VRAM
      nicht genug Speicher
    • GeForce RTX 4070 Laptop GPU
      32 GB RAM, 8 GB VRAM
      nicht genug Speicher
    • GeForce RTX 4070 Ti Super Desktop
      48 GB RAM, 16 GB VRAM
      nicht genug Speicher
    • Mac mini (M6)
      32 GB Unified Memory
      nicht genug Speicher
    • Mac mini (M6) – MLX
      32 GB Unified Memory
      nicht genug Speicher
  • Qwen3.8 Flash Next (UD_Q3_K_XL):
    • MacBook Pro OLED (M5 Max)
      128 GB Unified Memory
      48,8
    • Gorgon Halo – Vulkan
      192 GB Unified Memory
      30,2
    • Gorgon Halo – ROCm 10.0
      192 GB Unified Memory
      28,0
    • Nvidia RTX Spark (N1X) – NB
      64 GB RAM (dv. 48 GB VRAM)
      nicht genug Speicher
    • GeForce RTX 5070 Ti Laptop GPU
      32 GB RAM, 12 GB VRAM
      nicht genug Speicher
    • GeForce RTX 5070 Laptop GPU
      64 GB RAM, 8 GB VRAM
      nicht genug Speicher
    • GeForce RTX 4070 Laptop GPU
      32 GB RAM, 8 GB VRAM
      nicht genug Speicher
    • GeForce RTX 4070 Ti Super Desktop
      48 GB RAM, 16 GB VRAM
      nicht genug Speicher
    • Mac mini (M6)
      32 GB Unified Memory
      nicht genug Speicher
    • Mac mini (M6) – MLX
      32 GB Unified Memory
      nicht genug Speicher
  • Qwen3.8 Flash Next (Q4_K_M):
    • Gorgon Halo – Vulkan
      192 GB Unified Memory
      33,4
    • Gorgon Halo – ROCm 10.0
      192 GB Unified Memory
      30,6
    • Nvidia RTX Spark (N1X) – NB
      64 GB RAM (dv. 48 GB VRAM)
      nicht genug Speicher
    • GeForce RTX 5070 Ti Laptop GPU
      32 GB RAM, 12 GB VRAM
      nicht genug Speicher
    • GeForce RTX 5070 Laptop GPU
      64 GB RAM, 8 GB VRAM
      nicht genug Speicher
    • GeForce RTX 4070 Laptop GPU
      32 GB RAM, 8 GB VRAM
      nicht genug Speicher
    • GeForce RTX 4070 Ti Super Desktop
      48 GB RAM, 16 GB VRAM
      nicht genug Speicher
    • Mac mini (M6)
      32 GB Unified Memory
      nicht genug Speicher
    • Mac mini (M6) – MLX
      32 GB Unified Memory
      nicht genug Speicher
    • MacBook Pro OLED (M5 Max)
      128 GB Unified Memory
      nicht genug Speicher
  • Qwen3 235B A22B (Q4_K_M):
    • Gorgon Halo – Vulkan
      192 GB Unified Memory
      15,7
    • Nvidia RTX Spark (N1X) – NB
      64 GB RAM (dv. 48 GB VRAM)
      nicht genug Speicher
    • GeForce RTX 5070 Ti Laptop GPU
      32 GB RAM, 12 GB VRAM
      nicht genug Speicher
    • GeForce RTX 5070 Laptop GPU
      64 GB RAM, 8 GB VRAM
      nicht genug Speicher
    • GeForce RTX 4070 Laptop GPU
      32 GB RAM, 8 GB VRAM
      nicht genug Speicher
    • GeForce RTX 4070 Ti Super Desktop
      48 GB RAM, 16 GB VRAM
      nicht genug Speicher
    • Mac mini (M6)
      32 GB Unified Memory
      nicht genug Speicher
    • Mac mini (M6) – MLX
      32 GB Unified Memory
      nicht genug Speicher
    • MacBook Pro OLED (M5 Max)
      128 GB Unified Memory
      nicht genug Speicher
    • Gorgon Halo – ROCm 10.0
      192 GB Unified Memory
      Memory Allocation schlägt fehl
Einheit: Tokens Per Second

Qwen3 235B A22B (Q4_K_M) konnte Gorgon Halo im Übrigen nur mit llama.cpp für Vulkan stemmen, mit ROCm 10 schlug die Speicherallokation fehl – auch in der neuesten Version.

Und die NPU? Ist auch noch da!

Für die NPU-Leistung interessieren sich zweieinhalb Jahre nach dem Auftakt mit Snapdragon Elite auf Copilot+-PCs kaum noch Nutzer, Gorgon Halo bietet sie aber mit 55 TOPS. Und so schnell fällt sie aus:

Diagramme
Procyon AI Computer Vision 2.0
  • NPU, INT8:
    • Apple Mac mini (2026)
      M6 (12C/12C), 32 GB LPDDR5X
      1.962
      CoreML
    • Asus NUC 16 Pro
      Core Ultra X7 358H, 32 GB LPDDR5X
      1.907
      OpenVINO
    • Apple MacBook Pro 16" (2026) OLED
      M5 Max (18C/40C), 128 GB LPDDR5X
      1.613
      CoreML
    • GMKtec EVO-X5 Pro
      Ryzen AI Max+ Pro 495, 192 GB LPDDR5X
      1.256
      Windows ML (weil schneller als Ryzen AI)
    • GMKtec EVO-X1 Pro
      Ryzen AI 9 HX 470, 64 GB LPDDR5X
      1.081
      Ryzen AI
    • Asus ProArt P16
      RTX Spark (20C), 64 GB LPDDR5X
      NPU nicht unterstützt
    • Razer Blade 14 (2023)
      Ryzen 9 8945HS, RTX 4070 Laptop GPU
      NPU nicht unterstützt
  • GPU, FP16:
    • Razer Blade 14 (2023)
      Ryzen 9 8945HS, RTX 4070 Laptop GPU
      4.040
      TensorRT
    • Asus ProArt P16
      RTX Spark (20C), 64 GB LPDDR5X
      3.941
      TensorRT
    • Apple MacBook Pro 16" (2026) OLED
      M5 Max (18C/40C), 128 GB LPDDR5X
      3.257
      CoreML
    • Asus NUC 16 Pro
      Core Ultra X7 358H, 32 GB LPDDR5X
      1.529
      OpenVINO
    • GMKtec EVO-X5 Pro
      Ryzen AI Max+ Pro 495, 192 GB LPDDR5X
      1.219
      WinML
    • Apple Mac mini (2026)
      M6 (12C/12C), 32 GB LPDDR5X
      1.076
      CoreML
    • GMKtec EVO-X1 Pro
      Ryzen AI 9 HX 470, 64 GB LPDDR5X
      365
      WinML
Einheit: Punkte

Klassische Anwendungsleistung

Kann das System auch normale Anwendungen bedienen? Natürlich, wobei es hier nicht anders aussieht als beim Vorgänger Strix Halo – es sei denn, die 192 zu 128 GB machen erneut einen Unterschied. In unserem Benchmark-Parcours machen sie es nicht.

Da der AMD Ryzen AI Max+ 395 im neuen Testparcours noch nicht enthalten ist, wurde der neue AMD Ryzen AI Max+ 495 auch noch einmal im alten Parcours getestet. Und das zeigt das Naheliegende: im Durchschnitt sind beide Generationen bei gleicher TDP in etwa gleich schnell.

Diagramme
Cinebench 2024 Multi-Core
    • Beelink GTR9 Pro – „Turbo“
      Max+ 395 (176W), LPDDR5X-8000
      1.914
    • Beelink GTR9 Pro – Standard
      Max+ 395 (120W), LPDDR5X-8000
      1.860
    • GMKtec EVO-X5 Pro
      Max+ 495 (120W), LPDDR5X-8533
      1.839
    • Lenovo ThinkCentre – Lenovo-Profil
      U5 245 (65/80W), DDR5-5600
      1.301
    • Asus NUC 16 Pro – Standard
      X7 358H (65/80W), LPDDR5X-8533
      1.239
    • GMKtec EVO-X1 Pro
      RAI 9 HX 470 (55W), 64 GB LPDDR5X
      1.196
    • GMKtec EVO-T2S – Performance
      X7 358H (54/60W), LPDDR5X-8533
      1.178
    • Beelink GTi15 – Performance
      U9 285H (65/65W), DDR5-5600
      1.125
    • Geekom A9 Max – Silent
      RAI 9 HX 370 (45/60W), DDR5-5600
      1.116
    • Sapphire Edge AI – Performance
      RAI 7 350 (45/45W), DDR5-5600
      938
    • Asus QN10 – Standard
      X2E-88-100, LPDDR5X-8533
      905
Einheit: Punkte

Der kleine Sondertest zu den drei Leistungsprofilen des GMKtec EVO-X5 Pro mit 495 gegenüber dem Vorgänger 395 macht noch einmal ganz klar, dass das festgelegte Powerlimit dafür sorgt, dass beide Chips exakt gleich schnell sind. Leider lassen sich beim EVO-X5 Pro keine weiteren Leistungsprofile auswählen. Weil die brauchbarsten Profile aber ohnehin die mit 85 und 120 Watt sind, spricht das Ergebnis für sich.

Power/CB24-Skalierung
04008001.2001.6002.000Punkte 404550556065707580859095100105110115120125130135140145150155160165170Watt (W)

Im neuen Notebook-Testparcours sieht das dann ein wenig anders aus. Reguläre Mini-PCs schickt das System problemlos auf die Bank, es muss schon ein Schwergewicht der gleichen Klasse wie ein moderner Apple M5 Max kommen, um Gorgon Halo in die Schranken zu weisen.

Diagramme
7-Zip 26.00
    • Apple MacBook Pro 16" (2026) OLED
      M5 Max (18C/40C), 128 GB LPDDR5X
      189.395
    • GMKtec EVO-X5 Pro
      Ryzen AI Max+ Pro 495, 192 GB LPDDR5X
      183.068
    • Asus ProArt P16
      RTX Spark (20C), 64 GB LPDDR5X
      155.774
    • GMKtec EVO-X1 Pro
      Ryzen AI 9 HX 470, 64 GB LPDDR5X
      121.160
    • Apple Mac mini (2026)
      M6 (12C/12C), 32 GB LPDDR5X
      112.789
    • Razer Blade 14 (2023)
      Ryzen 9 8945HS, RTX 4070 Laptop GPU
      107.206
    • Asus NUC 16 Pro
      Core Ultra X7 358H, 32 GB LPDDR5X
      106.625
Einheit: MIPS

Gaming-Leistung

Mit AMDs großen APUs mit 40-CU-iGPU (RDNA 3.5) kann auch ein Spiel gewagt werden. Der Vollausbau gepaart mit zügigem LPDDR5X als Arbeitsspeicher steht vor allem ohne Raytracing gut da. Bei hohen Auflösungen und mit Raytracing geht die iGPU dann aber auch im 6.599 Euro teuren PC gnadenlos in die Knie.

Diagramme
Cyberpunk 2077 – UHD, RT Mittel, Quality
    • Apple MacBook Pro 16" (2026) OLED
      M5 Max (18C/40C), 128 GB LPDDR5X
      25,8
    • Asus ProArt P16
      RTX Spark (20C), 64 GB LPDDR5X
      21,8
    • Razer Blade 14 (2023)
      Ryzen 9 8945HS, RTX 4070 Laptop
      20,1
    • GMKtec EVO-X5 Pro
      Ryzen AI Max+ Pro 495, 192 GB LPDDR5X
      18,1
    • Asus ROG GR70
      Ryzen 9 9955HX3D, RTX 5070 Laptop
      15,8
    • Asus NUC 16 Pro
      Core Ultra X7 358H, 32 GB LPDDR5X
      13,9
    • Apple Mac mini (2026)
      M6 (12C/12C), 32 GB LPDDR5X
      9,0
    • GMKtec EVO-X1 Pro
      Ryzen AI 9 HX 470, 64 GB LPDDR5X
      2,6
Einheit: Bilder pro Sekunde (FPS)

SSD-Leistung

GMKtec verbaut im Testmuster eine 2 TByte große PCIe-4.0-SSD von Micron – für 300 Euro Aufpreis gibt es sogar 4 TByte. Das geht heutzutage preislich sogar in Ordnung. Mehr als PCIe 4.0 unterstützt AMDs Plattform für SSDs ohnehin nicht und braucht es realistisch im Alltag auch nicht.

CrystalDiskMark 9.0.2
CrystalDiskMark 9.0.2 – Read RND4K Q1T1
    • GMKtec EVO-X1 Pro
      Ryzen AI 9 HX 470, 64 GB LPDDR5X
      86,46
    • Razer Blade 14 (2023)
      Ryzen 9 8945HS, RTX 4070 Laptop GPU
      82,42
    • GMKtec EVO-X5 Pro
      Ryzen AI Max+ Pro 495, 192 GB LPDDR5X
      75,90
    • Apple MacBook Pro 16" (2026) OLED
      M5 Max (18C/40C), 128 GB LPDDR5X
      71,51
      AmorphousDiskMark 4.0.1
    • Asus NUC 16 Pro
      Core Ultra X7 358H, 32 GB LPDDR5X
      70,88
    • Apple Mac mini (2026)
      M6 (12C/12C), 32 GB LPDDR5X
      62,55
      AmorphousDiskMark 4.0.1
    • Asus ProArt P16
      RTX Spark (20C), 64 GB LPDDR5X
      48,10
Einheit: Megabyte pro Sekunde (MB/s)
Unsere Community-Benchmarks: Mach mit!
- MrH OpenCL Bench (neu!)
- Blender Benchmark (neu!)
- 3DMark Steel Nomad + X
- Cinebench 2026
- Apple M1 – M6
Als bevorzugte Quelle auf Google hinzufügen
Dir gefällt ComputerBase? Lasse dir unsere neuesten Artikel in der Google-Suche ganz oben anzeigen!