News Intel Arc Pro B60: 8-GPU-„Battlematrix“ zeigt im AI-Test Stärken und Schwächen

[Hardware-Fan]

Da kommt man mit den Preissteigerungen schnell auf 10.000 €. Wer so viel Geld investiert, wird wohl nicht so eine Bastellösung nehmen.

 

[Nagilum99]

Wieso? Modell einmal in den Speicher laden, dann ist es drin. Das sind keine Games wo ständig Texturen geladen werden müssen.

Ich glaube aber kaum, dass der Vergleich des Artikels brauchbar ist:
Eine GPU die alleine 192 GB anbindet kann ungehindert auf alles zugreifen. Wenn ich nun 8 GPUs habe, ist das letztendlich NUMA und jede GPU hat nur einen Bruchteil des Modells im lokalen Speicher.
Das kann nicht pauschal genausogut funtionieren.

 

[ddr5_ecc]

Konnten sie SRIOV und reBar aktivieren?
Sprich liefen alle PCIe 5.0 Einstellungen vernünftig.

 

[AAS]

Ich glaube aber kaum, dass der Vergleich des Artikels brauchbar ist:
Eine GPU die alleine 192 GB anbindet kann ungehindert auf alles zugreifen. Wenn ich nun 8 GPUs habe, ist das letztendlich NUMA und jede GPU hat nur einen Bruchteil des Modells im lokalen Speicher.
Das kann nicht pauschal genausogut funtionieren.

Wie gesagt, für zeitunkritische Dinge, sehe ich einen grossen Einsatzweck.
Für Echtzeit-Chat wie ChatGPT aber weniger.

Ich werde mir so ein Ding für Testzwecke hier in der Klinik sicherlich kaufen.