News Intel Arc Pro B60: 8-GPU-„Battlematrix“ zeigt im AI-Test Stärken und Schwächen

[Hardware-Fan]

Da kommt man mit den Preissteigerungen schnell auf 10.000 €. Wer so viel Geld investiert, wird wohl nicht so eine Bastellösung nehmen.

 

[Nagilum99]

Wieso? Modell einmal in den Speicher laden, dann ist es drin. Das sind keine Games wo ständig Texturen geladen werden müssen.

Ich glaube aber kaum, dass der Vergleich des Artikels brauchbar ist:
Eine GPU die alleine 192 GB anbindet kann ungehindert auf alles zugreifen. Wenn ich nun 8 GPUs habe, ist das letztendlich NUMA und jede GPU hat nur einen Bruchteil des Modells im lokalen Speicher.
Das kann nicht pauschal genausogut funtionieren.

 

[ddr5_ecc]

Konnten sie SRIOV und reBar aktivieren?
Sprich liefen alle PCIe 5.0 Einstellungen vernünftig.

 

[AAS]

Ich glaube aber kaum, dass der Vergleich des Artikels brauchbar ist:
Eine GPU die alleine 192 GB anbindet kann ungehindert auf alles zugreifen. Wenn ich nun 8 GPUs habe, ist das letztendlich NUMA und jede GPU hat nur einen Bruchteil des Modells im lokalen Speicher.
Das kann nicht pauschal genausogut funtionieren.

Wie gesagt, für zeitunkritische Dinge, sehe ich einen grossen Einsatzweck.
Für Echtzeit-Chat wie ChatGPT aber weniger.

Ich werde mir so ein Ding für Testzwecke hier in der Klinik sicherlich kaufen.

 

[Drakrochma]

Ich habe mir eben mal zwei b60 bestellt. Mal schauen was die so abliefern. Und mal schauen inwieweit sie vom Unterbau her abhängig sind. Ich werde sie einmal auf einem x299 System testen und einmal auf einem am5 mit einem weißen 7900.
Ich hoffe ja auf reichlich Leistung. Da will ein großes Code seaker Modell gefüttert werden und eine ordentliche Portionen Bildgenerierung steht auch an. Ich werde wohl proxmox als Unterbau verwenden und dann jeweils eine VM für beide Anwendungsgebiete.

Hat zufälligerweise jemand von euch Erfahrung auf diesem Gebiet?

Falls ja habt ihr die Karten nativ mit den Intel Treibern laufen oder über Vulkan?