News AMDs Software-Stack: ROCm 7 soll es bei der Software endlich richten

[Novasun]

Hab gestern erst mit einem IT Kollegen drüber gesprochen und er meinte, dass Entwickler eben wegen jenen "Updates" echt die Krise mit rocM bekommen. Zuviel Wandel...

Im Moment muss AMD das aber machen.
Das wird sich mit der Zeit einpendeln. Im moment denke ich die müssen erst mal den Rückstand aufholen. Und da muss man Gas geben...

 

[Piktogramm]

Das ist ja eigentlich der richtige Weg und sollte das Problem der untereinander nicht kompatiblen Versionen lösen.

Das wird halt spannend. ROCm unterstützt erst seit 6.4 (April.2025) SPIR-V als Abstraktion und hat vorher direkt Code für spezifische Architekturen bzw. GPUs erzeugt. Dabei hat sich AMD aber auch noch nicht komplett von spezifischen Targets verabschiedet. Da wird es spannend, wie sich das entwickelt.

Was Mesa angeht wird AMD da nicht drum herum kommen - es sei denn man lässt den Linux support komplett fallen aber das wäre ziemlicher Blödsinn.

Selbe Geschichte, wird ROCm SPIR-V nutzen oder weiter spezifische Targets bevorzugen?!

 

[fef_ on_berg]

Hoffentlich zieht auch andere Software nach. Eine ernstzunehmende Konkurrenz gegenüber CUDA währe schon sehr schön...

 

[ETI1120]

ROCm 7 ist eher ROCm 0.07, da ist man Beta-Tester mit entsprechendem Frust.

Das Feedback zu ROCm ist im letzten Jahr erheblich besser geworden.

Und ROCm sollte auch nicht nur auf jedem AMD-Gerät, sondern auch Nvidia und Intel gehen.

Die Idee zu ROCm und HIP war, sich möglichst nah an CUDA anzulehnen, so dass die Portierung von CUDA Code sehr einfach ist. Außerdem gab es von Anfang an die Möglichkeit HIP-Code auch für Nvidia GPUs zu kompilieren.

Die Idee war Programmierer zu bewegen in HIP zu coden und dann Code für AMD und Nvidia GPUs zu kompilieren.

Damit hätte AMD einen Key-Selling-Point gegenüber CUDA und oneAPI.

Es hat bisher eigentlich niemanden interessiert, dass HIP für Nvidia GPUs kompiliert werden kann.

AMD sollte die treibende Kraft hinter OpenCL/SYCL und Vulkan sein. Sind sie nicht und das ist eine riesige vertane Chance.

OpenCL hat keine Chance da es auf Nvidia GPUs nie mit der performance von CUDA mithalten kann. Nvidia entwickelt CUDA und die GPU-Hardware Hand-In-Hand, so dass am Ende eine sehr optimale Software herauskommt.

 

[Bigfoot29]

ROCm läuft schon länger auch auf nicht direkt unterstützten Grafikkarten. ich hab die aktuelle Version (Arch Linux) auf einem 370HX (375HX? Grad nicht sicher) am Laufen. Allerdings musste eine ähnliche, unterstützte Graka erzwungen werden. Ollama und Co laufen problemlos (seit Kernel 6.14. vorher war die APU dort nicht ausreichend unterstützt).

Regards, Bigfoot29

Update: In dem Post hier sind auch Beispiele, wie das für eine HX370 aussehen müsste: https://www.computerbase.de/forum/t...gen-fuer-rx-9000.2235070/page-2#post-30454548

 

[tomgit]

@Bigfoot29 Was ist denn so die Performance mit Ollama?

 

[Unti]

Und ROCm sollte auch nicht nur auf jedem AMD-Gerät, sondern auch Nvidia und Intel gehen. Damit hätte AMD einen Key-Selling-Point gegenüber CUDA und oneAPI.

Damit macht man aber kein Geld, sorry, genau das ist der Grund weshalb NV mit CUDA und im KI Zeitalter so viel Kohle scheffelt, weil die Software ausschließlich auf deren Hardware läuft. Wir leben in keiner Märchenwelt. Ich hoffe AMD würde sowas nie in Erwägung ziehen.

 

[ETI1120]

@Unti AMD hat es von Anfang an in Erwägung gezogen. ROCm ist von der Struktur und die Syntax von HIP ist ganz eng an CUDA angelegt. HIP kann Code für Nvidia-Karten generieren.

HIP is a C++ Runtime API and Kernel Language that allows developers to create portable applications for AMD and NVIDIA GPUs from single source code.

Bei ROCm 7.0 wird AMD einige Punkte ändern, bei denen sich ROCm von Cuda unterschieden hat.