Anzahl & Position der Lüfter: Das kann gut sein, dass deine 5 Gehäuselüfter sogar kontraproduktiv sind. I.d.R. ist das oft besser sich für eine Flussrichtung zu entscheiden. Vorne->Hinten oder Unten->Oben. Würde das evtl. mal mit geschlossenem Deckel und ohne Lüfter oben drin probieren.
Lüfterkurve: Habe selber ein Gigabyte Board und kenne deshalb die Profile von Smart Fan ganz gut. Wenn einem irgendwas nicht passt (zu laut, zu warm), dann muss man die Lüfterkurven eben an den eigenen Geschmack und die verbauten Lüfter anpassen. Habe selber Noctua Industrial 2000RPM und die mit dem Gehäuse mitgelieferten Silent Wings (max 1000RPM) verbaut und die brauchen ganz andere Profile und werden für jeweils andere Zwecke eingesetzt. Die Noctua ziehen Luft durch den Radiator rein ins Gehäuse, die Silent Wings drehen auf Minimaleinstellungen und befördern die Luft sanft wieder raus -> technisch müssten die gar nicht verbaut sein, aber sie waren eben da
Wärmeleitpaste: Mein persönlicher Favorit ist die Thermal Grizzly Kryonaut (nicht Conductonaut oder Hydronaut!). Nicht ganz billig, aber sehr gut. Würde auch nicht zu sehr mit der Paste sparen. Mein Ryzen 1700 wurde zuerst mit Flüssigmetall (ja ich weiß, risikoreich und overkill) betrieben. Das war sau doof, weil Heatspreader selten total flach sind, sondern gern mal konvex oder konkav (ka wie exakt das bei Ryzen im Moment aussieht). Bissle mehr WLP überbrückt diese Unebenheiten besser als sehr sparsam aufgetragene WLP oder gar Flüssigmetall. Hab dann Flüssigmetall runtergekratzt und dick WLP drauf, seitdem hab ich nochmal 4-6 Grad auf der CPU verloren.
Undervolting: Wenn du noch nicht im Bios an den Settings rumgespielt hast, solltest du mal einen schönen Guide ergoogeln, wie man Ryzen Overclockt oder undervoltet. Die Spannung nur um wenige Notches zu senken kann oft die Temperaturen dramatisch verbessern und wenig bis gar keine Leistung kosten. Da verspreche ich jetzt mal lieber nichts - das hängt nämlich auch stark von der Güte deiner CPU ab. Das war übrigens schon immer so und wirds wohl auch bleiben.
Basierend auf der Mischung von Board und CPU führen die automatischen Einstellungen oft zu zu hoher Spannung. Gerade CPU VCore und die LLC Einstellungen machen hier viel aus. Aus eigener Erfahrung kann ich sagen: Die Auto-Settings meines Gigabyte Boards sind sowohl mit Stock Clocks als auch mit OC (nur 3.9Ghz, habe einen Krüppel-Ryzen) jeweils um einiges zu hoch und Feintuning per Hand erlaubt da 5-10 Grad runter zu gehen. Das liegt nicht daran, dass Gigabyte oder AMD scheisse sind, dass sind einfach etwas großzügige Toleranzen damit dein System auf jeden Fall stabil läuft.
Erwartungen: Nicht von Berichten aus dem Internet wild machen lassen! Habe das selber mit einer RX480 am eigenen Leib erfahren. Hatte 3 identische Modelle da. Eine der Karten konnte ihren auf dem Karton angegebenen Takt nicht erreichen, weil sie zuviel Spannung brauchte, heiß wie Schwein wurde und abwechselnd wegen Hitze und Stromverbrauch gedrosselt wurde. Karte Nr. 2 machte so gerade ihre Einstellungen mit und Karte Nr. 3 schaffte noch fast 100Mhz OC und verbrauchte dabei weniger Strom als die erste Karte und die Lüfter hatten noch Luft nach oben.
Du hast halt eine der dicksten CPUs aus AMDs Sortiment. Die wird halt warm. Dazu kommt der hier schon totgequatschte Offset, evtl. kontraproduktive Lüfter, bisher unbekannte und vielleicht zu sparsam aufgetragenen WLP.
Das wichtigste ist aber sowieso: Die Temps sind nicht der Brüller, aber total in Ordnung. Da kann man dran arbeiten, muss man aber nicht