PC Konfiguration zum Trainieren von Neuronalen Netzen ~1500-1800€ Budget

[Fabian992]

Guten Tag/Abend zusammen,

1. Möchtest du mit dem PC spielen?

• Nein

2. Möchtest du den PC für Bild-/Musik-/Videobearbeitung oder CAD nutzen? Als Hobby oder bist du Profi? Welche Software wirst du nutzen?

Für die Arbeit: trainieren von Neuronalen Netzen (voraussichtliche Größe der Bilder 850x850 Pixel, RGB und es werden mehrere Hundert/Tausend Bilder). Wie groß das ganze am Ende wird, kann ich leider noch nicht vorhersagen, ggf. muss dieser Aufbau dann doch um eine 2. GPU erweitert werden (ggf. dann auch mit einem neuen Netzteil).
Weiteres:
-> Ich verwende TensorFlow, PyTorch, CV2, Numpy etc. und GPU Einbindung über CUDA (vermutlich wird es ein angepasstes VGG11, VGG16 oder ein ähnliches selbst konfiguriertes Netz werden...).
-> Mit dem einbinden von AMD GPUs kenne ich mich leider nicht aus und habe immer wieder von Kompatibilitäts-/Performance Einschränkungen gehört, aber wie gesagt, ich kenne mich damit nicht wirklich aus. Falls also einer kommt und sagt nimm auf jeden Fall AMD (Preis/Leistung ist nun mal super) und die Einbindung ist ohne Einschränkungen leicht umzusetzen bin ich auch dafür offen.


3. Hast du besondere Anforderungen oder Wünsche (Overclocking, ein besonders leiser PC, RGB-Beleuchtung, …)?

Möglichst leise -> Büro mit mehreren Mitarbeitern
RGB unerwünscht, wäre aber im Zweifel kein K.O. Kriterium
Overclocking eher nein

4. Wieviele und welche Monitore möchtest du nutzen? Anzahl, Modell, Auflösung, Bildwiederholfrequenz (Hertz)? Wird FreeSync (AMD) oder G-Sync (Nvidia) unterstützt? (Bitte mit Link zum Hersteller oder Preisvergleich!)

2 Normale "0815" Arbeitsmonitore...nichts besonders (genaueres kann ich nicht sagen, wird aber nicht zum Zocken benutzt...)


5. Hast du noch einen alten PC, dessen Komponenten teilweise weitergenutzt werden könnten? (Bitte mit Links zu den Spezifikationen beim Hersteller oder Preisvergleich!)

• Alles neu

6. Wie viel Geld bist du bereit auszugeben?
1500-1800€

7. Wann möchtest du den PC kaufen? Möglichst sofort oder kannst du noch ein paar Wochen/Monate warten?
Sofort

8. Möchtest du den PC selbst zusammenbauen oder zusammenbauen lassen (vom Shop oder von freiwilligen Helfern)?
Zusammenbauen lassen, ggf. über EDVler/ITler auf der Arbeit

9. Eigene Überlegungen:

• Prozessor (CPU): AMD Ryzen 9 5900X 12x 3.70GHz So.AM4 WOF
• Arbeitsspeicher (RAM): 32GB G.Skill RipJaws V schwarz DDR4-4000 DIMM CL18 Dual Kit
• Mainboard: MSI X570-A PRO AMD X570 So.AM4 Dual Channel DDR4 ATX Retail
• Netzteil: 750 Watt be quiet! Straight Power 11 Modular 80+ Platinum
• Gehäuse: be quiet! Silent Base 802 Big Tower ohne Netzteil schwarz
• Grafikkarte: 12GB MSI GeForce RTX 3060 Ventus 3X OC (Retail)
• HDD / SSD: 1TB Samsung 970 Evo Plus M.2 2280 PCIe 3.0 x4 NVMe 1.3 3D-NAND TLC (MZ-V7S1T0BW)
• Tower/CPU Kühler: Noctua NH-D15 SE AM4 Tower Kühler
• Gehäuse Lüfter: 3x be quiet! Silent Wings 3 PWM 140x140x25mm 1000 U/min 15.5 dB(A) schwarz

https://www.mindfactory.de/shopping...221125383788ccfba37a0c9af582ccdf6fd7b1a65ea80

(Mit einem 128GB USB Stick den ich zusätzlich benötige, kann ignoriert werden, sowie Montage- und Funktionstestservice, damit ich im Zweifel nicht selbst Schuld bin, ggf. kann das aber auch unser EDVler/ITler machen, mit allem => ca. 1842€)

Was sagt ihr zu meiner Konfiguration, ist da irgendetwas über- oder unterdimensioniert, falls notwendig auch in Hinsicht auf eine 2. GPU? Seht Ihr in diesem Preissegment noch Verbesserungspotenzial in jeglicher Hinsicht?

Ich hoffe ich habe alles Notwendige erwähnt, ansonsten einfach Fragen

Schon mal Vorweg, vielen Dank für jede Antwort!


(Edit: Fragebogen nachträglich hinzugefügt, verzeih mir @ghecko )

 

[ghecko]

Ich bin jetzt nicht 100% im Stoff drin, aber das läuft doch nahezu 100% auf der GPU?
In dem Sinne kannst du dir den 12-Kerner deutlich sparen. Dein Budget sollte sich eher auf die GPU konzentrieren, die mir völlig unterdimensioniert scheint. DDR4-4000 ist ebenfalls fehl am Platz.
Auch das Budget passt mit "Arbeit" und "Neuronale Netze trainieren" nicht wirklich zusammen.

//und wo zum Geier ist der Fragebogen?

 

[ferris19]

Ich kenne die Anwendungen auch nicht aber sollte man sich für den Zweck nicht eher an ein Systemhaus wenden? Außerdem wäre glaube ich auch eine Quadro/A2000 GPU für professionelle Arbeiten besser geeignet?

Das was du da zusammengestellt hast ist eher eine Gaming Kiste. Zur Zusammenstellung:
Das Netzteil ist überdimensioniert für die Komponenten. Würde darüberhinaus lieber ein Seasonic Focus GX nehmen. Warum den Big Tower? Da reicht auch was kleineres für die hälfte. Als SSD lieber die KC3000. Der Noctua muss auch nicht zwingend sein, da würde auch ein Fuma 2 rev B reichen. Ram wie bereits gesagt reicht auch 3200er.

 

[Fabian992]

Vielen Dank @ghecko und @ferris19 für die Antworten und verzeiht mir das mit dem Fragebogen...habe ich editiert.

Zunächst habe ich bei den "Briefbeschwerern" (Standard Office PCs...daher muss auch ein neuer her) auf der Arbeit häufig Probleme, auch mit der CPU, gehabt, daher wollte ich da wohl "auf Nummer sicher gehen"...

Ja, es ist richtig NN trainieren läuft in der Theorie nahezu nur über GPU. Soviel ich weiß, benötigt man besonders viel VRAM, CUDA Cores, Speicherbandbreite usw...was ich da am Ende wirklich brauche? KA...ich befinde mich noch in der Lernphase, daher auch die Frage mit einem Vorschlag hier im Forum.

Das Budget ist echt ein Problem, aber mehr steht mir derzeit leider nicht zur Verfügung, also muss ich das beste daraus machen (bei anderem Budget würde ich da auch andere Komponenten nehmen).
Man muss vielleicht noch dazu sagen, dass es zumindest bisher noch um eine Testphase handelt, und wir kein Unternehmen sind, die sich darauf spezialisiert haben und weiterverkaufen wollen, eher in der Kategorie Semi Professionell zur Qualitätskontrolle von Metallteilen im eigenen Unternehmen (Zur groben Vorstellung: es handelt sich um metallische, glänzende "Zahnräder", ca. 10x10cm groß, die wir in einem geschlossenen Aufbau fotografieren und dann mit Hilfe des trainierten Netzes überprüfen wollen, ob die Teile gut oder schlecht sind).

Bzgl. RAM Verbesserungsvorschlag aufgenommen, die 20€ mehr für die 4000er statt 3200er sind für mich okay, wer weiß was mit dem PC sonst noch gemacht werden soll.

Doofe Zwischenfrage: Welche Komponenten wären für CAD besonders entscheidend?

Anpassungen:
Gehäuse: be quiet! Pure Base 600 gedämmt Midi Tower ohne Netzteil schwarz
CPU: AMD Ryzen 7 5700X 8x 3.40GHz So.AM4 WOF
GPU: 12GB PNY RTX A2000 4x mDP Full Retail (Was haltet ihr von der? Mit den A Reihen oder Quadro habe ich keine Vorerfahrungen)
SSD: 1TB Kingston KC3000 NVME M.2 SSD
Tower Kühler: be quiet! Dark Rock 4 Tower Kühler (Fuma 2 rev B bei Mindfactory nicht gefunden, auch gut?)
Netzteil: 650 Watt Seasonic Focus GX Modular 80+ Gold oder 650 Watt be quiet! Straight Power 11 Modular 80+ Platinum (Mit Reserve, für mögliche 2. GPU., sollte wohl mit den 650 Watt auch ausreichen)

Neues Budget: 1794-1809€ mit Zusammenbau (für Private Zwecke würde ich den auch selbst zusammenbauen)

https://www.mindfactory.de/shopping...2213d5dd7efd1ba95b24f5818be56ee313622332142ec

https://www.mindfactory.de/shopping...2213726b27f27ed6ebeb5363b66628862f29fd6248eb8

Was sagt ihr zu diesem Aufbau? Falls ich mich generell nicht auf dem besten Wege befinde, gerne auch mal einen kompletten Vorschlag von euch

Gruß Fabian

 

[Maviapril2]

Als Gehäuse würde ich eher ein 500DX vorschlagen, damit es eine gute Luftzufuhr gibt - das hilft mit der Temperatur und oft auch mit der Lautstärke

Mhm, 12 GB VRAM ist nicht sooo viel, gibt es da nichts mit mehr in dem Budget? (bin gerade zu müde zum Nachschauen). Wobei du normal nicht unbedingt mit der vollen Auflösung der Bilder trainieren wirst, runterskaliert oder mit Ausschnitten sollten 12GB reichen. Und ja, definitiv nVidia

 

[Fabian992]

Danke für den Tipp @Maviapril2

Ich kann derzeit in dem Budget auch nur AMDs mit mehr VRAM finden...wäre ja persönlich für die 3090Ti mit 24GB gewesen, aber die kostet, mit den +-1,2k€ leider zu viel...auch wenn die sich vermutlich lohnen würde.

Bei dem runterskalieren bzw. mit Ausschnitten trainieren bin ich noch in der Lernphase.
(Die am Anfang erwähnten 850x850px sind bereits der ausgeschnittene Bereich vom Foto, Plan ist es, mit diesem auch zu trainieren, falls das nicht geht muss ich wohl wirklich die Auflösung runterskalieren...)

 

[Maviapril2]

Kommt wahrscheinlich darauf an, was du genau verwendest, aber ich denke dass 850*850 zu groß für 12 GB sind. Normalerweise sind Ausschnitte von Bildern aber kein Problem, keine Angst da Dinge auszuprobieren

(meine Erfahrungswerte von GANs mit ResNet mit ein paar Layern und 256*256 (Ausschnitten ), was weniger als ein Zehntel von deinen Werten ist, und das hat bei einer Batchsize von 1 schon im >1GB-Bereich VRAM belegt… aber je nach Netzwerkarchitektur oder Framework kann es da auch einige Unterschiede geben)

 

[Backfisch]

KA...ich befinde mich noch in der Lernphase, daher auch die Frage mit einem Vorschlag hier im Forum.

Dann fang besser mit sowas wie Google Colab oder AWS an, bis Du genauer weißt, was du eigentlich brauchst.

 

[chillking]

Batchsize von 1

Das ist dann quasi der Grundstock (Netzaufbau, Gewichte, Trainingsvorgang plus 1 Bild) weitere Trainingsdaten kosten dann nicht mehr so viel Speicher

 

[Maviapril2]

@chillking, das war die Größe pro Batcheintrag, den “Grundstock” habe ich mit eingerechnet, hatte aber eh keinen so großen Einfluss bei einem VRAM von 1-4*10GB bei mir

weitere Trainingsdaten kosten dann nicht mehr so viel Speicher

Von daher: Doch

(Ich muss auch noch dazu sagen, dass ich Bilder ohne Farbinformation verwendet habe, da nicht relevant für den Task. also sogar nur 1 Farbchannel… normale Bilder haben 3. Habe mich mit pix2pix (da hätten glaube ich 16 Bilder pro Batch reingepasst, bin mir aber nicht sicher) CycleGAN und CUT (hier ist mir mit 8 Bildern regelmäßig der Speicher vollgelaufen) basierend auf ResNet beschäftigt, sehe ich jetzt nicht als die ultra-komplexesten Architekturen an.

Damit auch wirklich nur ein Farbchannel verwendet wird, musste ich da auch ein paar Sachen umschreiben im Code. Habe die Codebase nicht mehr, aber bei mindestens einem der Framework wurden diese Bilder intern wieder in 3 Channels hochgerechnet, warum auch immer.
Im Gegenzug habe ich 16bit statt der üblichen 8bit verwendet)

 

[chillking]

Wild, dann lag ich falsch! Sorry dafür!

 

[Paradox.13te]

Bzgl. RAM Verbesserungsvorschlag aufgenommen, die 20€ mehr für die 4000er statt 3200er sind für mich okay, wer weiß was mit dem PC sonst noch gemacht werden soll.

Es geht nicht um die 20€... In einem Arbeitsrechner hat OC RAM überhaupt nichts verloren.

Nur eine Idee
Intel Core i5-12400, 6C/12T, 2.50-4.40GHz, tray
GIGABYTE B660 Gaming X DDR4
Mushkin Essentials DIMM Kit 32GB, DDR4-3200, CL22-22-22-52
Gainward GeForce RTX 3090 Phoenix, 24GB GDDR6X
Kingston KC3000 PCIe 4.0 NVMe SSD 1TB
ENDORFY / SilentiumPC Fortis 5
DeepCool CK560 schwarz, Glasfenster
ADATA XPG Core Reactor 850W ATX 2.4


ca. 1856€ laut Geizhals

 

[Fabian992]

Kommt wahrscheinlich darauf an, was du genau verwendest, aber ich denke dass 850*850 zu groß für 12 GB sind. Normalerweise sind Ausschnitte von Bildern aber kein Problem, keine Angst da Dinge auszuprobieren

(meine Erfahrungswerte von GANs mit ResNet mit ein paar Layern und 256*256 (Ausschnitten ), was weniger als ein Zehntel von deinen Werten ist, und das hat bei einer Batchsize von 1 schon im >1GB-Bereich VRAM belegt… aber je nach Netzwerkarchitektur oder Framework kann es da auch einige Unterschiede geben)

In einem heutigen Meeting habe ich Erfahren, dass ich einen (zeitlich eingeschränkten) Zugang auf Workstations (Zitat: "Mit hohen Rabatten 5000€+ Geräte", genaueren Komponenten habe ich mal angefragt) bekommen werde, den PC benötige ich dennoch für entsprechende Vorarbeiten. Aber ich werde am Ende nicht auf die 12GB limitiert sein, wenn ich mehr brauche.

Wie der unterschied zwischen ResNet zu VGG ist kann ich da auch nicht sagen.

Es geht nicht um die 20€... In einem Arbeitsrechner hat OC RAM überhaupt nichts verloren.

Nur eine Idee
Intel Core i5-12400, 6C/12T, 2.50-4.40GHz, tray
GIGABYTE B660 Gaming X DDR4
Mushkin Essentials DIMM Kit 32GB, DDR4-3200, CL22-22-22-52
Gainward GeForce RTX 3090 Phoenix, 24GB GDDR6X
Kingston KC3000 PCIe 4.0 NVMe SSD 1TB
ENDORFY / SilentiumPC Fortis 5
DeepCool CK560 schwarz, Glasfenster
ADATA XPG Core Reactor 850W ATX 2.4


ca. 1856€ laut Geizhals

Vielen Dank für dein Mühe! Ich befürchte, dass ich den Preislich leider nicht durchgesetzt bekomme.
Zusätzlich wäre es schön, am Ende nur einen Lieferanten zu haben, da viele Lieferanten, wieder viel Aufwand bedeuten und angelegt werden müssten...Für eine Private Anschaffung, sähe das natürlich wieder ganz anders aus...

Ich habe deinen in MF einmal mit kleinen Anpassung, dank fehlender Komponenten seitens MF zusammengesucht:
500DX statt CK560
Zotac GeForce 3090 (war die günstigste, ggf. aber nicht am besten geeignetste) statt Phoenix
-> kam dann auf ca. 1991€ ohne Aufbau (Und ja bei Privaten zwecken würde ich es selber zusammenbauen).

Was ist der Vorteil bei deinem RAM gegenüber den von 32GB G.Skill RipJaws V schwarz DDR4-3200 DIMM CL16 Dual Kit? Einfach nur günstiger und "brauch ich nicht", oder steckt mehr dahinter?
Ach ja und woran erkennst du, dass die 4000er OC RAM sind? Liest du das an der Spannung ab?

 

[ghecko]

ch ja und woran erkennst du, dass die 4000er OC RAM sind?

Zen3 unterstützt DDR4-3200 nach JEDEC, also 1,2V.
Alles darüber hinaus, egal ob mehr Spannung, höhere Frequenzen oder beides ist OC des Speichercontrollers im Prozessor.
Und jeder Riegel der ein XMP-Profil hat, ist OC-Speicher, wenn man ihm mit dem XMP-Profil betreibt.

 

[Paradox.13te]

Ich habe deinen in MF einmal mit kleinen Anpassung, dank fehlender Komponenten seitens MF zusammengesucht:
500DX statt CK560
Zotac GeForce 3090 (war die günstigste, ggf. aber nicht am besten geeignetste) statt Phoenix
-> kam dann auf ca. 1991€ ohne Aufbau (Und ja bei Privaten zwecken würde ich es selber zusammenbauen).

Ja 1991€ sind fast 200€über den Budget. Eigentlich wollte ich schon die iGPU mitnehmen aber das scheint wohl preislich bei Mindfactory nicht so zu klappen.

ok wäre das eine Option?

Mindfactory:

Kingston KC3000 PCIe 4.0 NVMe SSD 1TB, M.2 106,89€
Intel Core i5-12400F, 6C/12T, 2.50-4.40GHz, tray 185€
GIGABYTE B660 Gaming X DDR4 148,00€
Mushkin Essentials DIMM Kit 32GB, DDR4-3200, CL22-22-22-52 93,88€
PNY RTX A4000, 16GB GDDR6, 4x DP, Smallbox 1084,54€
ENDORFY / SilentiumPC Fortis 5 40,11€
be quiet! Pure Base 500DX weiß, 101,89€

1760,31€

Amazon:
Corsair RMx Series 2018 RM550x 550W ATX 2.4

59,90€

Wärst bei 1820,21€ und euer EDVler/ITler (von der Arbeit) übernimmt denn Zusammenbau. Ich denke 1821€ lässt sich eher durchsetzen als 1991€. Das Netzteil gibt es auch bei Mindfactory, aber ich finde das es mit 84€ zu teuer dort ist.

Deine Frage zu OC RAM wurde freundlicherweise schon in #14 beantwortet.

 

[Backfisch]

den PC benötige ich dennoch für entsprechende Vorarbeiten

Spricht abermals für Google Colab. Gibt's auch in der Profi-Variante mit besserer Hardware. Nur um kurz mit ein paar neuronalen Netzen herumzuspielen, braucht man doch keine 2k€ in die Hand zu nehmen.

 

[Maviapril2]

Wild, dann lag ich falsch! Sorry dafür!

Alles gut, denke mein Erfahrungswert wird evtl. auch nicht allumfassend sein, und andere Antworten die ein differenzierteres Bild ergeben sind ja auch gut (Musst dich da auch nicht entschuldigen )