Machine Learning - GPU Upgrade oder neuer PC?

[n304win]

Moin Zusammen,

ich würde gerne tiefer in das Thema Machine Learning eintauchen und brauche Beratung wegen Anschaffung einer neuen GPU.
Mein jetztiges Setup ist ca von 2011 und wurde hier und da mal aufgefrischt... aber der Kern ist alt.

Die Frage, die ich mir stelle ist, ob ich mir einfach eine neue GPU kaufe oder doch besser ein komplett neues System...
Zocken werde ich nicht, da ich keine Zeit dafür habe. Es ist also eher ein Rechner fürs Büro + Machine Learning auf GPU.

Mein altes System - Hauptkomponenten:
Asus M4A87TD Evo 870 AM3 ATX
12GB DDR3-1333 Ram
1024MB Gigabyte GeForce GTX 460 OC GDDR5 PCIe
AMD Athlon II X3 445 3.10GHZ AM3 1.5MB 95W BOX (läuft auch mit 4 Kernen)
Samsung SSD 850Pro 256GB
Samsung HDD 500GB
Thermaltake Hamburg PC-Netzteil ATX23 530 Watt (Netzteil ist "neu", ca 1 Jahr alt)

Ich habe mir mal den Beitrag von Tim Dettmers bzgl GPU/Machine Learning angesehen. Ich würde vielleicht mit ner RTX2060 RTX2060Super oder RTX2070 gehen.

Ich bin nicht mehr so in der neuen Hardware drin... deswegen.. funktioniert das Upgrade überhaupt technisch? Netzteil-Power, PCIe Standard von MB vs GPU etc....

Die Graka sollte 500Euro nicht überschreiten.

Was meint ihr? Bin für Ratschläge dankbar!

Gruß und danke!

 

[KingLz]

Theoretisch sollteste die neue Grafikkarte auch mit der alten Hardware funktionieren. PCIe ist eigentlich abwärtskompatibel, aber da könnte es zu Problem kommen. Genauso wird das Netzteil vermutlich Probleme machen mit modernen GPUs.

Da die GPU aber auch mit Daten befüllt werden muss, und das nicht zu knapp, brauchst du aber auch eine halbwegs performante CPU/Ram für den Datendurchsatz. Deswegen ist dir eigentlich eher geraten alles neu zu kaufen, da dein aktuelles Setup ja auch schon ein Jahrzehnt hinter sich gebracht hat.

Was GPU angeht ist Nvidia sehr zu bevorzugen. Die Vegas von AMD sind zwar hardwaretechnisch extrem gut für ML geeignet (viel HBM Ram, gute Architektur für ML), allerdings ist alles was nicht Cuda benutzt als "riesen Frickelei, wenn es denn überhaupt läuft" einzuordnen.

Wenn du CNNs trainieren willst, dann kann ich dir aus Erfahrung sagen, dass selbst 3x32GB Teslas voll zu bekommen sind. Im Prinzip willst du sogar eher eine 1080TI haben, da diese mit 11GB Ram noch mehr Platz bietet. Ansonsten kauf dir bloß keine GPU mit weniger als 8GB Ram, außer du willst nur sehr kleine Netze trainieren.

Wenn du für irgendwas Double Precision FP brauchst wirst du um eine Quaddro oder Tesla nicht herum kommen. Single Precision FP ist aber der Standard, glaube ich. Die Consumergrade GPUs sind in Double Precision alle grottenschlecht.

Ansonsten ist wie schon gesagt der Flaschenhals im Prinzip der GPU Ram und wie man den befüllt bekommt. Die Rechenleistung selbst würde ich eher als zweitrangig ansehen, die ist in jedem Fall ausreichent im Vergleich zum CPU Training. Da muss ich aus meiner Erfahrung dem Artikel widersprechen, weil 1 Woche länger auf das Ergebnis warten ist weniger ein Problem als "ich bekomme das Netz nicht in dem Ram und kann es deswegen nicht benutzen". Gerade bei Bildern ist es doof, wenn deine 1080p Bilder direkt auf 10x10 Pixel herunterskaliert werden müssen, weil ansonsten das Netz nicht passt.

 

[Stullen Andi]

GPU Power kannst Du auch einfach anmieten, z.B über Microsoft Azure. Dann kannst auch mal mit einer Tesla spielen ohne das Teil geleich kaufen zu müssen.

 

[n304win]

Danke KingLZ für die ausführliche Antwort. Ich denke, die 11gb Karte ist mir dann doch zu teuer

Dann fällt die Wahl wohl Richtung RTX 2070 Super. Da wäre die Frage, wo die Unterschiede bei https://geizhals.de/msi-geforce-rtx-2070-super-ventus-oc-v372-249r-a2091016.html und z.b. https://geizhals.de/msi-geforce-rtx-2070-super-gaming-x-v373-283r-a2128078.html liegen.

Oder würdest Du ne komplett andere 2070 nehmen?

Ich überlege dann noch wg der o.g. Punkte (Datenübertragungsrate) einen neuen PC, z.b. aus der Kategorie Gaming 900Euro anzuschaffen...

@Stullen Andi: Cloud GPU kommt derzeit nicht in Frage (hätte ich auch direkt erwähnen sollen...)

 

[0-8-15 User]

Ich würde im Großen und Ganzen der 1100 Euro Empfehlung folgen und nach einer günstigen gebrauchten RTX Karte mit 8 GB VRAM Ausschau halten oder auf die nächste NVIDIA Generation (die bald kommen soll) warten.

 

[n304win]

Wenn möglich würde ich auf die neuen NVIDIA Karten warten.

wann und welche wären das? gibt es die für ähnliches Geld?

 

[0-8-15 User]

RTX 3070, ein paar Monate wird es aber wohl noch dauern, bis es die zu kaufen gibt.

Da wäre die Frage, wo die Unterschiede bei https://geizhals.de/msi-geforce-rtx-2070-super-ventus-oc-v372-249r-a2091016.html und z.b. https://geizhals.de/msi-geforce-rtx-2070-super-gaming-x-v373-283r-a2128078.html liegen.

Die Gaming X hat das bessere Kühlsystem und ist knapp 30 cm lang. Das sollte aber in einem modernen Gehäuse wie dem Pure Base 500 kein Hinderungsgrund sein.

Nachtrag: 32 GB RAM würde ich auch anpeilen.

 

[n304win]

Ok! Danke für das ganze Feedback. Dann werde ich mir die Tage mal was zusammenstellen!
Danke!

 

[0-8-15 User]

Je nachdem was genau du vorhast, würde ich auf jeden Fall ausreichend SSD Speicher einplanen.

 

[n304win]

Was haltet ihr davon? Entspricht der 1100Euro Empfehlung aus diesem Forum (bis auf Upgrade von Ram auf 32GB)

1 Crucial MX500 1TB, SATA (CT1000MX500SSD1)
1 AMD Ryzen 5 3600, 6x 3.60GHz, boxed (100-100000031BOX)
1 G.Skill Aegis DIMM Kit 32GB, DDR4-3000, CL16-18-18-38 (F4-3000C16D-32GISB)
1 MSI GeForce RTX 2070 SUPER Ventus OC, 8GB GDDR6, HDMI, 3x DP (V372-249R)
1 MSI B450 Tomahawk Max (7C02-020R)
1 Sharkoon M25 Silent PCGH Edition, schallgedämmt
1 Corsair RMx Series RM550x 2018, 550W ATX 2.4 (CP-9020177-EU)

Bei dem Arbeitsspeicher würde ein Wechsel zu Crucial Ballistix 32GB bedeuten, dass ich alle Komponenten bei 3 verschiedenen Händlern kaufen müssten. Würde gerne bei max. 2 bleiben.

Habe ich generell den richtigen RAM gewählt? Gab gefühlt tausende... geizhals

 

[0-8-15 User]

Ich würde den RAM aus der 1500 Euro Empfehlung nehmen.

Was haltet ihr davon?

Macht einen guten Eindruck.

Nachtrag: Das be quiet! Pure Base 500 würde mir persönlich besser gefallen, aber das ist wohl Geschmackssache.

 

[n304win]

Alles klar! Habe den RAM getauscht (Wishlist). Ebenso das Gehäuse ist schöner, ich dachte ursprünglich, dass es nicht in meine Schreibtischkonfiguration passen würde, aber in der Höhe habe ich doch 7mm Luft 🙃
Das sollte mit dem Power-Button auch hinhauen.

Brauche ich noch sonst was? Kabelzubehör sollte ja eig. alles im Lieferumfang sein..

Evt nen separaten/besseren CPU Kühler?

 

[0-8-15 User]

Ein bessere CPU-Kühler wäre tatsächlich kein Schaden. Hier mal eine Liste empfehlenswerter Modelle: https://geizhals.de/?cmp=1974340&cmp=1973320&cmp=1647533&cmp=1603022&cmp=2059379

Kabelzubehör sollte ja eig. alles im Lieferumfang sein

Ja.

Nachtrag: Einsparpotenzial gäbe es noch beim Netzteil. Ein Pure Power 11 würde theoretisch auch reichen.

 

[n304win]

Habe vorhin bestellt ohne auf neue Beiträge zu achten.

https://geizhals.de/?cat=WL-1500017

Danke nochmal für die Beratung dann kann das hacken demnächst beginnen

@0-8-15 User: Bist Du selbst mit ML vertraut?

 

[0-8-15 User]

Bist Du selbst mit ML vertraut?

Ja.