AMD System für AI Forschung

[Medione]

Hi Leute,

ich gehe ein Uni Projekt für AI an und möchte mir einen Rechner selbst zusammenstellen.

Ich hatte mir folgendes vorgestellt:

CPU: AMD 3700x
RAM: 2x 32 GB Crosair Vengeance, DDR4 3000
MB: MSI Tomahawk Max B450
Grafikkarte: GeForce RTX 2080 Ti, Hersteller?
Netzteil: ?
Gehäuse: ?

Meine Gedanken zu der CPU: Die CPU spielt bei Tensorflow wohl keine so große Rolle und der 8-Kerner sollte wohl ausreichend sein.
MB: Ich habe keine Lust, den Premiumpreis für x570 auszugeben und mich stört auch der Lüfter. Von PCIe 4.0 profitiert Tensorflow wohl auch nicht. Daher das B450 Board.
RAM: Ich hätte gerne die Option, auf 128 GB aufzurüsten, daher dieser Speicher.
Grafikkarte: Ich möchte definitiv eine RTX 2080 Ti, bin aber nicht sicher, welchen Hersteller ich nehmen sollte. Hätte gerne 5 Jahre Garantie.

Bei Netzteil und Gehäuse bin ich total unschlüssig.

Als Massenspeicher soll eine SATA SSD Samsung 850 PRO 2 TB wiederverwendet werden.

Besonderheiten: Ganz vielleicht möchte ich auch noch eine zweite RTX 2080ti in Zukunft dazukaufen.

1. Was ist der Verwendungszweck?

AI Forschung und Programmierung

1.1 Falls Spiele: Welche Spiele genau? Welche Auflösung? Hohe/mittlere/niedrige Qualität? Wie viele FPS? (Bitte alle vier Fragen beantworten!)
-

1.2 Falls Bild-/Musik-/Videobearbeitung oder CAD: Als Hobby oder bist du Profi? Welche Software wirst du nutzen?
Tensorflow/Python, Visual Studio/C#

1.3 Hast du besondere Anforderungen oder Wünsche (Overclocking, ein besonders leiser PC, …)?
Er sollte nicht zu laut sein.

1.4 Wieviele und welche Monitore möchtest du nutzen? Anzahl, Modell, Auflösung, Bildwiederholfrequenz (Hertz)? Wird FreeSync (AMD) oder G-Sync (Nvidia) unterstützt?
34" LG 22:9

3. Wie viel Geld bist du bereit auszugeben?
2500€

4. In wie vielen Jahren möchtest du das System frühestens upgraden oder ersetzen müssen?
Unbekannt

5. Wann soll gekauft werden?
Jetzt

6. Möchtest du den PC selbst zusammenbauen oder zusammenbauen lassen?
Selbst zusammenbauen; gerne mit Hilfe aus dem Forum.

LG

 

[Deathangel008]

RAM: Ich hätte gerne die Option, auf 128 GB aufzurüsten, daher dieser Speicher.

offiziell unterstützt das B450 Tomahawk Max nur 64GB RAM. ob da auch mehr drauf läuft weiß ich nicht.

bin aber nicht sicher, welchen Hersteller ich nehmen sollte. Hätte gerne 5 Jahre Garantie.

da bleiben nur EVGA (gegen aufpreis) und Zotac (nach registrierung). für halbwegs leise auf nen dicken kühler achten, möglichst tripleslot.

Ganz vielleicht möchte ich auch noch eine zweite RTX 2080ti in Zukunft dazukaufen.

ist es für deine software egal wie die graka angebunden wird? der zweite x16-slot beim B450 Tomahawk Max hat nur maximal 4 2.0-lanes. beim NT würde ich in dem fall nicht unter ~850W einsteigen. Straight Power 11, RMx oder, wenn es highend sein soll, AX850. sonderlich leise wird das mit luftkühlung bei zwei 2080ti aber nicht.

gehäuse für zwei 2080ti eher ein bigtower mit gutem airflow. ne empfehlung hab ich da spontan nicht.

 

[[wege]mini]

AI Forschung und Programmierung

Besonderheiten: Ganz vielleicht möchte ich auch noch eine zweite RTX 2080ti in Zukunft dazukaufen.

Ich hätte gerne die Option, auf 128 GB aufzurüsten, daher dieser Speicher.

da du ja ordentlich was vor hast, würde ich bei den fredrippern und quad channel ram interface schauen.

den x1920 gab es bei den amis jetzt erst für 199dollar (kA was die cpu in dtschl. kostet) und die boards gehen auch "schon" bei unter 300 euro los.

dann kannst du wenigstens, wenn dein projekt es erfordern sollte, leicht auf 4x32gb quad channel und evtl. einen 32+ kern aufrüsten.

kommt immer auf den geldbeutel an.

mfg

 

[abcddcba]

ist es für deine software egal wie die graka angebunden wird? der zweite x16-slot beim B450 Tomahawk Max hat nur maximal 4 2.0-lanes.

Also im Bereich DeepLearning ist er zwar messbar, aber haengt halt auch vom Lernproblem selbst ab: Einen Vergleich mit 1 - 4 Titan V mal zur Einordnung: https://www.pugetsystems.com/labs/h...h-4-x-Titan-V-GPUs-for-Machine-Learning-1167/
Bei einer einzelnen 2080Ti sehe ich da eher so < 10%, je nachdem wie oft man denn Daten zur GPU schieben muss. Ob der TE ueberhaupt jemals privat auf eine 2. GPU aufruesten wird, sei mal dahingestellt.
Ich wuerde aber trotzdem ueber eine TR Plattform nachdenken. CPU ist bei CUDA kaum relevant, dafuer mehr RAM + Lanes

 

[hroessler]

Ernsthafte AI Forschung geht nur in der Cloud. Wir mieten bei AWS mehrere Grafikkarten, damit unsere Lernmodelle an einem Wochenende berechnet werden können. Mit einer einzigen 2080ti wirst du da sehr schnell an Grenzen stossen.

greetz
hroessler

 

[Flare]

Falls du unbedingt selbst ein "Gerät" neben dir stehen haben willst, TR4 Plattform und evtl erstmal einen 1900X für 200,- rein, die neuen Ripper kommen ja in 2 Monaten.
Cloudmiete ist vermutlich am zielgerichtet-sinnvollsten.

 

[JollyRoger2408]

RAM: Ich hätte gerne die Option, auf 128 GB aufzurüsten, daher dieser Speicher.

Nicht mit dem "MSI B450 Tomahawk Max". Da sind max. 64 GB möglich.
Da musst du eines dieser Boards nehmen: https://geizhals.de/?cat=mbam4&xf=4400_ATX%7E4400_E-ATX+(SSI+CEB)%7E4400_%B5ATX%7E8540_128

Grafikkarte: Ich möchte definitiv eine RTX 2080 Ti, bin aber nicht sicher, welchen Hersteller ich nehmen sollte. Hätte gerne 5 Jahre Garantie.

Die MSI GeForce RTX 2080 Ti Gaming X Trio, 11GB GDDR6, HDMI, 3x DP, USB-C (V371-026R)
5 Jahre Garantie gibt es AFAIK bei keinem der Hersteller.

 

[Deathangel008]

@JollyRoger2408:
bei EVGA kann man die garantie gegen geld auf 5 oder sogar 10 jahre erweitern lassen, bei Zotac gibts 5 jahre wenn man die karte registriert.

ansonsten ist die MSI Gaming X Trio schon sehr gut, nur muss man dann darauf achten dass das NT mindestens 6 6/8pin-stecker hat wenn man sich die option auf ne zweite graka offenhalten will. das weiter oben von mir genannte SP11 wäre dann, zumindest in der 850W-version, raus.

 

[Medione]

Laut diesem Thread könnten 128 GB auch mit einem Mainstream MB möglich sein. Threadripper ist halt schon deutlich teurer, aber trotzdem langsamer von der CPU Leistung her. Die Maschine wird nicht nur für AI eingesetzt werden, sondern auch fürs Programmieren, so dass ich schon eine schnelle CPU haben möchte. Mir gefällt daher Ryzen deutlich besser.

Spricht etwas gegen diese Zotac GraKa?

Die Netzteilempfehlungen können sich gerne auf den Rechner mit nur einer 2080ti beschränken.

 

[JollyRoger2408]

@Deathangel008
ja, jetzt wo du es sagst bzw. schreibst. Auf die Garantie Erweiterung bei EVGA & Zotac habe ich jetzt gar nicht gedacht. Scheinbar ist das Hirn schon im Wochenend-Modus.

 

[adAstra]

1. Warum stellt dir deine Uni keine Hardware zur Verfügung?

2. Was programmierst du denn in C#, dass Du so viel CPU-Leistung benötigst?

 

[Medione]

@KuestenNebel: Die Hardware wird mir zur Verfügung gestellt. Da das Projekt zum Teil durch Spenden finanziert ist, schmeiße ich kein Geld aus dem Fenster.

 

[adAstra]

Bei AWS würdest du für das Geld deutlich mehr GPU-Power für dein Geld bekommen. Kommt das nicht infrage? Für C# reicht auch ein olles Thinkpad.

 

[Morvan]

Je nachdem wie lang und viel die deine Modelle trainierst würde ich versuchen den Rechner nicht ins Büro zu stellen. Vor allem falls du Kollegen hast, werden die dir danken, wenn du nicht mehrere Tage am Stück 300 Watt und mehr an Abwärme in den Raum pumpst. Also am besten in einen Serverraum oder Ähnliches und übers Netzwerk drauf zugreifen, wenn du keine Cloud willst. Und eventuell noch eine zweite „kleine“ GPU einplanen, dass du trotzdem mal schnell was testen kannst, wenn die 2080 Ti zwei Wochen an einem Modell rechnet.

 

[Deathangel008]

Spricht etwas gegen diese Zotac GraKa?

mMn der kühler. leise wird die nicht sein.

für halbwegs leise auf nen dicken kühler achten, möglichst tripleslot.

mein favorit wäre wohl die EVGA FTW3, ist aber nicht gerade günstig.

 

[Medione]

Die EVGA FTW3 ist mir zu teuer.

Ich habe dann noch diese hier mit Triple Kühlern von Zotac gefunden: click.

Was haltet ihr von der?

Benötige dann noch Tipps zum NT und Gehäuse.

Bezüglich Cloud: Ich habe mich damit noch nicht beschäftigt, aber in den AI Blogs steht, man sollte auf eigener Hardware die Modelle erstellen und dann in der Cloud optimieren. Ich nehme mal an, dass man in der Cloud einen Minutenpreis zahlen muss?

LG

 

[JollyRoger2408]

Eine gute PSU, nicht unter 650W, zB eine von diesen hier: https://geizhals.de/?cmp=1753714&cmp=1658737&cmp=1840338&cmp=1800815

Gehäuse: ist halt sehr Geschmacksache; kannst dich ja einmal ein wenig mit dem CaseKing Gehäusefinder beschäftigen.

 

[Deathangel008]

@Medione:
die kann man nehmen.

NT z.b. ein Straight Power 11 650W oder RM650x 2018. beim SP11 bitte beide PCie-kabelstränge zum anschließen der graka nutzen, schadet auch beim RMx nicht. eine zweite 2080ti sollte man damit aber nicht betreiben.