Welche 2080S für Maschine Learning?

[momdiavlo]

Ich habe vor mir einen Rechner für Maschine Learning zuzulegen. Ich finde den Zeitpunkt zwar nicht besonders gut, aber ich ertrage die langen Berechnungszeiten einfach nicht mehr.

Ich habe lange hin und her überlegt, ob es eine 2070, 2070S, 2080 oder 2080S werden soll. Letztlich wird die 2070 oder 2070S vom Preis- Leistungsverhältnis am besten sein, aber wenn ich jetzt schon 1500€ in die Hand nehme, dann nehme ich eben die größte.

Es scheint keinen allzu großen Unterschied bei den verschiedenen 2080S Modellen zu geben, oder? Leistung steht klar im Vordergrund, aber nicht, wenn ich für 1% mehr Leistung unverhältnismäßig mehr Verbrauch habe. Im CB Vorschlag ist die Palit drin, wäre diese, neben Gaming, auch die ideale Wahl in meinem Fall? Lautstärke ist nicht so wichtig, dafür aber Leistung und Verbrauch. Welche würdet ihr mir hier empfehlen?

 

[proud2b]

dafür aber Leistung und Verbrauch. Welche würdet ihr mir hier empfehlen?

Jene, die laut Tests am besten für dich abschneidet.
Kenn mich jetzt mit Machine learning nicht wirklich aus, aber wenn du selbst Hand anlegst wie z.B. Undervolting, nehmen sich die Karten nicht viel, da Chiplotterie.

 

[mfJade]

Je kühler desto schnell

 

[Homoioteleuton]

Wäre für so einen Anwendungsfall nicht sogar eien Karte aus der Profi Reihe sinnvoll? Also eine Quadro?
Dort hast du nochmal ganz andere Treiberunterstützung

 

[Xes]

Seltsame Gewichtung die du da anstellst:
Einerseits ist dir der Verbrauch wichtig, andererseits zahlst du mindestens 200€ Aufpreis für 15% mehr Leistung. (2080 Super vs. 2070 Super)

Aber gut grundsätzlich, je wärmer die Karte desto ineffizienter wird sie. Ein üppig dimensionierter Kühler und eine Karte die nicht mit Übertaktung läuft (am besten mit UV) sollte daher am effizientesten sein, ohne nennenswert an Leistung gegenüber den OC Modellen zu verlieren.

 

[the_nobs]

Wäre für so einen Anwendungsfall nicht sogar eien Karte aus der Profi Reihe sinnvoll? Also eine Quadro?
Dort hast du nochmal ganz andere Treiberunterstützung

hatten ein ähnliche Fragestellung,
Problem: Quadro oder Tesla Karten mit ähnlichen Leistungsdaten kosten gleich > 2000€ (Karte alleine)
Das wird gleich dramatisch teuer

Aber Achtung
die Geforce Karten sind bei Machine Learning künstlich beschränkt gegenüber den Tesla modellen
im Bezug auf double/float32/float16 genauigkeit usw...
Auf der anderen Seite auch wenn deine 2080S nur halb so schnell ist wie eine vergleichbare Tesla karte ... sie kostet halt auch weniger als die Hälfte 😉

 

[Qarrr³]

Nimm doch 2 2070s, wenn du eh 1500€ ausgeben willst.

 

[Homoioteleuton]

@the_nobs
Das ist mir grundsätzlich klar, aber vllt hat der TE noch gar nicht in diese Richtung gedacht. Wir wissen auch nicht genau, ob er das beruflich macht oder nur rein privat. Je nachdem, wäre eine Quadro/Tesla durchaus ne Überlegung wert.

 

[Rego]

Ich würde für sowas eher ne Tesla nehmen. Musst nur aufpassen, diese sind oft passive Karten. Ich hab hier aktuell ne Tesla K40 abzugeben, falls Du Interesse hast.

 

[momdiavlo]

Vielen Dank für die vielen Antworten.

Tesla kommt nicht in Frage, die sind mir zu teuer. Und letztlich werde ich wohl auch nicht drum herum kommen auf der Maschine zu spielen (spätestens bei Cyberpunk 2077 werde ich nicht widerstehen können).

Der Rechner wird hauptsächlich privat genutzt (Weiterbildung im Bereich Machine Learning und Data Science).

Also geht die Tendenz doch eher Richtung 2070S? Leider gibt es nur sehr wenig Benchmarks im Bereich ML. Ich weiß leider nicht, ob hier der Unterschied mehr zu spüren ist als bei Spielen.

 

[PHuV]

Nur mal so als Tipp, in der AWS kann man DL-Maschinen mit Nvidia-GPUs mieten. Bei uns arbeiten die Kollegen lokal mit
Jupyter Notebook und bereiten und testen den Code vor. Erst dann wird die DL-Instanz in der AWS gestartet und die Berechungen dort ausgeführt. Danach wird sie zur Kostenersparnis wieder runtergefahren.

 

[momdiavlo]

@PHuV
Das habe ich eine Zeitlang ausprobiert, aber ich bin noch nicht auf dem Level, dass sich das für mich lohnen würde. Mehr als Lehrgeld habe ich da bisher nicht ausgegeben. Letztlich wird es auf lange Sicht dann irgendwann auch teurer auf AWS zu setzen. (Es gibt noch andere, günstigere Anbieter, die ich ausprobieren möchte.)

 

[mfJade]

In 2 Wochen ist Cyberweek/BlackFriday/YellowTuesday und was sonst auch noch. Vielleicht bis dahin warten?

 

[momdiavlo]

@mfJade

Das ist die Idee. Ich möchte mich bis dahin vorbereiten, damit ich weiß, bei welcher ich zuschlagen soll.

 

[PHuV]

Dann würde ich mich den Vorrednern anschließen und Dir für diese Zwecke keine Spielekarte, sondern eine Profikarte empfehlen.

 

[Kanibal]

Ich habe mir für exakt diesen Zweck eine RTX 2070, aufgrund der Tensor-Cores, zugelegt. Heute würde man wahrscheinlich eine RTX 2070 Super wählen. Die AMD Grafikkarten sind vom Software-Support der Frameworks leider noch nicht soweit.

Der Artikel von Tim Dettmers ist immer noch relevant: https://timdettmers.com/2019/04/03/which-gpu-for-deep-learning/