Titan RTX wo kaufen?

[tnev]

Moin,
suche für meine Abschlussarbeit nach einer Graka mit 24gb VRam oder mehr und meine 3070 kann ich da leider vergessen. Da die Preise für 3090 ja doch noch deutlich über UVP laufen dachte ich, man kann es ja mit einer älteren Titan RTX versuchen. Weiß jemand wo man die am besten gebraucht her bekommt? Kleinanzeigen verlagen die Leute einfach Fabelpreise von 2000€+. Da kann ich mir dann auch eine 3090 holen...
Oder ist die RTX Titan einfach so teuer geblieben?

mfg

 

[kachiri]

Was gedenkst du denn zu zahlen. Natürlich sind die Preise auf dem Gebrauchtmarkt für alte Karten genauso angestiegen, wie die Neupreise...

 

[syfsyn]

nvidia da derzeit keiner diese gpu führt zumal ich eher über die rtx3090 nachdenken würde. titan rtx ist turing

 

[Precide]

Heute gabs nen 3090 FE Drop auf NBB zur UVP. So extrem überteuert ist die Karte tatsächlich gar nicht mehr.

 

[Doc Foster]

Eben, da kann man gebraucht aktuell schon so ab 1200 Euro Glück haben..

 

[Hellblazer]

Interessehalber: Wofür brauchst du die 24GB VRAM?
Irgendeine KI Anwendung? Vielleicht reicht es ja aus, die benötigte Leistung auf AWS anzumieten?

 

[tnev]

Interessehalber: Wofür brauchst du die 24GB VRAM?
Irgendeine KI Anwendung? Vielleicht reicht es ja aus, die benötigte Leistung auf AWS anzumieten?

Ja genau, trainiere ein Neuronales Netz welches zur optischen Erkennung genutzt wird. AWS mit VRam starken Karten sind für 2-3 Monate so teuer, dass der Wertverlust einer Karte billiger kommt soweit ich das einschätzen kann.

Ergänzung (23. Juli 2021)

Eben, da kann man gebraucht aktuell schon so ab 1200 Euro Glück haben..

Was? Wo denn das? Sehe nur Kleinanzeigen mit Karten ab 1650€

 

[exodusFFM]

kannst du für die berechnungen nicht einfach das hochschul-rechenzentrum von eurer uni nutzen? man kann ja nicht erwarten, dass jeder student sich nur für ne abschlussarbeit selbst ne titan anschaffen kann oder hab ich da was missverstanden?

 

[TriceO]

Natürlich auch teuer, aber es gäbe ja auch die Option der Miete einer Workstation. Das sind allerdings 500 Euro/Monat.
Aber vielleicht gibt's sowas auch noch günstiger.

https://shop.solidpro.de/de/HP-Z640-Workstation-P6000-Miete.html

 

[tnev]

nvidia da derzeit keiner diese gpu führt zumal ich eher über die rtx3090 nachdenken würde. titan rtx ist turing

Touring reicht, bei Neuronalen Netzen sind die Tensorcores so effizient, dass in der Regel der Speicher bremst. Ob Titan RTX oder 3090 ist daher egal, am besten wäre was ala RTX A6000 doch dafür habe weder ich noch mein Institut gerade Geld und unser HP Cluster ist bis mitte Novermber ausgebucht. Bis dahin habe ich nicht vor zu warten. Gerade beim ausprobieren und erarbeiten der Netze brauche ich Leistung schnell verfügbar. Danach kann das meinetwegen auf den alten P6000 der Hochschule rumrechnen.

Ergänzung (23. Juli 2021)

kannst du für die berechnungen nicht einfach das hochschul-rechenzentrum von eurer uni nutzen? man kann ja nicht erwarten, dass jeder student sich nur für ne abschlussarbeit selbst ne titan anschaffen kann oder hab ich da was missverstanden?

Ich bin mehr oder weniger der Erste der das Thema bei uns am Fachbereich voran treibt und die Anträge für Hardware in dem Bereich brauchen erst einmal eine Grundlage zur Argumentation. Wird im bereich Maschinenbau halt nur von den wirklich großen Unis genutzt und unsere kleinen HPC Cluster sind lange ausgebucht und primär auf CFD Simulationen getrimmt.

Daher treibe ich aus reinem eigenen Interesse das Thema voran und bin bereit in meine Abschlussarbeit zu investieren. Patentierung wird angestrebt in dem Bereich =)

 

[mykoma]

Viel VRAM = Karte aus dem Profisegment, also RTX 6000/8000, P6000 und A5000/6000 oder bei AMD W6800/6100, Radeon pro Duo (Polaris), Instinct MI 50/60.

Allerdings dürften gerade bei neuronalen Berechnungen die älteren Karten nicht der Knaller sein, fällt die alte Pascal schonmal raus.
Die Auswahl ist gering, die halbwegs aktuellen Modelle teuer.

Wenn du die Karte danach nicht nutzt, würde ich eher auf die Idee zurückgreifen und mir Hardware für die Zeit zu mieten, jede Grafikkarte, die du jetzt kaufst, wird vermutlich einiges an Wert in den kommenden Monaten verlieren, wenn der Trend anhält.

 

[tnev]

Viel VRAM = Karte aus dem Profisegment, also RTX 6000/8000, P6000 und A5000/6000 oder bei AMD W6800/6100, Radeon pro Duo (Polaris), Instinct MI 50/60.

Allerdings dürften gerade bei neuronalen Berechnungen die älteren Karten nicht der Knaller sein, fällt die alte Pascal schonmal raus.
Die Auswahl ist gering, die halbwegs aktuellen Modelle teuer.

Wenn du die Karte danach nicht nutzt, würde ich eher auf die Idee zurückgreifen und mir Hardware für die Zeit zu mieten, jede Grafikkarte, die du jetzt kaufst, wird vermutlich einiges an Wert in den kommenden Monaten verlieren, wenn der Trend anhält.

Völlig richtig erkannt. Jeder Monat den ich länger im Studium hänge kostet mich allerdings so viel, dass es den Wertverlust ausgleichen sollte. Außerdem würde ich gerne bei NVIDIA bleiben, da ich dort den Umgang behersche und sowohl Tensorflow als auch pytorch weniger Probleme bereiten.
Ich werde wohl weiter Kleinanzeigen und Ebay nach bezahlbaren Titan RTX oder 3090 durchforsten. Wollte eigentlich nicht umbedingt mehr als 1000€ auf meine 3070 drauflegen.

 

[eRacoon]

Wenn es rein um den vRAM und nicht um Compute Power geht dann geht das recht günstig mit den alten Tesla Karten.
https://www.ebay.de/itm/164862718429?hash=item26629571dd:g:A78AAOSwOdVgm~bc

Da musst du nur eventuell je nach Modell mit der Kühlung basteln, die haben meist keinen aktiven Kühler weil für Server gedacht.
Treiber Support etc. natürlich vorher noch checken.

 

[tnev]

Wenn es rein um den vRAM und nicht um Compute Power geht dann geht das recht günstig mit den alten Tesla Karten.
https://www.ebay.de/itm/164862718429?hash=item26629571dd:g:A78AAOSwOdVgm~bc

Da musst du nur eventuell je nach Modell mit der Kühlung basteln, die haben meist keinen aktiven Kühler weil für Server gedacht.
Treiber Support etc. natürlich vorher noch checken.

Ich glaube ich frage mal unseren SysAdmin ob ich davon eine oder zwei in einen unser Server stecken kann. Danke, die Tesla Karten habe ich ganz aus dem Blick verloren !

 

[madmax2010]

@tnev hat deine uni da nichts? Ich habe noch zugang zu unseren 32 V100 karten.. ich kann mal schauen wie die Planung fuer die im Herbst aussieht.

Sonst: Hast du dir die TPUs bei Google angesehen?

 

[tnev]

@tnev hat deine uni da nichts? Ich habe noch zugang zu unseren 32 V100 karten.. ich kann mal schauen wie die Planung fuer die im Herbst aussieht.

Sonst: Hast du dir die TPUs bei Google angesehen?

Ist leider noch eine "Fach" Hochschule und da wird gerade erst etwas aufgebaut, bis das steht bin ich bestimmt fertig. mhhh die TPUs bei Google kannte ich, hatte ich aber teuerer in Erinnerung, gute Erfahrungen mit gemacht?

 

[zwergimpc]

Schonmal versucht bei den engerierten profs in deinem Fachbereich zu fragen ob die eine Möglichkeit sehen, ggf haben die auch Connection zum Informatik Bereich oder in die Privatwirtschaft. Studenten kurz vor dem b/m/promo muss doch geholfen werden

 

[madmax2010]

Joa, teuer sind die TPUs, aber fuer speicherintensive workloads gibts die mit pervers viel speicher.
Fuer Compute intensive tasks sind sie auch super. Du brauchst sie halt nicht lange

 

[tnev]

Joa, teuer sind die TPUs, aber fuer speicherintensive workloads gibts die mit pervers viel speicher.
Fuer Compute intensive tasks sind sie auch super. Du brauchst sie halt nicht lange

Werde ich auf jedenfall mal ausprobieren!

Ergänzung (23. Juli 2021)

Schonmal versucht bei den engerierten profs in deinem Fachbereich zu fragen ob die eine Möglichkeit sehen, ggf haben die auch Connection zum Informatik Bereich oder in die Privatwirtschaft. Studenten kurz vor dem b/m/promo muss doch geholfen werden

Klar, der Fachbereich ist noch etwas oldschool Maschinenbaulastig. Gerade kommen viele neue Profs, daher ist junges Blut und frisches Geld am Fachbereich. Haben einiges an Bedarf und Anträge laufen, nur bis das alles da ist und eingerichtet ist, bin ich hfftl fertig.

 

[tnev]

So habe jetzt ein Angebot bekommen eine für 1000€ mit Restgarantie zu kaufen. Ist das zur Zeit angemessen?