Alternative zu RTX 5060 TI 16GB für Casual mit AI-Workloads?

[Azghul0815]

Die 5070 TI ist keine schlechter Karte vor allem mit dem Thema AI.
Aus dem Grund werkelt auch eine Nvidia bei mir im System.
Die 4070 TI s war damals ok. Du zahlst quasi linearen Aufpreis, insofern geht das auch...ist halt nicht schön.

 

[oicfar]

Möchte mich in die Thamatik handwerklich mehr einarbeiten und dabei lokale Modelle ausführen (LLAMA, R3 etc.); mir geht es vor allem darum, als einsteiger in das thema so wenig wie möglich barrieren zu haben, was themen wie libraries und community support angeht. Und da ist nvidia ja leider lichtjahre vor AMD.

Ich habe aktuell eine 4060 Ti 16GB VRAM und mache auch was mit der KI. Am Anfang war es ok. Aber jetzt bin ich an einem Punkt, wo ich doch lieber mind. 24GB (oder mehr) VRAM bräuchte.

Neues Setup will ich mir bei den Preise für die GraKa's nicht zusammenstellen. D.h. aktuell mache ich 80+% meiner Sachen mit den Online KI's. Und zahlen auch mal da und da was, statt sich teure GraKa zu kaufen.

 

[Anion]

@oicfar, das sehe ich perspektivisch def. Auch bei mir.

Nur, für den tech stack einer AI solution sollte m.E. auch lokal im kleinen basteln können, bevor ich für "das große" in die cloud migriere. Denke, so lern ich schneller. Mag mich täuschen.

Aber wegen AI selbst brauche ich keine große Karte, das sehe auch so.

 

[oicfar]

Es ist die Frage, was genau du machen möchtest. Ich selbst habe viel dabei gelernt wie ich so was in Betrieb nehmen kann. Zusätzlich habe ich noch eine Open WebUI im Docker in einer VM am Start. Und ich schaue mir einige kleinere Modelle an. Mit 16GB kann man bis zu 24B Modelle laufen lassen. Alles darüber wird schon deutlich langsamer, da auch RAM verwendet wird.

 

[Anion]

Klingt für mich danach, als wenn ich eine ähnliche Lernreise wie du vor mir habe. Ich kaufe entsprechend die Karte in Bezug auf VRAM und power eher aus Sicht: was kann ich damit zocken.

CUDA/NV ist dann nur das Eintrittstor fürs Lernen.

 

[Anion]

Ich bin am überlegen - ganz unabhängig von dem Review der 5060 TI - eine Asus RTX 5070 TI TUF Gaming OC/Non-OC zu holen.
Dann hab ich für 5-10 Jahre Ruhe und kaufe nicht doppelt.

Was wäre denn aus Eurer Sicht ein angemessener Preis, gerade im Vergleich zur letzten RTX 4000er Serie?

Im CB Podcast wird gesagt, dass z.B. die 4090 letzten Sommer halb so teuer war, wie die 5090 jetzt. Und generell, dass die 5000er Serie zu teuer ist.
Nun geht aber der Preis im Markt zunehmend nach unten. Und die 90er ist wohl eh ein hinkendes Beispiel. Gerade für mich...

Sind 1030 € für einen Asus 5070 TI TUF OC schon ok? Wenn ich mir die Preise letztes Jahr anschaue im Sommer, dann landen die Asus 4070 TI Super auch bei 1000€ immer noch. Die 4070 Super bei 700€.

Und: lohnt es zu wartne, bis non-OC wieder verfügbar ist? Bin am überlegen einfach OC zu kaufen, damit ich dann in 5-6 jahren einfach hart übertakten kann. Oder ist das Einbildung, weil OC ja bereits mit dem übertakteten BIOS unterwegs ist?

Danke

 

[Azghul0815]

Sind 1030 € für einen Asus 5070 TI TUF OC

Nein
Für 1130 gibt's schon die ersten 5080er

lass dich doch wegen der Lautstärke nicht so verrückt machen.

 

[HerrRossi]

"Schon"...

 

[Azghul0815]

okay, ich darf ja umformulieren, wenn dir 15-18 % Aufpreis möglicherweise leisere Lüfter wert sind

 

[HerrRossi]

Nee, ich weiß schon, wie das gemeint war, aber es ist bemerkenswert, wie sich solche Preise in recht kurzer Zeit als "normal" etabliert haben.

 

[Anion]

Leise Lüfter sind mir sehr wichtig und da ist das Asus TUF wohl wesentlich besser als die (preiswerteren) Alternativen. Habe ein offenes Fractal gehäuse und höre das die ganze Zeit. Und meine Familie neben mir.

Was wäre denn ein angemessener Preis für die ASUS 5070 TI TUF? Oder ist die Karte überhaupt nicht interessant preislich?

Meine Kernfrage ist ja generell, als jemand der erst wieder seit paar Tagen informiert "ist": Wann ist eine gute Karte der der 5000er-Serie preislich angemessen? Konkret: was ist mit Geduld in den nächsten Monaten noch "realistisch möglich" bei der Preisentwicklung nach unten? Ja, ich weiß - Glaskugel lesen. Aber es geht hier nur um die Größenordnung, für Newbies wie mich als Orientierung.

 

[Kana_x]

Ich wäre vorsichtig mit zwei GPUs. Ich hatte kürzlich auf meinem Rechner KI Training durchgeführt, und beim Einrichten gab es Probleme. Als Tipp habe ich dann gelesen, dass man am besten nur eine GPU im System haben sollte, worauf ich dann die iGPU im BIOS deaktiviert hatte.
Recherchiere aber lieber nochmal, ob das wirklich die notwendige Lösung für mein Problem war, weiss ich nicht. Wenn Du selber sagst, Du möchtest keine Zeit verschwenden, dann willst Du vermutlich das Risiko klein halten, und eine zweite eingesteckte GraKa abzuschalten ist nicht ganz so einfach (ausser Du entwickelst unter Ubuntu, was eh besser ist, und erstellst Dir eine zusätzliche Boot-Config mit geblacklisteter GraKa).

Übrigens habe ich vor kurzem eine 4070 TI Super gebraucht für 805€ gekauft. Das war vermutlich zu viel, wenn ich sehe, dass es neue 5070 TI bereits für momentan 890€ gibt, aber auf dem Gebrauchtmarkt kannst Du auch ältere Teile richtig preiswert einkaufen.

Ergänzung (15. April 2025)

Ach ja, hier gibt es eine klasse KI Übersicht:
https://www.tomshardware.com/review...content-creation-gpu-benchmarks-rankings-2025

Die 3060 hat halt nur 12GB und ist weniger als halb so schnell wie eine 4070 TI Super. Wenn man ernsthaft Netze trainieren möchte, ist es ein grosser Unterschied, ob Du nach 4 oder 8 Stunden fertig bist.

 

[oicfar]

Die 3060 hat halt nur 12GB und ist weniger als halb so schnell wie eine 4070 TI Super. Wenn man ernsthaft Netze trainieren möchte, ist es ein grosser Unterschied, ob Du nach 4 oder 8 Stunden fertig bist.

Mind. 16GB VRAM sollte man schon haben.

Ansonsten gilt wie immer: das Kaufen, was für meine Use-Cases passt.

Und ja, KI schluckt schon viel Strom. Hier hängt es noch davon ab, was man macht.

 

[Anion]

Danke für den Link @Kana_x . Der hiflt. Interessant, dass eine 4070 TI im benchmark auf 460 punkte kommt und eine 4060 TI 16GB auf 290.

Wenn ich das auf den Preisunterschied umlege auf 5000er, dann heißt dass, dass eine 5060 TI 16gb mit 450 € (UVP... ja ich weiß), bessere P/L hat als eine 5070er TI (für 890€ für MSI oder 1030 € realer Marktpreis für ASUS TUF).

Zumal mein "AI Use Case" erstmal ist: do it, learn it, then refine. Wenn ich wirklich anfange Modelle im große Umfang zu trainieren, dann steig ich wohl mit der 6000er Serie in die Mittelklasse/Oberklasse auf, oder geh direkt in die Cloud.

Aber gut, gerade wurde die 5060 TI angekündigt. Jetzt warte ich auf den Test. Wenn der halbwegs positiv ist und ich damit eine bessere gaming Performance habe als mit meiner RX6700 XT, dann nehme ich die erstmal (sofern ich eine in Nähe UVP bekomme).

 

[Kana_x]

Da die 5060 TI mit 16GB rauskommt, könnte das eine bockstarke Kombi für den Einstieg sein!
Erste Benchmarks gibt es auch schon:
https://www.pcgameshardware.de/Gefo...ws/Benchmarks-gegen-5070-und-4060-Ti-1470445/

 

[HerrRossi]

Ich wäre vorsichtig mit zwei GPUs. Ich hatte kürzlich auf meinem Rechner KI Training durchgeführt, und beim Einrichten gab es Probleme.

Beim inferencing ist das kein größeres Problem, ich nutze eine 3080 und eine 2080ti gemeinsam.

 

[Kana_x]

Keine Ahnung, was es da für verschiedene Setups gibt, bei mir war es eine Umgebung mit den Nvidia CUDA Treibern, Torch etc. unter Conda.
Die Treiber als Verbindung zur richtigen HW müssten meiner Erinnerung nach der Knackpunkt gewesen sein.

 

[Anion]

Übersicht kürzlicher Verkaufspreise gebrauchter RTX3090er
https://www.ebay.de/sch/i.html?_nkw=rtx+3090&_sacat=0&_from=R40&rt=nc&LH_Sold=1&LH_Complete=1

Ich bin nach deinem Beitrag und dem Video von gamers nexus, auf die 3000er serie nochmal aufmerksam geworden:

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

Die scheinf im Bereich 3080 extrem gute p/l Retrospektiv zu haben.
Wäre zu meiner rx 6700 xt auch noch ein sattes update, hat 12 gb ram und ist wohl auch noch schneller als ne 5060ti bzw sogar 5070 (mit der shrinklation).

Preis im Gebrauchtmarkt ca

3080 ca. 400-450€
3080 ti ca. 450-500 €
3090 ca. 750€
3090 ti ca. 800-900€

Kurzfristig reicht die 3080er denke ich. Bin am überlegen ne 3080 TI für 450€ zu schießen.

Oder doch ne 3090 mit 24 gb VRAM gleich (trotz des Aufpreises)?

Mit einer 3080 wäre ich jetzt erstmal super (für mich) ausgestattet, mit der 3090 abee wohl auch auf Jahre Ruhe. Aber dann bräuchte ich wohl auch ein stärkes Netzteil (s. OP, hab nur 750 watt). Wobei ich die auch undervolten könnte von 450 (auf 350 watt?).

Was meint ihr?

 

[Anion]

Für jeden den es interessiert, da man sich in einer vergleichbaren Situation befindet:

Habe jetzt eine RTX 3080 TI TUF für 400€ geholt. Mit dem Wiederverkaufspreis meiner rx 6700 xt zahl ich so nur 150-200€ für ein Update von 30% Leistung und dem Zugang ins CUDA Eco-System.

Ist m.e. aktuell das sinnvollste. Sagen übrigens inzwischen auch viele professionelle Reviewer, dass die 3070 TI/3080/3080 TI für alle die sich im Bereich 5060 Ti bis 5070 von den Ansprüchen aufhalten, am Gebrauchtmarkt sinnvoller ist (vermutlich, Preise und zölle vorbehalten).

Die 5060 TI 16 GB ist zwar besser als viele dachten, aber dennoch langsamer als die 3080 TI (und das fur 50€ mehr).

Die 3090 wäre langfristig sinnvoller gewesen ggf, aber 50-75% mehr zahlen (700-800€ insgesamt)? Macht keinen sinn.

So kann ich mein 750er PSU behalten, und in paar jahren immer noch ne 5080 Super oder 6070 kaufen (je nachdem, wie die nächste Serie wird).

Danke euch nochmal.

***

	Config	€ 11/2022
Prozessor	AMD Ryzen 5™ 7600X,	268,00	Passend zu AM5 und ausreichend stark für 2-3 Jahre min. Danach upgrade ggf. Im gleichem Atemzug mit GraKa
Mainboard	Gigabyte X670 AORUS ELITE AX	259,00	Nur 20€ teurer als B650. Dafür mit mehr Flexibilität bei Anschlüssen, und Zen5/6 TDP verträglich
Kühler	Scythe Fuma 2 Rev. B	59,90	Standard Empfehlung computerbase
Arbeitsspeicher	Corsair DIMM 32 GB DDR5-5200	149,00	Günstigster 5200er RAM. Mehr verträgt das Mainboad eh nicht
Grafikkarte	PowerColor Radeon RX 6700 XT Fighter, 12GB GDDR6, HDMI, 3x DP ASUS Geforce RTX 3080 TI TUF Gaming	419,00	Beste P/L für Raterize/non-Raytracing. Genau richtig für die nächsten 3 Jahre. Dann Upgrade auf GPU mit Raytracing Focus
Netzteil	Seasonic Focus GX 750W ATX 2.4	119,98	Standard Empfehlung computerbase
Datenträger	WD Black SN850X NVMe SSD 2 TB	199,00	Schnellste 2TB SSD zu dem Preis mit DirectStorage Performance. Reicht mir sicher x-jahre
Gehäuse	Fractal Geh Meshify 2 Lite White TG Clear Tint	99,90	Edles Design, Kein Farbenspiel, mehr I/O als Pure 50

 

[HerrRossi]

Für AI sind 12GB nur halt schon ziemlich wenig.