Als jemand, der grade zwischen einer RTX3090 und einer B70 schwankte
(hab mich wegen der CUDA Dominanz für die 3090 entschieden und in einigen AI Zuständen klingt das, als würde eine Säge darin laufen oder Funken überspringen, bis dann die Lüfter hochdrehen):
Ich hätte mir echt gerne eine performante 64GB Grafikkarte gekauft, die am besten nicht klingt, als würde sie grade die Festplatten essen.
Vielleicht ist es ganz gut, dass ich noch etwas warte, aber QWEN 35B A3B gibt fast nutzbare Resultate. Nutzbar genug, dass ich für Hobbyprojekte damit öfter mal kleinere Sachen generieren werde und es mich auf alle Fälle unterstützen wird, wenn ich einen neuen Sensor ansprechen möchte und noch nicht weiß wie.
Vielleicht gibt es ja in 1-2 Jahren Modelle, die die Intelligenz von Claude Opus oder so auf 128GB haben, die wir dann auf einer 6090 laufen lassen können.