Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsRTX 6000D: Die RTX Pro 6000 für China hat nur 84 GB GDDR7
"da ist (mir) die Bandbreite vollkommen egal!" --- hatte daher sogar überlegt, einfach ArrowLake-S vorzuschlagen, aber das wäre doch was böse überzogen für einen harmlosen Scherz gewesen.
Ich verstehe die Strategie bei den Sanktionen nicht. Die Maßnahme ändert doch rein gar nichts an Chinas Fähigkeiten bezüglich AI. Dazu müssten Restriktionen größer sein. Das einzige was man erreicht ist, dass China angepisst ist.
W ist lediglich Rhetorik um zu beruhigen. Aber wenn eigentlich?
Die „meisten“ generativen AI scheitern aktuell bei der Ausführung nicht an mangelnder Rechenleistung, sondern am mangelndem RAM. Wer aktuelle Modelle bei Bild, Video und anderen generativen Prozessen verwenden möchte, profitiert von der nackten Rechenleistung einer RTX 6000 weniger und ebenso nicht wirklich von den Transferraten. Hier sind die 96 GB weit aus wichtiger, weil sowohl die Daten des Models als auch deren Arbeitsdaten im RAM liegen können, ohne das diese kopiert werden müssen.
Gerade bei der Bildgenerierung kann es echt richtig langsam werden, wenn der VRAM voll ist und das Bild am Ende über Tiles skaliert werden muss.
Der RAM bestimmt die „kognitive“ Leistungsfähigkeit der AI-Modelle und ebenso wie viele oder wenige Nachbearbeitung durch weitere Schritte notwendig ist.
Am Ende kommt es halt darauf an, was man macht und mit welchem Preisschild das Ganze dann auch versehen wird.
Wird es auch wenn die Rechenleistung/Transferleistung nicht reicht, deshalb schrieb ich auch "RAM ist nicht alles". Ein Auto mit Rasenmähermotor und riesigem Tank hilft halt auch nichts.
Nicht umsonst skalieren sie im Datacenterbereich so enorm in Transferleistung und Networking, sie könnten sonst ja auch einfach EPYC Server mit ein paar TB DDR5 hinstellen und nicht mit HBM herumeiern.
Ich glaub sogar gerade die, weil sie eh alles fertigen. Was denksten wie die USA ohne China heute aussähe. Aber wie gesagt, es ist nur glauben nicht wissen.
Schon dreist "nur" 84GB. Also ich als dekadenter bessergestellter fasse nichts mehr an unter 128GB VRAM. Alles darunter taugt nur für den Pöbel, nicht mein Niveau.
Es geht dabei nicht um ein paar Grafikkarten hier und da. Wer eine 6000 oder 5090 haben möchte, kann diese einfach in China kaufen.
Wenn aber ein Rechenzentrum mit tausenden Karten ausgestattet werden soll, geht das nur über Nvidia direkt.
Ich bin mir aktuell nicht einmal sicher, was sinnvoller ist. Erstmal keine Milliarden in Rechenzentren investieren und abwarten oder möglicherweise Milliarden in eine mögliche Blase ohne Nutzen zu stecken.
Das Problem ist doch, dass man das genaue Gegenteil damit erreicht. Ebenso wie bei Russland entwickeln diese Länder dann selbst, bauen selbst, werden irgendwann völlig unabhängig vom Westen. Das mag sie kurzfristig "einbremsen" aber mittel bis langfristig wird es das genaue Gegenteil erzeugen von dem was man möchte. 🤷🏼♂️