News Cloud AI 100 fürs Datacenter: Qualcomm feiert die Auslieferung 6 Jahre alter Hardware

[Volker]

Qualcomms 2019 enthüllter AI-Beschleuniger Cloud AI 100 wird in Saudi-Arabien in erste Rechenzentren gestellt. Qualcomms CEO jubelt, doch wohl eher vor dem Hintergrund, dass dort das große Geld für Folgeaufträge wartet. Denn mit Cloud AI 100 allein reißt man heute nicht mehr viel.

Zur News: Cloud AI 100 fürs Datacenter: Qualcomm feiert die Auslieferung 6 Jahre alter Hardware

 

[konkretor]

Das Netzwerk scheint von Arista zu sein, zumindest sind ein paar Kartons im Hintergrund zu sehen.

Reste Rampe würde ich mal sagen was da geliefert wurde. 350 Tops hat das Teil. Zum nen LLM laufen lassen wird's irgendwo reichen. 128 GB Speicher hat so eine Karte und für 2019 war das extrem viel RAM.

 

[madmax2010]

128 GB Speicher hat so eine Karte und für 2019 war das extrem viel RAM.

habe jetzt nichts hierzu nachgeschlaen, aber hast du die Bandbreite im Kopf?
Fuer Inferenz kann alte Hardware hervorragend sein, da meist ohnehin die Speicherbandbreite limitiert

Edit:
Nachgesehen. 500GB/s .. Joa schade Das reicht dann bei einem 80B Modell fuer geschätzt 10-20 Token/s
Dann doch lieber gleich ein paar RTX 3090 verbauen. Die schaffen fast 1TB/s pro Karte und in INT4 passt da auch ein 80B Modell drauf. Und sie haben sogar nvlink.


Wobei.. Wenn man als Kunden adobe liest, passt das schon. Fuer alles was nicht LLM ist / Bildmodelle sind die chips nach den bekannten specs ganz brauchbar

 

[0x8100]

sehr schön, drei arbeiten und einer passt auf - immerhin hat er den richtigen helm

 

[shadowrid0r]

Denkt man gar nicht das bei den Ölmultis so alter Kram installiert werden kann. Vom Geld her müssten die sich doch was aktuelles leisten können... Merkwürdige News.

 

[Mindfork]

Hab mal irgendwo gelesen, dass man alle 2 Jahre für die LLM´s seine Hardware upgradet.

Wenn das stimmt dann wären die dann um einiges hinterher, also warum das Geld für "Old-Tech" ausgeben

 

[0x8100]

warum das Geld für "Old-Tech" ausgeben

das ist saudi-arabien, da gibt man gerne geld für (angebliche) prestigeprojekte aus - egal, ob das was bringt oder nicht. immerhin kann irgendein scheich jetzt sagen, dass das land ganz modern ist und jetzt auch bei ai mitmischt...

 

[aid0nex]

sehr schön, drei arbeiten und einer passt auf - immerhin hat er den richtigen helm

ich kack ab 😂😂
Das brauche ich für meine "Arbeits"kollegen 😁

 

[Kaufmannsladen]

Man soll die Feste feiern, wie sie fallen. :>

 

[Zweite Sonja]

Denkt man gar nicht das bei den Ölmultis so alter Kram installiert werden kann. Vom Geld her müssten die sich doch was aktuelles leisten können... Merkwürdige News.

Das wird bestimmt ein Superreicher aus Spaß für seinen Neffen oder so gekauft haben.
So wie wir mal eben ein zweites Smartphones oder Tablet kaufen... 😅

 

[Kaufmannsladen]

Denkt man gar nicht das bei den Ölmultis so alter Kram installiert werden kann. Vom Geld her müssten die sich doch was aktuelles leisten können...

Im Vergleich zu Bigtech sind die nicht mehr ganz so reich

 

[0x8100]

Das brauche ich für meine "Arbeits"kollegen 😁

denk dran, die helme der aufpasser sind die besseren:

 

[Mindfork]

das ist saudi-arabien, da gibt man gerne geld für (angebliche) prestigeprojekte aus - egal, ob das was bringt oder nicht. immerhin kann irgendein scheich jetzt sagen, dass das land ganz modern ist und jetzt auch bei ai mitmischt...

Naja gerade die Saudis sollten ja wissen, dass das nicht mehr wirklich prestige-klasse ist. Ich meine das ist so als würde man in der F1 mit einem 6 Jahre alten Fahrzeug an den Start gehen.

Selbst wenn die den altem Schumi hätten, der hätte dann auch nur eine Chance wenn die anderen mit Augenklappe und angezogener Handbremse fahren

 

[0x8100]

Naja gerade die Saudis sollten ja wissen, dass das nicht mehr wirklich prestige-klasse ist.

da kann man mal sehen, wie gut der sales bei qualcomm ist kann natürlich auch sein, dass die alten kisten sowieso weg mussten und die saudis die mehr oder weniger für lau von qualcomm bekommen haben in der hoffnung, dass sie mehr (aktuelles) zeugs kaufen.

 

[ATIst]

Warum hat Qualcomm für seine Enterprise Produkte sinnvollere Namen als für seine Consumer Reihe?😅

 

[Toast.Brot]

Für die Saudis dürfte die Hardware zweitrangig sein, wichtiger sind die News. Wir werden wieder geschätzt und alle wollen mit uns zusammenarbeiten.

Keiner redet mehr von Kashoggi und Co.

 

[FX9590]

Denkt man gar nicht das bei den Ölmultis so alter Kram installiert werden kann. Vom Geld her müssten die sich doch was aktuelles leisten können... Merkwürdige News.

Gewagte These: Vielleicht ist das so ähnlich wie mit dem sogenannten "Stupid German money"? Also, es ist zwar massenhaft Geld da aber nicht Wissen und Verstand damit etwas wirklich durchdachtes und sinnvolles zu tun? Also hört man auf die Verkäufer die einem erzählen, dass wäre alles ganz super und modern.

Wie gesagt: Nur so eine Idee? Vielleicht hat man es auch so billig bekommen das man dachte: Zum herumprobieren ganz ok! Oder irgendein Scheich will darauf DOOM installieren? Keine Ahnung... 🤔