News Ampere: Nvidia bringt A100 mit 80 GB HBM2e als PCIe-Karte

[nlr]

Nvidia bietet die „A100 Tensor Core GPU“ auf Basis der Ampere-Architektur fortan auch im PCIe-Format mit 80 statt 40 GB Speicher an. Von dem doppelt so großen Speicher sollen Käufer beim KI-Training vor allem bei besonders großen Modellen profitieren. Support für die Karte gibt es von zahlreichen Unternehmen im Server-Umfeld.

Zur News: Ampere: Nvidia bringt A100 mit 80 GB HBM2e als PCIe-Karte

 

[yoshi0597]

War ja nur eine Frage der Zeit bis es das "Upgrade" bei der PCIe Variante gibt :-)
In der Tabelle ist ein Fehler unter "Speichergröße". Die A100 80GB hat nur 40GB Speicher und die "alte" A100 PCIe hat 80GB

 

[konkretor]

Schöner Hardware pr0n

Letzte Woche kam der Server mit der A40 Karte an
Sehr gespannt wie das Teil performt. Leider nur DDR6 und kein HBM Speicher.

 

[leeloof]

Entweder hab ich überlesen oder finde es nicht, aber was kostet so ein Teil überhaupt?

 

[Damien White]

Entweder hab ich überlesen oder finde es nicht, aber was kostet so ein Teil überhaupt?

Wenn du das fragen musst dann kannst du sie eh nicht bezahlen.

 

[H3llF15H]

Haben die mittlerweile Designer eingestellt, bei Nvidia?

Die Produkte sehen ja seit neustem sehr chic aus.

 

[konkretor]

@leeloof https://geizhals.at/pny-a100-pcie-tcsa100m-pb-a2376017.html das ist nur die Variante mit 40 GB
Die ist schon irgendwo bei knapp 10 K €, die 80 GB Karten wird es sicherlich nicht darunter geben, Frage ist nur wie viel drüber....

 

[Die wilde Inge]

Was macht man denn eigentlich mit solchen Karten?
Große Rechenleistung scheinen die Teile ja nicht zu haben, wenn Sie nur passivgekühlt werden.

 

[chesus1332]

@Die wilde Inge steht doch da: Neuronale Netze trainieren

 

[leeloof]

Wenn du das fragen musst dann kannst du sie eh nicht bezahlen.

Danke für diesen durchaus netten und sinnvollen Beitrag

@leeloof https://geizhals.at/pny-a100-pcie-tcsa100m-pb-a2376017.html das ist nur die Variante mit 40 GB
Die ist schon irgendwo bei knapp 10 K €, die 80 GB Karten wird es sicherlich nicht darunter geben, Frage ist nur wie viel drüber....

Dankeschön

 

[pakichaggi]

Wunderschön

 

[Shoryuken94]

Entweder hab ich überlesen oder finde es nicht, aber was kostet so ein Teil überhaupt?

Geht bei ca. 10.000€ für die kleine Variante los, ist aber je nach Abnahmemenge verhandelbar. Die Preise für Serverhardware sind nur der Ausgangspunkt für die Preisverhandlung.

Wenn du das fragen musst dann kannst du sie eh nicht bezahlen.

Ist ein dummes Argument. Zum einen impliziert die Frage nach dem Preis nicht zwangsläufig eine Kaufabsicht und zweitens ist der Preis zum Treffen der Kaufentscheidung ein wichtiger Faktor. Deshalb hast du im Supermarkt auch Preise an den günstigen Produkten stehen, die sich jeder leisten kann.

 

[Conqi]

Die Produkte sehen ja seit neustem sehr chic aus.

Da fand ich die V100 aber hübscher. Die hier ist mir dann doch etwas zu minimalistisch.

 

[Robo32]

Große Rechenleistung scheinen die Teile ja nicht zu haben, wenn Sie nur passivgekühlt werden.

Geh mal in einen Serverraum und höre dir die Lautstärke der "passiv" gekühlten CPUs und GPUs an...

 

[Tzk]

Große Rechenleistung scheinen die Teile ja nicht zu haben, wenn Sie nur passivgekühlt werden.

Vertu dich da mal nicht. in Servern ist es üblich, das vorne ein paar fette Deltalüfter sitzen, die die Luft durch das gesamte Gehäuse drücken. Deshalb ist die A100 lüfterlos, aber nicht passiv

 

[Schlumpfbert]

Was macht man denn eigentlich mit solchen Karten?
Große Rechenleistung scheinen die Teile ja nicht zu haben, wenn Sie nur passivgekühlt werden.

Die Dinger steckt man wahrscheinlich in ein Gehäuse in einem 19“ Schrank im Serverraum, welches sehr gut und laut belüftet ist.

 

[blubberbirne]

Entweder hab ich überlesen oder finde es nicht, aber was kostet so ein Teil überhaupt?

Über 50K ... preise dürften aber je nach Anbieter stark variieren (Dell, FTS, SuperMicro ect.)

 

[catch 22]

wenn Sie nur passivgekühlt werden.

Serverhardware für den Rack Einbau ist üblicherweise Passiv gekühlt, da die Lüfter Bestandteil des Gehäuses sind.
Diese Lüfter sind entsprechend dimensioniert (aus PC Desktop / (Midi) Tower Sicht eher klein und gönnen sich gerne schon mal an die 50Watt, während sie bis zu 12 bis 17k Rpm liefern - ja, ein Serverraum ist für gewöhnlich kein Ort der Ruhe).
Des weiteren sind Serverräume üblicherweise klimatisiert (kühl genug als dass man besser einen warmen Mantel im Büro hat, wenn man ab in die Verlegenheit geraten sollte, dass man sich dort für mehr als nur 10 Minuten aufhalten muss)

 

[lordfritte]

Wie viel MH/s kann die?

 

[Autokiller677]

Große Rechenleistung scheinen die Teile ja nicht zu haben, wenn Sie nur passivgekühlt werden.

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

Hier ein Server mit zwei "passiv gekühlten" EPYC 64-Kernern.

Bei Servern sehr üblich, dass nicht jede Komponente ihre eigenen Lüfter bekommt. Man macht einfach mit ein paar dicken Lüftern aus dem ganzen Gehäuse einen Windkanal, und alles, was Kühlung braucht, bekommt was ab.