Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden.
Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
News Forschung mit KI: DOE will neue US-Supercomputer mit AMD MI355X und MI430X
- Ersteller MichaG
- Erstellt am
- Zur News: Forschung mit KI: DOE will neue US-Supercomputer mit AMD MI355X und MI430X
Zumindest so gut das man mehrere Systeme nun im Bestand hat.empower schrieb:@Skysnake du meinst die software probleme sind gelöst? freu mich auf belege von dir![]()
Du weichst aber meinen Fragen mir Whataboutism aus. Wie wäre es mal mir Farbe bekennen?
@Skysnake wieso soll ich solche unsinnigen fragen beantworten. bin in der autoindustrie und hab mit öffentlichen ausschreibungen nichts zu tun. aber mir ist schon klar, dass bei den preisen da nur AMD möglich ist, weil der batzen an softwareprogrammierung erst später kommt. du hast anscheinend auch noch nie von comfiui gehört.
foofoobar
Rear Admiral
- Registriert
- Dez. 2011
- Beiträge
- 5.381
Oh, die Autoindustrie hat jetzt wieder Geld wie Heu?empower schrieb:@Skysnake wieso soll ich solche unsinnigen fragen beantworten. bin in der autoindustrie und hab mit öffentlichen ausschreibungen nichts zu tun. aber mir ist schon klar, dass bei den preisen da nur AMD möglich ist
@foofoobar sie treffen zumindest manchmal sinnvolle entscheidungen
Weil du sehr absolute Behauptungen ohne konkrete Belege aufstellst. Da ist es interessant zu wissen, inwiefern die auf eigenen Erfahrungen beruhen.empower schrieb:@Skysnake wieso soll ich solche unsinnigen fragen beantworten
Wenn du das denkst, hast du verpasst, dass auch AMD die Preise kräftig angezogen hat. Ist nicht so, als ob die ihre GPUs verramschen würden.empower schrieb:hab mit öffentlichen ausschreibungen nichts zu tun. aber mir ist schon klar, dass bei den preisen da nur AMD möglich ist
Das ist halt nicht der Grund, warum AMD genommen wird. Man glaubt es kaum, aber Leute die solche Ausschreibungen machen sind nicht völlig blöd und können den "Konfigurationsaufwand" berücksichtigen. Trotzdem entscheiden sich viele für AMD, gerade wenn auch klassisches HPC gemacht wird statt nur AI.empower schrieb:weil der batzen an softwareprogrammierung erst später kommt.
Das ComfyUI, das bei mir zuhause auf dem AMD-only PC läuft? Sehe da das Problem nicht.empower schrieb:du hast anscheinend auch noch nie von comfiui gehört.
achso, deswegen haben die öffentlichen auch so einen guten ruf was auschreibungen und geldverbrauch angehtstefan92x schrieb:aber Leute die solche Ausschreibungen machen sind nicht völlig blöd und können den "Konfigurationsaufwand" berücksichtigen.
wo ist das argument? ich kanns auch auf meinem amd laptop laufen lassen.stefan92x schrieb:Das ComfyUI, das bei mir zuhause auf dem AMD-only PC läuft? Sehe da das Problem nicht.
Ok fassen wit also zusammen. Du hast keinerlei Ahnung, meinst aber genau zu wissen wie der Hase läuft. Respekt.empower schrieb:@Skysnake wieso soll ich solche unsinnigen fragen beantworten. bin in der autoindustrie und hab mit öffentlichen ausschreibungen nichts zu tun. aber mir ist schon klar, dass bei den preisen da nur AMD möglich ist, weil der batzen an softwareprogrammierung erst später kommt. du hast anscheinend auch noch nie von comfiui gehört.
Und das du die Fragen als unsinnig bezeichnest sagt alles.
Ich kann dir aber mal so viel sagen als jemand der Ausschreibungen für solche Systeme auf Seite des öffentlichen Dienstes und der Industrie sowohl auf Anbieter als auch Kundenseite im zweistelligen Millionenbereich umgesetzt hat sagen das du undifferenzierten Quark redest.
Jetzt verstanden?
Und nein es ist nicht schlimm keine echten Erfahrungen zu haben aber dann sollte man aich mal zuhören.
Als jemand, der beruflich sowohl die öffentliche Hand als auch die Autoindustrie kennt, kann ich dir guten Gewissens sagen: es gibt deutsche Behörden, deren IT wesentlich besser und kosteneffizienter arbeitet und einkauft als gewisse große Autokonzerne. Gibt auf beiden Seiten auch die anderen, das will ich nicht leugnen.empower schrieb:achso, deswegen haben die öffentlichen auch so einen guten ruf was auschreibungen und geldverbrauch angeht![]()
Du hast es angesprochen und ich frage mich wieso? Was ist denn Argument, denn ich erkenne keins?empower schrieb:wo ist das argument? ich kanns auch auf meinem amd laptop laufen lassen.
DU willst nur nicht die Argumente hören!
Ich habe dir gesagg das wir ein POC mit AMD gemacht haben, kurz etwas Hilfe bei der ersten Umsetzung hatten um die Systeme in die bestehende Platform und Softwarestacks zu integrieren und es dann im wesentlichen lief. Sprich die Entwickler haben die Systeme benutzt und waren zufrieden. Sprich am Ende konnte man für dir größere Beschaffung sowohl AMD als auch nVidia anbieten.
Das ist nicht ganz erste Hand weil ich es nicht selbst umgesetzt habe aber Kollegen im gleichen Team. Sprich näher dran sein kannst du nicht wenn du es nicht selbst machst.
Und deinen Kommentar bezüglich Ausschreibungen im öffentlichen Bereich kannst du dir im HPC Bereich abschminken. Ein Großteil der Ausschreibungen von dort sind um längen kompetenter als die aus der Industrie...
Und was so manchet Anbieter an Bullshit verzapft will ich jetzt lieber erst gar nicht austreten. Das ist immer wieder nur noch peinlich....
Ich habe dir gesagg das wir ein POC mit AMD gemacht haben, kurz etwas Hilfe bei der ersten Umsetzung hatten um die Systeme in die bestehende Platform und Softwarestacks zu integrieren und es dann im wesentlichen lief. Sprich die Entwickler haben die Systeme benutzt und waren zufrieden. Sprich am Ende konnte man für dir größere Beschaffung sowohl AMD als auch nVidia anbieten.
Das ist nicht ganz erste Hand weil ich es nicht selbst umgesetzt habe aber Kollegen im gleichen Team. Sprich näher dran sein kannst du nicht wenn du es nicht selbst machst.
Und deinen Kommentar bezüglich Ausschreibungen im öffentlichen Bereich kannst du dir im HPC Bereich abschminken. Ein Großteil der Ausschreibungen von dort sind um längen kompetenter als die aus der Industrie...
Und was so manchet Anbieter an Bullshit verzapft will ich jetzt lieber erst gar nicht austreten. Das ist immer wieder nur noch peinlich....
foofoobar
Rear Admiral
- Registriert
- Dez. 2011
- Beiträge
- 5.381
Nobody gets fired for buying IBM?empower schrieb:Sie treffen zumindest manchmal sinnvolle Entscheidungen
Insbesondere die sogenannten Marktführer.Skysnake schrieb:Und was so manchet Anbieter an Bullshit verzapft will ich jetzt lieber erst gar nicht austreten. Das ist immer wieder nur noch peinlich....
pseudopseudonym
Fleet Admiral
- Registriert
- Mai 2017
- Beiträge
- 10.787
@empower Du weißt, dass die Spitze der TOP500 bereits mit AMD läuft? Platz 1 wird übrigens vom DOE betrieben.
In der Liste findest du auch diverse kleinere AMD-Cluster vom DOE. Ein allzu großes Softwareproblem haben die nicht mehr.
Dass bei AMD so viel Open Source ist, dürfte einer der Gründe sein. Ein Problem an NVIDIAs Ansatz ist, dass NVIDIA Probleme in Cuda oder Treibern fixen muss. Bei AMD kann man das auf mal selbst machen und die Manpower hat das DOE.
Der APU-Ansatz von AMD bringt auch noch einige Vorteile. Hat schon Gründe, dass NVIDIA da zusammen mit ARM nachziehen will.
In der Liste findest du auch diverse kleinere AMD-Cluster vom DOE. Ein allzu großes Softwareproblem haben die nicht mehr.
Dass bei AMD so viel Open Source ist, dürfte einer der Gründe sein. Ein Problem an NVIDIAs Ansatz ist, dass NVIDIA Probleme in Cuda oder Treibern fixen muss. Bei AMD kann man das auf mal selbst machen und die Manpower hat das DOE.
Der APU-Ansatz von AMD bringt auch noch einige Vorteile. Hat schon Gründe, dass NVIDIA da zusammen mit ARM nachziehen will.
da bist du komplett falsch leider, genau das gegenteil ist der fall. als ob CUDA schlecht wäre, weil tausende bezahlte entwickler daran tagtäglich arbeitenpseudopseudonym schrieb:Dass bei AMD so viel Open Source ist, dürfte einer der Gründe sein. Ein Problem an NVIDIAs Ansatz ist, dass NVIDIA Probleme in Cuda oder Treibern fixen muss.
pseudopseudonym
Fleet Admiral
- Registriert
- Mai 2017
- Beiträge
- 10.787
@empower Cuda ist gut, keine Frage. Aber bei dem Scale, mit dem am DOE gearbeitet wird, hat alles irgendwann mal Bugs. Bei NVIDIA musst du dann warten, bis die das gefixt haben. Ggf mit vielen Runden Logs hin- und herschicken, die dann bei DOE-Clustern auch noch bereinigt werden müssen (und theoretisch muss jedes Log, das nach außen geht, genehmigt werden).
@pseudopseudonym nicht nur bei Bugs. Nvidia entwickelt in die Richtung weiter, die für Nvidia im Fokus ist. Das ist AI, während klassisches HPC bei Nvidia keine Priorität hat.
hier ist ein bisschen material von den experten https://newsletter.semianalysis.com...-who-wins-performance-cost-per-million-tokenspseudopseudonym schrieb:@empower Cuda ist gut, keine Frage. Aber bei dem Scale, mit dem am DOE gearbeitet wird, hat alles irgendwann mal Bugs. Bei NVIDIA musst du dann warten, bis die das gefixt haben. Ggf mit vielen Runden Logs hin- und herschicken, die dann bei DOE-Clustern auch noch bereinigt werden müssen (und theoretisch muss jedes Log, das nach außen geht, genehmigt werden).
von mir aus kann AMD so weiter machen, ich kauf mir nur CPUs von AMD
Ergänzung ()
wie ein amerikanisches auto die meisten PS und den meisten spritverbrauch. wirtschaftlich ist die 500 green liste https://top500.org/lists/green500/2025/06/pseudopseudonym schrieb:@empower Du weißt, dass die Spitze der TOP500 bereits mit AMD läuft? Platz 1 wird übrigens vom DOE betrieben.
Zuletzt bearbeitet:
foofoobar
Rear Admiral
- Registriert
- Dez. 2011
- Beiträge
- 5.381
Software und Hardware hat Bugs, das ist ja mal was ganz neues:empower schrieb:hier ist ein bisschen material von den experten https://newsletter.semianalysis.com...-who-wins-performance-cost-per-million-tokens
Further tests would have been interesting. I wanted to test CPU to GPU bandwidth using the GPU’s copy engine. DMA engines can queue up memory accesses independently of CPU (or GPU) cores, and are generally more latency tolerant. Nemes does have a test that uses vkCmdCopyBuffer to test exactly that. Unfortunately, that test hung and never completed.
https://chipsandcheese.com/p/grace-hopper-nvidias-halfway-apuChecking dmesg showed the kernel complaining about PCIe errors and graphics exceptions. I tried looking up some of those messages in Linux source code, but couldn’t find anything. They probably come from a closed source Nvidia kernel module. Overall, I had a frustrating experience exercising NVLink C2C.
DA dreht es sich rein um Interference. AI ist aber mehr als nur Interference.empower schrieb:hier ist ein bisschen material von den experten https://newsletter.semianalysis.com...-who-wins-performance-cost-per-million-tokens
Anhang anzeigen 1670525
von mir aus kann AMD so weiter machen, ich kauf mir nur CPUs von AMD
Keinen der Stacks kenne ich bzw war im PoC. Damit kann ich dazu nichts sagen. Auch nicht dazu wir aussagekräftig das überhaupt ist.This dashboard will cover multiple major inference stacks including VLLM, SGLang TensorRT LLM, and future Dynamo integrations.
Aber da kommen wir wieder zu dmd Punkt das du dir Einzelfälle raussuchst und dann verallgemeinerst.
Ich würde mich hüten zu sagen das AMD immer und überall besser ist und sei es nur bei Perf/$. Aber es gibt quch Situationen in denen nVidia deutlich schlechter ist. Dir Mi300A rocken in manchen Feldern auch einfach alles weg. Muss man auch mal so akzeptieren. PrePrint paper hierzu kann ich nicht bereitstellen.
LOL. GREEN500 und wirtschaftlich. Ähm ja ne ist klar. Deswegen werden die Systeme ja auch im Nprmalbetrieb so betrieben. Oh no wait. Werden Sie nicht 🙄empower schrieb:wie ein amerikanisches auto die meisten PS und den meisten spritverbrauch. wirtschaftlich ist die 500 green liste https://top500.org/lists/green500/2025/06/
Die Green 500 ist ein Gradmesser dafür was überhaupt möglich ist. Man sollte das aber immer mit eoner gehörigen Prise Salz betrachten. Wobei man sagen muss mit dem Rework vor ein paar Jahren ist es schpn massiv besser geworden. Mit etwas Aufwand kannst du aber trotzdem noch immer massiv was rausholen.