News RAM-Preise fallen: Wird Speicher wirklich wieder (deutlich) günstiger?

[Pisaro]

verdammte Blase!

KI ist keine Blase. KI wird bleiben.

 

[sarge05]

ist ja nur seltsam das nur langsame Speicher mit höher Timing auf dem Markt gibt.

 

[Scotty40]

"Gegenüber der letzten Erhebung vom 15. März ist in der Tat im Durchschnitt ein weiterer Preisrückgang um 12 Prozentpunkte zu verzeichnen, doch nicht alle Produkte zeigen diesen Trend. Teurer geworden ist indes kein einziges Produkt."
@Jan
Also ich sehe in Eurer Tabelle 3x eine Preissteigerung

 

[WauWauWau]

"Nun ja, ich sehe es eher nicht so optimistisch. Etwas ist schon gefallen, aber den Boden werden die Preise nie wieder erreichen."

 

[Luxmanl525]

Hallo zusammen,

das mag ja momentan sein. Aber langfristig eher nicht, nach dem aktuellsten Artikel auf heise:

https://www.heise.de/news/DRAM-und-...-zweiten-Quartal-rasant-steigen-11242277.html

Ich sehe da auch noch kein Ende der Fahnenstange. Es sei denn, es knallt an den Börsen. Was so unwahrscheinlich gar nicht ist. Die einzige Frage in dem Bezug ist einzig die, wann das sein wird.

So long...

 

[Vincenso]

Hab ne steile These: Durch KI Kaufen alle wie wild und ohne Hemmungen RAM wodurch er teuer wird und die Herstelle wie wild RAM Herstellen. Irgendwann ist der RAM hunger befriedingt und es aber noch ne Menge RAM da, was dann zu ramschpreisen verkauft wird!????

 

[FrozenPie]

KI ist keine Blase. KI wird bleiben.

Niemand redet auch davon, dass KI selbst eine Blase ist (eine Technologie kann per Definition keine Blase sein, so wie das Internet bei der dotcom Blase selbst auch nur die Technologie war). Die Finanzstruktur um die betreffenden KI-Firmen herum ist allerdings eine Blase wie sie im Buche steht: Eine handvoll Firmen reichen sich Schuldscheine/Aktienanteile in zwei- bis dreistelligem Milliardenwert im Kreis herum. Fällt eine oder fallen zwei aus, fallen die restlichen hinterher, da durch die Insolvenz der Firmen die Schuldscheine/Aktien der betroffenen wertlos werden (Panikverkäufe der restlichen Investoren die ihre verbleibenden Schäfchen noch retten wollen sind die Folge). Es fließt quasi dort kein bisschen echtes Geld rum, lediglich Schuldscheine und Firmenanteile werden ausgetauscht bzw. als "Collateral" genutzt. Es muss ja nur ein Großinvestor dort drin denken, dass ihm die Sache zu heiß wird und er seine Investitionen rauszieht, dann kippt die ganze Sache schon. Dieses Konstrukt ist so dermaßen instabil ohne Fallback oder Risikostreuung und wird eigentlich nur durch vertrauen bzw. blinden glauben an die Sache getragen (also eigentlich nur der Glaube/das Vertrauen darin, dass es noch größer werden könnte). Fällt dieses weg, ist's vorbei.

Keine der Firmen in diesem Konstrukt macht im übrigen Gewinn (außer die Hersteller für Hardware, aber das auch eigentlich nur durch das Verbuchen von zukünftigen Zahlungen in aktuelle Finanzberichte). Stehen die nächsten Quartalsberichte an, wird das nächste "Rumreichen" gemacht und dieses Circle-Jerk Verschulden dann als Umsatz in die Bilanzen aufgenommen. Es ist so dermaßen grenzwertig was da abgeht aus finanzieller Sicht...

 

[Cool Master]

@Vincenso

Eher nicht der Fall da die KI-Anbieter eher langsamen Server-RAM mit ECC bestellen und nicht das was man im Consumer Bereich will/brauch.

 

[neutrongummi]

Ich will nicht behaupten, dass echter Mehrwert nicht möglich sein, aber meine persönliche Erfahrung bisher:

• KI Agent bei ATU der völligen Bullshit erzählt und einfach FALSCHE Sachen (Anlasseraustausch ist kostenlos... wtf, welche Werkstatt macht das kostenlos?; freier Termin am Samstag... nope, erst am Montag wieder). Am Ende musste mir doch der echte Mensch am Telefon helfen (und klar stellen, dass ich falsche Informationen hatte) – heißt für mich MehrAUFWAND statt Mehrwert, weil ich am Ende doch noch mal alles erzählen muss und die Firma ihre Zeit mit mir verbringt anstatt das der KI zu überlassen
• in der Alltagsnutzung am Handy: KI erzählt etwas, dass mir falsch vorkommt. Ich prompte das zurück, Antwort: "Ja genau, dass ist tatsächlich nicht so..." Ja was denn nun?
• vermehrte KI Bilder auf Social Media, im Internet, und in Computerspielen, die in den meisten Fällen sofort negativ auffallen und beim genaueren Hinsehen völligen Unsinn darstellen

"Mehrwert" den ich bisher in meinem Alltag sehe:

• Leute machen lustige Bilder von sich mit thematischen Bezügen ("guckt mal, ich spiele ein Mittelalter-Spiel und packe mich in eine Ritterrüstung")
• der Flyer für's Dorffest wird in 2 Minuten erstellt und Karl-Heinz muss nicht mehr 20 Minuten mit Illustrator oder Canvas rumbasteln (was er eigentlich immer gerne gemacht hat, weil es für die Gemeinschaft war. Die 20 Minuten kann er jetzt mit anderen Dingen verbringen)

Ich verteufel KI nicht kategorisch, aber ich sehe es einfach nicht. Stand jetzt.

Das sind nicht mal 5% von dem, was KI heute macht. KI entwickelt Software, steuert und optimiert Prozesse usw.
Ob ATU da einen Chatbot nutzt ist völlig irrelevant, wenn Amazon durch KI pro Jahr Milliarden spart, dann wird es interessant. Und das ist der Stand jetzt. KI kann unglaublich gut Software entwickeln.

@Vincenso

Eher nicht der Fall da die KI-Anbieter eher langsamen Server-RAM mit ECC bestellen und nicht das was man im Consumer Bereich will/brauch.

Das Problem sind nicht die Speichermodule sondern Chips. Die Chips gibt es nicht mehr, daher auch so wenige Module

 

[Ciero]

Viele setzen "Überbewertung" direkt mit "Blase" gleich und das ist mir zu kurz gedacht. Nur weil sich zig Anbieter auf KI stürzen und die Hälfte davon kein tragfähiges Produkt/Dienstleistung hinbekommt, heißt das nicht automatisch, dass das ganze Feld eine Blase ist. Das ist eher normale Marktselektion in einer frühen Phase. War bei Mobile, Cloud und auch beim Internet nicht anders. Sind es hier aber enorme Summen an Geld? Auf jeden Fall aber dadurch wird es nicht direkt zur Blase. Es gibt halt nur eine Hand großer Anbieter die sich das Geld hin und her schieben welche die Technologie haben. Am End ist aber ein sicher der größte Gewinner ist und bleibt Nvidia.

Die Art und Weise wie die großen das Geld hin und her schieben, lassen ihre Kennzahlen schöner aussehen als sie es eigentlich sind und lässt eine Blase generieren. Das aufgebaute vendor financing Konstrukt birgt Risiken. Ich bin persönlich der Meinung, dass man von Risiken sprechen sollte und nicht darüber, ob es platzt, weil wissen, wird es niemand.

Ciero

 

[catch 22]

Ja werden wir.

wieso "werden wir sehen"? Wenn es doch deinen eigenen Worten nach schon jetzt einen echten Mehrwert bietet, dann müssten wir auch schon hetzt einen echten Mehrwert sehen.
Benenne doch bitte diesen echten Mehrwert nun einfach mal, den wir leider nicht sehen, anstelle von einem "vagen Etwas" zu reden, damit wir darüber argumentieren können, ob das tatsächlich jetzt schon einen echten Mehrwert bietet

 

[Fujiyama]

Bleiben ja nur noch die überteuerten Grafikkarten und SSDs.

 

[FrozenPie]

Hier ein Repo was das Google Paper aus der Theorie in die Praxis umsetzt

Es gibt auch schon entsprechende Pull Requests in den Repos der verschiedenen LLM "Runtimes" wie Ollama, vLLM, Lemonade, usw., geht also voran auch wenn noch keiner davon gemerged wurde. Bin gespannt wie sich das auswirkt, sobald die entsprechenden Releases raus sind.

 

[Cool Master]

Die Art und Weise wie die großen das Geld hin und her schieben, lassen ihre Kennzahlen schöner aussehen als sie es eigentlich sind und lässt eine Blase generieren.

Na ja weil nur die es herstellen. Es gibt in dem Bereich GPUs halt nur AMD und Nvidia, im RAM Bereich und NAND Bereich gibt es auch nur die üblichen Verdächtigen und das streckt sich über alle PC/Server-Teile. Ich sehe da also aktuell also kein Risiko mal abgesehen von dem normalen unternehmerischen Risiken die es eh immer gibt.

Das Problem sind nicht die Speichermodule sondern Chips. Die Chips gibt es nicht mehr, daher auch so wenige Module

Ja das meinte ich ja. Die NANDs welche von den Herstellern bestellt werden sind DDR5 JEDEC mit ECC (nicht das DDR-5 ECC sondern echtes) und das wird dann für den normalen Endverbraucher nicht interessant.

@catch 22

Schrieb ich schon - sogar in dem von dir zitieren Beitrag.

 

[Artanis90]

ist ja nur seltsam das nur langsame Speicher mit höher Timing auf dem Markt gibt.

Seltsam ist das nicht. Die Hersteller wissen, dass vor allem AM5 gut läuft und dann wissen die auch, dass bei DDR5-6000 dann Schluss ist im Takt, da mehr nicht lohnt.

 

[7H0M45]

Solange man den Ressourcenverbrauch nicht in den Griff bekommt wird KI langfristig auf eine Nischenanwendung hinlaufen.

Nicht weil es technologisch kein Potential bieten würde, sondern einfach weil es kostentechnisch nicht rentabel ist.

Es ist doch genau das gleiche wie mit der Automatisierung in China und Indien. Die ist dort relativ gesehen kaum vorhanden. Nicht weil es nicht gehen würde. Sondern einfach nur weil die alte Technologie (manuelle Handarbeit) in vielen Fällen weiterhin günstiger ist als die moderne High-End Technologie.

Diese Kreisgeschäfte die in dem Sektor vor sich gehen zeigen ja recht deutlich, dass sich dort massiv was aufbläst. Vor allem auch weil keiner der KI Anbieter aktuell Geld damit verdient. Auch die großen verbrennen dort massiv. Und das ist auch kein Geheimnis. Die geben alle zu, dass sie Geld verbrennen. Aber es ist halt günstiger, wenn man mitmacht.

Aber schon klar die Foristen wissen es natürlich besser...

https://www.bbc.com/news/articles/cwy7vrd8k4eo

 

[FrozenPie]

Ich bestreite nicht, dass "KI" (auch wenn ich diese Systeme aufgrund ihrer Natur definitiv nicht als "intelligent" bezeichnen würde) einen Mehrwert hat, besonders in Bereichen in denen Statistik, Pattern Recognition, usw. Trumpf sind, wie z.B. Medizin, Werkstofftechnik, Simulation, Fehlersuche/Mustererkennung in Systemen (z.B. Programmierung, Schaltungen, usw.), Encoding/Decoding/Signalauswertung, usw.

Allerdings ist die Infrastruktur für das Training und den Betrieb von Modellen, die aktuell gebaut wird, für diese Anwendungsbereiche, in denen diese Systeme richtig was bringen würden, viel zu groß. Das extreme aufpumpen des Angebots wird bzw. trifft bereits auf eine viel zu kleine Nachfrage. Diese Nachfrage wird deshalb aktuell künstlich erhöht indem in jedes Produkt, egal ob sinnvoll oder nicht, irgendein "AI"-Feature integriert wird, nur um die Nutzungszahlen auf dem Papier zu erhöhen und damit Investoren zufriedenzustellen.

Außerdem wird der Fokus auch aktuell viel zu sehr auf "immer mehr, immer größer" (das was Investoren halt so lieben) gelegt anstatt sich auf grundlegende Probleme der Technologie und ihrer Anwendung zu fokussieren und diese zu beheben. Das Trainingssystem ist z.B. so ausgelegt, dass "irgendeine (möglichst plausible, aber trotzdem falsche) Antwort" (Halluzination) als besser eingestuft wird als "keine Antwort" (im Sinne der typischen Bewertung von Klausuren/Klassenarbeiten), denn man hat sich ja zumindest "Mühe gegeben". Eine Lösung dafür hat man immer noch nicht, weshalb man auch sehr stark das Gefühl bekommt, dass etwas halbgares um jeden Preis mit aller Kraft in den Markt gepresst wird und einem der berüchtigte "Slop" (eben etwas halbgares was dem gewollten ähnelt, es aber im Endeffekt nicht ist) regelrecht aufgedrängt wird. Das Potenzial wird meiner Meinung nach genau eben durch dieses Verhalten und der Darstellung dieser der Systeme (sie tun etwas was den richtigen Eindruck erweckt, aber bei genauem hinsehen völlig falsch ist) sehr überschätzt bzw. deren Probleme und die daraus entstehenden Folgen unter den Teppich gekehrt.

 

[Ciero]

Na ja weil nur die es herstellen. Es gibt in dem Bereich GPUs halt nur AMD und Nvidia, im RAM Bereich und NAND Bereich gibt es auch nur die üblichen Verdächtigen und das streckt sich über alle PC/Server-Teile. Ich sehe da also aktuell also kein Risiko mal abgesehen von dem normalen unternehmerischen Risiken die es eh immer gibt.

Darum gehts nicht. Es geht darum, ob die Nachfrage die Investitionen rechtfertigen. Im Falle der Dotcom Blase war das nicht der Fall.

Die Nachfrage an GPU kommt von Firmen die mittels vendor financing am Leben gehalten werden. Wenn die Liquidität aufhört zu fließen, wird es krachen, das ist das Risiko.

Darum wird auf krampf Versucht die Nachfrage weiter zu erhöhen, mit allen Mitteln. Das hält dieses Konstrukt am Leben.

Ciero

 

[xr4ffi]

Auf die Gefahr hin mich zu wiederholen: 64 KB Ram sind genug Man kann Ram auch mit dem ganzen Planeten vergleichen, überall wird viel zu viel genutzt! Effizienter zu nutzen wäre besser.

 

[steirerblut]

Die Diskussion erinnert mich zu sehr an das Bild

Turboquant ist das perfekte Beispiel für Jevons-Paradoxon: Technischer Fortschritt macht die Nutzung einer Ressource effizienter, was aber nicht zu einem sinkenden Gesamtverbrauch führt, sondern die Nachfrage erst recht explodieren lässt.
Der Bedarf an AI Compute ist in den letzten Monaten durch KI Agenten explodiert, die großen Betreiber streichen Gratis Kontingente, Verfügbare Tokens in Abo Modellen wurden gekürzt und Compute Intensive ohne Geschäftsmodell wurden komplett gestrichen. Beginnen OpenAI, Anthropic & Google damit gehostete Agents anzubieten schallerts erst so richtig am Speichermarkt.