News RAM-Preise fallen: Wird Speicher wirklich wieder (deutlich) günstiger?

[ThirdLife]

Quatsch, schön wärs.
Wisst Ihr, was passiert, wenn die Modelle weniger Speicher brauchen?
ES WERDEN GRÖßERE MODELLE IN DENSELBEN SPEICHER GEQUETSCHT!

Der grundsätzlichen Logik zufolge wäre ich normal ganz bei dir.

Sache ist aber, dass egal welche Modelle wir aktuell nutzen diese kaum noch skalieren über Größe sondern viel, viel mehr über Kuration (bessere Bilder im Training die detaillierter und besser und fehlerfreier getaggt sind in Stable Diffusion zB).

Wir haben einfach einen Punkt erreicht wo die aktuelle Technologie mit einer weiteren 100% Verdoppelung der Modellgröße nur noch vielleicht weitere 5% an Qualität gewinnt. Googles Techdocs zu Nano Banana sind hier zB ganz interessant. Viel kleiner als manch andere Modelle bei viel höherer Qualität.

Nur weil du noch mehr Abfall aus dem Web in ein LLM packen kannst wirds halt nicht mehr besser in der Breite skalieren und mehr Daten bedeuten ebenfalls nochmals weit mehr Kurations-Aufwand.

 

[XCPTNL]

Ich wünsche ungern Schlechtes, aber in diesem Fall mache ich eine Ausnahme und hoffe, dass Micron so richtig schön auf die Fresse fliegen wird. Hatte früher echt gern Crucial Produkte in Form von RAM und auch SSDs. Daher bin ich schadenfroh, sollten es ihnen um die Ohren fliegen, dass sie aus Geldgeilheit einfach mal so die Consumersparte eingestampft haben.

 

[Miuwa]

Die ein oder andere Firma wird sicherlich verschwinden, aber da platzt nichts.
KI ist da, KI wird bleiben.

Die dotcom Blase ist auch geplatzt, obwohl das Internet nicht verschwunden ist. Die Frage ist nicht, ob KI bleibt oder wie nützlich sie ist. Die Frage ist, ob die Unternehmen kurzfristig ausreichend profitable Geschäftsmodelle finden um weiter diese enormen Investitionen in den Sektor und enorm gestiegenen Aktienkurse zu rechtfertigen bzw. um überhaupt solvent zu bleiben.

Ich sag nicht, dass sie platzt, oder dass es überhaupt eine Blase gibt (auch wenn ich das durchaus vermute), nur dass hier scheinbar ein Missverständnis darüber vorliegt, worum es bei diesen Begriff geht.

 

[Ripcord]

Ist nur eine Frage der Zeit bis das stetig steigende Angebot die Nachfrage bedienen kann und bekommt die Weltwirtschaft dann mal wieder schluckauf, lesen wir die bekannten Nachrichten von Drosselung der Produktion, Fab-Verkäufen/Schließungen und Stellenabbau. Dann kann man auch wieder mit ruhigem Gewissen Ram kaufen.

 

[Krik]

bzw. um überhaupt solvent zu bleiben.

Oracle hat genau in der Hinsicht Probleme. Die haben zwar vergangenes Jahr durch KI 95% netto mehr eingenommen, aber haben gleichzeitig so große Probleme liquide zu bleiben, dass man heute ca. 20k - 30k Mitarbeiter entlassen hat. Das soll 8 bis 10 Mrd. $ frei machen, nachdem man in den vergangenen 2 Monaten 58 Mrd. $ an Schulden aufgenommen hat.
Geil, oder? 👎

Sollte Oracle implodieren, werden schlagartig 400 Mrd. $ vernichtet.

Man hat schon vor einem Jahr vorhergesagt, dass Oracle das eventuell nicht durchhält.

 

[SSD960]

Die Sektflaschen sind verschlossenen worden. Aber die waren ja schon leer.

 

[Fraggil]

was ich früher im Internet nach Lösungen für alles Mögliche gesucht und was da Zeit drauf ging. Unfassbar.
Und jetzt mal kurz KI fragen und nach max 5 Minuten Problem gelöst.
Aktuell tue ich sehr viel Vibe Coding betreiben. Was man sich da coole kleiner Helfer für den Alltag programmieren kann ist einfach cool. Läuft dann alles lokal für mich.
Freunde auch schon angesteckt damit. Sind alle fasziniert was da grad möglich ist.

Wenn ich meine Eltern anschaue, Dad nutzt fast nur nach KI um technische Informationen, Formel etc. suchen zu lassen , wo man vorher tage und Stunden brauchte.


Wenn ich das Umfeld betrachte kann ich sagen Standard Internet Suche ist fast tot.

Da ich auch viel mit Ollama und lokaler KI benutze, ich schon krass was da lokal möglich ist. Limit ist leider der betagte rechner

Vison und text Modelle sind ein Segen wenn man viel Bankdokumete auslesen lassen will

Wenn man lokal arbeitet ist der Knackpunkt beim Mac der Arbeitsspeicher und am PC der Vram. Wenn man sich die Kosten anschaut ist sogar ein Abo wieder günstig. Dann leider aber nicht lokal.
Man kann nur hoffen das die Preise wieder sinken damit man Zuhause gut aufrüsten kann wenn man mag.
Größter Knackpunkt ist aber am PC der Vram. 32 GB sind eigentlich zu wenig. 64 Gb bräuchte man schon für ein Anständiges lokales Modell und den ganzen Contextspeicher.

Bei Videos sind noch ziemlich viel Fehler zu sehen. Video Abos sind noch zu teuer und zu schlecht. da müssen schon noch Jahre vergehen ...

Also ja ich glaube nicht das die preise so schnell sinken werden. Effizienzsteigerungen sind immer zu begrüßen

 

[Relak]

Nudeln mit Maggi

Boar widerlich. Dann doch lieber ohne Maggi. Dann hast du den RAM auch schneller

@Topic

12% sind deutlich???? Also Mit weniger als 20% braucht ihr da nicht kommen. Das ist nur eine temporäre Preissenkung. Der geht übermorgen wieder rauf.

 

[Schmarall]

Wird Speicher wirklich wieder (deutlich) günstiger?

Nein. Nächste Frage

 

[Drakrochma]

Im Server steckt ein Ryzen 7900 mit 96gb ram.
Den wollte ich eigentlich tauschen gegen einen epyc 9xxx mit 256 GB RAM.

Bei den aktuellen Preisen bin ich davon aber direkt wieder abgerückt.
Es tut sich langsam was, aber richtig gut ist es noch lange nicht.

 

[DeVIce]

letztes jahr im spätsommer hatt ich noch 2x24gb ddr5 6400 mit guten timings bei alternate für 148€ bestellt ^^ hätte ich mal die ganze palette geordert. dann wär ich jetzt reich. 4TB SSD gabs da auch noch für 200€. so schnell ändern sich die zeiten. hoffentlich gehts jetzt mal wieder nach unten.

 

[Boimler]

Ich sehe die Nachfrage aktuell aus vielen Richtungen kommen, daher betrachte ich das eher als klassisches unternehmerisches Risiko. Große Player wie Microsoft, Google und Amazon investieren massiv in KI und kaufen entsprechende Hardware von NVIDIA.

Unternehmerisches Risiko hast du, wenn du Geld (dein Geld oder in Form von Anleihen) in Projekte steckst und eine Refinanzierung erwartest oder einen Verlust einkalkulierst. Nvidia und andere KI-Unternehmen haben aber außer einem sehr hohen Börsenwert bzw. hohen Investitionsanleihen (Schulden) gerade nichts vorzuweisen. Solches Geld ist nichts wert, wenn es nicht realisiert wird. Und da ist das Problem: Ein riesiges Rechenzentrum ist ein realer Gegenwert, der aber an sich auch wertlos ist, wenn darauf keine Dienstleistungen laufen, die die Hardware benötigen. Und jetzt stelle ich mir die Frage: Wenn ich KI an jeder Ecke kostenlos nutzen kann oder sich alles über geringe Nutzungsentgelte finanziert, wer refinanziert dann die Investoren, die hunderte Milliarden in die Unternehmen gesteckt haben? Bisher sieht das alles nach dem klassischen Kartenhaus aus, das sich bei Blasen aufbaut. Die politische Situation (auch insbesondere innerhalb der USA) ist da noch nicht einmal eingepreist.