News RAM-Preise fallen: Wird Speicher wirklich wieder (deutlich) günstiger?

[ThirdLife]

Quatsch, schön wärs.
Wisst Ihr, was passiert, wenn die Modelle weniger Speicher brauchen?
ES WERDEN GRÖßERE MODELLE IN DENSELBEN SPEICHER GEQUETSCHT!

Der grundsätzlichen Logik zufolge wäre ich normal ganz bei dir.

Sache ist aber, dass egal welche Modelle wir aktuell nutzen diese kaum noch skalieren über Größe sondern viel, viel mehr über Kuration (bessere Bilder im Training die detaillierter und besser und fehlerfreier getaggt sind in Stable Diffusion zB).

Wir haben einfach einen Punkt erreicht wo die aktuelle Technologie mit einer weiteren 100% Verdoppelung der Modellgröße nur noch vielleicht weitere 5% an Qualität gewinnt. Googles Techdocs zu Nano Banana sind hier zB ganz interessant. Viel kleiner als manch andere Modelle bei viel höherer Qualität.

Nur weil du noch mehr Abfall aus dem Web in ein LLM packen kannst wirds halt nicht mehr besser in der Breite skalieren und mehr Daten bedeuten ebenfalls nochmals weit mehr Kurations-Aufwand.

 

[XCPTNL]

Ich wünsche ungern Schlechtes, aber in diesem Fall mache ich eine Ausnahme und hoffe, dass Micron so richtig schön auf die Fresse fliegen wird. Hatte früher echt gern Crucial Produkte in Form von RAM und auch SSDs. Daher bin ich schadenfroh, sollten es ihnen um die Ohren fliegen, dass sie aus Geldgeilheit einfach mal so die Consumersparte eingestampft haben.

 

[Miuwa]

Die ein oder andere Firma wird sicherlich verschwinden, aber da platzt nichts.
KI ist da, KI wird bleiben.

Die dotcom Blase ist auch geplatzt, obwohl das Internet nicht verschwunden ist. Die Frage ist nicht, ob KI bleibt oder wie nützlich sie ist. Die Frage ist, ob die Unternehmen kurzfristig ausreichend profitable Geschäftsmodelle finden um weiter diese enormen Investitionen in den Sektor und enorm gestiegenen Aktienkurse zu rechtfertigen bzw. um überhaupt solvent zu bleiben.

Ich sag nicht, dass sie platzt, oder dass es überhaupt eine Blase gibt (auch wenn ich das durchaus vermute), nur dass hier scheinbar ein Missverständnis darüber vorliegt, worum es bei diesen Begriff geht.

 

[Ripcord]

Ist nur eine Frage der Zeit bis das stetig steigende Angebot die Nachfrage bedienen kann und bekommt die Weltwirtschaft dann mal wieder schluckauf, lesen wir die bekannten Nachrichten von Drosselung der Produktion, Fab-Verkäufen/Schließungen und Stellenabbau. Dann kann man auch wieder mit ruhigem Gewissen Ram kaufen.

 

[Krik]

bzw. um überhaupt solvent zu bleiben.

Oracle hat genau in der Hinsicht Probleme. Die haben zwar vergangenes Jahr durch KI 95% netto mehr eingenommen, aber haben gleichzeitig so große Probleme liquide zu bleiben, dass man heute ca. 20k - 30k Mitarbeiter entlassen hat. Das soll 8 bis 10 Mrd. $ frei machen, nachdem man in den vergangenen 2 Monaten 58 Mrd. $ an Schulden aufgenommen hat.
Geil, oder? 👎

Sollte Oracle implodieren, werden schlagartig 400 Mrd. $ vernichtet.

Man hat schon vor einem Jahr vorhergesagt, dass Oracle das eventuell nicht durchhält.

 

[SSD960]

Die Sektflaschen sind verschlossenen worden. Aber die waren ja schon leer.

 

[Fraggil]

was ich früher im Internet nach Lösungen für alles Mögliche gesucht und was da Zeit drauf ging. Unfassbar.
Und jetzt mal kurz KI fragen und nach max 5 Minuten Problem gelöst.
Aktuell tue ich sehr viel Vibe Coding betreiben. Was man sich da coole kleiner Helfer für den Alltag programmieren kann ist einfach cool. Läuft dann alles lokal für mich.
Freunde auch schon angesteckt damit. Sind alle fasziniert was da grad möglich ist.

Wenn ich meine Eltern anschaue, Dad nutzt fast nur nach KI um technische Informationen, Formel etc. suchen zu lassen , wo man vorher tage und Stunden brauchte.


Wenn ich das Umfeld betrachte kann ich sagen Standard Internet Suche ist fast tot.

Da ich auch viel mit Ollama und lokaler KI benutze, ich schon krass was da lokal möglich ist. Limit ist leider der betagte rechner

Vison und text Modelle sind ein Segen wenn man viel Bankdokumete auslesen lassen will

Wenn man lokal arbeitet ist der Knackpunkt beim Mac der Arbeitsspeicher und am PC der Vram. Wenn man sich die Kosten anschaut ist sogar ein Abo wieder günstig. Dann leider aber nicht lokal.
Man kann nur hoffen das die Preise wieder sinken damit man Zuhause gut aufrüsten kann wenn man mag.
Größter Knackpunkt ist aber am PC der Vram. 32 GB sind eigentlich zu wenig. 64 Gb bräuchte man schon für ein Anständiges lokales Modell und den ganzen Contextspeicher.

Bei Videos sind noch ziemlich viel Fehler zu sehen. Video Abos sind noch zu teuer und zu schlecht. da müssen schon noch Jahre vergehen ...

Also ja ich glaube nicht das die preise so schnell sinken werden. Effizienzsteigerungen sind immer zu begrüßen

 

[Relak]

Nudeln mit Maggi

Boar widerlich. Dann doch lieber ohne Maggi. Dann hast du den RAM auch schneller

@Topic

12% sind deutlich???? Also Mit weniger als 20% braucht ihr da nicht kommen. Das ist nur eine temporäre Preissenkung. Der geht übermorgen wieder rauf.

 

[Schmarall]

Wird Speicher wirklich wieder (deutlich) günstiger?

Nein. Nächste Frage

 

[Drakrochma]

Im Server steckt ein Ryzen 7900 mit 96gb ram.
Den wollte ich eigentlich tauschen gegen einen epyc 9xxx mit 256 GB RAM.

Bei den aktuellen Preisen bin ich davon aber direkt wieder abgerückt.
Es tut sich langsam was, aber richtig gut ist es noch lange nicht.

 

[DeVIce]

letztes jahr im spätsommer hatt ich noch 2x24gb ddr5 6400 mit guten timings bei alternate für 148€ bestellt ^^ hätte ich mal die ganze palette geordert. dann wär ich jetzt reich. 4TB SSD gabs da auch noch für 200€. so schnell ändern sich die zeiten. hoffentlich gehts jetzt mal wieder nach unten.

 

[Boimler]

Ich sehe die Nachfrage aktuell aus vielen Richtungen kommen, daher betrachte ich das eher als klassisches unternehmerisches Risiko. Große Player wie Microsoft, Google und Amazon investieren massiv in KI und kaufen entsprechende Hardware von NVIDIA.

Unternehmerisches Risiko hast du, wenn du Geld (dein Geld oder in Form von Anleihen) in Projekte steckst und eine Refinanzierung erwartest oder einen Verlust einkalkulierst. Nvidia und andere KI-Unternehmen haben aber außer einem sehr hohen Börsenwert bzw. hohen Investitionsanleihen (Schulden) gerade nichts vorzuweisen. Solches Geld ist nichts wert, wenn es nicht realisiert wird. Und da ist das Problem: Ein riesiges Rechenzentrum ist ein realer Gegenwert, der aber an sich auch wertlos ist, wenn darauf keine Dienstleistungen laufen, die die Hardware benötigen. Und jetzt stelle ich mir die Frage: Wenn ich KI an jeder Ecke kostenlos nutzen kann oder sich alles über geringe Nutzungsentgelte finanziert, wer refinanziert dann die Investoren, die hunderte Milliarden in die Unternehmen gesteckt haben? Bisher sieht das alles nach dem klassischen Kartenhaus aus, das sich bei Blasen aufbaut. Die politische Situation (auch insbesondere innerhalb der USA) ist da noch nicht einmal eingepreist.

 

[Cool Master]

Laut Hardware Canucks (https://x.com/hardwarecanucks/status/2038684903626215898) hatte OpenAI kein "commitment to purchase" sondern es waren einfach nur LOIs - genial.

 

[Taro Misaki]

Ich will Pleiten sehen, Blasen platzen, Blut auf den Aktienmärkten und Chaos allgemein

Ein neues Stuxnet für AI-Datacenter wäre ein guter Anfang.

 

[aid0nex]

Man wird ja wohl noch hoffen dürfen 🫠

Ergänzung (Heute um 00:56)

Leute, es wird keine Blase platzen. Das ist nicht wie die .com-Blase wo es kein echten Mehrwert gab. KI bietet bereits jetzt echten Mehrwert.

Die Frage ist aber nicht ob Mehrwert geboten, sondern ob Wert geschaffen wird, der monetarisiert werden kann - und zwar mindestens in der enormen Menge, die man ursprünglich als Invest vorne rein gekippt hat.

 

[DerMonte]

Jo der Mehrwert ist super.

RAM ist mehr wert
Konsolen sind mehr wert
Grakas sind mehr wert
Handhelds sind mehr wert
Alles was RAM verbaut hat ist mehr wert

Darüber werden soziale Netzwerke immer mehr mit AI-Slopp vollgemüllt. Ob es nun Scam-Werbung ist oder politische Einflussnahme, ist an dem Punkt ähnlich schädlich. Das gab es schon vorher, aber nie war es so einfach wie jetzt, Fakes zu erstellen.

 

[RealMax123]

Leute, es wird keine Blase platzen. Das ist nicht wie die .com-Blase wo es kein echten Mehrwert gab. KI bietet bereits jetzt echten Mehrwert. Nur weil ihr ihn nicht erkennt bedeutet das nicht, dass andere Leute es nicht erkennen können.

Eher das Gegenteil ist der Fall es wird neue Modelle geben die weniger Speicher brauchen und eben Projekte wie Stargate werden runter geschraubt und selber in die Hand genommen.

Ich würde eher das Gegenteil behaupten.

Das .com Zeitalter von so etwa September 1997 bis Februar 2000 vor dem Platzen der .com im März 2000 hat viele intressante und gute Dinge geschaffen:

• Handys
• Windows 98 und NT 4.0 SP3
• Internetzugang für die Massen, teilweise schon DSL
• Homepages
• Onlinecommunitys und Onlineforen
• E-Mail für die Massen
• Musikdownloads
• Internetcafes

KI hingegen schafft garnichts Positves, sondern vermüllt eher nur das Internet, und zerstört Vertrauen.

Ich befürchte sogar das KI der "dritte Sargnagel" des Internets werden könnte.

Der "erste Sargnagel" war im Sommer 2013 der PRISM Skandal, der dazu geführt hat das viel in geschlossene Gruppen verlagter wurde und das offene Internet verarmt wurde. Der "zweite Sargnagel" vorallem ab Sommer 2018 die Übermonetarisierung und Überkommerzialisierung vieler Social Media Plattformen.

 

[MalWiederIch]

KI ist keine Blase. KI wird bleiben.

Ja - so wie das Internet nach der .com-Blase … viele scheinen hier offensichtlich nicht zu verstehen was eine Blase überhaupt ist

Ergänzung (Heute um 01:15)

@Ciero

Viele setzen "Überbewertung" direkt mit "Blase" gleich und das ist mir zu kurz gedacht.

Deine eigene Definition einer Blase scheint zu kurz gedacht - hier mal eine vernünftige:

Eine Blase entsteht, wenn die Preise von Vermögenswerten (wie Aktien) durch Spekulation, Euphorie und Herdentrieb weit über ihren realen Wert steigen
. Auslöser sind oft technologische Innovationen oder niedrige Zinsen, die zu massiven Investitionen führen, bis die Erwartungen enttäuscht werden, was in einem plötzlichen Crash endet.

Gerade die großen Player tätigen massive Investitionen - Gewinne bleiben allerdings bei der Masse aus … wozu das langfristig führen wird ist nun wirklich kein allzu großes Geheimnis …

Und nochmal für die Langsamen - das Internet nutzen wir nach wie vor, nichts wird verschwinden Der Markt wird lediglich korrigiert.

Ergänzung (Heute um 01:16)

Die Frage ist aber nicht ob Mehrwert geboten, sondern ob Wert geschaffen wird, der monetarisiert werden kann - und zwar mindestens in der enormen Menge, die man ursprünglich als Invest vorne rein gekippt hat.

Eben - ansonsten sind wir bei der Blase.

 

[raychan]

Jeder der mit KI arbeitet, lobt es in den Himmel, der Rest ist nicht unglücklich wenn es wieder verschwindet oder stark abflacht.

Also ich habe schon viel mit KI gearbeitet und ich würde es nicht in den Himmel loben. Es ist ein tolles Werkzeug zum arbeiten. Es erleichtert Dinge usw.
KI ist wie ein gutes Photoshop, ein guter Knipex Seitenschneider oder ein Makita Akkuschrauber.
Es ist ein tolles Werkzeug zur Unterstützung bei der Arbeit. Alle die darin mehr sehen sind nur in Hype und die es weniger sehen brauchen dieses Werkzeug nicht.
Aber es ist nicht das Wert was es aktuell an der Börse ist.
Selbst wir im Forschung unternehmen nutzen fast nur Open source und keine pay Dienste ich privat nutze auch nur die kostenlosen Modelle. Daher es muss ja auch wer da sein der die Aktionäre wieder bezahlt.

Daher denke ich mit meiner Laien haften Ansicht es wird nur klein Teil krachen gehen und dann sich normal in unseren Alltag integrieren aber anders wie wir uns vorstellen. So wie man sich in den 90er auch nicht das Internet von heute vorstellen konnte.

 

[Aduasen]

Ich gehe mal davon aus, dass es lediglich um DDR5 geht?
Dann sitzt man das Thema halt aus und wartet noch mindestens zwei Jahre.