Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsDRAM besser ausnutzen: AMD kauft KI-Startup MEXT für sein Data-Center-Portfolio
AMD übernimmt mit MEXT ein KI-Startup, das sich einer effizienteren Speichernutzung im Server verschrieben hat. Indem inaktive Daten aus dem DRAM auf NAND-Flash ausgelagert und per KI-Vorhersage wieder bereitgestellt werden, soll der DRAM-Bedarf deutlich gesenkt werden. Virtuell wird der Arbeitsspeicher verdoppelt.
Vermute mal das dies nicht opensource für alle angeboten wird, was aber auch ok ist bei spielen wirds vermutlich nichts bringen und der Normalo erstellt auch keine eigenen LLMs der lässt die vielleicht laufen aber dafür reicht relativ wenig speicher zum die zu trainieren brauchts die gigantischen Speicher.
Und da wäre man ja selten blöd haufenweise Geld zu investieren nur um Nvidia zu zu arbeiten... Damit die ne Billion mehr verdienen.
Vielleicht kommt dann irgend ne Version mal in irgend ner Form in mehreren Jahren für Consumer ;D
Indem inaktive Daten aus dem DRAM auf NAND-Flash ausgelagert und per KI-Vorhersage wieder bereitgestellt werden, soll der DRAM-Bedarf deutlich gesenkt werden.
Wenn es funktioniert, könnte das AMD nochmal ein netten Vorteil bringen.
Man stelle sich vor der neue AMD (KI) Server kann das gleiche wie die Konkurenz (Intel/Nvidia/Arm), kostet aber 30% weniger weil nur 50% RAM drin sind, die Performance aber im Rahmen der Messungenauigkeit auf gleichen oder ähnlichen Niveau liegt.