News Mac Studio mit M5 Ultra: 512 GB RAM und 16-TB-SSD kosten mehr als ein VW Golf

Und das Marketing Bild dann so: "Cluster aus vier Mac Studio (Bild: Apple)" davon träumen die also des Nachts: 4 Mac Studio auf jedem Schreibtisch. Is klar.

Und zum aktuellen Speicherpreis: Ja, da bin ich voll dabei. 1GB DDR5 Ram für 50 Flocken. Da seh ich.... viele Kunden NICHT mehr beim PC einkaufen. Aber wenn das Benzin 20€cent teurer wird gleich die Mistgabel und die Fackeln aus dem Schuppen holen...

voll lustig, das alles
 
  • Gefällt mir
Reaktionen: Zwenki und JaKoH
@SuperHeinz leider nicht mit einer leistung einer 5080/5090
 
  • Gefällt mir
Reaktionen: JustAnotherTux und Brrr
Aber das Prinzip ist das gleiche.

Die Intel Arc 8-Core iGPU in meinem Ultra 7 155H von Ende 2023 verfügt über 128 MB VRAM, kann sich allerdings bis zu 18 GB aus den 32 GB RAM vom System zusätzlich genehmigen.
 
Zuletzt bearbeitet:
WinstonSmith101 schrieb:
Mit welchem Use Case holt man 133.316 Euro für das 4er Cluster einfach so wieder herein? Können die etwa die Lottozahlen vorhersagen?
K.A. wieso du direkt den Cluster heranziehst. Er müsste eher eine Nische sein. Aber ein einzelner M5 Ultra mit 512GB wäre eine solide Basis für z.B GLM 5.3 Flash, wenn man es lokal betreiben muss. Die sehr hohe RAM Bandbreite ist hier vom riesen Vorteil. Würdest du das Gleiche mit einer PCIe GPU probieren, bräuchtest du mindestens 5 Stück RTX Pro 6000 je 15000€ und noch etliche €€€€ für ein ordentliches Host-System. Das wäre viel teurer, komplexer in der Wartung und benötige deutlich mehr Strom.
 
  • Gefällt mir
Reaktionen: Molokai, fox40phil, Neo_01 und 3 andere
Man könnte auch anders herum sagen: So wenig ist der € nur noch Wert. Jede Fiat-Währung kennt nur eine Richtung: Gegen 0.

Zum MAC: Das ist eben kein Consumer Produkt. Man müsste es eher mit einem Server-Einschub vergleichen. Aber da würde dann so eine "tolle" Überschrift nicht passen 😎😉
 
  • Gefällt mir
Reaktionen: SuperHeinz und SirSinclair
Ich finde den Vergleich bezaubernd.

Im Sinne von Preis und den dafür erhaltenen Gegenwert macht es unfassbar Sinn und zeigt gut, wie abgedriftet die Preise von den Kosten der Erzeugung sind.

Im Sinne von Preis ggü dem Potenzial der Erwirtschaftung mag das anders sein. Tatsächlich ist ein Transportmittel nicht zu unterschätzen und hat einen hohen, wenn auch nicht immer quantifizierbaren, Gegenwert. Wenn ich allein darauf abziele, was ich damit erwirtschaften kann, dann ist der Preis, wenns denn gekauft wird aus dem Grund, der richtige erzielbare Marktwert.

Am Ende ist es wie bei der Immobilie, die Kosten der Bereitstellung sind den potenziellen Erträgen ggü zu stellen. Passt also in vielen Aspekten gut.

Und krass, das man ein ganzes Auto dafür bekommt. Bekommt man das wieder rein? Sind wir in Teilen in einer Blase? Oder tatsächlich einfach notwendige Kosten, um überhaupt Arbeitsfähig zu sein. Da es refinanziert werden muss, muss am Ende ja irgendwo ein Preis entsprechend auch nach oben gehen... Blöd für uns alle.
 
Ich finde local AI ja ganz praktisch für ein paar Sachen. Aber die rechtfertigen doch nicht den Preis der Hardware. Und wenn ich das Geld ausgeben möchte, erwarte ich doch eine ähnlich gute Quali wie Cloud AI - wird aber nicht passieren. Vielleicht sehe ich aber auch einfach nicht den Use Case...
 
  • Gefällt mir
Reaktionen: SirSinclair
@Bahkauv Qwen auf meiner 4090 ist schon ganz okay. Klar nicht so gut wie Claude aber das sind auch 24GB vs Cluster ^^. War erstaunt was qwen noch gefunden hat an Optimierungen. Aktuell nutze ich lokale llms zum Token sparen
 
  • Gefällt mir
Reaktionen: Brrr
Ich sammle mal die Vergleiche:
  • VW Golf
  • Prostitution
  • Küchen
Noch jemand mit Kühen, Mehl oder echten Birnen?

Das Thema zeigt wieder gut, wie schnell das Potenzial der Studios unterschätzt wird, wenn der einzige Bezug zum naheliegenden Verwendungszweck (LLMs) ist, dass man deswegen mehr für Hardware zahlen muss.

LLMs und Ihre gesellschaftlichen Auswirkungen sind gesondert zu diskutieren, aber das schmälert nicht das unfassbare Paket was ein M5 Ultra mit 512GB unified memory darstellt ... umso mehr, wenn man es im (Preis-)Vergleich zu den Marktbegleitern sieht.

Autovergleiche sind eh selten Zielführend, aber umso mehr wenn man ein (Stand Heute) absolut spezifisches Endgame-Tool mit einem absoluten Breitenmodell zu vergleichen versucht.
 
  • Gefällt mir
Reaktionen: [wj], SuperHeinz, fox40phil und eine weitere Person
Bahkauv schrieb:
Ich finde local AI ja ganz praktisch für ein paar Sachen. Aber die rechtfertigen doch nicht den Preis der Hardware. Und wenn ich das Geld ausgeben möchte, erwarte ich doch eine ähnlich gute Quali wie Cloud AI - wird aber nicht passieren. Vielleicht sehe ich aber auch einfach nicht den Use Case...
Wie kommst du darauf, dass das nicht passieren wird? Hast du schonmal mit Lokaler KI (aktuelle Modelle) gearbeitet? Meine Tests zeigen in vielen Dingen eine Leistung die schon extrem brauchbar ist und ich habe nicht mal die hälfte von den 512GB VRAM. Ich streite nicht ab, dass GPT, Claude usw.. noch besser sind. Aber betrachtet man den Lokalen KI Fortschritt der letzten 12 Monate, wird die Leistung des heutigen Cloude ziehmlich sicher in 10-12 Monaten auch Lokal auf 512GB erreichbar sein. So meine Erfahrung und Prognose. (und so auch ähnliche einiger experten wenn man nach googled)
 
  • Gefällt mir
Reaktionen: [wj]
Silencium schrieb:
Der Preis ist schon Wahnsinn! Die Performance von 4 solcher Geräte gegen eine DGX Workstation - weiß gerade nicht wie die heißt - aber die auch ca. 100k kostet, wäre spannend. Auch oder gerade beim Strombedarf!
Meinst du sowas hier?


Einer ist besser für Prefill, der ander Infering wen ich es nicht total irre. Mac geht glaub ich eher Singeluser... DGX Spark eher richtung MultUser/Agent cability... aber korregiert mich gernn...
Beides Desktop, Büro Lösungen...

Hier ist nochmal Server, joa das saugt schon Strom... Strom in Token halt...
 
Zuletzt bearbeitet:
  • Gefällt mir
Reaktionen: latexdoll
Endlich Moorhuhn mit maximalen Details! Das ist es 512GB RAM für meine ganzen Hühner
 
Warum denken hier immer alle, dass sie als Privatperson so ein Setup für den eigen Haushalt anschaffen sollten? Ihr seid doch gar nicht die Zielgruppe. Diese Konfigurationen sind für Unternehmen gedacht, die damit Geld verdienen. Klar kann das auch eine Einzelperson sein. Aber das Apple Pro Gedöns hat Leistung für diejenigen, die damit Arbeiten und idealerweise darauf ihre Brötchen verdienen. Das geht beim iPhone (Kamera) los, beim Ipad Pro (Pencil, Kreativ-Branche) weiter und hört beim Mac Studio auf.

Klar hindert euch niemand daran, den Kram auch für den Privathaushalt zu kaufen. Dann aber bitte den Katzenjammer über die Preise einstellen.

Und danke an Post #32, wo es mehr darum geht, welchen Mehrwert der "Basis VW im Computerformat" erzeugen könnte.
 
  • Gefällt mir
Reaktionen: [wj]
Eigentlich noch sehr günstig.
Eine SGI Onyx in den 90ern war mit 16 GB RAM bestückbar zu einer Zeit, als ein normaler PC 8 MB hatte. Mit Vollausbau kam man in den Preisbereich einer Villa.
 
Warum wird wieder ein Golf als Vergleich genommen? Lieber nen Corolla. Der fällt auch nicht auseinander.
 
  • Gefällt mir
Reaktionen: angband1
OpenSystemFan schrieb:
Bekommt man das wieder rein?

Gibt immer welche, die das sagen - vorgerechnet hat es noch keiner.

Zuerst würden mich die Token pro Sekunde für einige gängige Modelle interessieren… da zeigt sich dann bereits, ob 512 gegenüber 256 sinnvoll ist.

Das nächste sind aber die aus meiner Sicht sehr geringen Kosten für Modelle wie 6.1 Luna aus der Cloud … und falls da jetzt jemand mit „Aber wir müssen lokal arbeiten“ kommt… nein, müsst ihr nicht!
Ich arbeite für ein Unternehmen aus der Medizintechnik… solche Modelle können auch in privaten Azure-Instanzen in Europa laufen - kein Unternehmen ab einer gewissen Größe nutzt die normalen öffentlichen APIs.

Und natürlich gibt es auch genug Angebote, die DSGVO-Konform sind, für kleine Unternehmen… ab 20 Euro pro Person und Monat … ist für die meisten Angestellten ausreichend, was da geboten wird. (Wie z.B. Langdock aus Berlin)

Hier gehen ja einige immer von Spezial- oder Sonderfällen aus.
 
user_zero schrieb:
Warum denken hier immer alle, dass sie als Privatperson so ein Setup für den eigen Haushalt anschaffen sollten? Ihr seid doch gar nicht die Zielgruppe. Diese Konfigurationen sind für Unternehmen gedacht, die damit Geld verdienen.

Ich denke, das Problem ist eigentlich nicht der Endpreis (also geht mir zumindest so), sondern der Apple-typische absurde Preisaufschlag gegenüber der vorherigen Ausbaustufe, der zeigt, wie sie die Leute melken und wie hoch bzw. niedrig die eigentlichen Produktionskosten sind.

Über so eine Marge würde sich VW sicherlich totlachen (vor Freude). Selbst bei Porsche (die ja auch zum Konzern gehören) dürfte die illusorisch sein.
user_zero schrieb:
Aber das Apple Pro Gedöns hat Leistung für diejenigen, die damit Arbeiten und idealerweise darauf ihre Brötchen verdienen.

Kann man mit nem Auto halt auch. In ganz vielen Fällen ist das Auto schon Voraussetzung, damit du überhaupt zu deiner Arbeit kommen kannst.
 
Zurück
Oben