Test MSI EdgeMesa N AI+ im Test: Das leistet Nvidia RTX Spark im Mini-PC

=dantE= schrieb:
Fühlt sich für mich ein wenig nach kommender „2-Klassen-Gesellschaft“ an.
Entweder haste Hebung Mittel und stellst solche Lösungen jedem in deiner Bedarfsgemeinschaft hin,

Bei kleinen 20-50 Seats Buden wie meine, muss man aber schon überlegen wie man den Invest aufbringt und auch planmäßig in Werte überführt.
Wenn du 20-50 Benutzer hast, ist die DGX Station für 120.000 Euro das Mittel der Wahl und kein DGX/RTX Spark. Mit der DGX Station kannst du Qwen 3.8 Flash-Next in 50 parallelen Sessions anbieten, die dann auch noch in jeder Session schneller laufen, als wenn du jedem der 50 Mitarbeiter:innen einen eigenen DGX Spark an den Schreibtisch stellst. Statt 5 kW Leistungsaufnahme sinds auch nur 1,6 und nur 120.000 statt 300.000 Euro. Das lohnt sich auch schon für 20 Nutzer.

Und nachts kannst du Modelltraining durchführen, was auf den Sparks eher zäh ist.
 
  • Gefällt mir
Reaktionen: Jan und Brainorg
TeeKayEV schrieb:
Darum kannst du die DGX Sparks auch hart auf 1900 MHz begrenzen, verlierst nur wenige Prozent Leistung, verhinderst aber thermische Drosselung und Gehäusetemperaturen, bei denen du das Gehäuse nach wenigen Sekunden loslassen musst, weil sie unerträglich heiss werden.
Ich spiele noch damit rum, aber habe ja eh die Notebookvariante :)
devastor schrieb:
Ein Mac Studio ist bei gleichem Preis aber deutlich performanter. Für rund 5800€ gibt es den M5 Max mit 128GB der viel schneller ist.
Erstens stimmt es nicht und zweitens... kein CUDA, daher nutzlos für viele Anwendungen.
 
Was leistet es denn nach dem (bislang unbekannten, aber häufig auch mal "früher als gedachten") Support-Ende durch die amerikanische Firma Microsoft?

Kann man damit dann Briefe beschweren ?
 
=dantE= schrieb:
...oder du zahlst was auch immer in Zukunft angesetzt wird für Abos, Konnektoren und Features aus der Cloud.
Die großen Modelle aus der Cloud sind aber immer noch sehr viel leistungsfähiger als alles, was man sich mit 128, 192 oder 256GB RAM installieren kann.
 
@HerrRossi Ja, aber es gibt mitlerweile soviele Anwendungsfälle, wo ein kleines Modell mehr als ausreichend ist und erhebliche vorteile gerade bezogen auf den Datenschutz bietet. Zudem schläft die Community nicht und die kleinen Modelle verbessern sich quasi zeitverzögert im selben Maße wie die frontier modelle der großen.
 
  • Gefällt mir
Reaktionen: TeeKayEV
@Brainorg Ich schreibe ja nicht, dass die kleinen Modelle unbrauchbar sind, der Qualitätsunterschied ist trotz allem noch sehr hoch. Klar kommt es auf den Usecase an, wenn die Ergebnisse da passen, dann go for it.
 
@HerrRossi Ja das bestreitet ja niemand. Wie gesagt, alleine der Vorteil durch den Datenschutz ist unbezahlbar.
 
  • Gefällt mir
Reaktionen: TeeKayEV
Für den Preis bekomme ich echt viele Tokens bei Claude oder Codex ... und baue damit schneller und besser Dinge als auf der Kiste.
 
Spock37 schrieb:
Was leistet es denn nach dem (bislang unbekannten, aber häufig auch mal "früher als gedachten") Support-Ende durch die amerikanische Firma Microsoft?
Da es technisch mutmaßlich identisch zu DGX Spark ist, nur mit etwas schnellerem Speicher, solltest du problemlos Linux, vermutlich sogar Nvidias DGX OS, installieren können.
 
  • Gefällt mir
Reaktionen: Brainorg
Ufff... Was rechtfertigt bei dem Teil den Preis?
 
TeeKayEV schrieb:
Da es technisch mutmaßlich identisch zu DGX Spark ist, nur mit etwas schnellerem Speicher, solltest du problemlos Linux, vermutlich sogar Nvidias DGX OS, installieren können.
Wenn das UEFI so etwas zulässt.
 
Zurück
Oben