News Nicht mehr nur GPUs: Nvidia Groq 3 LPU erhöht Inference-Durchsatz massiv

nlr

Redakteur
Teammitglied
Registriert
Sep. 2005
Beiträge
11.276
Der im Dezember zwischen Nvidia und Groq geschlossene Technologie-Lizenzvertrag trägt zur GTC 2026 erste Früchte. Eine neue Language Processing Unit (LPU) soll den Inference-Durchsatz mit niedriger Latenz massiv erhöhen. Demnach wird bei Nvidia nicht länger nur auf GPUs gesetzt. Zum Einsatz kommen sie im neuen LPX-Rack.

Zur News: Nicht mehr nur GPUs: Nvidia Groq 3 LPU erhöht Inference-Durchsatz massiv
 
  • Gefällt mir
Reaktionen: aid0nex und schneeland
Interessant. Vielleicht lässt dadurch die Nachfrage nach GPUs etwas nach und Spieler bekommen auch wieder was ab.
 
gartenriese schrieb:
Interessant. Vielleicht lässt dadurch die Nachfrage nach GPUs etwas nach und Spieler bekommen auch wieder was ab.

Das Problem sind die Produktionskapazitäten, nicht die Anzahl der Gamer GPUs.

Warum sollte nvidia / AMD & Co. für Gamer teure Wafer "verschwenden", wenn sie das x-fache mit AI verdienen können.
 
  • Gefällt mir
Reaktionen: aid0nex, schneeland, Andre83hro und 3 andere
Für Interferencing im größeren Maßstab waren die Lösungen von Nvidia eh zu teuer, nicht umsonst setzen da einige auf Eigenentwicklungen. Bezweifle das es kurzfristig den Druck von den GPUs nimmt, der Markt ist einfach zu groß bzw. im Verhältnis noch zu ungesättigt.
 
Spriti schrieb:
Warum sollte nvidia / AMD & Co. für Gamer teure Wafer "verschwenden", wenn sie das x-fache mit AI verdienen können.
Laut Microsoft liegt das Problem ja nicht bei den Chips, dass man die nicht bekommt, sondern an der Energie und an Speicher. Silizium scheint aber nicht das Problem zu sein und neuste Prozesse sind immer ausgebucht Aufgrund der schlechten Yield-Rate.
 
da musst ich erstmal an Grok denken und an ein deal mit teslas neue AI5. eine vera 6090 nehme ich gerne
 
Zurück
Oben