Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsArm CSS for Mobile 2: C2-Ultra macht die CPU zum Orchestrator für KI‑Agenten
Das Arm CSS for Mobile 2 soll das Arm-Ökosystem auf das Zeitalter der KI-Agenten vorbereiten. Die Plattform künftiger Arm-Prozessoren besteht im Zentrum aus der neuen C2-Ultra-CPU mit doppelt so vielen SME2-Einheiten wie das C1-CPU-Cluster. Das ermöglicht mehr KI auf der CPU, die zugleich als Orchestrator für KI-Agenten dient.
Ist halt nur die Frage, ob das im ultramobilen Bereich tatsächlich gewünscht ist oder maximal was für den mobilen Bereich ist. Rein OS-seitig allein sehe ich bislang wenig was darauf hindeutet, dass in Zukunft viel LocalAgenticAI auf Smartphones laufen wird...
Aber....
Gibt doch nichts besseres als aufs Handy zu gucken und zu sehen das mal 30% akku übrig hat weil der Agent 3h lang ohne irgendwelche Aufforderungen oder Gründe Nutzlose Arbeit getan hat.
Naja eher nur die alte Suppe neu aufgekocht. Bei 8.5% mehr Takt und 50% mehr Cache pro Core beim Ultra sind 15% mehr Leistung jetzt nicht so berauschend und das meiste hat nur 2nm Anpassungen und ich denke die meisten Verbesserungen kommen auch nur vom neuen Prozess davon.
Zugleich wird die CPU zum Orchestrator für KI-Agenten befördert und soll entsprechende Workloads – je nach Szenario – auch an andere Beschleuniger im System-on-a-Chip, wie GPU oder NPU, weiterreichen.
Lookup-Tabellen können direkt über spezielle CPU-Instruktionen verarbeitet werden, wodurch viele Speicherzugriffe entfallen und der Bedarf an Speicherbandbreite sinkt – bei 2 Bit nennt Arm hier 60 Prozent gegenüber INT4.
Beides soll besonders bei kleinen 2-Bit-KI-Modellen dafür sorgen, dass die CPU mehr Rechenarbeit erledigen kann, ohne ständig auf den Speicher warten zu müssen.
A(r)mazing, arm entdeckt dass wenn man die Genauigkeit halbiert, sich die Leistung mehr als verdoppeln kann!
Und noch schneller geht es mit 1bit Modellen!
Spricht arm auch darüber, wie gut die Ergebnisse sind? Hat schon Gründe, warum man eigentlich alles unter 4bit weitestgehend meidet.
ARM hat in den letzen Jahren große Fortschritte gemacht.
Interessant wird sein ob die spezifischen Kerne für Desktops / Notebook dann statt den Mobile Cores verwendet werden und diese auch irgendwann SMT unterstützen.
In Smartphones macht es wenig Sinn und erhöht dort nur den Verbrauch