News LLM-Forschung: Apple will AI-Tools wie ChatGPT direkt auf dem iPhone laufen lassen

[mojitomay]

Mein system hat nen alten i5, 8GB RAM und da braucht es schon nur wenige Sekunden pro charakter..

 

[riloka]

Wo ich mir das zum Beispiel lokal vorstellen könnte ist Noise Cancelling nur für bestimmte Töne so dass man Vögel hört aber den Laubsauger des Nachbarn nicht. Da gab es schon Modelle für.
Zum Aufbessern von Telefonaten in Umgebungen mit Störgeräuschen oder bei mobiler Nutzung wo hier und da die Bandbreite oder Verbindung schlecht ist oder auch das Mikro nicht ideal.
Gleiches gilt für Aufnahme und Abspielen. Nicht immer haben bei Radio & Fernseh Interviews alle Leute perfekte Bedingungen und Geräte dabei. So als "Post&Pre-Processing" zur Verbesserung der Qualität finde ich die Idee lokaler "KI" sympathisch.

 

[Vega 64]

Finde ich in der Cloud besser. Die hat viel mehr Power.

 

[riloka]

Ist aber nur für Sachen dort geeignet die sowieso öffentlich sein werden,Podcast oder Radio Interviews.
Für Echtzeit ist es auch besser aus Latenzgründen wenn du das lokal machst.

 

[Mondgesang]

Helferlein, die nicht den Malus haben irgendwo in der Cloud sonst etwas mit meinen Daten zu machen sondern bei mir laufen.

Weil Apple (oder meinetwegen jeder andere Hersteller) auch schön brav nichts von deinem Suchverhalten mitbekommen wird und nichts mit dieser Information macht 😇

 

[riloka]

Apple wirbt mit Privatsphäre und Kampf für die Nutzer und gegen das FBI.
Abgesehen davon gilt natürlich: Betrieb von Rechenzentren kostet Geld. Das muss man sich gut überlegen.
Je nach Anwendungsfall ist auch Latenz wichtig und die is ohne Rechenzentrum und Verbindung dorthin und zurück deutlich besser. Muss man halt schauen ob das mit der notwendigen Leistung ausbalanciert werden kann.

 

[tomgit]

Apple wirbt mit Privatsphäre und Kampf für die Nutzer und gegen das FBI.

Schlüsselwort ist "wirbt". Auch toll, wie gut sich das Gerücht hält, Apple würde gegen Apple "kämpfen".

Dabei gab es Leaks vom FBI, worin Apple als einer der Messaging-Anbieter ist, welche am bereitwilligsten Daten teilen, und es Apple damals nicht darum ginge, das iPhone nicht entsperren zu können - man konnte nur das Shreddern und Vollverschlüsseln der Daten nicht rückgängig machen oder ein Backdoor dagegen einbauen.

 

[andy_m4]

Dabei gab es Leaks vom FBI, worin Apple als einer der Messaging-Anbieter ist, welche am bereitwilligsten Daten teilen,

Ja. Im Grunde sind Hersteller-Aussagen völlig wertlos.
Die unreflektiert wiederzugeben sollte als Werbung markiert werden. :-)

 

[Erathosti]

Das hat bis heute ~99% der Nutzer nicht gestört oder vom Kauf abgehalten, das wird morgen auch nicht anders sein. Sieh dir die Zahlen der Alternativen wie Fairphone an, dazu noch wie sie hinter her hinken. Außerdem tracken dich ja die Funkmasten immer, wenn das Handy an ist, von daher ist ohne Überwachung kein Telefon mehr realisierbar.

Keine Überwachung, keine AI, keine Bloatware = kein Telefon

Keine Überwachung, keine AI (nur lokal als OSS), keine Bloatware = Graphene / Lineage OS und Co

 

[Luthredon]

Apple hängt hinterher und möchte wieder sein eigenes Süppchen kochen.

Das ist genau der Punkt in den letzten Jahren bei Apple. Je mehr sie gerade nicht dran sind, desto großspuriger die Ankündigungen. Siri ist abgehängt - wird aber demnächst der beste Sprachassi ever ... 'Karten' ist auch eher mau gegen Google Maps - wird aber bald ganz riesig mit Fahrrad und überhaupt (das letzte größere Update dafür, so vor einem Jahr, hat quasi nix geändert, ich verwende wieder Google) ... Kamera - wird natürlich die allerALLERbeste in einem Smartphone demnächst - bis auf die 48MPs vor einiger Zeit war aber nichts weltbewegendes seit dem iPhone 12 und die MPs hatten andere weit vorher!

Jetzt also KI - und es wird natürlich 'the best ever' ...

Ich bin selbst Apple-User, aber diese mittlerweile völlig übertriebene Trommelei nervt gewaltig! Ich bin jetzt erst mal mächtig gespannt wann genau, wie und vor allem wie bezahlbar das mit der 'allerALLERbesten VR-Brille' nun dieses Jahr wird .

 

[Andy]

Artikel-Update: Weitere Belege deuten laut einem Bericht von Ars Technica darauf hin, dass Apple das Ziel verfolgt, AI-Modelle direkt auf mobilen Geräten laufen zu lassen. Entsprechende Rückschlüsse lassen Branchendaten, Forschungspapiere sowie Aussagen von Insidern zu.

Bemerkbar macht sich der AI-Trend auch bei den Einstellungen, annähernd die Hälfte der Stellenausschreibung soll mittlerweile den Begriff „Deep Learning“ beinhalten. Fachwissen holt sich der Konzern zudem mit Übernahmen ins Haus. 21 KI-Startups habe Apple den Bericht zufolge seit 2017 aufgekauft und sei in dem Bereich damit deutlich aktiver als die Big-Tech-Konkurrenz.

Wann der Start generativer AI-Lösungen bei Apple im größeren Umfang erfolgt, ist noch unklar. Branchenbeobachter gehen mittlerweile aber davon aus, dass es noch 2024 der Fall sein soll.

 

[FOSS-Fox]

Bald wird es bestimmt einen Markt geben für Händler die Geräte ohne Ai, Bloatware und den ganzen anderen Überwachungs-Schnickschnack an den Mann bringen.

Dieser Markt wird genauso groß sein, wie GrapheneOS, LineageOS, etc. = ~98% der Nutzer wird es nicht interessieren, weil bereits heute "niemand" sich für Datenschutz, Privatsphäre, etc. interessiert.

Die heutigen Laien glauben beispielsweise, wenn man "GPS" im Benachrichtigungsmenü deaktiviert, das Smartphone weder GPS Daten sendet noch speichert. Selbstverständlich ist es so gestaltet, dass es die Laien glauben, was leider nichts mit der Realität zu tun hat.

Smartphones und alle Apps wurden in jeder Hinsicht so programmiert, dass sie die maximale Menge an Daten extrahieren. Die Einstellungen zu ändern, ist absolut sinnlos. Das Problem ist das gesamte Betriebssystem und vorinstallierte (System-)Apps mit Vollzugriff.
Genau deshalb gibt es auch GrapheneOS oder LineageOS, wo das Problem an der Wurzel gepackt wird.

 

[Yoshi_87]

Und wieder hinkt der Apfelkonzern der Konkurrenz weit hinter her. Steve Jobs würde sich im Grab umdrehen wenn er sieht was aus dem einstigen innovativen Unternehmen geworden ist. Er soll froh sein daß er das nicht mehr miterleben muss.

Du meinst er würde sich immens freuen da Apples eines der wertvollsten Unternehmen der Welt ist oder?

Der Sprung den Apple nach dem Ableben von Steve hingelegt hat war IMMENS.

 

[Randnotiz]

Ich bin ja generell eher von der Sorte Nutzer, die zwischen egal und genervt sein bei Apple hin und her schwingt.

Was deren privacy Kram angeht, denke ich, ist das ganze aber doch bemerkenswert, speziell jetzt in Bezug auf A.I., weil man die Geräte eben zu keinen schicken Thinclient verkommen lässt, sondern die Leistung der Chips im inneren tatsächlich mal effektiv nutzt.

 

[Dr. MaRV]

Wenn sie das machen kommt man bald nicht mehr um ein 2TB iPhone herum. Wenn ich sehe was die Modelle auf meinem Computer für Speicher fressen.

 

[Weyoun]

Mal unabhängig von desen Größe: Ist FLASH-Speicher auf mobilen Endgeräten überhaupt schnell genug auslesbar, um Echtzeitanwendungen wie Live-Übersetzung beim Telefonieren durchführen zu können? Oder müssen die Bibliotheks-Daten nicht doch eher im deutlich schnelleren RAM liegen?