News Neue Funktion für WhatsApp: Metas KI fasst Nachrichten des Nutzers zusammen

[andy_m4]

Die Verarbeitung der Daten soll dabei privat erfolgen, Meta keinen Zugriff auf die Zusammenfassungen oder Nachrichten haben.

Das ist ja ganz offensichtlich gelogen. Wie soll die Daten denn verarbeitet werden, wenn Meta keinen Zugriff darauf hat.
Die können höchstens Versprechen, das da nicht durch Mitarbeiter reingeguckt wird oder Daten als Kopie woanders noch gespeichert werden. Alles andere ist Humburg.

 

[tso]

Wenn die KI mit den Daten arbeiten soll, müssen diese doch unverschlüsselt vorliegen. Da sehe ich keinen Datenschutz gewahrt.

 

[NikoNet]

"Wenn ein Produkt nichts kostet, dann bist Du das Produkt."
Der Satz ist in heutiger Zeit immer mehr zur Realität geworden, die gerne ausgeblendet wird.
Natürlich wird man von Firmen mit ihren Versprechen und Marketing geblendet, aber man lässt sich einfach zugerne blenden. Das ist einfach das Problem.

 

[Seven2758]

@andy_m4 @tso
Heise erklärt den Prozess etwas genauer. "Ähnlichen Ansatz wie Apple"...das glaube ich nicht Tim.

Meta scheint bei der "Private-Processing"-Funktion einen ähnlichen Ansatz wie Apple bei seinem KI-Paket Apple Intelligence zu wählen, die der iPhone-Bauer "Private Cloud Compute" nennt.

Wie der Konzern erklärt, wird für die private KI-Zusammenfassung eine Sitzung mit einem Cloud-Server aufgebaut – anonymisiert durch Oblivious HTTP (OHTTP) über Drittanbieter-Zwischenstationen. Die Session soll der Erläuterung zufolge mit einem temporären Schlüssel verschlüsselt sein, auf den "Meta und WhatsApp keinen Zugriff haben"; nur das Endgerät und die Private-Processing-Server können ihn demnach nutzen: Meta betont, dass "niemand außer dem Gerät des Nutzers oder den ausgewählten TEEs (Trusted Execution Environment)" die Anfrage entschlüsseln könne.

 

[KitKat::new()]

Und alle die Whatsapp nicht trauen,

Weißt du warum man Ende-zu-Ende Verschlüsselung implementiert?
Damit man genau das nicht muss: vertrauen

Ansonsten könnte man nämlich ganz normal den Transportweg verschlüsseln< weil man vertraut Facebook ja.

-> Facebook verarscht die Whatsapp-Nutzer*innen von vorne bis hinten.

 

[unreached123]

Gegen die Sicherheit der Protokolle sagt niemand etwas. Es ist die Tatsache, daß Daten überhaupt übertragen werden, Sicherheit des Protokolls hin oder her. Um den Inhalt von Texten zusammenfassen zu können, muß man Zugriff auf die Texte haben. Meta versucht das kleinzureden, indem die Daten zu einer TEE übertragen werden, die angeblich nicht Meta/WhatsApp gehört, sondern Dritten. Prima, dann hast du das Problem, diesem Dritten vertrauen zu müssen. Oder Meta/WhatsApp überhaupt zu glauben, daß sie über ein juristisches Geflecht zwar nicht auf dem Papier mit dem Dritten in Verbindung stehen, in der Praxis aber schon.

Die einzige Möglichkeit für vertrauenswürdige KI-Aufbereitung von Daten ist deren lokale Verarbeitung.

Ja, ohne Datenverarbeitung kann die Funktion nicht bereitgestellt werden.

Du hast nicht begriffen, dass es Ihre CVM ist und nur die Auth und Relays über Dritte gehen. Obwohl du das Bild selbst gepostet hast.

 

[Relak]

Hieß es Anfangs nicht dass die KI eben NICHT die Chats liest? Jetzt also doch...

 

[unreached123]

Weil man Meta so weit vertraut, wie ich einen Panzer schmeißen kann. Und das kann ich mehr als nachvollziehen.

Es ist vollkommen egal ob du vertraust oder nicht. Wenn sie das so darstellen, dann sind sie haftbar falls nicht. Und das Risiko trägt Meta und damals bei Facebook musste sie schon zahlen, obwohl Facebook dagegen nichtmal von Meta dahingehend gebaut worden ist.

Vertrauen bei Konzernen ist egal, dafür gibts Gesetze, und recht gute regional.

Ist analog zur Schwurblerei. Wenn man nicht abstrakt versteht was alles im Hintergrund in der Politik Geld kostet, kann man nicht anfangen mit Blödsinn und behaupten, dass alles verschleudert wird.

 

[andy_m4]

Wenn ihr nicht wisst was das ist, dann schaut euch doch die Protokolle an, anstatt hier Müll zu posten, dass hier irgendetwas bezweifelt werden müsste oder unsicher wäre.

Naja. In der Computersecurity gilt aber auch: Spezifikation ist das eine und die muss zur Überprüfung offengelegt gelegt werden. Aber auch eben die konkrete Implementation.
Und der Goldstandard wäre eben nicht nur Open-Source zu haben, sondern auch Reproducible builds, damit man überprüfen kann das das was da im AppStore rumliegt auch dem Quelltext entspricht.
Informiere Dich mal ein bisschen, dann kannst Du auch mitreden. ;-)

Abseits von technischer Expertise:

WhatsApp ist halt schon durch fragwürdige Datenschutzpraktiken aufgefallen. In Behördenumfeld u.ä. ist WhatsApp sogar genau aus Datenschutzbedenken heraus verboten.

Desweiteren: Wie will Meta denn die KI-Analyse und Zusammenfassung machen, wenn nicht durch lesen der Nachrichten?

Also selbst wenn man die Protokolle nicht kennt, gibt es genügend Anlass für Bedenken.

 

[seyfhor]

Ich möchte es aber vor allem gerne abschalten können, so wie es zB mit den "zuletzt online" auch geht. Schalte ich es also ab, dann kann der Andere das auch nicht zusammenfassen lassen. Aber ich fürchte das wird nicht gehen.

 

[KarlAlbrecht]

Die Masse ist diesbezüglich einfach unwissend, träge und begreift selbst einfache, logische Zusammenhänge nicht, weil bereits das zu überfordernd wird.

Würde ich nicht mal sagen. Denn das „Mitlesen“ Spiel kann man ja unendlich weiter treiben. Statt WA nutze ich dann Telefon, EMail oder SMS, alles Dienste, die mitgelesen werden können und sogar „müssen“, Stichwort LI. Dann kann ich Signal, Threema oder Telegram nutzen, aber auf was für einem Gerät? iPhone, Android? Da kann Apple oder Google mitlesen. Windows PC? Da liest Microsoft mit.

Im Endeffekt würde also nur ein ganz kleines Subset an Systemen funktionieren, damit nicht „mitgelesen“ werden kann. Und genau das würde die Leute überfordern.

Noch dazu ist halt das Problem, dass „Mitlesen“ keine direkten Konsequenzen für den Nutzer hat, anders als es z.B. in China sein kann. Sollte es mal soweit sein, dass z.B. WA in Echtzeit überwacht wird in bei einer z.B. Politiker Beleidigung die Polizei vor der Tür steht, erst dann wäre es den Leuten nicht egal. Bis dahin, ist es eben wie es ist.

 

[Ringträger]

Solang sie sich an ihre Protokolle, die sie angeben, halten, ist es sicher.

Klar. Bestimmt. Du wirst es natürlich wissen. Protokolle haben schliesslich keine Hintertüren.

War erst vor kurzem, da haben Microsoft, Google und co. millionenfach ihre Nutzeranmeldedaten ans Darknet verloren, trotz ihrer hochgelobten "Sicherheitsarchitektur". Sicher ist da gar nichts. Und Meta war diesbezüglich schon immer schlampig. Verschlüsselung kann man zudem brechen.

 

[andy_m4]

erklärt den Prozess etwas genauer

Ja. Mag ja auch sein, das die tatsächlich ein bisschen Aufwand betreiben, um das datenschutzmäßig so ein bisschen einzufangen.
Wirklich Datenschutzgerecht wäre es, wenn die Nachrichten so verschlüsselt sind, das die der Empfänger und auch außerhalb deines Gerätes nicht zu lesen sind (was man unter Ende-zu-Ende-Verschlüsselung versteht).
Wenn man KI macht, dann kann das nur geheimniswahrend sein, wenn die auf dem Gerät selbst erfolgt so das Deine Nachrichten niemals die geschützte Sphäre verlassen.

Das ist hier aber nicht der Fall. Und da helfen auch keine in der Cloud temporär erzeugten Schlüssel usw.
Ende-zu-Ende-Verschlüsselung hat ja genau das Prinzip, das man keiner dritten Instanz vertrauen muss. Das wird halt vollkommen ausgehebelt, wenn ich die Nachrichten in irgendeine Cloud schicke.
Das es über irgendwelche Drittanbieter läuft, macht es eher noch schlimmer. Weil jetzt muss ich nicht nur Meta vertrauen das deren WhatsApp nicht doch irgendwas gegen meinen Willen macht, sondern auch noch dem Drittanbieter. Die Angriffsfläche wurde mal eben verdoppelt. Na prima!

 

[Ringträger]

Beleidigung die Polizei vor der Tür steht, erst dann wäre es den Leuten nicht egal.

Polizei ist ja jetzt mal total lustig. Da gibts heute schon ganz andere Möglichkeiten, politische Widersacher zum Schweigen zu bringen.

 

[andy_m4]

Im Endeffekt würde also nur ein ganz kleines Subset an Systemen funktionieren, damit nicht „mitgelesen“ werden kann. Und genau das würde die Leute überfordern.

Also 100% Sicherheit zu kriegen ist natürlich - wie Du richtig sagst - schwierig. Das kann aber dann nicht heißen, das man es ganz sein lässt. Sondern das man sich eben bemüht an möglichst vielen Stellen für Sicherheit zu sorgen. Sprich: Letztlich einen Kompromiss zu finden, mit dem man Leben kann.

Noch dazu ist halt das Problem, dass „Mitlesen“ keine direkten Konsequenzen für den Nutzer hat, anders als es z.B. in China sein kann.

Naja. Du weißt halt nicht, was in 10 Jahren ist und die Dinge die Du jetzt schreibst für Dich für Konsequenzen haben.
Bei Einreise in die USA bist Du z.B. schon jetzt angehalten, Deine Social Media Accounts anzugeben, damit die mal nachschauen können, ob Du nicht vielleicht "böse" Sachen geschrieben hast.
Da ist also eine Tendenz erkennbar. Plus der Tatsache das an der Regierung nicht unbedingt lupenreine Demokraten sind. Siehe Trump in den USA oder siehe AfD hier bei uns.

Politiker Beleidigung die Polizei vor der Tür steht, erst dann wäre es den Leuten nicht egal.

Aus WhatsApp-Nachrichten nicht, aber ansonsten kommt das durchaus vor.
Stichwort Pimmelgate.

 

[Seven2758]

Ich möchte es aber vor allem gerne abschalten können, so wie es zB mit den "zuletzt online" auch geht. Schalte ich es also ab, dann kann der Andere das auch nicht zusammenfassen lassen. Aber ich fürchte das wird nicht gehen.

Man kann es mit der erwähnten erweiterten Datenschutzfunktion wohl sperren, dass Chatverläufe für die KI verwendet werden können. Ist auch für ein Gruppenchat möglich, sobald nur ein Teilnehmer diese Funktion aktiviert.

@andy_m4
Sehe ich genauso und daher werde ich Whatsapp auch löschen bevor diese Funktion in der EU kommen wird.
Whatsapp hatte ich noch für 3 Kontakte drauf, aber irgendwann ist auch mal Schluss.

 

[Yamai]

keine sorge, deine nachrichten sind doch ende-zu-ende verschlüsselt

 

[DeusoftheWired]

Du hast nicht begriffen, dass es Ihre CVM ist und nur die Auth und Relays über Dritte gehen. Obwohl du das Bild selbst gepostet hast.

Dann muß man dem Dritten vertrauen, daß er die Verbindungsdaten nicht speichert bzw. nicht an Meta weitergibt.

Wenn die CVM im Besitz von Meta/WhatsApp ist, widerspricht das der eigenen Darstellung:

Message Summaries uses Private Processing technology, which allows Meta AI to generate a response without Meta or WhatsApp ever seeing your messages or the private summaries.

 

[andy_m4]

in der EU kommen wird

Apropos EU: Eigentlich müsste die EU diese ganzen Internet-Konzerne generell mehr regulieren. Da ist man eigentlich noch viel zu zaghaft.
Auf der anderen Seite kann ich es aber auch verstehen. Denn diese Internetkonzerne haben natürlich auch die Drohung "Wir bieten unser Kram nicht mehr in der EU an." Und dann würde der EU sicherlich auch die Bürger aufs Dach steigen, wenn ihr WhatsApp und Google-Krams nicht mehr funktioniert.
Insofern befinden wir uns da in einem Dilemma.

Deswegen ist ja auch dein angesprochenes wegwechseln auch im größeren Kontext eine gute Sache. Das gibt dann auch mehr politischen Handlungsspielraum, wenn die Abhängigkeiten insgesamt nicht mehr so immens sind.

 

[Simonte]

Deswegen ist ja auch dein angesprochenes wegwechseln auch im größeren Kontext eine gute Sache. Das gibt dann auch mehr politischen Handlungsspielraum, wenn die Abhängigkeiten insgesamt nicht mehr so immens sind.

Es hat sich in der Geschichte gezeigt, dass es immer gut ist, wenn Nationen und Völker sich abschotten und Ihr "eigenes Ding" machen.
/s