News Google Assistant: Mitarbeiter können intime Gespräche anhören

Mithos

Lieutenant
Dabei seit
März 2010
Beiträge
973
Liegt aber auch irgendwie in der Natur der Sache, dass besonders die unbeabsichtigten Aufnahmen von Menschen angehört werden.
Eine Audionachricht, welche das System einwandfrei verstanden und bearbeiten konnte bedarf keiner Kontrolle.

Mit unbeabsichtigten Aufnahmen kann das System nicht umgehen und wird an einen Menschen zur Verbesserung des Systems weitergeleitet. Kommt jetzt wenig überraschend.

Was mich dagegen verblüfft ist die Meldung:
VRT News[...] sei über einen Google-Subunternehmer an mehr als 1.000 solcher Aufnahmen [...] gelangt.
Es darf nicht sein, dass diese Aufnahmen das Unternehmen verlassen und so an die Öffentlichkeit gelangen, das ist für mich die eigentliche Sauerei.
 

Krautmaster

Fleet Admiral
Dabei seit
Feb. 2007
Beiträge
21.514
überrascht das jemand?

Bei allem was mit Deep Learning zu tun hat muss man Daten schaffen die als Training Set gelten. Also muss der Mensch diese Daten auch bestimmen und definieren, sodass der Algo das nachher anlernen kann.

Bei Bildern brauche ich zb auch um zu Lernen die fixe Zuordnung "Bild von Baum" zu Schlagwörtern wie "Baum, Gewächs" usw..
Ich weiß dass zb ein Röntgenbild + sicherem Befund schnell Richtung >100€ pro Datensatz geht. Anonymisiert natürlich, aber darauf kann man KI trainieren.
Genauso zb auf Arzt Email mit Syntonem und der Zuordnung "bestätigtem Krankheitsbild".

Damit die Spracherkennung also besser wird muss zugehört werden bzw nachgeprüft werden. Wenn also eine Aufnahme vom Assistent total fehlinterpretiert wird, und ich will dass das besser wird, - dann muss ich diese Aufnahme "menschlich" auswerten und der Maschine ein neues Training Set bereitstellen.

Nahe liegend wäre dass man via Double Opt In dieser Auswertung absolut sicher zustimmen muss. Dann kann ich zb als Teil eines Betaprogramms zur Verbesserung beitragen. Offensichtlich greift man aber aus allen Aufnahmen die schlimmsten, also die am schwersten für die KI verständlichen, raus und wertet sie nach Zufall aus.
Und da es aus dem gesamten Pool abgegriffen wird führt natürlich eine Fehlaktivierung eben dazu.

Und das darf nicht sein. Dass aber ausgewertet und mit-geschnitten werden muss ist klar.
 

Kenshin_01

Lt. Commander
Dabei seit
Okt. 2006
Beiträge
1.308
Dir ist hoffentlich bewusst, dass das eine Straftat darstellt? Ist wohl schon verjährt, aber trotzdem...
Und das war für dich ok? wie krank muss man sein andere Leute zu belauschen? wenn dir langeweilig war dann hättest dir auf der Toilette einen runterholen können du Troll.
Die Leier von A bis Z des TkG ist mit eines der ersten, die du lernst, also bist du dir der Straftat voll bewusst. Aber, so blöd sich das anhört(und keinerlei Entschuldigung ist), Stunde später hast du, egal wie interessant das gewesen sein mag, alles bereits wieder komplett vergessen....

Es gibt keine Verjährungsfrist für Straftaten!
Für Mord nicht, aber anderes kann meines Wissens durchaus verjähren..
 

Corros1on

Rear Admiral
Dabei seit
Nov. 2014
Beiträge
5.423
Schon irgendwie lustig, dass man sich trotz Abhörskandale(n) von staatlichen Institutionen sich die Leute freiwillig wohl gemerkt Wanzen aka. Assistenten in die sehr privaten Räume stellen.
Ein Abhörskandale ist doch vorprogrammiert wie wir ihn nun haben.

Ich weiß schon wieso ich oder Freundin aufstehen muss um das Licht auszuschalten und die Smartphones außerhalb des Schlafzimmers übernacht müssen bzw. eine smartphonefreie Zone ist.
 

Gnah

Lieutenant
Dabei seit
Dez. 2016
Beiträge
736
Dazu fällt mir nur eins ein: Nein! Doch! Oh!

Mal ehrlich, wer so naiv war und nicht schon vorher wusste, was für Abhörwanzen er sich da anschafft, obwohl wirklich an allen Ecken und Enden gewarnt wurde, der hat's verdient.
 

DaRealDeal

Ensign
Dabei seit
Apr. 2019
Beiträge
241
Jetzt ergibt es Sinn, warum Google den Claim "don't be evil" getilgt hat. Nur damit Google jetzt kein schlechtes Gewissen hat, den User als Produkt zu missbrauchen. Im wahrsten Sinne des Wortes.
 

stevefrogs

Lieutenant
Dabei seit
Jan. 2018
Beiträge
1.021
Kann man "ok google" nicht durch eigene wörter ersetzen?
Damit noch mehr unbeabsichtigte Auslöser geschehen?

Wer sich sowas ins Heim holt, dem ist nicht mehr zu helfen. Ist wohl nur eine Frage der Zeit bis es den ersten Skandal mit Erpressungsversuchen von Mitarbeitern/Subunternehmern/Hackern gibt und dann alle so tun, als ob das keiner hätt kommen sehn können...

Wäre Zeit für neue Gesetze, um Leute davor beschützen, durch die Assistenten anderer Leute belauscht zu werden. Wer so eine Wanze Zuhause hat und Gäste nicht ausdrücklich darauf hinweist --> 10k€ Strafe. Dazu ein generelles Verbot von Sprachbefehlaktivierungen im öffentlichen Raum (also das Aus für "Hey, Siri" und Co. in Mobilgeräten). Es steht jedem frei, sich selbst preiszugeben, aber wer andere zwangsbeglückt, soll hart bestraft werden. Auch Minderjährige müssen geschützt werden vor den Dummheiten ihrer Eltern.
 

Yuuri

Fleet Admiral
Dabei seit
Okt. 2010
Beiträge
12.496
Und über Kinect haben die Gamer gejault... Microsoft war seiner Zeit mal wieder voraus.
 

KsB

Cadet 1st Year
Dabei seit
Sep. 2005
Beiträge
13
Da bleibt mir nur noch eine Frage....
was kann man Sinnvolles tun um sich gegen diese ganze Anhörung und Datensammelwut zu schützen... und das ohne technologisch wieder in letzten Jahrhundert zu landen...?
 

EmViO

Lt. Commander
Dabei seit
Dez. 2011
Beiträge
1.242

Schredderr

Lieutenant
Dabei seit
Okt. 2011
Beiträge
627
Immer wieder erstaunlich, dass 90% der Kommentare hier von Leuten stammt, die sich keine solche "Wanze" ins Haus stellen. Dem Menschen gefällt's scheinbar wenn er eine (vermeintliche) Bestätigung seiner Ansichten erhält.
 

cruse

Admiral
Dabei seit
Sep. 2013
Beiträge
8.592
Der Google Assistent befindet sich auf jedem Android Smartphone :D
Nur zum Teil. Auf meinen z.b. nicht.
Es reicht aber nicht, nur die App nicht installiert zu haben, man muss sich durch ein menü-wirr-warr kämpfen um alles zu deaktivieren.
Stock Android ka - aber bei mir war sie auch nicht vorinstalliert.
Ergänzung ()

Dazu ein generelles Verbot von Sprachbefehlaktivierungen im öffentlichen Raum
Ich liebe es in einem Menschenhaufen laut "OK Google" zu rufen :D
 
Top