News Microsoft 365 Copilot: Bug ließ KI-Assistent vertrauliche Mails zusammenfassen

[Pyrukar]

Hatte MS nicht gesagt, dass ein erheblicher teil des Codes inzwischen von KI geschrieben wird ... Das konnte doch gar kein Mensch mehr wissen, denn ein Mensch war vielleicht nie damit befasst hat.
Kann man da nicht einen DSGVO Verstoß geltend machen ... Die EU könnte doch 5% des Jahresumsatzes von MS sicherlich ganz gut verwenden

 

[dh9]

Deswegen sollte man als Nutzer "KI" in allem was man hat ablehnen: die Daten fließen am Ende immer zu Mega-Corps, die damit nichts machen, was dem Daten-Lasser helfen würde und gleichzeitig auch noch immer mehr Risiken für die Security der Nutzer darstellt.

Aber wahrscheinlich wird es hier wie immer erst mal eine gigantische Panne geben müssen, wo Mrd. User-Daten "abhanden kommen", bis der Gesetzgeber Strafen für Firmen vorsieht, die trotz besserem Wissen es nicht besser machen...

Dann kommt die gigantische Panne, die EU verhaengt Strafen.
Die Amis/US Konzerne hassen uns dafuer.
Dann manipulieren sie uns und unsere Politiker via Lobby und Marketing, Social Media und KI.
Und wir hassen uns selber.
Oder abonnieren und nutzen die Scheisse.

Also bringt die Panne gar nichts.

 

[fox40phil]

So wie sie auch „nie“ bei Skype mitgehört haben… ach! Diese Konzern, mit Silber unendlichen Verbreitung und Macht… immer mehr Daten werden ausgewertet und benutzt!

 

[end0fseven]

Microsoft ist ein Code Problem...

 

[mytosh]

Der einzige „Bug“ ist, dass er bemerkt wurde – das Programm selbst funktioniert einwandfrei.

 

[Muntermacher]

Laut Microsoft verursachte der Fehler keine Datenlecks.

Natürlich nicht, die Daten landeten da, wo sie sollten.........
Und natürlich war das ein KI Fehler, bei MS gibt es keine menschlichen Programmier oder QM mehr

Deshalb habe ich letztens damit "github.com/zoicware/RemoveWindowsAI" den ganzen Kram hart entfernt

Besser noch, format c: gefolgt von install.sh
Rein bildlich gesprochen

 

[BlaBlam]

Ich vermute, der Bug ist eher, dass das Ganze öffentlich geworden ist

 

[Krazee]

Ich bin der meinung das man geräte mit sensiblen daten komplett offline nutzen sollte, da ist das risiko am geringsten.

Commander Adama reagierte auf deinen Beitrag mit "gefällt mir". ^^

 

[BOBderBAGGER]

Niemand habe Zugang zu Informationen erhalten, für die er nicht ohnehin autorisiert war,

Außer Microsoft durch Copilot versteht sich. Ich verstehe einfach nicht wie man da freiwillig mitmacht.

Ergänzung (Freitag um 22:36)

Deshalb habe ich letztens damit "github.com/zoicware/RemoveWindowsAI"

Yay random github Scripte jetzt auch für Windows...

 

[GeT_R3kT45]

Gibt’s hier auch eine Person im Kommentarbereich der sich mit m365, Copilot und Security und Compliace auskennt und nicht einfach nur Anti KI und Microsoft ist?
Hier geht es um einen Bug der sich auf die DLP Policy und Sensitvitiy Labels bezieht. Hier konnte man als Admin Labels so konfigurieren, dass Inhalte, die mit dem Label versehen werden und auf die man selbst Zugriff hat trotzdem nicht verarbeitet wurden aka „Copilot for Work, fasse mir die Inhalte meines Word Dokuments in meinem OneDrive zusammen“. Sowas konnte mit der entsprechenden Konfiguration verhindert werden. Der Bug bezieht sich nun auf Mails im eigenen Postausgang und hier konnte Copilot diese Inhalte trotz Label verarbeiten. Hier sind keine Daten abgeflossen oder gar auf Dateien anderer zugegriffen, daher nur ein Bug beim Zugriff auf die eigenen Unternehmensdaten auf die man vorher auch Zugriff hatte.
Thats it. Blöder Bug aber kein Weltuntergang.

 

[luckysh0t]

Na das kann ja die nächsten Jahre was werden. Windows und M$ Office wird mittlerweile für Unternehmen zunehmend zu einem Risiko. Wird Zeit sich nach Alternativen umzuschauen und sich entsprechend zu Schulen.

Ich fände es zwar gut, wenn das so einfach geht, aber Branchen spezifische Fachanwendungen programmiert man leider mal nicht eben so für ein Linux der Wahl des Herstellers. Bei einem Hersteller geht es zwar in diese Richtung, da sind mittlerweile einige Komponenten für Docker und Kubernetes exklusiv verfügbar und der migriert weiter, aber bis das abgeschlossen ist für das gesamte Portfolio... das wird dauern. Und die anderen Hersteller haben da gar kein Bestreben. Und eine große Auswahl hat man da auch nicht - vor allem, weil man erstmal die Migration sich leisten müsste, dann noch die Schulung der MA.

Aber wenn es geht - warum nicht. Auf unserem Backupadminclient habe ich erst Windows runter und ein Ubuntu LTS installiert.

Auf unseren Adminclients hätte ich das auch gerne, aber es gibt nicht wirklich vernünftige Software für Linux, mit der man per RDP einige Hundert Windowsserver per RDP administrieren kann, die unsere Ansprüche erfüllt - im Team. Das Produkt von Devolutions wäre kostentechnisch enorm. Wäre zwar in Relation zu dem Rest auch günstig, aber so viel Geld ausgeben, um auf 5 Clients Linux zu nutzen.. Nuja..

 

[andy_m4]

Gibt’s hier auch eine Person im Kommentarbereich der sich mit m365, Copilot und Security und Compliace auskennt und nicht einfach nur Anti KI und Microsoft ist?

Also Du hast sicher Recht damit, was hier nicht gerade mit Fachwissen geglänzt wird und der Bug zu mehr aufgebauscht wird als er ist.

Aber es geht ja nicht um den Bug. Dieses "Anti" kommt ja nicht von ungefähr.
Wir beobachten ja ein Zunahme von Komplexität (die auch für Microsoft immer schwerer zu handhaben wird), Zunahme der Datenunsicherheit und natürlich auch eine Zunahme der Abhängigkeit, zu der ja Microsoft auch drängt. Und gerade die letzten beiden Punkt haben ja noch mal an Wichtigkeit gewonnen.

Denn bisher konnte man sich das ja noch schönreden mit "Microsoft wird schon nicht grob gegen unsere Interessen handeln, weil wir ja deren zahlende Kunden sind".
Nu haben die USA noch einen Präsidenten, der faschistoide Tendenzen hat und ohnehin von Europa nicht viel hält.

Und dann ist doch völlig klar, das die Leute kritisch sind was so Datenschutz und Abhängigkeiten angeht. Und das lässt sich dann auch nicht mir "da wurden doch nur ein paar Security-Labels missinterpretiert" wegwischen lässt.

mit der man per RDP einige Hundert Windowsserver per RDP administrieren kann

Wer einige hundert Server mit GUI via RDP administrieren muss, der sollte generell mal über seinen Workflow nachdenken. :-)

 

[luckysh0t]

Wer einige hundert Server mit GUI via RDP administrieren muss, der sollte generell mal über seinen Workflow nachdenken. :-)

Muss ich nicht, da die entsprechenden Programme darauf zum Teil nur eine Administration mit der eigenen GUI zulassen - nicht alles geht per shell - auch wenn das die non gui admins nicht gerne hören wollen ^^ Tellerränder sind nicht immer so hoch wie sie scheinen.

 

[andy_m4]

auch wenn das die non gui admins nicht gerne hören wollen ^^

Die wollen das schon hören.
Die fragen sich nur, wer solche Programme benutzt. :-)

Ich meine Shell-Administration gibts ja gefühlt schon ewig. Das es Hersteller gibt, die dann das immer noch nicht abbilden und Kunden gibt, die diesen Herstellern ja offenbar jahrzehntelang nicht auf die Füße getreten sind, das erntet dann schon gewisses Unverständnis. :-)

 

[luckysh0t]

@andy_m4 Wer sagt denn das nicht getan wird - nur wenn die Hersteller das so für sich nicht sieht, dann ist das so.

Der oben erwähnte Hersteller der Bestandteile seiner Programme nach Docker und Kubernetes migriert hat, hat z. B. keine Möglichkeit realisiert, diese rein über die Shell neu auszurollen, wenn es ein Update gibt. Ein Bestandteil davon aktualisieren wir per shell, die eigentlichen Container müssen wir über deren WebGui ausrollen... Von den anderen brauche ich erst gar nicht anfangen ^^ zumindest die Dockerversion - mangels Kuberntes Cluster kann ich nichts zu dieser Version sagen..

Ergänzung (Gestern um 11:29)

Die fragen sich nur, wer solche Programme benutzt. :-)

Firmen die aufgrund der Branche, in der sie sich befinden, sich nicht an einem riesigen Markt an Produkten bedienen können ^^

 

[andy_m4]

Wer sagt denn das nicht getan wird - nur wenn die Hersteller das so für sich nicht sieht, dann ist das so.

Naja. Der Hersteller kann aber auch nicht komplett gegen seine Kunden agieren, sonst hat er bald keine Kunden mehr.

Meine Beobachtung bei sowas ist, das schlechte Software hingenommen wird. Da wird dann hier und da vielleicht mal gemeckert aber im Großen und Ganzen wird das geduldet. Und das ist schon deshalb doof, weil das immer auch ein Rattenschwanz nach sich zieht. Weil dann die Wartung komplexer wird und man plötzlich auch noch weitere Software braucht um die Unzulänglichkeiten der ersten Software zu fixen. Und irgendwann hat man dann halt so ein Gewusel bei dem keiner mehr richtig durchsieht und man froh ist, das es halbwegs läuft.

Und klar hat man als einzelnes Unternehmen nicht nicht gerade den besten Stand gegenüber einem großen Hersteller. Nur andere Kunden des Unternehmens haben die Probleme ja oft auch. Nur mit denen redet man nicht. Und so ist dann der Hersteller in der Position, das er so weiter machen kann wie bisher, obwohl alle Kunden meckern. Weil jeder der Kunden als einzelner machtlos ist. Aber wenn die sich zusammen tun würden, hätten sie natürlich schon Macht. Nur tut das halt keiner.

Und spätestens dann, wenn man ein starkes Vendor-Lockin hat, hat man dann kaum noch ein Hebel.

Und dann finde ich, macht man es sich ein bisschen einfach sich dann so in eine Opferrolle zu begeben und zu sagen "Man kann nix machen".

 

[luckysh0t]

Und spätestens dann, wenn man ein starkes Vendor-Lockin hat, hat man dann kaum noch ein Hebel.

Den hat man in unserer Branche quasi, sobald du dich für einen der wenigen Hersteller (die für dein Budget etwas anbieten) entschieden hast.
Denn wenn das System läuft, alle Prozesse darin abgebildet sind, die MA damit umgehen können, ist es quasi geschehen. Ich kenne auch Firmen die migrieren..wollen - haben einen Dienstleister gefunden der meint das machen die für die.. joar... ich bin gespannt, ob die in 5 Jahren fertig sind ^^ sind jetzt schon bei über einer Million an Gesamtkosten,..

 

[andy_m4]

Denn wenn das System läuft, alle Prozesse darin abgebildet sind, die MA damit umgehen können, ist es quasi geschehen.

Ja. Dennoch hast Du ja auch Einflussmöglichkeiten. Also selbst wenn Du nicht sagen kannst: "Wenn XYZ nicht in 2 Wochen gefixt ist, geh ich zur Konkurrenz".
Also schon einfach dieses Ding: "Wir beschweren uns beim Hersteller und um dem Gewicht zu verleihen, tun wir uns mit anderen Kunden von dem zusammen". Da reden wir ja noch gar nicht von migrieren oder dergleichen.
Denn es besteht dann nicht mal Bereitschaft zu diesen Schritt.

Und Probleme bestehen ja auch nicht nur darin, das Hersteller irgendwas machen was die Kunden nicht wollen. Manchmal ist es ja auch umgekehrt. Das die Kunden irgendwas krudes wollen, dem die Hersteller sogar nachkommen aber man schafft sich dadurch dann irgendwelche Unwirtlichkeiten.

Der Punkt, worauf ich eigentlich hinaus will ist, das längerfristige, strategischen Betrachtungen keine oder eine sehr sehr untergeordnete Rolle spielen.
Also es wird eher die Lösung präferiert, die JETZT einen Effekt hat (oder zumindest verspricht), selbst wenn das auf lange Sicht doof ist.

Und klar gibt es Zwänge, Anforderungen und Gegebenheiten die Dich dann auch zu bestimmten Entscheidungen bringen.
Nichtsdestotrotz gibts häufig auch Handlungsspielraum, der meiner Ansicht nach eher selten ausgenutzt wird.

 

[luckysh0t]

Und Probleme bestehen ja auch nicht nur darin, das Hersteller irgendwas machen was die Kunden nicht wollen. Manchmal ist es ja auch umgekehrt. Das die Kunden irgendwas krudes wollen, dem die Hersteller sogar nachkommen aber man schafft sich dadurch dann irgendwelche Unwirtlichkeiten.

Ach, ich denke da nehmen alle involvierten sich nicht viel ^^

 

[Ka-Efka]

Um ehrlich zu sein weiß ich nach lesen des Artikels nicht was tatsächlich ging, und was nicht.
Wenn ich im lokalen Berechtigungskontext meine Mails durch Copilot zusammenfassen lasse ist es für mich eher die erwartete Realität, dass er auch vertrauliche einschließt. Schließlich sind es Mails in meinem Postfach.

Wenn Copilot diese nun in einem geteilten Kontext genutzt hat ist das natürlich nicht akzeptabel. Aber ich finde gerade keinen use case in dem dort alle, ausser die als 'vertraulich' geflaggten genutzt werden sollten. Also generell.

Hat da zufällig jemand mehr Wissen zu dem Bug?