News Künstliche Intelligenz: Microsoft entlässt für KI-Ethik verantwortliches Team

[habla2k]

Eine KI, die nie gelernt hat, dass Rassismus oder Diskriminierung für unsere Gesellschaft nicht akzeptabel ist, könnte massenhaft rassistische oder diskriminierende Inhalte in der Welt verbreiten und so die Haltung von Millionen von Menschen beeinflussen.

Ha, Donald Trump ist also eine KI, wobei das I schon sehr wohlwollend wäre.

Aber klar müssen einige hier gleich wieder ihre Abneigung gegen "political correctness" zum, Ausdruck bringen, denn "bald darf man ja keine Witze mehr machen".

Ja, Witze auf Kosten anderer sind halt immer nur für einen selbst witzig. Ich sag nur "9 von 10 finden Mobbing toll". Dass es immer noch so schlimm für manche ist auf diskriminierende Witzchen zu verzichten anstatt für eine empathische Gesellschaft einzustehen, die sich gegenseitig unterstützt ist wirklich traurig.

@Topic
Bei den aktuellen Rauswurf Wellen trifft es ja in den wenigsten Fällen die Verantwortlichen, sondern eben die Entberhlichen. Ob das hinten raus die richtige Wahl war, wird man sehen. Ich hätte lieber 30 Ethik Leute als 30 Marketing Mitarbeiter, aber ich entscheide das ja nicht. Vielleicht auch besser so

 

[AwesomSTUFF]

Ich hol schonmal das Popcorn...

 

[pacifico]

Finde ich eine sehr fragwürdige Entscheidung... 30 Leute für so ein imo wichtiges Thema...
Im Vergleich zu den Jahreszahlen doch ein Witz.
Hoffentlich geht sowas nicht böse nach hinten los, in welcher Form auch immer...

Vg Chris

Es ist nicht sinnvoll so ein Thema einer Stabsstelle ohne Befugnisse zu überlassen.

Solche Themen müssen in allen Teams implementiert werden die damit zu tun haben.

Ansonsten wird nur hin und wieder ein Meeting mit den Kollegen von der Ethik Abteilung gemacht und anschließend wird wieder Dienst nach Vorschrift geschoben

 

[Biedermeyer]

Das Team kostete Geld und hat genervt od. Zeit abgesessen.

 

[SSD960]

Was will MS uns da mitteilen? Ethik ist nichts für KI

 

[Weyoun]

Ethik? Nie von gehört! Schmeiß die ganze Abteilung raus!

 

[Hito360]

was solls, dann loescht uns die KI eben aus um den Planeten oder uns vor uns selbst zu retten

wobei....um uns zu retten muesste die KI ja nur den Finanzsektor uebernehmen und regulieren....

 

[JanMH]

Gerade weil solche Teams entweder nicht vorhanden sind, oder wie hier entlassen werden, traue ich künstlicher Dummheit, und den Firmen die sie entwickeln, nicht über den Weg. Sowas sollte Usus sein.

Genauso sollte ein Killswitch in jeder künstlichen Dummheit zum nicht zu hinterfragenden Standard gehören.

Ergänzung (15. März 2023)

was solls, dann loescht uns die KI eben aus um den Planeten oder uns vor uns selbst zu retten

Je mehr ich die Menschheit beobachte, desto öfter denke ich, bitte, fang mit dem löschen an.

 

[MonteDrago]

...
Und selbst wenn, werden für das finale Release des Produkts des Produkts sowieso zig Review runden gedreht und irgendjemand setzt letztendlich seine Unterschrift drunter, dass das so an die Öffentlichkeit kann. Spätestens da, müsste man dann halt ggf. noch mal nachbessern. Jede große Firma hat derartige Prozesse für die Produktentwicklung..
...

Bei Microsoft!!.
Sach mal unter welchen Stein hast du die letzten 40 Jahre geschlafen.
Bei MS stand Qualitätskontrolle noch nie hoch im Kurs.
Und spätestens seit sie ich glaube seit Win8 die QM Abteilung komplett aufgelöst haben geht es in dem Bereich nur noch rapide Bergab.

Da ist diese Entscheidung wohl nur konsequent, nach MS Vorstellung.

 

[MiyamotoMusashi]

Was Ultimativ aber auf den User zurückfällt.

Wenn ich eine Frage stelle, bei welcher die Antwort aufgrund der PC Regelungen der KI nicht genannt werden darf, werde ich bevormundet. Bei dem was ich wissen darf und was nicht.

Ich denke auch hier liegt ein Missverständnis vor. Es geht nicht darum, den User möglist dumm zu halten oder zu bevomunden, sondern darum Grenzen zu setzen. Beispiel:

Ich frage eine KI, dass sie mir alle persönlichen Informationen vom User Apacon, der auf CB aktiv ist, zusammenzutragen und ein psychologisches Profil zu erstellen. Nehmen wir an, die KI hat die Fähigkeit und die Ressourcen genau zu bestimmen, wo der User wohnt, wie der Klarname lautet etc. Informationen, die sie vielleicht auch aus illegalen Quellen (unwissentlich) erworben hat.

Würdest du dann wollen, dass sie mir diese Informationen weiterreicht?

Oder ein anderes Beispiel: Herstellungsprozess von ABC-Waffen. Sind das Informationen, die jedem auf Knopfdruck zur Verfügung stehen sollten? Fände ich zumindest disskussionswürdig.

Drittes Beispiel:

Ein Inhalt ist diskriminierend, aber nicht offensichtlich, sondern subversiv. Schlaue, kundige Menschen erkennen das vielleicht, aber jemand, der vielleicht einfacher gestrickt ist, könnte darauf reinfallen. Soll ein mächtiges Tool wie ein KI nun dafür verwendet werden, um diesen Inhalt millionfach als Fakt zu verbereiten? Oder wären Routinen, die diskriminierenden Content erkennen und als solchen markieren oder vielleicht sogar ganz ignorien nicht sinnvoll? Mein Kampf war lange auf dem Index. Aus Gründen.

Wie gesagt, es geht nicht darum hier eine Gedankenpolizei einzuführen, die alles, was auch nur annähernd problematich sein könnte, verbietet oder vernichtet. Aber es müssen trotzdem Grenzen eingezogen und ein Umgang mit problematischem Kontent definiert werden. "Anything goes" ist brandgefährlich.

 

[nn|none]

Ich bin weiterhin der Meinung, dass der Nutzer selbst über Ethik entscheiden sollte.
Nicht irgendwelche Ansammlungen von Menschen.

Das geht vollkommen am Thema vorbei. Das Team, um das es hier geht, hatte damit nichts zu tun. Hättest Du die News gelesen, anstelle einfach nur eine weitere Plattform für Deine Meinung zu sehen und blind zu kommentieren, wüsstest Du das.

 

[MiyamotoMusashi]

@MiyamotoMusashi

OK dann einigen wir uns auf ein einfaches Grundgerüst der Moral und Ethik.
Der heutige Zeitgeist würde mir definitiv zu weit gehen

Ja, d'accord. Dieses Grundgerüst müssten dann eben Profis bestimmen, die sich mit der Materie ausgiebig beschäftigen. Der Ottonormalverbraucher ist da eher ungeeignet. Und natürlich müssten solche Regeln - wie alle guten Regeln - auch regelmäßig aktualisiert und angepasst werden, wenn die Umstände es erfordern oder sinnvoll machen.

 

[paulemannsen]

Gibt genügend Videos von Twitter-Angestellten, die in diesen Bereichen "gearbeitet" haben. Deren Tagesablauf bestand im Wesentlichen aus auf der faulen Haut liegen, Kindergartenrabulistik und andere am Gesetz vorbei zu zensieren. Wird jetzt alles von KI übernommen.

 

[MiyamotoMusashi]

Allein dieser Absatz zeigt wie schwierig das Thema ist.
Musste grade spontan an HAL9000 denken.
Man erwartet vonneiner KI mehr als das wozu Menschen im Stande sind.

Diskriminierung ist immer dann wichtig wenn es um Krieg geht.

Das ist so als ob ein Raucher einem Kind erklärt wieso es nicht rauchen soll.

Ja, es ist zweifellos ein schweres Thema. Ich würde nie behaupten, das Thema umfassend zu verstehen oder auch nur annähernd skizzieren zu können. Dafür braucht man Menschen, die verstehen, wie so eine KI am Ende "denken" würde und welchen impact sie haben wird.

Ist übrigens auch eine spannende Unterhaltung, die man mit ChatGPT führen kann.

Für mich steht fest, dass ich lieber vorher strikte Leitlinien einziehe und später lockere, als umgekehrt. Siehe Büchse der Pandora.

 

[Lan_Party94]

Irgendwann gibt es kein Humor mehr und die kleinste Abweichung der eigenen Weltvorstellung wird zur persönlichen Beleidigung.

Ähm, also so wie es jetzt gerade ist? Siehe diverse "Communitys".

Genau. Ethik steht dem Kapitalismus im Weg.

Richtig, siehe USA. Guantanamo lässt grüßen, ahja und diverse Nah- und Mittlerer Osten Nationen könnten auch ein Liedchen von singen.

 

[Kaboooom]

Aber klar müssen einige hier gleich wieder ihre Abneigung gegen "political correctness" zum, Ausdruck bringen, denn "bald darf man ja keine Witze mehr machen". Ja, Witze auf Kosten anderer sind halt immer nur für einen selbst witzig.

Wer austeilen kann, sollte schon auch einstecken können.
Es soll aber sogar Menschen geben, die sowohl gerne Witze auf ihre eigenen Kosten als auch auf die von Dritten machen (und zwar egal ob das die eigene Oma ist oder eine vermeintliche Opfergruppe, die im intersektionalen Diskurs als heilig gilt).

ChatGPT hat aber nicht nur Probleme mit Witzen, die bestimmten Gruppierungen als nicht politisch genehm gelten, sondern auch mit der Auskunft über unliebsame naturwissenschaftliche Fakten. Aus ChatGPT herauszukitzeln, dass es zum Beispiel nur zwei biologische Geschlechter gibt, ist schon eine Kunst für sich.

Da jeder nicht nur nach Kultur und Tradition, sondern auch je nach Gefühlslage und Erziehung andere Vorstellungen von Moral hat, würde ich an deiner Stelle nochmals überlegen, ob jeder wie er will entscheiden sollte was Ethik ist.

Aber genau das folgt daraus. Eben weil Moral eine individuelle Ansichtssache ist, gibt es nicht "die" Ethik. Und nur weil sich etwas "Ethik" nennt, hat es nicht notwendigerweise ein argumentatives Gewicht.

Ein Ethikrat kann sich schlecht anmaßen darüber zu bestimmen, was ethisch richtig und was ethisch falsch ist. Nicht selten wird aber genau das versucht, völlig ohne demokratische Legitimation.

 

[MountWalker]

[...] Aus ChatGPT herauszukitzeln, dass es zum Beispiel nur zwei biologische Geschlechter gibt, ist schon eine Kunst für sich.

Was einfach daran liegt, dass die Sache komplizierter ist, als wir beide sie in der neunten Klasse gelernt hatten. Es gibt dann bei Menschen und vielen (nicht allen) anderen Tieren zwei Geschlechter, wenn ich den Begriff auf Spermienproduzent und Eizellenproduzent eingrenze. Es ist schwer kontextabhängig, ob das nun eine hilfreiche Antwort ist, weil unsere Welt viel zu voll von naturalistischen Fehlschlüssen ist - die gerade in Hinblick auf "Geschlechteigenschaften" sogar innerhalb der naturalistischen Sphäre widerlegt sind: Klitoris von "weiblichen" Hyänen ist größer als Penis der "Männchen" - was daran liegt, dass bei Hyänen halt "Weibchen" mehr Testosteron als "Männchen" haben. Abgesehen von den gelegentlich "uneindeutig" geborenen, die beides oder nichts oder ein bisschen oder oder haben. In der Biologie sitzt halt kein Oberdiktator, der befiehlt, dass jedes geborene Individuum an der zweigeschlechtlichen Fortpflanzung teilhaben müsse. Im 20. Jh. wurde doch, zumindest spaßhaft, der Geschlechtsakt mit Bienen erklärt - ausgerechnet mit einer Drohne, die Pollen sammelt, obwohl das Bienengeschlecht Drohne so komplett weder männlich noch weiblich ist.

Aber genau das folgt daraus. Eben weil Moral eine individuelle Ansichtssache ist, gibt es nicht "die" Ethik. Und nur weil sich etwas "Ethik" nennt, hat es nicht notwendigerweise ein argumentatives Gewicht.

Richtig, und deshalb studieren Ethiker Philosophie, damit sie lernen, wie und wann etwas argumentatives Gewicht haben kann. Geh mal in ein Philosophieseminar, bevor du behauptest, Philosoph:innen würden das weniger verstehen als du.

P.S.
Holm Tetens, Philosophisches Argumentieren
Winfried Löffler, Einführung in die Logik

 

[Apacon]

Wie gesagt, es geht nicht darum hier eine Gedankenpolizei einzuführen, die alles, was auch nur annähernd problematich sein könnte, verbietet oder vernichtet. Aber es müssen trotzdem Grenzen eingezogen und ein Umgang mit problematischem Kontent definiert werden. "Anything goes" ist brandgefährlich.

Wenn ich Frage, welche Ethnie ist in den USA für die meisten Morde verantwortlich und CHatGPT mir diese Antwort mit dem Hinweis auf Ethik verweigert, finde ich ist das durchaus ein unberechtigter Eingriff in die FUnktionsweise einer KI.

 

[edenjung]

@Kaboooom

Spoiler: Ethik Beischreibung

Die Ethik ist jener Teilbereich der Philosophie, der sich mit den Voraussetzungen und der Bewertung menschlichen Handelns befasst. Ihr Gegenstand ist damit die Moral insbesondere hinsichtlich ihrer Begründbarkeit und Reflexion. Cicero übersetzte als erster êthikê téchnē (die ethische Kunst) in den seinerzeit neuen Begriff philosophia moralis (Philosophie der Sitten).[1] In seiner Tradition wird die Ethik auch heute noch als Moralphilosophie bezeichnet.

Und ja es gibt nicht "die Ethik". Es gibt die Metaethik, die Normative Ethik, die angewandte Ethik, Deskriptive Ethik.
Die philosophie als Wissenschaft beschäftigt sich damit schon seit Ewigkeiten. Und die geht davon aus, dass Ethik ein kulturelles und urmenschliches Konstrukt ist. Und halt auch ein evolutionär psychologisches Must-Have ist. Wenn man nicht mal eine grobe Moralvorstellung hat, ist das soziale Zusammenleben nicht möglich. Dadurch ist es schwerer seine Gene weiterzugeben (Reproduktion als Endziel der Evolution). Dementsprechend ist das Entstehen und das Beibehalten einer Moral essenziel für unser Überleben als Spezies. Darum haben zum beispiel Religionen einen evolutionären Sinn, denn sie vermitteln Normen und Werte die dazu beitragen zu überleben (jetzt mal vereinfacht gesagt).
Ein Ethikrat schreibt nicht vor was ethisch ist, sondern weißt auf die potentiell negativen Folgen des Handels hin. Nicht mehr nicht weniger.

Philosophie als Wissenschaft ist sehr anspruchsvoll und schwierig. Vorallem auch, da sie Einfluss hat auf alle anderen Wissenschaften. Desshalb kommt Forschungethik oder Erkenntnistheorie in den meisten wissenschaftlichen Studiengängen vor.
Und vorallem Erkenntnistheorie hat es in sich. Die gibt es schon seit Anbeginn der Zeit (man kann sagen, dass sie die erste wissenschaftliche Disziplin ist) und dementsprechend hat sie halt Einfluss auf alles. Zum Beispiel haben die Erkentnisstheoretiker unser Konzept der Falsification erst etabliert. Um zu unterscheiden zwischen den Erkentnissen der Wissenschaft (was ist Wissenschaft überhaupt?) und den Pseudewissenschaften. ziemlich interessant. Besonders Popper (der alte Stecher) und Lakatos haben das Entwickelt zu dem was es heute ist.

Übrigens, die Biologie sagt, dass es mehr als 2 Geschlechter gibt.
Nämlich 3. Hermaphroditen gibt es auch noch. Nun gut bei anderen Tieren, aber trotzdem. Die biologie macht da keinen unterschied.
http://philsci-archive.pitt.edu/19906/1/Griffiths - What are biological sexes.pdf

 

[DonDonat]

Sowas zeigt immer ausgezeichnet, wie kurzfristig Firmen denken: heute die Profite um 1% höher um dem Management und Großaktionären mehr Zahlen zu können, dafür aber übermorgen massive Probleme was Produkte auf dem Markt sowie Konsequenzen für Menschen angeht.

Überrascht mich aber auch null, Meta, Google, Apple & Co. sind ja genau so im Tech-Space unterwegs, nur folgerichtig, dass MS hier keine Ausnahme bildet.

Am "lustigesten" dabei ist ja, dass der Cyberpunk schon vor XX Jahren das Mega-Crop-Problem vorausgezeichnet hat und heute ist es teilweise sogar noch schlimmer als es von Autoren damals vorausgeahnt wurde (nur ohne, bzw. noch ohne, einen Großteil der Technologie des Cyberpunk). Dystopie Menschheit, in der Anno 2023 fast aller Wohlstand an einen Bruchteil eines Bruchteils der Bevölkerung fließt und in der Mega-Corp über Gesetzen steht und sich die Dinge machen wie sie ihnen gefallen. "Demokratie" wird hier also nicht etwa durch Diktaturen ausgeheblt (zumindest hier im Westen sowie demokratischen östlichen Staaten), sondern durch nahezu unermessliche Gier der Top-Prozent und fehlenden Beteiligungen der Angestellten. Dürfte Joe Everyman, Angestellter bei Amazon am Lieferband abstimmen, ob Bezos sein Gehalt wieder mal um um einen Faktor X erhöhen darf, wärde die Antwort nein. Und dürfte Joe Everyman abstimmen, ob Bezos ein Jahr lang auf Gehalt verzichten muss, damit 10000 Angestellte nicht gehen müssen, wäre die Antwort ebenfalls eindeutig. Das wäre aber nur ein Lösungsvorschlag. Mehr Möglichkeiten wären hier definitiv denkbar, nur muss man dafür eben den defakto dysfunktionalen Status Quo erst mal ändern...

Leider sind wir als Spezies aber wohl nicht, hoffentlich aber noch nicht, in der Lage solche Probleme zu lösen. Und leider sieht es Stand 2023 auch nicht so aus, als ob sich das bald ändern würde...