Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsRegulatorische Offensive: US-Bundesstaaten nehmen Ermittlungen gegen OpenAI auf
Eine Koalition mehrerer US-Bundesstaaten hat Ermittlungen gegen OpenAI eingeleitet und umfangreiche Unterlagen zu Geschäftspraktiken, Datennutzung, Nutzerwirkungen und Sicherheitsfragen angefordert. Die Untersuchung ist Teil einer breiter angelegten regulatorischen Offensive gegen führende KI-Unternehmen in den USA.
Besonders in den Fokus der Ermittler rückte das Thema „Model Sycophancy“ – die Frage, inwieweit KI-Systeme dazu neigen, Nutzern übermäßig zuzustimmen oder deren Ansichten unkritisch zu bestätigen. Dieses Phänomen wird zunehmend als mögliches Risiko für die psychische Gesundheit und die Qualität von KI-Interaktionen diskutiert...
Das wäre bei uns auch relativ weit oben auf der Liste. Das brown-nosing der Modelle geht uns auch massiv auf die Nerven. Kann man seinen Agents natürlich abtrainieren, aber ein "Effizienz-Modus" ohne Floskeln, Rumgelaber, Gerate und eben Model Sycophancy wäre durchaus wünschenswert.
Und von Produktivität ganz abgesehen, sehe ich es unter dem zweiten Aspekt ebenfalls hoch kritisch an. Was bei ständiger Bestätigung passiert, sieht man täglich in vielen Bereichen des Lebens, bei denen Leute sich an Dingen festklammern, weil ihre Bubble sie darin bestärkt. Das wars dann ganz schnell auch mit kritischem (sich selbst) Hinterfragen und Offenheit für andere Meinungen als Diskussionsgrundlage.
Wie denn das jetzt nach den gestrigen Artikeln, dachte ich, es wäre alles grün im Geschäft, alles super und die User sind Glücklich und zufrieden, so wird es und seitens der Hersteller doch seit 1 1/2 Jahren vermittelt, so ein bisschen Desinformation gab es auch schon vorher und wer seine Freundin nackt sehen wollte hat zum Pinsel wie die alten Meister gegriffen :-)
Und nun soll dort Korruption, wilde Geschäftsgebaren und Sodom und Gomorrha herrschen da verstehe einer mal die Welt.
Wann wird die Blase denn jetzt platzen und die Hardware preise ins bodenlose fallen?
Bei solchen Problemen kann nur eines helfen. Mehr Rechenzentren. Mehr Cpus. Mehr Gpus. Mehr Ram. Mehr Strom. Mehr Milliarden. Mehr Ki.
OpenAi sagt es, und alle glauben es.
Ist schon seltsam, daß noch niemand auf die Idee gekommen ist z.B. C2H6O, sprich Alkohol zu verklagen... Der richtet schließlich auch viel psychischen Schaden an. Man könnte auch mal Geld oder Gold verklagen, die sind bekanntlich auch nicht förderlich für den Charakter....
Ist schon seltsam, daß noch niemand auf die Idee gekommen ist z.B. C2H6O, sprich Alkohol zu verklagen... Der richtet schließlich auch viel psychischen Schaden an. Man könnte auch mal Geld oder Gold verklagen, die sind bekanntlich auch nicht förderlich für den Charakter....
@crackett
Langsam werden solche Kommentare wirklich lächerlich. Eigentlich sollte hier der Unterschied deutlich sein. Es geht darum, dass die KI-Unternehmen nicht genügend Sicherheitsmechanismen einbauen. Zudem ist die Rechtslage in den USA ein wenig anders als hier. Wenn jemand beispielsweise dem Attentäters von Florida die von ihm gesuchten Informationen gegeben hätte, wäre der Informant zumindest wegen Beihilfe zum Mord drann.
Und nur mal so und um bei Deinem Beispiel bleiben: Wenn jemand hier Jugendlichen rechtswidrig Alkohol verkaufen würde und denen passiert nachweislich dadurch etwas, dann braucht dieser verdammt gute Anwälte.
Ja das nervt mich auch. Vermute einfach dass soll psychologisch eine Art Belohnung auslösen, wenn jede Antwort mit "das ist eine hervorragende Frage..." startet.
Mich stört ansonsten, vor allem im beruflichen Kontext, (obwohl es besser geworden ist) die Art wie die AI immer versucht eine Lösung zu finden statt mal zu antworten mit das "ich habe keine gute Lösung". Stattdessen (beim Coden) wird dann wild geraten und Probleme irgendwie komplett an Frameworks vorbei umgangen.
Was hat das mit dem Alter zu tun?
Schon mal gesehen, was in alkoholkranken Familien so passiert? Wenn dann aus dieser Geschichte ein junger Mensch (23 Jahre alt) einen Suizid begeht und davor mit ChatGPT geredet hat, soll die KI schuld sein?
Das einzige was hilft ist Bildung und soziale Sicherugnsnetze, anstatt Regulierung von Technik. In Norwegen hat mal ein Norweger zu mir gesagt: "In Norwegen, da darfst Du noch an deiner eigenen Dummheit sterben. "
Wer versucht den Chatbot allwissend und unfehlbar zu machen - gibt die eigene Bevölkerung auf.
Und ich bin für Transparenz, Aufklärung und manche Dinge müssen auch verboten werden. Aber es kann nicht alles reguliert werden - nicht an jede Klippe ein Geländer gebaut werden und nicht jeden Chatbot perfekt sein.
In einem Land, dass nur 13 (!) Lebensmittelkontrolleure für Babynahrungs Fabriken hat - sind die Prioritäten noch falscher gesetzt als bei uns (Quelle von 2023)
Es ist mal wieder politischer Aktionismus - etwas was wir in DE auch vermehrt sehen leider. Trotzdem natürlich Beileid an alle Betroffenen und Opfer für solche Taten.
Witzig, das EU Techbros auf die EU einprügeln und sagen, wir müssten mehr regulatorische Erleichterungen für KI schaffen. Da kann man nur noch laut lachen.
Ich frage mich wie dieser Norweger mit psychisch labilen Menschen umgeht.
Und ob er sie in ihrer Phase in der sie sich befinden bestätigt und das daraus resultierende Handeln sowie der potenziellen Selbstzerstörung (aus der auch kollaterale Schäden entstehen können) bestärkt so wie es hier ggü. OpenAI und ChatGPT kritisiert wird.
Oder ob dieser Norweger versucht diesen Menschen zu helfen, zu einer Erkenntnis zu gelangen. Sich wohlmöglich vor sich selbst zu bewahren, vor den eigenen destruktiven Gedanken bis diese Phase wohlmöglich überstanden ist.
Es müssen ja nicht immer die schweren Fälle sein. Wenn eine einsame Jugendliche pubertäre Person auf einen Katalysator trifft kann dies ebenfalls auf vielfältige Art verlaufen.
Ich schätze, wir reden hier nicht über so etwas banales wie einem Geländer an jedweden tödlichen Steilhang.
Was hat das mit dem Alter zu tun?
Schon mal gesehen, was in alkoholkranken Familien so passiert? Wenn dann aus dieser Geschichte ein junger Mensch (23 Jahre alt) einen Suizid begeht und davor mit ChatGPT geredet hat, soll die KI schuld sein?
