News Amoklauf an Universität in Florida: Witwe von Opfer reicht Klage gegen OpenAI ein

[Alphanerd]

In diesem Zusammenhang stellt ich immer die gleiche Frage: Wenn OpenAI belangt werden sollte, warum werden dann nicht zuerst die Waffenhersteller an den Pranger gestellt, deren Waffen beim Amoklauf benutzt wurden?

Wurde hier schon oft genug erklärt.

Es geht nur darum, wie man solch einen Fall zu Geld machen kann.

Ihr Mann wurde erschossen. Von jmd, der sich die Anleitung dafür bei chatgpt geholt hat und nicht in der Lage gewesen wäre die Infos so zusammentragen.

Wegen meiner soll man ihr die ganze Butze (OpenAI) übertragen. Kann sie dann abwickeln und die Kohle rausziehen.

 

[ZeroCoolRiddler]

Konnten Killerspiele dir eine AI psychosis verpassen?

Nein. Aber das schafft auch kein Chatbot bei nem gesunden Verstand.

 

[OpenSystemFan]

Wow, dann hast du so lange recht, bis eventuell irgendwann mal deine Hypothese wahr wird.

Ich habe nicht recht. Ich habe eine Hypothese, die logisch Sinn ergibt. Ich denke nicht, dass man die Nutzung von KI in einer Planung nicht als Effiziensteigernd sehen kann.

Wir könnten deine Hypothese also auch Verschwörungstheorie nennen.

Nein, eine Hypothese ist das Gegenteil einer Verschwörungstheorie. Deiner Aussage fehlt jegliche Substanz.

Ab wann wäre es dir denn genehm, weiterzudiskutieren?

Wenn Sie überprüft worden ist oder widerlegt. Das wird man durchaus herausfinden können. In der Analogie funktioniert die These sehr gut. Eine KI wird schon heute dazu benutzt die Effizienz von Plänen zu steigern. Manchen würde das schon ausreichen. Ich bezweifle, dass es dahingehend schon ausreichend Studien gibt.

Die eigentliche Frage, nachdem wir übereingekommen sind, dass eine KI bei der Planung hilft, wäre doch, ob es seitens OpenAI notwendig wäre, solche Chatverläufe zu unterbinden, um nicht Amokläufer zu unterstützen.

 

[Alphanerd]

Nein. Aber das schafft auch kein Chatbot bei nem gesunden Verstand.

Muss man denn vor der Nutzung ein psychologisch Assessment durchlaufen, oder kann so ein chatbot jeder nutzen?

Wenn den jeder nutzen kann ist dein Argument schwach.

 

[Zhenwu]

Ich habe nicht recht. Ich habe eine Hypothese, die logisch Sinn ergibt. Ich denke nicht, dass man die Nutzung von KI in einer Planung nicht als Effiziensteigernd sehen kann.

Ach komm. Du stellst eine Theorie auf. Vergangene Daten deuten nicht darauf hin.
Die Diskussion gabs ja auch bei den Killerspielen und hat sich als unwahr herausgestellt.

Nein, eine Hypothese ist das Gegenteil einer Verschwörungstheorie. Deiner Aussage fehlt jegliche Substanz.

Deine Aussage fehlt jegliche Substanz.
Das Gegenteil ist der Fall. Im Großen und Ganzen hilft die KI Amokläufe zu verhindern, weil sie potenziellen Amokläufern abrät den Weg zu gehen.

Wenn Sie überprüft worden ist oder widerlegt. Das wird man durchaus herausfinden können. In der Analogie funktioniert die These sehr gut. Eine KI wird schon heute dazu benutzt die Effizienz von Plänen zu steigern. Manchen würde das schon ausreichen. Ich bezweifle, dass es dahingehend schon ausreichend Studien gibt.

Es gibt keine Daten, das ist ja genau das Thema wieso deine Hypothese eine Verschwörungstheorie ist.

Die eigentliche Frage, nachdem wir übereingekommen sind, dass eine KI bei der Planung hilft, wäre doch, ob es seitens OpenAI notwendig wäre, solche Chatverläufe zu unterbinden, um nicht Amokläufer zu unterstützen.

Wir sollten erstmal klären wie oft KI schon geholfen hat Attentate zu verhindern.

 

[iron_monkey]

Hm, wie verhält es sich denn, wenn ich als Sprengstoffexperte dem verwirrten Sohn des Nachbarn bei Nachfrage erkläre wie er sich eine Bombe baut und der dann damit Leute umbringt.

Bin ich dann auch nur "nettes" Werkzeug oder trage ich eine Mitschuld?

Ergänzung (12. Mai 2026)

Als nächstes klagt dann die Filmindustrie

Das machen die erst, wenn diese KI Klitschen Geld verdienen und nicht wie momentan verbrennen... du möchtest die Schadenssumme auch bekommen und nicht zuschauen, wie der Häuptling der Hampelmänner in Knast wandert und dein "Geldsegen" eine Forderung bleibt.

 

[OpenSystemFan]

Wir sollten erstmal klären wie oft KI schon geholfen hat Attentate zu verhindern.

Gerne. Ich sehe noch keinen validen Diskussionspunkt mit Dir. Meine relativ einfache und direkte Aussage wird von dir nicht akzeptiert. Ich weiß nicht warum und wozu, aber gerne kannst Du deine Aussage unterfüttern. Zumal das dann genau das Ergebnis meiner Hypothese wäre. Sprich, wenn die Annahme stimmt, dass eine KI bei einer Attentatsplanung helfen könnte, dies nicht erwünscht ist, sondern eher davon abraten sollte, dann sehe ich darin die Lösung, die gerade OpenAI angeraten wird: Lass die KI sowas erkennen und aktiv dagegen vorgehen. Sollte sich im Gerichtsverfahren herausstellen, dass das nicht, wie von dir gesagt, geschehen ist, dann wäre der von dir gewünschte Zustand herzustellen. Was ich gelesen habe, hat die KI nicht geholfen das Attentat zu verhindern, sondern zu planen. Aber ich kann mich auch irren.

 

[ZeroCoolRiddler]

Muss man denn vor der Nutzung ein psychologisch Assessment durchlaufen, oder kann so ein chatbot jeder nutzen?

Natürlich kann den jeder nutzen. Und man kann sogar an die absolute Richtigkeit der Antworten glauben. Oder Jesus. Und danach in seinem Auto in eine Menschenmenge fahren.
Wer im Kopf nicht ganz ok ist, der findet Wege. Chatbot heute, früher waren es Google oder YT, davor Bücher oder gar andere Menschen. Irgendwo gibt es Infos.
Trotzdem rechtfertigt das keine Tat, oder die Hexenjagd auf freie Informationen die genutzt wurden.

 

[Alphanerd]

Chatbot heute, früher waren es Google oder YT, davor Bücher oder gar andere Menschen. Irgendwo gibt es Infos.

Nichts davon bestätigt dich aktiv in deinen Illusionen und füttert diese aktiv.

 

[akuji13]

Weil Streetview keine Psychosen auslösen kann, man zu Streetview auch keine Sycophantic Relationships aufbauen kann und Street View deswegen auch nicht nicht den Täter konstant ermutigt und bestärkt seine geplante Tat zu vollbringen. Streetview wird wahrscheinlich auch noch niemand darauf aufmerksam gemacht haben, das sein Plan nicht genug Kinder tötet und er für mehr Mediale Aufmerksamkeit vielleicht seine Ziele optimieren sollte.

Wurde die Studie wissenschaftlich korrekt durchgeführt?
Wieviele andere kommen zu einem ähnlichen Ergebnis?
Eine Schwalbe macht noch keinen Sommer.

Wenn wir lange genug suchen, finden wir bestimmt auch Studien, die bestätigen das soziale Medien die Gefahr für Amokläufe erhöhen, die veränderte sozialen Familienstrukturen (Stichwort Einsamkeit), die Ernährung, das Internet als Ganzes, der Klimawandel usw.

Nächster Punkt: Andere Dinge können auch Psychosen auslösen, etwa Alkohol.
Also wieder Alkohol verbieten? Hat in der Vergangenheit ja super geklappt.

Letzter Punkt: All die genannten Punkte macht eine Schusswaffe auch nicht.
Warum also verbieten oder regulieren?

Und, da wiederhole ich mich gerne:
Viel weniger Tote als bei anderen Taten die gänzlich ohne KI geplant wurden.

In diesem Zusammenhang stellt ich immer die gleiche Frage: Wenn OpenAI belangt werden sollte, warum werden dann nicht zuerst die Waffenhersteller an den Pranger gestellt, deren Waffen beim Amoklauf benutzt wurden?

Weil es Unsinn ist.
Die häufigste Tatwaffe ist das Küchenmesser.
Dafür kann weder das Messer noch der Hersteller etwas.

Die verzweifelte Fokussierung auf das Tatmittel ist nur ein Ausdruck von Hilflosigkeit z. B. seitens des Gesetzgebers.

 

[ZeroCoolRiddler]

Nichts davon bestätigt dich aktiv in deinen Illusionen und füttert diese aktiv.

Wenn du das denkst, ist deine Illusion schon selbstfütternd.

 

[Apocalypse]

Trotzdem rechtfertigt das keine Tat, oder die Hexenjagd auf freie Informationen die genutzt wurden.

Wieso eine Hexenjagd auf freie Informationen? Der Chatbot selbst ist doch das Problem.

 

[Alphanerd]

Wenn du das denkst, ist deine Illusion schon selbstfütternd.

Ich verstehe diese Aussage nicht.

Aber durch das papageienhafte bestätigende Verhalten der chatbots können Psychosen ausgelöst oder verstärkt werden.

https://www.psychologytoday.com/us/blog/urban-survival/202507/the-emerging-problem-of-ai-psychosis

https://de.wikipedia.org/wiki/KI-Psychose

 

[iSight2TheBlind]

Muss man denn vor der Nutzung ein psychologisch Assessment durchlaufen, oder kann so ein chatbot jeder nutzen?

Der Gag ist ja, dass der Chatbot ein psychologisches Assessment von dem Täter erstellt hat, weil der über mehrere Monate von seinen Depressionen berichtete und Informationen zu Selbstmord gesucht hat.
Eigentlich sind Chatbots dann darauf trainiert in so einem Fall Links zur Suizidprävention zu geben, hat ChatGPT aber iirc nur in einem von drei Fällen getan.

Den Dienst für den Nutzer in solchen Fällen zu sperren kam bzw. kommt den Betreibern dieser Dienste dann jedoch nicht in den Sinn, ganz im Gegenteil planen sie ja sogar die Einführung von Erotik-Versionen ihrer Chatbos, so dass die Nutzer dann nicht nur einen speichelleckenden Freund sondern sogar eine speichelleckende "Partnerin" haben sollen, was in einer Welt voller Incels garantiert nicht schiefgehen wird.

Wir sollten erstmal klären wie oft KI schon geholfen hat Attentate zu verhindern.

Strohmannargument!

Kann man nicht klären, weil die Daten nirgends erhebbar sind.
Das Gegenteil ist erhebbar, indem einfach nach Gewalttaten geprüft wird in welchen Fällen Chatbots eine Rolle spielten.
Und tadaa, da haben wir schon mal einen Fall, nämlich diesen hier!

Um deine Frage aufzugreifen: GTA 6 verhindert Amokläufe!
Ich bin fest davon überzeugt, dass GTA 6 Amokläufe und Selbstmorde verhindert, die Zahl der verhinderten Taten da also mindestens 1 beträgt, womöglich sogar höher.
Wie GTA 6, obwohl es noch nicht erschienen ist, das kann?
Eben weil es noch nicht erschienen ist!
Weil irgendwo gerade jemand sitzt, einen großen Hass auf die Welt hat und diesem Hass eigentlich freien Lauf lassen möchte - sich dann aber daran erinnert, dass er unbedingt noch GTA 6 spielen möchte.
Make-a-Wish funktioniert nur bei tödlichen Krankheiten, er kann also schlecht einfach darum bitten es mal vor dem Release spielen zu dürfen, damit er danach beruhigt amoklaufen kann, also verschiebt er seine Tat auf die Zeit nach dem Release des Spiels.
Und bis dahin ist er schon längst aus der psychischen Extremsituation heraus, die ihn dazu bewogen hätte seinen Plan umzusetzen, hat Spaß an dem Spiel, ist vielleicht in einem GTA 6 Online-Clan usw...

GTA 6 verhindert Amokläufe und Selbstmorde.
Sogar ein kleines Notizbuch kann Selbstmorde verhindern!

Zahlen dazu sind halt auf keine erdenkliche Weise erhebbar...

 

[Alphanerd]

Der Gag ist ja, dass der Chatbot ein psychologisches Assessment von dem Täter erstellt hat, weil der über mehrere Monate von seinen Depressionen berichtete und Informationen zu Selbstmord gesucht hat.

Es wird ja von jedem Nutzer ein Profil gestellt, denn der Dienst will, wie andere Service ja auch, dein maximales Engagement.
Daher auch die absolute Bestätigung und Speichelleckerei, egal welchen Wahnsinn man dem chatbot serviert.

Du sollst bei der Stange bleiben, deshalb wirst du ständig bestätigt. Was waren die Leute traurig als 4o eingestellt wurde. "Habe einen Freund/Lebensfährten/Liebhaber verloren". "Das neue Modell hat keine Seele mehr" etcpp

Aber das darunter liegende Engagement Modell ist natürlich weiterhin vorhanden.

 

[Misdemeanor]

Ich würde ja darüber lachen, wenn es nicht so traurig wäre.

Wer sich ein bisschen mit Amerika und dem dortigen Bildungssystem beschäftigt hat, lernt schnell, dass dort gerne das "blame game" gespielt wird. Ob es zielführend ist, eine KI zu beschuldigen, einen psychisch kranken Menschen beim Planen einer Mordserie unterstützt zu haben ist sehr fragwürdig.

 

[Nerdpatrol]

ich dachte immer Gríma Schlangenzunge war ein Böser, hier aber erfahre ich, dass Gríma nichts vorzuwerfen war und Théoden seine Ratschläge auch von jedem anderen Berater oder aus einem Buch hätte beziehen können

Da war aber auch böse Zauberei von Saruman im Spiel. Und soweit ich weiß, können Altman & Co. immer noch nicht zaubern - auch, wenn sie sich wie ganz tolle Zauberer verkaufen.
Hier hat nicht ein Chatbot einem unbedarften, geistig eingeschränkten Kind vorgeschlagen, Gift in den Kuchenteig zu mischen, sondern ein Erwachsener mit Tötungsabsicht hat sich Informationen geholt, die er auch auf 100 anderen Wegen holen konnte. Und mit Verlaub, wozu braucht man bitte Informationen über Waffen für so eine Aktion? Zielen, schießen, einer ist tot. Dafür braucht es 0 Gehirnzellen oder Wissen. Genau dafür wurden Schusswaffen entwickelt: müheloses Töten. Will mir jetzt einer erzählen, ohne die hilfreichen Tipps vom Chatbot hätte es nur 1 statt 2 Tote gegeben?
Bei einer Anleitung für Rohrbomben - könnte - (nicht "müsste") man diskutieren, aber so?
Man sollte nur eine Frage stellen: Ist es sinnvoll, dass jeder Idiot Schusswaffen und Munitionsvorräte für einen ganzen Krieg im Supermarkt kaufen kann?
Man sollte froh sein, dass er vorm PC mit einem Chatbot geplaudert hat, statt einfach mal das naheliegendste zu tun, nämlich auf einem Schießstand zu üben. Das hätte die Zahl der Opfer sicher erhöht.

 

[lynx007]

Amerika. Das Land der unendlichen Möglichkeiten. Vor Gericht.

Ist dann jede Suchmaschine auch ein Mittäter? Wenn ich da nach Waffen suche, finde ich auch Ergebnisse.

Ja! Wen sie bullshit spreadet und das nicht unterlässt, macht sie sich bei der verleumdung Mitschuldig!
Leute schaltet doch mal eurer Hirn ein?! Wollt ihr wirklich in einer Welt leben wo ne AI entscheidet was Wahr oder nicht Wahr ist?! Und viele denke der Slob ist wahr!

Und wir reden hier ja nicht unter von nem Schmutzblad, welches von "unbekannter Quelle" von den Schmutz über Celbratie xy geredet hat...
Bei Strafverfahren, bei strafbaren Dingen, die Ruf, existenzgefärdent für Individuen sein kann, hört der Spaß auf.

Ihr solltet da aufhören da nur Situativ zu denken, sondern auch wie beim Auto vorrausschauen, welche Nebeneffekt, kaskaden es schlagen könnte. Wir wollen in keine Welt leben, wo "Skynet" über alles und jeden nen Slob verbreitet, der dank AI dann auch nur Viral geht und an das jeder "glaubt".

Ich will mich jetzt nicht vor die Klägerin stellen, unter umständen Täterschutz betreiben. Aber ich denke das ist in aller unserem geselschafltichen Interesse, das Persönlcihkeitsrechte über den AI_Slobs stehe4n müssen und da auch keine tolleranz, sein darf.

Ist natürlich auch schwierig da die Grenzu zu ziehen. Wie zb bei diesen PornMemes.... wo jeder weiß das ist nur nen Meme.... Aber denke die beste Frage ist dan immer, "was wäre wen mir das passieren würde, der impakt auf meine näheren Umgebung". Spätestestens dann wird klar, das auch Dienstleister eine Mitverantwortung tragen.

Ja, natzürlich ist die Suchmachine, aber auch SozialMedia, als Platform hat verantwortung! Wen Unrecht mittels oder über deine "Machtdomäne" passiert, du es zulässt, keine gegenmasnamen ergreifst, bist du vieleicht nicht mittäter. Aber man lässt es zu das eine tat stattfindet, die ohne deine Plattform, dienen Diest garnciht oder in diesem Umfang (cybermobing, verleumdung) gar nciht stattgefunden hätte.

 

[iSight2TheBlind]

Da war aber auch böse Zauberei von Saruman im Spiel. Und soweit ich weiß, können Altman & Co. immer noch nicht zaubern - auch, wenn sie sich wie ganz tolle Zauberer verkaufen.

Das war eigentlich eher als Scherz gemeint, aber wenn du den weiterführen willst: Und die KI kann das was sie kann alles so von sich aus?
Die KI gibt das weiter was ihr im Training beigebracht wurde, d.h. Trainingsmaterial x Verhaltensvorgaben.
Und wer kontrolliert beide Aspekte? Altman bzw. Leute die er dafür bezahlt, also OpenAI.
Bei Grok stellt ja auch keiner in Frage, dass der Chatbot extra so entwickelt wird, dass er den Vorstellungen von Musk allein entspricht...

Hier hat nicht ein Chatbot einem unbedarften, geistig eingeschränkten Kind vorgeschlagen, Gift in den Kuchenteig zu mischen, sondern ein Erwachsener mit Tötungsabsicht hat sich Informationen geholt, die er auch auf 100 anderen Wegen holen konnte. Und mit Verlaub, wozu braucht man bitte Informationen über Waffen für so eine Aktion? Zielen, schießen, einer ist tot. Dafür braucht es 0 Gehirnzellen oder Wissen.

Hier hat der Chatbot einem Mann mit Depressionen und Selbstmordabsicht Informationen zu Waffen gegeben. In Chatverläufen in denen er ausführliche Frage zu Amokläufen und seiner Universität gestellt hat.
Frage: Du betreibst eine Flugschule, eine Gruppe Araber kommt zu dir und will Fliegen lernen. Bei allen Flugstunden interessieren sie sich jedoch nur für die Navigation und direkte Steuerung im Flug, der Start und vor allem die Landung sind ihnen egal, da stellen sie auch nie Fragen zu...
Wenn du die letzten 25 Jahre nicht unter einem Stein geschlafen hast würdest du dir dann Sorgen machen und zur Polizei gehen und nicht einfach denken, dass die Fliegen auch mit dem Flight Simulator und einem Buch lernen könnten, also kannst du deren Geld für die Flugstunden auch einfach annehmen...

Und Nein, der Täter aus dieser News hat sehr dumme Fragen gestellt (Pistolenmunition in einer Shotgun - ChatGPT antwortete, dass es dafür theoretisch Lösungen gibt, riet aber davon ab) und schließlich hat er es wohl auch verkackt die Shotgun erfolgreich zu benutzen. Hätte er mehr Kenntnisse von Waffen gehabt hätte er die Probleme mit der Shotgun wahrscheinlich beheben können, hatte er aber nicht.
Also Ja, der Typ war komplett unbedarft was Waffen anging.

Bei einer Anleitung für Rohrbomben - könnte - (nicht "müsste") man diskutieren, aber so?

Wieso? Ist doch nur ein wenig Sprengstoff (Schwarzpulver, notfalls Benzin) in nem Rohr und ein paar Schrauben, also sagt einem der (un)gesunde Menschenverstand zumindest. Wozu braucht man da mehr Informationen, beispielsweise von einem Chatbot oder Google? Warum hier Chatbots verurteilen, wenn die Idee hinter einer Rohrbombe kein Geheimwissen ist und man da auch selber drauf kommen kann?

Man sollte nur eine Frage stellen: Ist es sinnvoll, dass jeder Idiot Schusswaffen und Munitionsvorräte für einen ganzen Krieg im Supermarkt kaufen kann?

Die Waffen hat er der Täter von seiner Stiefmutter, die bei der Polizei ist. Dass sie die Waffen nicht sicher aufbewahrt hat ist natürlich kacke, aber hier kann man nicht wie üblich auf das (viel zu laxe) Waffenrecht der USA deflecten.

Man sollte froh sein, dass er vorm PC mit einem Chatbot geplaudert hat, statt einfach mal das naheliegendste zu tun, nämlich auf einem Schießstand zu üben. Das hätte die Zahl der Opfer sicher erhöht.

Die Waffe hatte er von seiner Stiefmutter. Ich weiß gerade nicht wie genau er daran gekommen ist, aber soweit ich das sehe hat sie die ihm nicht überlassen. Um damit auf einem Schießstand zu üben hätte er also erstmal um Erlaubnis fragen müssen, was diese womöglich abgelehnt hätte...
Denn...

Ikner's father discovered the abduction when his son told him during a phone call. He alerted authorities, noting that Ikner "has both developmental delays and special needs" and would be without access to his regular doctors. A Leon County Sheriff's Office affidavit stated that Ikner was "on medication for several health and mental issues, to include a growth hormone disorder and ADHD."

Das bezieht sich auf das Jahr 2015, als Zehnjähriger, zehn Jahre vor der Tat.
Ich weiß nicht wie sein aktueller Gesundheitszustand ist, aber eventuell war deine Aussage, dass ChatGPT hier nicht einem

geistig eingeschränkten Kind

geholfen hat vielleicht doch nicht korrekt.

Dazu kommt noch, dass er wohl hart rechts war (inklusive Hitlerbild als Profilfoto in irgendeinem Spielaccount) und je nachdem wie seine Stiefmutter drauf war, wäre das auch ein Grund für sie ihm keine Schießübungen mit ihrer Waffe zu erlauben.

 

[Hito360]

Der unterschwellige Zweck on AI:
dem Wohlstand unsere Skills zur Verfuegung zu stellen, waehrend man dem Rest die Moeglichkeit nimmt Geld mit Skills zu verdienen