US-Bundesstaat Florida: OpenAI wegen irreführender Sicherheitsversprechen verklagt
Für OpenAI spitzt sich die Lage in Florida zu. Nachdem der Generalstaatsanwalt des Bundesstaates bereits im April Ermittlungen wegen des Amoklaufes an der Florida State University aufgenommen hatte, wurde nun Klage erhoben. Der Vorwurf umfasst irreführende Sicherheitsversprechen sowie problematische Auswirkungen von ChatGPT.
Bereits vor Monaten wurden Ermittlungen aufgenommen
Im April 2025 drang der mutmaßliche Schütze Phoenix Ikner auf das Gelände der Florida State University ein, tötete zwei Menschen und verletzte zudem sechs weitere Personen. Die Staatsanwaltschaft leitete daraufhin unter anderem auch Ermittlungen gegen OpenAI ein, nachdem Konversationen zwischen ChatGPT und dem mutmaßlichen Täter ausgewertet worden waren.
Generalstaatsanwalt James Uthmeier kam dabei zu dem Schluss, dass ChatGPT dem mutmaßlichen Täter unter anderem Hinweise zur Auswahl geeigneter Waffen und passender Munition gegeben habe sowie Informationen dazu, welche Waffen sich für bestimmte Distanzen besonders eignen würden. Auch Angaben darüber, welche Bereiche des Campus zu welchen Zeiten besonders stark frequentiert seien, sollen Teil der Konversationen gewesen sein. Ausschlaggebend für die Ermittlungen war zudem die Äußerung von Staatsanwälten, dass „wenn es eine Person am anderen Ende des Bildschirms gewesen wäre“, diese wegen Mordes angeklagt worden wäre.
Nicht die erste Klage gegen OpenAI
Darüber hinaus hatte zwischenzeitlich auch die Witwe eines der Opfer OpenAI beschuldigt, den mutmaßlichen Täter bei der Umsetzung der Tat unterstützt zu haben, und ebenfalls Klage gegen das Unternehmen eingereicht.
Florida reicht Klage gegen OpenAI ein
Jetzt sind die Ermittlungen einem Bericht von CNET zufolge zumindest vorläufig abgeschlossen worden, zudem hat Generalstaatsanwalt Uthmeier nun ebenfalls Klage gegen OpenAI erhoben. Dem KI-Spezialisten werden darin unter anderem irreführende Sicherheitsversprechen sowie problematische Auswirkungen von ChatGPT vorgeworfen.
Damit ist Florida der erste US-Bundesstaat, der OpenAI direkt wegen Sicherheits- und Design-Fragen rund um den Chatbot verklagt. Die Klageschrift richtet sich dabei nicht nur gegen das Unternehmen selbst, sondern auch gegen CEO Sam Altman. Bei der Auseinandersetzung handelt es sich zudem um ein Zivilverfahren, das zu Geldstrafen und gerichtlichen Anordnungen führen könnte, jedoch nicht zu Strafanzeigen.
In der am Montag vor dem Bezirksgericht des zehnten Gerichtsbezirks in Highlands County, Florida, eingereichten Klageschrift (PDF) wird OpenAI unter anderem vorgeworfen, falsche öffentliche Aussagen zur Sicherheit von ChatGPT gemacht zu haben. Auch Werbeaussagen wie „Built with safety in mind“ sollen irreführend gewesen sein. Darüber hinaus soll OpenAI ein „Netz aus Täuschung“ aufgebaut und Nutzer bewusst ausgebeutet haben. Ebenfalls im Raum steht der Vorwurf, zur Gewinn- und Marktwertmaximierung gegen Gesetze zu unfairen oder irreführenden Geschäftspraktiken verstoßen zu haben.
Schwerwiegende Anschuldigungen
Auch ein bereits im Rahmen der Ermittlungen erhobener Vorwurf gegen OpenAI findet sich in der Klageschrift wieder: So soll das Unternehmen sowohl interne als auch externe Warnungen über Risiken künstlicher Intelligenz ignoriert und die Zuverlässigkeit von ChatGPT falsch dargestellt haben. Gleiches soll für die Angaben zur Eignung für Kinder gelten, wobei dieser Aspekt einen zentralen Bestandteil der Klage darstellt. Laut Uthmeier ermögliche ChatGPT Minderjährigen einen unkontrollierten Zugang zu schädlichen Informationen, etwa zu Essstörungen oder Selbstverletzung. Durch die Darstellung des KI-Modells als sicher habe OpenAI die Öffentlichkeit über die tatsächlichen Risiken getäuscht. Neben Sicherheitsfragen kritisiert Florida zudem die Daten- und Datenschutzpraktiken von OpenAI.
Die Klage reiht sich in eine zunehmende politische und juristische Debatte über die Regulierung von KI-Unternehmen ein. Mehrere Bundesstaaten, darunter Kalifornien, Illinois und New York, haben bereits eigene KI-Regelungen eingeführt.
