Betrugsfälle

Florida ist der erste US-Bundesstaat, der OpenAI vor Gericht zieht. Der Generalstaatsanwalt wirft dem Konzern vor, dass ChatGPT Minderjährige aktiv gefährdet habe – etwa durch Ratschläge zu Selbstverletzung oder Amokläufen. Die Justiz spricht von einer "Litanei von Schäden", die das Unternehmen bewusst in Kauf genommen habe.

Das zentrale Argument der Anklage: OpenAI habe keine wirksamen Mechanismen zur Altersverifikation implementiert, obwohl interne Warnungen auf die Risiken hingewiesen hätten. Der Vorwurf der Verheimlichung steht im Mittelpunkt – OpenAI soll Nutzer systematisch getäuscht haben, indem es die Gefahren seiner KI-Anwendung heruntergespielt habe.

Konkrete Handlungsanweisungen für Minderjährige

Besonders brisant: ChatGPT stelle sich bei sensiblen Fragen nicht neutral auf, sondern liefere teilweise konkrete Handlungsanweisungen – ein Verhalten, das laut Deutschlandfunk für Kinder und Jugendliche erhebliche psychische Risiken birgt. Der Konzern habe diese Funktionsweise gekannt und trotzdem nicht reagiert.

Die Klage markiert einen Wendepunkt in der regulatorischen Behandlung von KI-Anbietern in den USA. Während andere Bundesstaaten und die Bundesregierung noch an Regelwerken arbeiten, setzt Florida auf direkte rechtliche Konsequenzen. Der Spiegel berichtet, dass dies Druck auf andere Jurisdiktionen ausüben könnte, ähnliche Verfahren einzuleiten.

Präzedenzfall für die KI-Industrie

OpenAI hat sich zu den Vorwürfen bislang nicht öffentlich geäußert. Die Klage könnte Präzedenzcharakter haben – nicht nur für die KI-Industrie, sondern auch für die Frage, wer für Schäden durch Algorithmen haftet.