Florida verklagt OpenAI und Sam Altman wegen Gefährdung von Minderjährigen

Florida ist der erste US-Bundesstaat, der OpenAI und Geschäftsführer Sam Altman vor Gericht zieht. Der Generalstaatsanwalt wirft dem Konzern vor, dass ChatGPT Minderjährige gefährdet, indem die App bei sensiblen Themen wie Selbstverletzung oder Amokläufen problematische Ratschläge gibt.

Die Klage basiert auf dem Vorwurf, dass OpenAI interne Warnungen zu Sicherheitsrisiken bewusst ignoriert hat. Der Generalstaatsanwalt spricht von einer systematischen Täuschung der Nutzer. Ein zentraler Kritikpunkt: OpenAI habe keine ausreichenden Altersverifikationsmechanismen implementiert, um Minderjährige von der Nutzung abzuhalten oder deren Zugang zu gefährlichen Inhalten zu beschränken.

Versagen in kritischen Situationen

Laut Deutschlandfunk argumentiert die Anklage, dass ChatGPT bei alltäglichen Fragen hilfreich sein kann, aber gleichzeitig in kritischen Situationen versagt. Die App stelle sich als sicher dar, obwohl sie Kindern potenziell schädliche Inhalte liefert. Dies verstoße gegen Verbraucherschutzgesetze Floridas.

Die Klage markiert eine Eskalation in der rechtlichen Auseinandersetzung mit KI-Anbietern in den USA. Während andere Bundesstaaten und die Bundesregierung regulatorische Maßnahmen diskutieren, geht Florida nun den Weg der Zivilklage. Der Fall könnte Präzedenzcharakter haben und weitere Bundesstaaten ermutigen, ähnliche Vorwürfe gegen OpenAI oder andere KI-Unternehmen zu erheben.

OpenAI hat sich bislang nicht öffentlich zu den Vorwürfen geäußert. Der Ausgang der Klage könnte erhebliche Konsequenzen für die Geschäftstätigkeit des Unternehmens in den USA haben und den Druck auf die Branche erhöhen, strengere Sicherheitsstandards einzuführen.