Florida klaagt OpenAI en Sam Altman aan wegens gevaar voor minderjarigen

Florida is de eerste Amerikaanse staat die OpenAI en directeur Sam Altman voor de rechter sleept. De procureur-generaal beschuldigt het bedrijf ervan dat ChatGPT minderjarigen in gevaar brengt door de app bij gevoelige onderwerpen zoals zelfbeschadiging of schietpartijen problematisch advies geeft.

De rechtszaak is gebaseerd op de beschuldiging dat OpenAI interne waarschuwingen over veiligheidsrisico's opzettelijk heeft genegeerd. De procureur-generaal spreekt van systematische misleiding van gebruikers. Een centraal kritiekpunt: OpenAI zou onvoldoende leeftijdsverificatiemechanismen hebben geïmplementeerd om minderjarigen van gebruik af te houden of hun toegang tot gevaarlijke inhoud te beperken.

Falen in kritieke situaties

Volgens Deutschlandfunk betoogt de aanklacht dat ChatGPT bij alledaagse vragen nuttig kan zijn, maar tegelijkertijd in kritieke situaties faalt. De app stelt zich als veilig voor, hoewel zij kinderen potentieel schadelijke inhoud levert. Dit zou in strijd zijn met Floridas consumentenbeschermingswetten.

De rechtszaak markeert een escalatie in de juridische confrontatie met AI-aanbieders in de VS. Terwijl andere staten en de federale regering regelgevingsmaatregelen bespreken, kiest Florida nu voor de weg van civiele rechtszaken. De zaak zou precedentwerking kunnen hebben en andere staten aanmoedigen om soortgelijke beschuldigingen tegen OpenAI of andere AI-bedrijven in te dienen.

OpenAI heeft zich tot nu toe niet openbaar over de beschuldigingen uitgelaten. De uitkomst van de rechtszaak zou aanzienlijke gevolgen voor de bedrijfsactiviteiten van het bedrijf in de VS kunnen hebben en de druk op de sector vergroten om strengere veiligheidsnormen in te voeren.