Flórida processa OpenAI pela primeira vez nos EUA por colocar menores em risco

Flórida é o primeiro estado americano a processar a OpenAI na justiça. O procurador-geral acusa a empresa de que o ChatGPT tenha colocado menores de idade em risco ativo – por exemplo, através de conselhos sobre automutilação ou massacres. A justiça fala de uma "série de danos" que a empresa teria aceito conscientemente.

O argumento central da acusação: OpenAI não implementou mecanismos eficazes de verificação de idade, apesar de avisos internos terem apontado os riscos. A acusação de encobrimento está no centro – a OpenAI teria enganado sistematicamente os usuários, minimizando os perigos de sua aplicação de IA.

Instruções concretas para menores de idade

Especialmente preocupante: o ChatGPT não se posiciona de forma neutra em questões sensíveis, mas fornece, em alguns casos, instruções concretas de ação – um comportamento que, segundo a Deutschlandfunk, representa riscos psicológicos consideráveis para crianças e adolescentes. A empresa conhecia essa funcionalidade e ainda assim não reagiu.

A ação marca um ponto de virada no tratamento regulatório de fornecedores de IA nos EUA. Enquanto outros estados e o governo federal ainda trabalham em marcos regulatórios, a Flórida opta por consequências legais diretas. A Der Spiegel relata que isso pode exercer pressão sobre outras jurisdições para iniciar procedimentos semelhantes.

Precedente para a indústria de IA

A OpenAI não se pronunciou publicamente sobre as acusações até agora. A ação pode ter caráter de precedente – não apenas para a indústria de IA, mas também para a questão de quem é responsável pelos danos causados por algoritmos.