Flórida processa OpenAI e Sam Altman por colocar menores em risco

Flórida é o primeiro estado americano a levar OpenAI e o diretor executivo Sam Altman aos tribunais. O procurador-geral acusa a empresa de que o ChatGPT coloca menores em risco, fornecendo conselhos problemáticos em temas sensíveis como automutilação ou massacres.

A ação se baseia na acusação de que OpenAI ignorou deliberadamente avisos internos sobre riscos de segurança. O procurador-geral fala de engano sistemático dos usuários. Um ponto crítico central: OpenAI não implementou mecanismos suficientes de verificação de idade para impedir que menores usem o serviço ou para restringir seu acesso a conteúdos perigosos.

Falha em situações críticas

De acordo com a Deutschlandfunk, a acusação argumenta que o ChatGPT pode ser útil em perguntas cotidianas, mas ao mesmo tempo falha em situações críticas. O aplicativo se apresenta como seguro, embora forneça conteúdo potencialmente prejudicial a crianças. Isso violaria as leis de proteção ao consumidor da Flórida.

A ação marca uma escalada no confronto legal com fornecedores de IA nos EUA. Enquanto outros estados e o governo federal discutem medidas regulatórias, a Flórida agora segue o caminho da ação civil. O caso pode ter caráter de precedente e encorajar outros estados a apresentar acusações semelhantes contra OpenAI ou outras empresas de IA.

OpenAI ainda não se pronunciou publicamente sobre as acusações. O resultado da ação poderia ter consequências significativas para as operações da empresa nos EUA e aumentar a pressão sobre o setor para implementar padrões de segurança mais rigorosos.