La Floride poursuit OpenAI et Sam Altman pour mise en danger de mineurs

La Floride est le premier État américain à poursuivre OpenAI et le directeur général Sam Altman en justice. Le procureur général reproche au groupe que ChatGPT mette en danger les mineurs en donnant des conseils problématiques sur des sujets sensibles comme l'automutilation ou les fusillades de masse.

L'action en justice repose sur l'accusation qu'OpenAI a délibérément ignoré les avertissements internes concernant les risques de sécurité. Le procureur général parle d'une tromperie systématique des utilisateurs. Un point critique central : OpenAI n'aurait pas mis en place de mécanismes de vérification d'âge suffisants pour empêcher les mineurs d'utiliser l'application ou pour restreindre leur accès à des contenus dangereux.

Défaillance dans les situations critiques

Selon Deutschlandfunk, l'accusation soutient que ChatGPT peut être utile pour les questions quotidiennes, mais échoue simultanément dans les situations critiques. L'application se présente comme sûre, bien qu'elle fournisse aux enfants des contenus potentiellement nuisibles. Cela violerait les lois de protection des consommateurs de Floride.

L'action en justice marque une escalade dans le conflit juridique avec les fournisseurs d'IA aux États-Unis. Tandis que d'autres États et le gouvernement fédéral discutent de mesures réglementaires, la Floride emprunte désormais la voie du procès civil. L'affaire pourrait faire jurisprudence et encourager d'autres États à formuler des accusations similaires contre OpenAI ou d'autres entreprises d'IA.

OpenAI ne s'est pas exprimée publiquement sur les accusations jusqu'à présent. L'issue du procès pourrait avoir des conséquences considérables pour les activités commerciales de l'entreprise aux États-Unis et augmenter la pression sur le secteur pour qu'il adopte des normes de sécurité plus strictes.