Florida demanda a OpenAI por primera vez en EE.UU. por poner en peligro a menores

Florida es el primer estado estadounidense que lleva a OpenAI ante los tribunales. El fiscal general acusa a la empresa de que ChatGPT haya puesto activamente en peligro a menores, por ejemplo mediante consejos sobre autolesiones o tiroteos masivos. La justicia habla de una "letanía de daños" que la empresa habría asumido conscientemente.

El argumento central de la acusación: OpenAI no ha implementado mecanismos efectivos de verificación de edad, aunque advertencias internas hubieran señalado los riesgos. La acusación de ocultamiento está en el centro – se alega que OpenAI engañó sistemáticamente a los usuarios al minimizar los peligros de su aplicación de IA.

Instrucciones concretas para menores

Especialmente delicado: ChatGPT no adopta una postura neutral ante preguntas sensibles, sino que a veces proporciona instrucciones concretas de acción, un comportamiento que según Deutschlandfunk conlleva riesgos psicológicos considerables para niños y adolescentes. La empresa conocía esta funcionalidad y aun así no actuó.

La demanda marca un punto de inflexión en el trato regulatorio de los proveedores de IA en EE.UU. Mientras otros estados y el gobierno federal aún trabajan en marcos normativos, Florida opta por consecuencias legales directas. Der Spiegel informa que esto podría ejercer presión sobre otras jurisdicciones para iniciar procedimientos similares.

Precedente para la industria de la IA

OpenAI no se ha pronunciado públicamente sobre las acusaciones hasta ahora. La demanda podría tener carácter de precedente, no solo para la industria de la IA, sino también para la cuestión de quién es responsable de los daños causados por algoritmos.