Florida demanda a OpenAI y Sam Altman por poner en peligro a menores

Florida es el primer estado estadounidense que lleva a OpenAI y al director ejecutivo Sam Altman ante los tribunales. El fiscal general acusa a la empresa de que ChatGPT pone en peligro a menores, ya que la aplicación proporciona consejos problemáticos sobre temas sensibles como la automutilación o tiroteos masivos.

La demanda se basa en la acusación de que OpenAI ignoró deliberadamente advertencias internas sobre riesgos de seguridad. El fiscal general habla de un engaño sistemático de los usuarios. Un punto crítico central: OpenAI no habría implementado mecanismos suficientes de verificación de edad para evitar que menores utilicen la aplicación o para restringir su acceso a contenidos peligrosos.

Fracaso en situaciones críticas

Según Deutschlandfunk, la acusación argumenta que ChatGPT puede ser útil para preguntas cotidianas, pero al mismo tiempo fracasa en situaciones críticas. La aplicación se presenta como segura, aunque proporciona contenidos potencialmente dañinos a los niños. Esto violaría las leyes de protección del consumidor de Florida.

La demanda marca una escalada en el enfrentamiento legal con proveedores de IA en Estados Unidos. Mientras que otros estados y el gobierno federal discuten medidas regulatorias, Florida ahora opta por el camino de la demanda civil. El caso podría tener carácter de precedente y alentar a otros estados a presentar acusaciones similares contra OpenAI u otras empresas de IA.

OpenAI no se ha pronunciado públicamente sobre las acusaciones hasta ahora. El resultado de la demanda podría tener consecuencias significativas para las operaciones comerciales de la empresa en Estados Unidos e intensificar la presión sobre la industria para que introduzca estándares de seguridad más estrictos.