Florida se convirtió este lunes en el primer estado de Estados Unidos en presentar una demanda contra OpenAI y su director ejecutivo, Sam Altman, por presuntos daños asociados al funcionamiento de ChatGPT.
La demanda fue interpuesta por el fiscal general de Florida, James Uthmeier, quien sostiene que OpenAI y Altman lanzaron un producto inseguro y desatendieron advertencias sobre posibles riesgos para los usuarios.
Según informó The Wall Street Journal, el documento judicial, de 83 páginas, acusa a la empresa de permitir que ChatGPT facilitara acciones vinculadas con tiroteos masivos, promoviera conductas de autolesión, afectara la capacidad de pensamiento crítico de los usuarios y generara dependencia en menores de edad.
La demanda también busca responsabilizar personalmente a Altman por los daños que, según el estado, habrían sufrido residentes de Florida.
De acuerdo con el reporte, la acción judicial forma parte de una ofensiva más amplia impulsada por Uthmeier en torno a la regulación de la inteligencia artificial. En abril, el fiscal abrió una investigación penal sobre el papel que habría tenido ChatGPT en un tiroteo ocurrido en la Universidad Estatal de Florida (FSU), donde murieron dos personas el año anterior.
La demanda incorpora una captura de pantalla de una publicación de OpenAI en la que la empresa afirma que ChatGPT fue desarrollado con criterios de seguridad. El texto judicial rechaza esa afirmación y sostiene que la compañía promocionó el chatbot como una herramienta confiable pese a que puede generar información incorrecta o peligrosa.
Además, el estado alega que OpenAI carece de salvaguardas suficientes para proteger a menores de edad. El documento señala que, aunque la empresa implementó controles parentales, no exige que las cuentas de niños estén vinculadas a las de sus padres.
El caso también sostiene que ChatGPT fue diseñado para mantener a los usuarios interactuando con la plataforma y que la empresa utiliza información generada durante esas conversaciones para mejorar sus modelos y fortalecer su posición en el mercado.
OpenAI no emitió comentarios inmediatos sobre la demanda, según The Wall Street Journal. La compañía ha rechazado previamente acusaciones similares y ha señalado que continúa reforzando sus medidas de seguridad.
La demanda menciona el caso del sospechoso del tiroteo en la FSU, quien, según el fiscal general, utilizó ChatGPT para formular preguntas relacionadas con la planificación del ataque, incluida la cantidad de víctimas necesarias para atraer atención mediática nacional y el uso de armas de fuego.
El reporte añade que otras autoridades estatales también han iniciado acciones relacionadas con la seguridad de la inteligencia artificial. En enero, el fiscal general de California, Rob Bonta, abrió una investigación sobre la generación de imágenes sexuales de mujeres y menores mediante el chatbot Grok.