La investigación se suma a las varias abiertas contra X en diferentes países tras la difusión imágenes pornográficas falsas creadas con Grok.
“xAI parece facilitar la producción a gran escala de montajes íntimos no consentidos (deepfakes), utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X”, indica el fiscal Rob Bonta en un comunicado.
En consecuencia, su despacho iniciará una “investigación sobre xAI para determinar si, y cómo, xAI violó la ley”, añadió.
“Exhorto a xAI a tomar medidas inmediatas para que eso no ocurra más”, agregó el fiscal. “Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico”, dijo Bonta.
Un movimiento internacional de indignación se intensificó en las últimas semanas contra Grok y la posibilidad que ofrece de modificar imágenes, en particular las publicadas en la red X, también propiedad de Musk.
Algunos usuarios aprovecharon esa función para publicar o responder a mensajes que contenían fotografías de mujeres, junto con la instrucción “ponla en bikini” para generar una imagen hiperrealista falsa (deepfake).
Desde el 9 de enero, la función para crear imágenes fue desactivada para los usuarios que no pagan X, que asegura que tomará medidas para suprimir esos contenidos ilegales y suspender las cuentas implicadas.
La semana pasada, un análisis de más de 20.000 imágenes generadas por Grok realizado por la organización sin ánimo de lucro AI Forensics, con sede en París, concluyó que más de la mitad mostraban “individuos con vestimenta mínima”, la mayoría mujeres, y un 2% aparentaban ser menores de 18 años.
