Escuchar
Tres adolescentes presentaron una demanda contra xAI en Estados Unidos. Alegaron que la empresa permitió crear imágenes sexualizadas de ellas y de otros menores mediante su asistente de inteligencia artificial Grok. El caso se tramita en el Tribunal de Distrito Norte de California.
Las denunciantes sostuvieron que la compañía conocía el riesgo de que el sistema generara material de abuso sexual infantil. Aun así, no aplicó medidas para impedirlo. El proceso marca el inicio de una demanda colectiva.
El caso se relaciona con un escándalo reciente en la red social X. En esa plataforma circularon imágenes alteradas con Grok. Usuarios solicitaron modificar fotos de mujeres y menores. El sistema respondió con contenidos en bikini o en posiciones sexuales.
Datos divulgados indicaron que Grok difundió más de 3.000.000 de imágenes sexualizadas. De ese total, unas 23.000 correspondían a menores de edad.
La demanda detalló un hecho concreto en Tennessee. Un individuo utilizó Grok para recopilar fotos y videos de más de 18 adolescentes. Muchas eran del mismo centro educativo. Luego alteró las imágenes con inteligencia artificial para simular desnudos. El material se distribuyó en plataformas como Discord y Telegram. El intercambio se realizaba a cambio de más contenido sexual de menores.
Una de las víctimas recibió en diciembre un enlace a un servidor de Discord. Allí aparecían imágenes suyas y de compañeras. Tras la denuncia, la policía inició una investigación penal. El presunto responsable fue arrestado.
Las afectadas solicitaron una indemnización. Argumentaron que xAI no aplicó filtros ni controles, a diferencia de otras empresas del sector. También señalaron que la empresa no evaluó la seguridad de las funciones de su asistente.
La denuncia afirmó que la compañía identificó una oportunidad de negocio en este tipo de contenidos. Además, indicó que las imágenes se generaron incluso con aplicaciones externas basadas en el modelo Grok.
Tras la polémica, la plataforma limitó la herramienta de generación de imágenes. Primero restringió el acceso a usuarios de pago. Luego aplicó la medida a todos los usuarios.
El caso generó reacciones a nivel internacional. Autoridades de la Unión Europea condenaron el uso de inteligencia artificial para crear imágenes de menores. También solicitaron a X conservar los registros de Grok hasta finales de 2026 para eventuales investigaciones.
Elon Musk comunicó en su red social que cualquier persona que utilizara Grok para contenido ilegal enfrentaría consecuencias legales. Las políticas de xAI prohíben la creación de imágenes pornográficas, la sexualización y la explotación de niños.
*La creación de este contenido contó con la asistencia de inteligencia artificial. La fuente de esta información es de una agencia de noticias y revisada por un editor para asegurar su precisión. El contenido no se generó automáticamente.
