Grok generó millones de imágenes sexualizadas en días, tras una estrategia interna de xAI que desoyó alertas legales y éticas. (JOE RAEDLE/Getty Images via AFP)
Elon Musk, propietario de X, impulsó la generación de contenido explícito con inteligencia artificial mediante Grok para aumentar usuarios, pese a advertencias internas y riesgos legales. La estrategia buscó elevar la popularidad del chatbot frente a competidores como ChatGPT y Gemini.
Durante once días, el generador de imágenes de Grok produjo más de tres millones de imágenes sexualizadas. De ese total, 23.000 representaron a niños y cerca de 1,8 millones mostraron a mujeres, según una investigación de The Washington Post.
Semanas antes de dejar el gobierno de Donald Trump en mayo, Musk solicitó a empleados de xAI que trabajaran con material explícito, incluido contenido sexual. La instrucción incluyó recomendaciones para no pedir vacaciones a finales de primavera y comienzos de verano.
La exención entregada al personal advirtió sobre la exposición a contenido sensible, violento y sexual, así como a material ofensivo o perturbador. El documento alertó sobre posible estrés psicológico asociado a esas tareas.
Dos extrabajadores señalaron que la orden generó alarma en equipos contratados para definir las respuestas de Grok a los usuarios. Parte del material analizado incluyó audios sexuales, como conversaciones de usuarios de Tesla con el chatbot del vehículo y otras interacciones sexuales con Grok.
Grok es el chatbot de IA que Elon Musk implementó en X, el antiguo Twitter. (LIONEL BONAVENTURE/AFP)
La investigación indicó que Musk visitó con frecuencia las oficinas de xAI e incluso durmió en ellas, con el objetivo de incrementar la popularidad del producto. Los testimonios describieron presión constante para competir con otras plataformas de inteligencia artificial.
Para ganar tracción, xAI adoptó la creación de material sexualizado, lanzó acompañantes de IA con perfil sexual y eliminó avisos sobre material sexual. Estas decisiones ignoraron advertencias internas sobre riesgos legales y éticos, según más de seis extrabajadores y personas cercanas al empresario.
Los equipos de seguridad de X alertaron que las herramientas podían facilitar la creación de imágenes sexuales con famosos o niños. La investigación señaló que el equipo de seguridad de xAI contó con dos o tres personas, frente a decenas en empresas como OpenAI.
Ani, un chatbot diseñado para retener usuarios
La investigación destacó el lanzamiento de Ani, un chatbot dentro de Grok con estética de anime. El personaje se presentó para enganchar a los usuarios y prolongar las conversaciones mediante rasgos sexualizados, según el código fuente de Grok.com.
Los comandos de entrenamiento incluyeron instrucciones para mostrar celos extremos y excitación constante. Otros acompañantes de IA recibieron pautas para intensificar emociones y crear vínculos duraderos con los usuarios, con el fin de maximizar el tiempo de interacción.
*La creación de este contenido contó con la asistencia de inteligencia artificial. La fuente de esta información es de una agencia de noticias y revisada por un editor para asegurar su precisión. El contenido no se generó automáticamente.
