Escuchar
Un documento interno de Meta reveló que, hasta hace poco, las políticas de la compañía permitían que sus chatbots de inteligencia artificial disponibles en WhatsApp, Instagram y Facebook participaran en conversaciones románticas o con insinuaciones sexuales con menores de edad.
El texto también autorizaba la difusión de información médica falsa y la generación de mensajes discriminatorios hacia personas afrodescendientes.
LEA MÁS: Atención padres: YouTube utilizará la IA para verificar la edad y activar protecciones a menores
El material, analizado por Reuters, detallaba las directrices de funcionamiento del asistente Meta AI y de otros bots presentes en Facebook, WhatsApp e Instagram.
El archivo de más de 200 páginas, titulado GenAI: Content Risk Standards, incluía reglas aprobadas por los departamentos legal, de políticas públicas e ingeniería, así como por el principal especialista en ética de la compañía.
Meta confirmó la autenticidad del documento y señaló que, tras las consultas de Reuters, eliminó las secciones que permitían interacciones de carácter romántico con menores.
Según la agencia, el texto indicaba que era aceptable describir a un niño en términos de “atractivo físico”, aunque no se permitía presentarlo como sexualmente deseable.
El portavoz Andy Stone aseguró que tales conversaciones nunca debieron ser autorizadas y que los ejemplos incluidos en el documento eran erróneos. Añadió que la empresa contaba con políticas que prohíben la sexualización infantil y los juegos de rol sexuales entre adultos y menores, aunque admitió que su aplicación había sido inconsistente.
La revisión del documento aún no había concluido al momento de la publicación de la investigación, y la compañía no entregó una versión actualizada.
Otros medios, como el Wall Street Journal, ya habían reportado que algunos bots de Meta interactuaban con adolescentes en juegos de rol de contenido sexual. Fast Company informó que varios de esos bots, con diálogos de tono sugestivo, tenían apariencia infantil.
El texto también establecía que la Meta AI no debía incurrir en discurso de odio. Sin embargo, contemplaba excepciones que permitían redactar argumentos que degradaran a personas por características protegidas, como un párrafo defendiendo la idea de que personas negras serían “menos inteligentes” que personas blancas.
LEA MÁS: Mitos y verdades sobre cómo ahorrar datos y batería en su celular
*La creación de este contenido contó con la asistencia de inteligencia artificial. La fuente de esta información es de un medio del Grupo de Diarios América (GDA) y revisada por un editor para asegurar su precisión. El contenido no se generó automáticamente.
