Escuchar
El sistema de inteligencia artificial de Facebook puso en aprietos al gigante de las redes sociales, luego de utilizar de forma errónea la etiqueta de “primates” en un video con hombres negros publicado en su sitio.
Tras el yerro y acusaciones de racismo, Facebook anunció el viernes que deshabilitó la función automática de recomendación de tópicos y un vocero de la compañía lo llamó “un error claramente inaceptable”. Además, el mismo vocero confirmó que el software involucrado fue desconectado.
Los usuarios de la red que vieron el video recibieron un mensaje al final del mismo que les preguntaba si “querían seguir viendo videos sobre primates”, según publicó el diario The New York Times.
“Nos disculpamos con cualquiera que haya visto estas recomendaciones ofensivas”, respondió Facebook tras una consulta de la AFP.
“Deshabilitamos toda la función de recomendación de temas tan pronto como nos dimos cuenta de que esto estaba pasando y así poder investigar la causa y evitar que esto pase de nuevo”, agregó la red social.
LEA MÁS: ¿Cómo es la vida de una persona negra en Costa Rica?: Cuatro testimonios
El programa de reconocimiento facial ha sido duramente criticado por defensores de derechos civiles, quienes señalan problemas de precisión particularmente con personas que no son blancas.
Darci Groves, antigua jefa de diseño de contenido de Facebook, compartió una captura de pantalla de la recomendación.
Um. This “keep seeing” prompt is unacceptable, @Facebook. And despite the video being more than a year old, a friend got this prompt yesterday. Friends at FB, please escalate. This is egregious. pic.twitter.com/vEHdnvF8ui
— Darci Groves (@tweetsbydarci) September 2, 2021
“Este aviso de ‘seguir viendo’ es inaceptable. Esto es atroz”, escribió Groves en Twitter. En la captura compartida se puede observa cómo debajo de la imagen de un hombre negro, el sistema pregunta sobre si desea continuar observando videos de primates.
El video original publicado por el diario británico The Daily Mail mostraba a gente blanca, incluidos algunos policías que confrontaban a gente negra sin razón alguna. El video ya fue borrado de Facebook.
En el 2015, Google enfrentó una controversia similar cuando etiquetó con la palabra gorilas a imágenes de personas negras.
