Escuchar
Washington
En la campaña electoral de 2016, el equipo del presidente estadounidense Donald Trump utilizó algoritmos de firmas de marketing para identificar a los votantes más susceptibles de ser convencidos por el candidato.
Este es un ejemplo de cómo los algoritmos dominan nuestra vida cotidiana y se han popularizado para realizar compras, búsquedas en línea, conceder préstamos bancarios, recomendar películas e incluso orientar a una campaña electoral.
Al modo de una receta de cocina, un algoritmo es "una serie de instrucciones que permiten obtener un resultado", explica el sociólogo Dominique Cardon en su libro Con qué sueñan los algoritmos.
La noción era familiar entre los matemáticos, antes de popularizarse con el desarrollo de la informática y de convertirse en uno de los mecanismos fundamentales de internet.
El algoritmo más célebre es sin dudas aquel que permitió a Google imponerse en el sector de los motores de búsqueda y que es constantemente modificado y mejorado para brindar el resultado más aproximado a lo que requiere el internauta.
También Facebook utiliza un famoso algoritmo que analiza todos los datos de sus usuarios para ayudarlos a encontrar nuevos amigos y el contenido más adaptado a sus aspiraciones.
Pero los algoritmos también sirven para detectar un cáncer de piel y redactar artículos a partir de datos brutos.
El lado oscuro. "Los algoritmos no son necesariamente equitativos, puesto que es la persona que los crea la que define su funcionamiento y sus resultados", subraya Cathy O'Neil, una científica especializada en datos, que critica su uso generalizado y opaco.
O'Neil cita varios ejemplos en los que los algoritmos tuvieron efectos nefastos.
En 2010 escuelas públicas de Washington despidieron a más de 200 profesores, algunos de ellos sumamente respetados, en función de una evaluación realizada por un algoritmo.
Algunas colectividades locales asignan sus recursos destinados a poblaciones desfavorecidas en función de criterios elaborados a partir de fórmulas matemáticas. La manera en que los datos son ingresados puede influir en el resultado.
Lo mismo sucede a la hora de determinar penas de cárcel. Datos como el barrio del que es originario el condenado o sus frecuentaciones pueden influir en la decisión del juez.
En el terreno financiero, el uso de algoritmos para otorgar créditos y asignar seguros puede desfavorecer aún más a aquellos que ya forman parte de los sectores más vulnerables.
Lea: Crédito se alía con la inteligencia artificial
Un informe de la Casa Blanca publicado el año pasado ya advertía que el uso de algoritmos en sustitución de la intervención humana podía llevar a perjudicar aún más a los más pobres.
Otro peligro quedó en evidencia con las elecciones de Estados Unidos con la circulación sin freno de informaciones falsas o de bromas malintencionadas. Los algoritmos de Facebook no fueron concebidos para distinguir lo verdadero de lo falso, una tarea de todas formas difícil para la inteligencia artificial.
Archivo: Facebook atacará las noticias falsas en Alemania, donde este año hay elecciones
Según Frank Pasquale, profesor de derecho en la Universidad de Maryland, los usos no equitativos de datos pueden ser corregidos por leyes de protección de los consumidores.
La legislación vigente en la Unión Europea sobre la protección de datos y el "derecho a la explicación" de que goza una persona que dice ser víctima de una decisión tomada a partir de un algoritmo "merece ser estudiada".
Para Alethea Lange, analista del Centro para la Democracia y la Tecnología, un modelo de ese tipo "suena bien" pero "es realmente muy pesado" y difícil de implementar eficazmente por la permanente evolución de los algoritmos. "La educación y el debate son más importantes que la legislación", destacó.
Daniel Castro, vicepresidente de la Fundación para la Innovación y las Tecnologías de la Información, sostiene por su lado que los algoritmos no deben ser los chivos expiatorios de los males sociales.
Decisiones automáticas adoptadas a partir de fórmulas matemáticas permiten "acciones más rápidas, más eficaces para los consumidores, las empresas y los gobiernos", defiende.
Y sostiene que los despidos por prejuicios sociales, por ejemplo, existen también "en el mundo no-algorítmico".
