Jurgen Ureña. 18 octubre

En enero de este año, El Periódico de Cataluña alertaba sobre el peligro de los llamados deepfakes a propósito de un video que mezclaba el rostro del actor Steve Buscemi con el cuerpo de la actriz Jennifer Lawrence. El video sugería las amplias posibilidades de la inteligencia artificial (IA) aplicada a la información que circula en Internet. Era también una involuntaria película de terror. Búsquela. Obsérvela. Mantenga la calma y saque sus propias conclusiones, si puede.

A partir de su publicación en redes sociales, el video Lawrence-Buscemi se convirtió en un fenómeno viral. “Nunca me había visto mejor”, afirmó entre risas el actor, en unas declaraciones que fueron reproducidas pocos días después por la revista Time.

Es clara la finalidad cómica de este tipo de audiovisuales. En Internet abundan los videos en los que el actor Nicolas Cage aparece en películas que nunca protagonizó, por ejemplo. Sin embargo, ¿qué ocurre cuando el carácter ficticio del deepfake no es evidente?

La posibilidad actual de acreditar declaraciones falsas a líderes mundiales preocupa a diversos sectores sociales. En julio de 2017, un grupo de investigadores de la Universidad de Washington creó un deepfake del expresidente estadounidense Barack Obama. BBC News reprodujo el video junto con unas declaraciones de la investigadora Ira Kemelmacher, en las que afirmaba: “Cualquier tecnología puede ser utilizada de forma negativa. Todos debemos trabajar para que eso no ocurra”.

La clave está en la palabra “todos”. En el lapso de año y medio la tecnología necesaria para hacer un deepfake se trasladó de los laboratorios de investigación a las manos de jóvenes con acceso a una computadora potente, algunos tutoriales de YouTube y mucho tiempo por delante. Ahora, el divertimento de última generación en redes sociales es también una responsabilidad colectiva.

Son muchas las dudas que existen en relación con esta nueva tecnología. ¿Qué riesgos y ventajas ofrece? ¿Cómo podemos identificar los deepfakes?¿Cómo se relacionan con los fake news o noticias falsas propagadas por el presidente estadounidense Donald Trump? De momento, la pregunta más importante es tal vez la primera: ¿qué es exactamente un deepfake?

Definiciones y posibilidades. El término deepfake se refiere a la tecnología de aprendizaje automático capaz de manipular videos y crear imágenes hiperrealistas, al punto que resulta difícil comprobar a simple vista su veracidad. El algoritmo con que trabaja esa tecnología requiere de una gran cantidad de imágenes, las cuales deben ser grabadas desde diversos ángulos. Por ejemplo, para producir el video del expresidente Obama, fueron necesarias 14 horas de material de archivo. A partir de esa información, el algoritmo produce una acción que esa persona nunca llevó a cabo; es decir, aprende sus rasgos y simula sus movimientos.

Justamente, los conceptos aprendizaje profundo y falso conforman la palabra deepfake. Desde hace más de medio siglo, nuestras computadoras aprendieron a aprender; sin embargo, los deepfakes representan una de las mayores evidencias de ese aprendizaje. Otra evidencia memorable ocurrió en 1997, cuando el campeón mundial de ajedrez Garri Kaspárov perdió una partida contra la computadora Deep Blue.

Se especula que los deepfakes podrían emplearse para propagar noticias falsas.

De momento, han sido utilizados con éxito en Hollywood, así como en la industria pornográfica, que ha comenzado a sustituir los rostros de sus actrices y actores por los de estrellas de cine. Algunos traducen la palabra deepfake como videoestafa. En el caso de la industria pornográfica, podría afirmarse, además, que se trata de un videoestafa voluntario y feliz.

La Fundación del Español Urgente propone traducir deepfake como ultrafalso: un término que reúne con suficiente fidelidad los conceptos que conforman el vocablo inglés. Esa alternativa daría origen a palabras como ultrafalsear, ultrafalseado y ultrafalsificación, por ejemplo. El tema se las trae y trae consigo, además, su propio diccionario.

Otros antecedentes. En 2004, el escritor estadounidense Ralph Keyes publicó La era de la posverdad, un ensayo que explica la época en que vivimos a partir de la distorsión deliberada de la realidad y del peso de las emociones y creencias personales sobre los hechos objetivos.

Siete años después, el Festival de Cine de Sitges publicó el texto colectivo Imágenes para la sospecha, en el cual se muestra la falsificación de documentos como un síntoma del escepticismo contemporáneo y se exploran sus antecedentes en la pintura, la fotografía y el cine. En síntesis, los deepfakes no son esencialmente algo nuevo. Desde que existe la imagen como documento, existen también las mentiras y las falsificaciones de la imagen.

De acuerdo con un artículo publicado el 5 de agosto por The Washington Post, durante sus primeros 900 días de gobierno, el actual presidente estadounidense, Donald Trump, mintió en 12.000 ocasiones. Esto supone un promedio de más de 13 mentiras diarias. El artículo añade que las mentiras del señor Trump se han convertido en una práctica en crecimiento conforme han avanzado sus días en la Casa Blanca.

La construcción del muro en la frontera mexicana es la fuente principal de las afirmaciones falsas de Trump. Sobre ese tema se contabilizan 190 mentiras. El presidente asegura que la construcción del muro ha iniciado, a pesar de que el Congreso le negó los fondos para ello.

La coincidencia entre las noticias falsas de Trump y el surgimiento de los deepfakes puede entenderse como el punto culminante de la era de la posverdad que anunció Keyes hace 15 años. “Era de la posmentira” es, probablemente, un nombre más adecuado.

¿Es posible hacer un deepfake de Trump en el que reconozca, por fin, que está mintiendo? Algunos pagaríamos por verlo. Eso nos lanzaría al corazón de la paradoja del mentiroso, enunciada por Eubúlides de Mileto en el siglo IV a. C. “Era de las paradojas”; ya tenemos el título del libro de nuestro tiempo. Ahora solo falta escribirlo.

Aquí y ahora. El deepfake llegó para quedarse. La BBC experimenta con esa tecnología para doblar a sus presentadores en varios idiomas. Mark Zuckerberg, fundador de Facebook, publicó un deepfake que reta las normas de seguridad de su propia red social. Obama ha sido el protagonista de otro de esos videos en el que llama “completo idiota” al presidente Donald Trump. Algunas veces los deepfakes dicen la verdad.

El laboratorio digital de la Agencia France-Presse (AFP) ha desarrollado una herramienta gratuita para contrarrestar la difusión de deepfakes. Se trata de InVID, una aplicación gratuita que permite identificar las imágenes originales empleadas para generar cualquiera de esos videos.

En los Estados Unidos, la legisladora Yvette Clarke presentó ante el Congreso un proyecto titulado Ley de Responsabilidad de deepfakes, que obligaría a las empresas de redes sociales a construir mejores herramientas de detección en sus plataformas y permitiría castigar o encarcelar a las personas que están detrás de este tipo de publicaciones.

Mientras tanto, en un lugar llamado Costa Rica, un artículo publicado este domingo en el periódico La Nación señala que solo el 16 % de las oportunidades educativas se orienta a la ciencia y la tecnología. El artículo añade que big data, ciberseguridad e inteligencia artificial, “son algunas de las carreras y especialidades que más urgen las empresas del país, pero también son las que menos se ofrecen en las universidades costarricenses, públicas y privadas.” El panorama es aterrador. Casi tanto como el video Lawrence-Buscemi.

El autor es cineasta.