La IA es una herramienta de altísima utilidad, pero su deliberado mal uso tiene el potencial de producir daños al honor, la imagen o la intimidad, e impedir que fluya la información veraz
Federico Campos escribe sobre deepfake Canva
J. Federico Campos Calderón
Indudablemente, el desarrollo tecnológico representa transformaciones muy positivas para la sociedad, pero –al mismo tiempo– genera nuevos problemas que conducen a la necesidad de implementar gestiones de control y de regulación para afrontar los avatares de la era tecnológica que ponen en riesgo los entornos digitales seguros.
Dependiendo del impacto que tengan esas vicisitudes a nivel social y del grado de afectación que puedan causar en los derechos de los ciudadanos, así deberá ser la reacción por parte de quienes tienen a cargo las decisiones políticas que planifican el desarrollo tecnológico.
No necesariamente todo se debe regular por medio de leyes, pero hay casos en que la gravedad de los daños que se derivan de la innovación digital es de tal magnitud, que lleva a la imperiosa necesidad de la promulgación de leyes en el ámbito penal para poder atender de manera eficiente estas dificultades.
Es así como el llamado deepfakeha venido a inquietar el universo tecnológico al generar gran preocupación social por los riesgos de desinformación que lo caracterizan, ya que posibilita diseminar contenido audiovisual falso por medio de la alteración –casi siempre de índole sexual– de la imagen (rostro y cuerpo), o del audio de una persona, que fueron creados de forma maledicente por medio de inteligencia artificial (IA) para modificar la imagen de personas reales o crear personas inexistentes.
Es decir, el deepfake se ha usado para la suplantación falsa de identidades, crear contenido dañino y difundir información engañosa sin el consentimiento de las personas físicas que se ven afectadas en su imagen y reputación con estas malas prácticas.
Reformas legales
Precisamente en España –donde, dicho sea de paso, en los últimos años se ha legislado prolijamente en materia penal con la creación de varios delitos para atender distintas necesidades surgidas de la innovación digital– recientemente se promulgó un nuevo delito que criminaliza el deepfake sancionando con cárcel a quienes hagan un mal uso de la IA para crear contenidos falsos con el fin de dañar a una o varias personas.
El deepfake no es ajeno a la realidad costarricense, ya que en los últimos meses han circulado perfiles falsos de distintas personalidades públicas con la clara intención de dañar su imagen y reputación por medio de la difusión de desnudos –y otras alteraciones– que han logrado su cometido de causar daño a determinadas personas.
Esto conduce a la necesidad de discutir y valorar entre los miembros de nuestra sociedad civil –de lege ferenda– la eventual promulgación de un delito en Costa Rica que, de manera similar, sancione penalmente estas conductas y, si se va a reprochar o no con pena de prisión, a quienes de forma maledicente recurran a esta manipulación tecnológica con fines vejatorios.
No se trata de un simple uso indebido de la tecnología que se reduce a un plano meramente ético, sino de acciones malintencionadas o dolosas que se llevan a cabo para causar daño y sufrimiento a las personas afectadas.
Fraudes digitales y corrupción de menores
Por otra parte, como las imágenes falsas (video, fotografía y audio) creadas por medio de IA diluyen entre lo burdo y lo real, al punto de que muchas veces es difícil distinguir si se trata o no realmente de la persona a la que aluden o si se trata de una imagen surreal, los deepfake pueden constituir una nueva modalidad para la consumación de acciones delictivas de otra naturaleza como lo son –entre otros– los fraudes (estafas) y la corrupción de menores.
Si hoy, con la ficción de voces –u otro tipo de imágenes– se logra engañar a la gente –como el caso de una señora que creía que estaba chateando y sosteniendo una “relación sentimental” real con el cantante español Enrique Iglesias–, sin duda alguna, en un futuro muy cercano los deepfakes estarán a la orden del día, induciendo a error por medio del engaño a víctimas con el oscuro propósito de llevar a cabo actos de disposición patrimonial (bienes o dinero). La víctima del fraude creerá que con quien se comunicaba era con un familiar cercano o alguien de su entera confianza, y no con un ciberdelincuente.
De la misma manera, la difusión de videos e imágenes de contenido sexual falso, que presenta a personas irreales mostrando cuerpos desnudos falsos o llevando a cabo actos de naturaleza sexual, pueden caer en manos de menores con fines libidinosos. Y estos hechos van más allá de la implementación de controles parentales tecnológicos, porque esa herramienta muchas veces se torna insuficiente para evitar el acceso y el daño a menores de edad que se ven expuestos de forma temprana a imágenes que los corrompen.
En otras palabras, la IA es una herramienta de altísima utilidad para el desarrollo de la humanidad que ha impactado positivamente diferentes ámbitos como la salud y la educación; sin embargo, también lleva implícitos riesgos por su deliberado mal uso, lo que puede producir daños severos a bienes jurídicos de importancia individual como el honor, la imagen, la intimidad o, a otros, de carácter general como lo es la necesidad de que fluya información veraz que genere confianza entre los ciudadanos cuando consumen los implementos que ofrece el mundo tecnológico.
Queda servida sobre la mesa la propuesta.
fcamposcr@gmail.com
J. Federico Campos Calderón es abogado penalista
El 'deepfake' se ha usado para la suplantación falsa de identidades y para crear contenido dañino y difundir información engañosa sin el consentimiento de las personas físicas que se ven afectadas en su imagen y reputación. Foto: Archivo LN
