EscucharYouTube reconoce la utilización de inteligencia artificial (IA) para la creación de contenidos publicados en su plataforma, siempre y cuando estos no transgredan las normas comunitarias. En casos en los que se vulneren estas directrices, tanto usuarios como figuras públicas y artistas musicales podrán solicitar su eliminación, especialmente cuando se haga uso indebido de su imagen o trabajo con fines engañosos.
Todos los contenidos compartidos en YouTube deben ajustarse a las normas comunitarias, sin importar la metodología de generación, según afirmó la empresa. Esta afirmación incluye explícitamente los casos en que se emplean las herramientas de IA generativa.
Aunque esta tecnología abre las puertas a nuevas y poderosas narrativas, su potencial para crear contenidos engañosos o perjudiciales está sujeto a las restricciones actuales de la plataforma. Esto es particularmente relevante cuando el público no tiene conocimiento de que un video fue manipulado o sintéticamente creado.
En los próximos meses, YouTube exigirá a los creadores informar a los usuarios sobre contenidos generados mediante herramientas sintéticas, incluyendo el uso de IA, especialmente cuando involucren material manipulado que parezca realista.
Un ejemplo de esto podría ser “un vídeo generado mediante IA que explique de forma realista un suceso que en realidad no ha ocurrido o que muestre a una persona real diciendo o haciendo algo que en realidad no hizo”, señalan representantes de YouTube en un comunicado.
Cuando se trate de contenidos potencialmente manipulados o sintéticos, la plataforma notificará a los usuarios mediante una nueva etiqueta, que se incluirá en el panel de descripción indicando que parte del contenido fue alterado o generado digitalmente. Además, para contenidos sensibles, YouTube aplicará una etiqueta más prominente en el reproductor de video.
Sin embargo, cuando la etiqueta no sea suficiente para mitigar el riesgo de daño, el contenido que incumpla las normas será eliminado de la plataforma, incluso si está etiquetado. “Por ejemplo, si un vídeo creado de forma sintética muestra violencia realista con el objetivo de conmocionar o provocar indignación entre los espectadores, podrá ser eliminado”, añaden desde YouTube.
Como complemento, todos los contenidos creados mediante las herramientas de IA generativa de YouTube se etiquetarán claramente como tales.
Solicitud de retiro de contenido sintético
Existen casos en los que se genera digitalmente el rostro o la voz de una persona sin su consentimiento, o se manipulan sus opiniones. Este tipo de contenidos se incluirán en el proceso de reclamación de privacidad, permitiendo a los afectados solicitar su eliminación.
YouTube indicó que evaluará estas solicitudes considerando diversos factores, como si se trata de una parodia o sátira, o si la persona es una figura pública, por lo que no todos los contenidos serán necesariamente eliminados.
Esta opción también estará disponible para músicos, quienes podrán solicitar la retirada de contenidos musicales generados por IA que reproduzcan la voz o el estilo de un artista en particular.
Inicialmente, esta herramienta se proporcionó a sellos discográficos y distribuidoras que representan a artistas involucrados en los primeros experimentos musicales con IA de YouTube. En los próximos meses, se ampliará el acceso a otros actores de la industria musical.
IA para la moderación de contenido
YouTube combina la labor humana con la tecnología de aprendizaje automático para moderar y hacer cumplir las normas comunitarias. En este contexto, las herramientas de IA contribuyen a la detección a gran escala de contenidos que potencialmente infringen las normas, los cuales luego son analizados por revisores humanos.
La incorporación de la IA generativa a los sistemas de moderación permite identificar y capturar contenidos infractores con mayor rapidez. Desde YouTube señalan que “esta mayor rapidez y precisión de nuestros sistemas nos permite reducir la cantidad de contenidos dañinos a los que se ven expuestos nuestros revisores humanos, lo que también es un aspecto importante”.
Además de la moderación, la compañía trabaja en establecer barreras que impidan el uso de sus herramientas de IA para la generación de contenidos no admitidos en YouTube.
El Grupo de Diarios América (GDA), al cual pertenece ‘La Nación’, es una red de medios líderes fundada en 1991, que promueve los valores democráticos, la prensa independiente y la libertad de expresión en América Latina a través del periodismo de calidad para nuestras audiencias.
