La IA avanza más rápido que sus reglas: el desafío que enfrenta la ONU

Durante los últimos días, los propios desarrolladores de inteligencia artificial han dado la voz de alarma. Varios de los principales CEO de la industria están pidiendo públicamente que se reduzca el ritmo de desarrollo de la inteligencia artificial (IA), aludiendo a riesgos que van desde la pérdida de control hasta los ciberataques y el bioterrorismo.

Estas advertencias llegaron pocos días después de que Andrew Bailey, gobernador del Banco de Inglaterra y presidente del Consejo de Estabilidad Financiera, señalara ante los ministros de Finanzas y gobernadores de bancos centrales del G20 que el sistema financiero mundial, ya de por sí frágil, afronta una nueva amenaza derivada de la IA. Dado que tantas instituciones dependen ahora del mismo reducido grupo de modelos de IA y proveedores de servicios en la nube, una sola vulnerabilidad explotada puede propagarse rápidamente.

Recibimos estas advertencias con cautela, pero no con sorpresa. Como colíderes del clúster sobre una IA segura, protegida y confiable en el primer Diálogo Global de las Naciones Unidas sobre Gobernanza de la IA, celebrado en Ginebra en julio pasado, coincidimos en que el mundo necesita reglas comunes.

Los nuevos sistemas de IA deberían ponerse en circulación únicamente después de haber sido sometidos a pruebas independientes frente a umbrales acordados sobre sus capacidades. Los desarrolladores deberían publicar sus protocolos de seguridad, y cualquier incidente que surja después de su despliegue debería ser claramente monitoreado y reportado.

Ginebra fue un primer paso importante hacia una gobernanza coordinada de la IA, uno que puso en nuestras manos una hoja de ruta. En un año marcado por crecientes líneas de fractura en torno al comercio, la seguridad y el poder, 170 países lograron reunirse, junto con la industria y la sociedad civil, para encontrar algunos puntos en común sobre los mecanismos necesarios para comenzar a gobernar esta tecnología que avanza con tanta rapidez.

Reconociendo las limitaciones de trabajar en el ámbito de las Naciones Unidas, existen medidas que no implican ningún perjuicio y que la ONU podría adoptar de inmediato.

En primer lugar, hay que conectar la ciencia con la política pública. En este momento, los científicos que estudian los riesgos de la IA y los diplomáticos que negocian qué hacer frente a estos trabajan por vías separadas, sin un mecanismo estructurado que les permita dialogar entre sí.

El Panel Científico Internacional Independiente sobre Inteligencia Artificial de las Naciones Unidas presentó en Ginebra su primera evaluación basada en evidencia. Esa evidencia necesita un canal formal para incorporarse al proceso de negociación del Diálogo Global antes de mayo próximo, en vez de permanecer en paralelo.

Dado que gran parte de la investigación y el desarrollo en IA ocurre a puerta cerrada dentro de la industria, los ciudadanos y los responsables de formular políticas públicas necesitan tener acceso al mejor asesoramiento científico disponible si quieren mantenerse informados y actuar.

En segundo lugar, no hay que esperar para construir sobre aquello que ya sabemos que funciona. Estamos haciendo un llamado a las Naciones Unidas para que desarrollen una línea base común de referencia en materia de seguridad, sustentada en el derecho internacional de los derechos humanos y construida a partir de lo que ya existe. Marcos consolidados como los Principios de la OCDE sobre Inteligencia Artificial, el Código de Conducta de Hiroshima del G7, los Compromisos sobre Seguridad de la IA de Frontera de la Cumbre de Seúl de 2024 y la Recomendación de la Unesco sobre la Ética de la Inteligencia Artificial señalan el camino, junto con los estándares de la Organización Internacional de Normalización (ISO) y del Instituto Nacional de Estándares y Tecnología (NIST), que son los que los ingenieros utilizan en la práctica para desarrollar sistemas.

Al crear un entendimiento compartido sobre los mínimos regulatorios existentes, cada país puede priorizar lo que necesita desarrollar en su propio contexto nacional y regional. La propia Estrategia Nacional de Inteligencia Artificial de Costa Rica fue construida con el gobierno, la sociedad civil, la industria y la academia sentados en una misma mesa, y se sustentó en marcos internacionales en vez de intentar inventar uno propio. Es un proceso que vale la pena replicar.

En tercer lugar, hay que incorporar la inclusión, tanto geográfica como financiera, para que conversaciones como el Diálogo de las Naciones Unidas estén abiertas a todos. Esto implica financiar una participación real, de manera que los gobiernos, investigadores y organizaciones de la sociedad civil con menor capacidad financiera puedan estar presentes en los espacios donde estas conversaciones tienen lugar. Para ello, se necesita un fondo específico, similar al que financia al Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC).

La inclusión también significa demostrar que distintos sistemas regulatorios pueden funcionar conjuntamente en condiciones de igualdad, no solo en teoría, sino mediante un grupo reducido de sandboxes regulatorios transfronterizos, implementados de manera piloto por un pequeño conjunto de países y cuyos resultados se compartan abiertamente. En el sector financiero, los reguladores ya hacen esto a través de la Red Global de Innovación Financiera, que permite a distintos países probar conjuntamente nuevos productos financieros a través de sus fronteras.

Estas recomendaciones están completamente a nuestro alcance. Lo que importa ahora es si somos capaces de aplicar el mismo rigor y la misma voluntad política para cumplir aquello que acordamos.

Para cuando el Diálogo Global vuelva a reunirse en mayo, tres elementos deberían estar ya en marcha: una evaluación de la evidencia elaborada por el panel científico; una agenda del Diálogo que incorpore la línea base de seguridad, y un primer proyecto piloto de sandbox transfronterizo.

Esta urgencia no es abstracta. Como dejan claro los acontecimientos recientes, estos riesgos ya están a nuestra puerta, sin importar dónde vivamos.

Gobiernos, empresas y organizaciones de la sociedad civil expresaron con claridad y convicción este verano lo que requiere la gobernanza de la inteligencia artificial. Ese trabajo debe continuar en las Naciones Unidas durante este otoño y extenderse a las conversaciones del próximo año. No tenemos tiempo para reabrir debates sobre cuestiones que ya deberían estar resueltas.

Si un pequeño grupo de actores poderosos decide cómo se gobierna la IA, el resto del mundo queda en desventaja. En julio se demostró que una amplia diversidad de países y organizaciones puede alcanzar acuerdos incluso bajo presión. El siguiente paso es producir resultados que el mundo pueda ver.

----

Paula Bogantes Zamora es ministra de Ciencia, Innovación, Tecnología y Telecomunicaciones de Costa Rica.

Rebecca Finlay es CEO de la asociación global Partnership on AI.