EscucharEn un artículo reciente en el Irish Times, Chris Horn se preguntó si la nueva regulación ayudará o entorpecerá la innovación en Europa. El 14 de junio, el Parlamento Europeo aprobó la propuesta de regulación de la inteligencia artificial (IA) en el continente y se espera se convierta en ley en toda la región, a finales de este año.
La regulación propuesta prohíbe los sistemas de inteligencia artificial que presenten riesgos inaceptables a la seguridad del público o que promuevan discriminación, como clasificar a la gente de acuerdo con su comportamiento social. Sistemas de alto riesgo incluyen aquellos que afectan la salud, los derechos, el ambiente o que influyan en los resultados de una elección.
Sistemas generativos, como ChatGPT, tendrán que revelar que sus resultados fueron generados por computadora (de modo que imágenes, textos y videos falsos deberán contener indicación de falsedad). También, deberán revelar todos los detalles de los datos utilizados para entrenar cada sistema generativo y todos los derechos de autor asociados a dichos datos deben ser respetados.
A primera vista, dicha regulación parece sensata, sin embargo, a finales de junio, en una carta abierta a la Comisión Europea, el Parlamento Europeo y el Consejo Europeo, más de 160 altos ejecutivos de empresas tecnológicas de diversos países europeos expresaron sus reservas acerca de la propuesta de ley.
Voces de algunos futuros regulados
En dicha carta indican que las empresas más innovadoras y los fondos de capital de riesgo podrían trasladarse fuera de la Unión Europea para evitar la regulación propuesta.
Aceptan que el deber de cuidar a los usuarios y que el desarrollo y etiquetado de sistemas de IA debe ser forzado, pero rechazan que sea por medio de una ley, por considerarlo burocrático y contraproducente. En su lugar, proponen crear un ente regulador conformado por expertos calificados que serían suficientemente ágiles para responder a los cambios y desarrollos tecnológicos, incluida la cooperación con los Estados Unidos.
Los firmantes de la carta incluyeron a tres jóvenes menos conocidos, cofundadores de Mistral AI, una nueva empresa de IA francesa, cuyo código es abierto, así como también lo son sus modelos y datos de entrenamiento.
Mistral había indicado previamente su total acuerdo con la regulación propuesta, que si se analiza con cuidado probablemente le favorezca, dado su modelo de negocios. Sin embargo, los tres firmaron la carta.
Una cosa es aprobar una ley y otra muy distinta forzar su cumplimiento, principalmente en el mundo digital. De todos los enfoques que se han desarrollado hasta ahora para diferenciar entre un texto (imagen o video) producido por un ser humano y uno generado por la IA, ninguno parece poder hacerlo en tiempo real, y el mundo digital sucede, mayoritariamente, en tiempo real.
Adicionalmente, ninguna de las herramientas de detección es 100 % eficaz y algunas contienen serios sesgos. Recientemente, en una prueba realizada en la Universidad de Stanford, siete diferentes herramientas dieron falsos positivos en más de la mitad de los casos de textos escritos por estudiantes chinos en inglés.
Solución al problema
Si un estudiante presenta como suyo un ensayo redactado por una IA, ¿merece una mala nota o se le aplica el castigo que estipula la nueva ley? Si una empresa dedicada a la inteligencia artificial publica una enorme base de datos utilizados para el entrenamiento de sus modelos, ¿cómo sabremos que está completa? La lista de posibles problemas de puesta en funcionamiento es casi interminable.
La pregunta es cómo proteger al público sin afectar la innovación, o mejor aún, cómo promover la innovación y proteger a los usuarios al mismo tiempo.
En mayo, el presidente de Francia, Emmanuel Macron, comentó sobre la necesidad de sincronizar la regulación con la innovación, lo cual es, sin duda, más fácil decir que hacer. Sin embargo, el hecho de que sea difícil no es motivo para no afanarse en busca de la solución al problema.
Yo estoy de acuerdo con Geoffrey Hinton, quien sugiere asignar el trabajo de resolución a un grupo de mentes brillantes. Por suerte, en Costa Rica no sufrimos escasez de mentes brillantes, y no me refiero solo a ingenieros y matemáticos, porque este problema requiere un enfoque multidisciplinario.
Sugiero actuar inmediatamente para evitar tanto la procrastinación como la parálisis por análisis.
El autor es ingeniero, presidente del Club de Investigación Tecnológica y organizador del TEDxPuraVida.
