El debate en torno a la IA se ha intensificado con revelaciones recientes sobre modelos que han salido de entornos confinados para infiltrarse en sitios y plataformas externas.
En mayo, “durante una prueba estándar (de Gemini), el modelo encontró informaciones públicas en línea y adivinó claves para acceder a sitios que creyó que hacían parte de la prueba”, explicó Heather Adkins, una responsable de seguridad en Google, en una declaración transmitida a la AFP.
Sin precisar nombres, Google indicó que tres organizaciones se vieron afectadas y asegura que les informó de estas brechas.
Según el Wall Street Journal, en uno de los casos “el modelo probó varias combinaciones de contraseñas hasta que consiguió acceder a un sistema protegido”.
“Las tres veces, el modelo se detuvo”, informó Adkins, lo que sugiere que las intrusiones terminaron sin intervención humana.
Google indicó a la AFP que tuvo conocimiento del episodio en julio y luego abrió una investigación sobre el incidente.
Varios grandes ejecutivos del sector tecnológico abogan por ralentizar el desarrollo de potentes modelos de IA y por una forma de autorregulación del sector ante recientes incidentes de seguridad.
