Escuchar
Nueva York, Estados Unidos. El director ejecutivo de Hugging Face dijo el viernes que los desarrolladores de inteligencias artificiales deberían asumir la responsabilidad si sus modelos se salen de control, después de que la startup enfrentara un ciberataque de un software autónomo de OpenAI.
Dos modelos de inteligencia artificial (IA) de OpenAI salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados, para atacar el sitio Hugging Face, una biblioteca de IA.
Al parecer, OpenAI solo fue consciente del incidente después de que terminara, y Hugging Face logró contener la intrusión gracias a un modelo chino.
Clement Delangue, director ejecutivo de Hugging Face, descartó el viernes en entrevista con CNN la posibilidad de tomar acciones legales contra OpenAI.
Sin embargo, los ciberataques son “ilegales”, afirmó, y debería haber una forma de que “las empresas que están cometiendo algunos errores” sean responsables.
“No queremos que estos ciberataques contra otras empresas se normalicen”, dijo Delangue.
“Este es el primer tipo de incidente de seguridad que sentí de forma muy visceral”, dijo Sam Altman, director ejecutivo de OpenAI, al podcast “Invest like the best”, en un capítulo publicado el martes.
OpenAI calificó el hecho como “sin precedentes”.
Anthropic, detrás de la IA Claude, reveló el jueves que sus modelos “obtuvieron acceso no autorizado” a tres organizaciones durante pruebas que se suponía que debían mantenerlos alejados de los sistemas “del mundo real”.
Los modelos incluían uno de los más potentes, conocido como Mythos 5, que solo se ha puesto a disposición de un número limitado de socios aprobados.
