Directivos de IA piden prudencia y Anthropic promete frenar su desarrollo cuando sea necesario
El sector enfrenta una creciente discusión sobre hasta dónde llevar sus capacidades y qué límites deberían acompañar su evolución
Directivos de IA pidieron prudencia ante la ONU y Anthropic se comprometió a desacelerar el desarrollo de sus modelos cuando sea necesario. Shutterstock
Directivos de IA pidieron prudencia ante la ONU y Anthropic se comprometió a desacelerar el desarrollo de sus modelos cuando sea necesario. (Shutterstock/Imagen)
Naciones Unidas, Estados Unidos. Directivos de empresas de inteligencia artificial (IA) subrayaron el miércoles en la ONU la mayor vigilancia que exige esta tecnología, y el director ejecutivo de Anthropic asumió el compromiso unilateral de desacelerar su desarrollo.
Los líderes del sector informaron al Consejo de Seguridad de la ONU después de semanas de titulares en todo el mundo sobre losriesgos de una IA incontrolable y los llamamientos a frenar su evolución.
“Este momento requiere un extremo cuidado”, declaró Sam Altman, de OpenAI, durante una reunión de emergencia del Consejo de 15 miembros.
Advirtió que a medida que los sistemas de IA se vuelvan más capaces y autónomos, podrían ir más rápido que las instituciones o concentrar demasiado poder en pocas manos.
“La industria no debe aceptar demasiados riesgos tecnológicos simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance”, dijo Altman.
Dario Amodei, director ejecutivo de Anthropic, aseguró que se requerirán normas de seguridad aún más estrictas para los modelos más potentes de IA. (FABRICE COFFRINI/AFP)
Normas de seguridad
Por su parte, el director ejecutivo de Anthropic, Dario Amodei, afirmó que a medida que los modelos de IA se vuelvan más potentes “se requerirán normas de seguridad aún más estrictas”.
Anthropic aspira a mejorar su capacidad para evitar el uso indebido de la tecnología, señaló durante una videollamada.
“Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo de IA que lancemos sea realmente seguro”, declaró Amodei, días después de haber pedido una desaceleración coordinada entre los grandes actores de la IA, que por el momento no se ha concretado.
Otro de los oradores fue Clément Delangue, de Hugging Face, blanco de un reciente ciberataque perpetrado por un software autónomo de OpenAI, el primero de una serie de incidentes que hicieron saltar las alarmas sobre la rápida evolución de la IA.
A principios de septiembre, Jacob Coxon, quien trabajó tanto en OpenAI como en Anthropic, decidió abandonar el sector y acusó a ambas empresas de “jugar con nuestras vidas” en la carrera por desarrollar modelos de IA capaces de automejorarse.
“No queremos caer en la trampa del optimismo ciego”, señaló Altman el miércoles, “pero tampoco podemos sucumbir al catastrofismo. (...) Así que vamos a hacer todo lo posible por encontrar un término medio”.
Delangue, de Hugging Face, destacó que, si bien su empresa fue objetivo de la IA, también utilizó esta tecnología para repeler los ataques.
“El mundo necesita la IA de código abierto más que nunca para defenderse”, dijo.
Como ya hizo en numerosas ocasiones, el CEO de OpenAI pidió cooperación internacional en materia de IA.
“En la historia”, recordó Altman, “ha habido momentos en los que países que competían entre sí y no se apreciaban necesariamente (...) aun así consiguieron ponerse de acuerdo por el bien común ante una nueva tecnología. Eso tiene que volver a ocurrir”.
