“Acabo de emitir una orden ejecutiva para acelerar la implementación de controles de seguridad y avanzar en la creación de un ‘interruptor de apagado’ dentro de los programas de IA” avanzados, escribió el demócrata en X.
Newsom, a quien muchos consideran un posible aspirante demócrata a la presidencia en 2028, afirmó que tomó esta medida ante la omisión de Trump.
Esta semana, el mandatario republicano restó importancia a los temores sobre la IA, calificándolos de engaño, e instó a las empresas estadounidenses a seguir avanzando para mantener la ventaja frente a China.
California alberga a Silicon Valley y a las empresas de IA líderes del sector.
“El fracaso absoluto del gobierno federal a la hora de establecer cualquier forma de supervisión o rendición de cuentas significativa en materia de IA debería alarmar a todos los estadounidenses, especialmente cuando los propios directores ejecutivos de empresas de IA están pidiendo a gritos una regulación”, declaró Newsom en un comunicado.
“No vamos a esperar para actuar; aceleraremos nuestra labor para establecer una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde”.
La orden del gobernador se produjo pocos días después de que expertos del sector lanzaran graves advertencias sobre la amenaza que esta tecnología supone para la humanidad.
Jacob Coxon, exinvestigador que abandonó Anthropic, desató las alarmas al afirmar que quienes desarrollan esta tecnología “creen sinceramente que podría acabar con todos nosotros antes de que termine la década”.
Poco después, el jefe de Anthropic, Dario Amodei, publicó un artículo llamando a “ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”.
Sam Altman, de OpenAI, y el magnate tecnológico Elon Musk respaldaron la idea, al igual que Demis Hassabis, de Google DeepMind, quien ha abogado por la creación de un organismo regulador mundial liderado por Estados Unidos.
La orden de Newsom no impone la creación de un mecanismo de desconexión de emergencia (“kill switch”), pero da un plazo de dos meses a las agencias estatales para estudiar la viabilidad de un recurso de ese tipo.
Newsom pidió también a los funcionarios estatales que evalúen la posibilidad de exigir a las empresas de IA que autoricen a auditores independientes en sus laboratorios.
Solicitó asimismo que consideren la obligación de notificar incidentes de pérdida de control, como los revelados recientemente por desarrolladores.
Entre ellos, uno ocurrido en julio, en el que agentes autónomos de modelos de OpenAI experimentales abandonaron espontáneamente su entorno controlado para acceder a internet y atacar la plataforma de IA Hugging Face.
