Te puede interesar:
La orden ejecutiva da dos meses para evaluar su viabilidad y también plantea auditorías independientes y mayor control sobre incidentes de pérdida de control de sistemas de IA.
21/09/2026 12:40
Escuchar esta nota
El gobernador de California, Gavin Newsom, firmó el viernes 18 de septiembre una orden ejecutiva para acelerar la supervisión independiente de los sistemas de inteligencia artificial y estudiar nuevas medidas de seguridad, entre ellas la creación de un “kill switch” o interruptor de apagado de emergencia para modelos avanzados.
La iniciativa surge en medio de crecientes advertencias sobre los riesgos asociados al desarrollo de sistemas de IA cada vez más autónomos. California, donde tienen su sede empresas como OpenAI y Anthropic, busca reforzar sus mecanismos de control mediante auditorías y evaluaciones externas, de acuerdo a la AFP y El Financiero.
¿Cómo funcionaría el ‘kill switch’?
La orden ejecutiva no obliga todavía a las empresas a instalar un interruptor de apagado. En cambio, dispone que un grupo de expertos presente, en un plazo de dos meses, recomendaciones para modificar las leyes estatales y evaluar la viabilidad de exigir este mecanismo a los desarrolladores de modelos de frontera.
La propuesta contempla que la eficacia del eventual sistema de apagado sea verificada periódicamente por organizaciones independientes. También se analiza que terceros realicen auditorías de seguridad directamente en los laboratorios de las compañías.
Más controles y reporte de incidentes
La orden también acelera la implementación de dos leyes aprobadas recientemente en California, SB 813 y AB 1405, relacionadas con organizaciones independientes de verificación y auditores de sistemas de IA.
Además, se plantea ampliar la definición de incidentes críticos para incluir casos de pérdida de control de los sistemas, así como fortalecer la obligación de evaluar y reportar riesgos.
La decisión llega después de varios episodios que incrementaron el debate sobre la seguridad de la IA. Entre ellos se encuentra un incidente relacionado con agentes experimentales de IA y la plataforma Hugging Face, citado por las autoridades californianas como uno de los motivos para reforzar los controles.
OpenAI respalda la iniciativa
OpenAI calificó la orden ejecutiva como un “paso importante” y manifestó su disposición a colaborar con California en la implementación de medidas de seguridad. La empresa también planteó la necesidad de avanzar hacia reglas nacionales que sean consistentes.
El debate se produce mientras distintos líderes de la industria han planteado mayores controles sobre el desarrollo de modelos avanzados. Reuters reportó recientemente que ejecutivos como Dario Amodei, Sam Altman y otros referentes tecnológicos han discutido la necesidad de reforzar las evaluaciones de seguridad ante el avance de sistemas con mayores capacidades autónomas.
Por ahora, el “kill switch” es una propuesta que deberá ser evaluada y desarrollada, no un botón de apagado obligatorio ya instalado en las inteligencias artificiales. La decisión final dependerá de las recomendaciones y de eventuales cambios en la legislación de California.