California lidera la regulación de la IA con un posible ‘interruptor de apagado’ obligatorio

California evalúa imponer un "interruptor de apagado" obligatorio a las empresas de IA

El gobernador de California, Gavin Newsom, ha dado un paso significativo hacia la regulación de la inteligencia artificial (IA) al ordenar a su administración evaluar la implementación de un «interruptor de apagado» obligatorio para los modelos de IA más avanzados. Esta medida se enmarca en una nueva orden ejecutiva que busca endurecer la vigilancia sobre las empresas de inteligencia artificial en el estado, mientras que el gobierno federal en Washington aún no ha avanzado en una regulación nacional.

La orden de Newsom instruye a la Agencia de Operaciones Gubernamentales de California a presentar, antes del 16 de noviembre, recomendaciones sobre la viabilidad técnica de reformar las leyes estatales vigentes en materia de seguridad de la IA. Estas recomendaciones serán elaboradas en consulta con expertos nacionales.

Entre los aspectos a considerar, destaca la obligatoriedad de que los «grandes desarrolladores de frontera» integren auditores independientes de manera permanente en sus instalaciones. Además, se contempla la creación de un mecanismo de apagado de emergencia, conocido como «kill switch», cuya eficacia sería verificada continuamente por organizaciones certificadoras.

Newsom, quien podría ser un aspirante a la presidencia de EE.UU. en 2028, ha criticado al Congreso por su inacción, instando a los legisladores a regresar de su receso de verano. «California hará lo que puede hacer, pero la nación tiene que entrar en el juego, Washington D.C. tiene que hacer su trabajo», afirmó Newsom en una publicación en X.

California se ha posicionado a la vanguardia en la regulación de la inteligencia artificial, implementando medidas pioneras desde 2024 para abordar problemas como las falsificaciones profundas (deepfakes) y las marcas de agua digitales. Además, el estado promulgó leyes para proteger la imagen digital de los artistas y exigir a las empresas de IA que divulguen públicamente sus protocolos de seguridad.

Con la Ley de Transparencia de IA, California exige el uso de marcas de agua en contenidos generados por esta tecnología y obliga a las empresas a ofrecer herramientas de detección y avisos informativos, reafirmando su liderazgo en la regulación de la IA.

Fuente: https://www.elperiodico.com/es/internacional/20260919/california-evalua-imponer-interruptor-apagado-obligatorio-empresas-ia-134454712