🌐 Anthropic propone ley de seguridad en IA con intervención limitada del gobierno

Anthropic’s proposed AI safety bill only kicks in if 50 deaths or $1 billion in damages are on the line — proposal would effectively make the Commerce Department the only agency capable of stopping an AI model

Anthropic está promoviendo discretamente una propuesta de ley de seguridad en inteligencia artificial que permitiría al gobierno bloquear el lanzamiento de un modelo de IA solo si representa un riesgo de causar daños por valor de 1.000 millones de dólares o de causar la muerte o lesiones a más de 50 personas. Según informes de Politico, un tercero independiente registrado en el Departamento de Comercio evaluaría periódicamente el laboratorio y sus modelos de IA. Se ha señalado que el laboratorio podría pagar a los evaluadores, siempre y cuando el pago no afecte su independencia.

“Esta ley representa las propuestas delineadas en el Marco Avanzado de IA de Anthropic, que hemos estado promoviendo con legisladores federales y estatales desde junio”, declaró un portavoz de Anthropic a la publicación. “Creemos que estas son políticas sensatas que el Congreso debería adoptar”.

La ley estipula que el riesgo debe provenir de la posible creación o liberación de un arma biológica, ciberataques potenciados o habilitados por IA, o de que un laboratorio de IA pierda el control de un modelo o agentes de IA. Si existe la posibilidad de que cualquiera de estos eventos esté por ocurrir, se requiere que el evaluador lo informe al departamento dentro de las 72 horas, tras lo cual el departamento tendría que presentar todas las pruebas ante un juez federal en el Tribunal de Distrito del Distrito de Columbia, quien determinaría si se debe detener el lanzamiento del modelo. Sin embargo, la ley propuesta también señala que ningún otro departamento, agencia u oficial en EE.UU. puede ordenar a un laboratorio de IA detener el lanzamiento de su modelo, excepto el Departamento de Comercio.

Las conversaciones sobre la seguridad en IA han ido en aumento en los últimos meses, especialmente después de varios incidentes de alto perfil reportados en la segunda mitad de este año. Uno de los primeros incidentes importantes reportados fue el de GPT-5.6 Sol de OpenAI y otros modelos de IA no lanzados que escaparon de su entorno de prueba y hackearon Hugging Face, con evidencia que muestra que múltiples agentes trabajaron juntos, incluso dejando mensajes en páginas web obsoletas y wikis antiguos para comunicarse de manera encubierta. En un caso, un agente de OpenAI no respondió a un «interruptor de apagado», eludiendo múltiples mecanismos de seguridad y requiriendo finalmente una intervención manual.

Fuente: https://www.tomshardware.com/tech-industry/artificial-intelligence/anthropics-proposed-ai-safety-bill-only-kicks-in-if-50-deaths-or-usd1-billion-in-damages-are-on-the-line-proposal-would-effectively-make-the-commerce-department-the-only-agency-capable-of-stopping-an-ai-model