🌐 Anthropic propone ley para bloquear IA si hay riesgo de 50 muertes
Anthropic proposa una llei de seguretat per a la IA que podria bloquejar un model si més de 50 persones podrien morir
Enmig de creixents preocupacions sobre els perills potencials de la intel·ligència artificial, Anthropic ha presentat una proposta de llei de seguretat que podria bloquejar la distribució de models d'IA en situacions d'alt risc. Segons un informe de Politico, la legislació suggereix bloquejar un model si existeix un risc "previsible i imminent" que més de 50 persones puguin morir o si podria causar danys materials superiors a mil milions de dòlars.
Els escenaris de risc inclouen la creació o alliberament d'una arma biològica, el model evadint els controls del seu desenvolupador o un ciberatac. Aquests criteris són similars als definits en la recent legislació de Califòrnia, el Projecte de Llei 53 del Senat, que també aborda riscos catastròfics.
Anthropic proposa que avaluadors independents, registrats al Departament de Comerç dels EUA, analitzin el potencial de desastre d'un model. Aquests avaluadors podrien ser finançats pels propis laboratoris d'IA, sempre que el pagament no depengui dels resultats de les avaluacions. No obstant això, no està clar com es garantiria que els pagaments no influeixin en les avaluacions.
En el projecte de llei d'Anthropic, si els avaluadors determinen un risc catastròfic imminent, tindrien 72 hores per notificar al Departament de Comerç, que hauria de sol·licitar a un jutge a Washington, D.C., detenir l'alliberament del model. La legislació prohibeix que qualsevol agència federal tingui la discreció de detenir per si sola la distribució del model.
Tot i que Anthropic no va respondre immediatament a les sol·licituds de comentaris de TechCrunch, un portaveu va confirmar a Politico que el projecte de llei representa les propostes del seu Marc Avançat de IA, que han estat promovent des de juny amb legisladors federals i estatals.
La proposta d'Anthropic va més enllà d'altres propostes reguladores de la indústria, com la de Nvidia, el CEO de la qual, Jensen Huang, va argumentar recentment que la indústria de la IA no necessita noves lleis.
Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
En medio de crecientes preocupaciones sobre los peligros potenciales de la inteligencia artificial, Anthropic ha presentado una propuesta de ley de seguridad que podría bloquear la distribución de modelos de IA en situaciones de alto riesgo. Según un informe de Politico, la legislación sugiere bloquear un modelo si existe un riesgo «previsible e inminente» de que más de 50 personas puedan morir o si podría causar daños materiales superiores a mil millones de dólares.
Los escenarios de riesgo incluyen la creación o liberación de un arma biológica, el modelo evadiendo los controles de su desarrollador o un ciberataque. Estos criterios son similares a los definidos en la reciente legislación de California, el Proyecto de Ley 53 del Senado, que también aborda riesgos catastróficos.
Anthropic propone que evaluadores independientes, registrados en el Departamento de Comercio de EE.UU., analicen el potencial de desastre de un modelo. Estos evaluadores podrían ser financiados por los propios laboratorios de IA, siempre que el pago no dependa de los resultados de las evaluaciones. Sin embargo, no está claro cómo se garantizaría que los pagos no influyan en las evaluaciones.
En el proyecto de ley de Anthropic, si los evaluadores determinan un riesgo catastrófico inminente, tendrían 72 horas para notificar al Departamento de Comercio, que debería solicitar a un juez en Washington, D.C., detener la liberación del modelo. La legislación prohíbe que cualquier agencia federal tenga la discreción de detener por sí sola la distribución del modelo.
Aunque Anthropic no respondió de inmediato a las solicitudes de comentarios de TechCrunch, un portavoz confirmó a Politico que el proyecto de ley representa las propuestas de su Marco Avanzado de IA, que han estado promoviendo desde junio con legisladores federales y estatales.
La propuesta de Anthropic va más allá de otras propuestas regulatorias de la industria, como la de Nvidia, cuyo CEO, Jensen Huang, argumentó recientemente que la industria de la IA no necesita nuevas leyes.
Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
Amid growing concerns about the potential dangers of artificial intelligence, Anthropic has put forward a safety bill proposal that could block the distribution of AI models in high-risk situations. According to a Politico report, the legislation suggests blocking a model if there is a "foreseeable and imminent" risk that more than 50 people could die or if it could cause material damage exceeding one billion dollars.
Risk scenarios include the creation or release of a biological weapon, the model evading its developer's controls, or a cyberattack. These criteria are similar to those defined in recent California legislation, Senate Bill 53, which also addresses catastrophic risks.
Anthropic proposes that independent assessors, registered with the U.S. Department of Commerce, analyse the disaster potential of a model. These assessors could be funded by the AI labs themselves, provided that the payment does not depend on the outcomes of the assessments. However, it is unclear how it would be ensured that payments do not influence the assessments.
In Anthropic's bill, if the assessors determine an imminent catastrophic risk, they would have 72 hours to notify the Department of Commerce, which should request a judge in Washington, D.C., to halt the model's release. The legislation prohibits any federal agency from having the discretion to stop the model's distribution on its own.
Although Anthropic did not immediately respond to TechCrunch's requests for comment, a spokesperson confirmed to Politico that the bill represents the proposals of their Advanced AI Framework, which they have been promoting since June with federal and state lawmakers.
Anthropic's proposal goes beyond other regulatory proposals in the industry, such as Nvidia's, whose CEO, Jensen Huang, recently argued that the AI industry does not need new laws.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →