Anthropic propone umbral para detener IA en EE.UU. por riesgos significativos

Anthropic ha presentado un borrador de proyecto de ley en el Capitolio de Estados Unidos, proponiendo un umbral específico para que el gobierno pueda detener un modelo de inteligencia artificial (IA). Según informes de Politico, el gobierno solo podría bloquear el lanzamiento o uso de un modelo si este representa un riesgo previsible de más de 1.000 millones de dólares en daños o la muerte o lesiones graves a más de 50 personas.

El borrador de Anthropic refleja su Marco de IA Avanzada, promovido entre los legisladores desde junio. La propuesta sugiere que el Departamento de Comercio sería el único organismo con la capacidad de detener un modelo, y solo un tribunal podría ordenar tal acción. Este enfoque centraliza el poder en un solo departamento, lo que ha generado preocupación en el sector.

Los laboratorios de IA tendrían que establecer marcos de seguridad, publicar informes de transparencia y notificar incidentes críticos de seguridad. Aunque este borrador aún no ha sido formalmente respaldado en el Congreso, ha suscitado un debate significativo sobre si el umbral propuesto es una medida de seguridad razonable.

La discusión sobre la seguridad de la IA se ha intensificado tras incidentes recientes, como el hackeo a Hugging Face. Sin embargo, según el borrador de Anthropic, estos incidentes no habrían superado el umbral propuesto de 1.000 millones de dólares en daños o 50 víctimas.

Fuente: https://www.xataka.com/robotica-e-ia/50-muertos-1-000-millones-dolares-danos-liston-que-anthropic-quiere-fijar-gobierno-pueda-frenar-modelo-ia