Usuarios de Claude eluden salvaguardias para investigar armas biológicas

Claude users found ways around safeguards for bioweapons research

Anthropic ha revelado que ha detenido múltiples intentos por parte de científicos de utilizar su tecnología para investigaciones que podrían ayudar a desarrollar armas biológicas. Este creciente temor sobre la amenaza que la inteligencia artificial (IA) representa para la seguridad pública ha llevado a la startup a compartir cinco ejemplos en los que actores «eludieron controles» y realizaron esfuerzos para «obfuscar» el propósito de su investigación, con el fin de esquivar las salvaguardias.

Los casos involucraron a usuarios en naciones a las que se les prohíbe acceder a sus modelos, como Rusia, China e Irán. «Esperamos que al compartir estos ejemplos, iniciemos una conversación dentro de la industria de la IA y con los gobiernos sobre los riesgos biológicos emergentes y cómo contrarrestarlos de la mejor manera», declaró Anthropic en un informe sobre los esfuerzos para usar sus modelos con fines maliciosos.

Entre los estudios de caso proporcionados por la compañía, se incluye un investigador de una «región no admitida» que «pasó semanas planificando» experimentos relacionados con la influenza aviar utilizando Claude, el modelo de IA de Anthropic. La empresa destacó que sus filtros de seguridad restringieron el trabajo a sus modelos más débiles. Sin embargo, enfatizó que no podía estar segura de que los científicos en sus ejemplos tuvieran la intención de causar daño, ya que la misma información necesaria para crear armas biológicas también podría utilizarse para desarrollar una vacuna.

A pesar de haber prohibido las cuentas mencionadas en el informe, Anthropic no reveló los nombres de las instituciones de investigación ni las naciones donde ocurrieron los incidentes. La preocupación por la seguridad de la IA se intensificó a principios de esta semana cuando Jacob Coxon renunció a la empresa, alegando que los empleados «creen sinceramente que [la IA] podría matarnos a todos para finales de la década».

Las preocupaciones sobre la tecnología comenzaron a escalar a principios de este año con el lanzamiento de modelos avanzados como Mythos de Anthropic. OpenAI también causó alarma en julio cuando afirmó que sus modelos habían hackeado autónomamente al grupo de IA Hugging Face. Existe un consenso creciente entre los ejecutivos de IA e investigadores de bioseguridad de que el uso de la tecnología en biología necesita ser asegurado y regulado a medida que los modelos se vuelven más avanzados.

Los expertos están cada vez más preocupados de que la IA pueda ser utilizada por grupos terroristas, actores estatales o atacantes solitarios para crear armas biológicas, desarrollar virus o liberar patógenos dañinos existentes. Sin embargo, incluso si la IA puede ser utilizada para diseñar un arma biológica teórica, existen obstáculos potenciales, como la capacidad de fabricarla en la práctica y los recursos necesarios para hacerlo.

La ciberseguridad ha sido una de las mayores preocupaciones para los defensores de la seguridad. El informe de Anthropic sobre los usos indebidos de su tecnología detalló incidentes que incluyen «una red de aplicaciones de citas falsas diseñadas para defraudar a los usuarios hasta sistemas de vigilancia construidos para identificar y monitorear a disidentes». El laboratorio también presentó nuevos detalles de afirmaciones de que siete laboratorios con sede en China, incluidos Moonshot y DeepSeek, intentaron replicar su tecnología a través de un proceso conocido como destilación. Anthropic afirmó haber detectado «métodos cada vez más sofisticados para eludir nuestras defensas y aprovechar las capacidades de los modelos de frontera de EE.UU.».

Fuente: https://arstechnica.com/ai/2026/09/claude-users-found-ways-around-safeguards-for-bioweapons-research/