Alarmante informe de Anthropic revela el uso indebido de su IA para armas biológicas

Anthropic details bad actors’ efforts to misuse its AI for bioweapons

Anthropic ha publicado un informe detallando cómo actores malintencionados han intentado utilizar sus poderosos modelos de inteligencia artificial para desarrollar armas biológicas y otros fines nefastos. Según el informe, criminales, grupos patrocinados por estados, vendedores de spyware, científicos y propagandistas han intentado diseñar misiles y bombas, crear patógenos mortales y vigilar a disidentes utilizando la tecnología de Anthropic.

El informe, que consta de 154 páginas, destaca cinco estudios de caso en los que científicos utilizaron los modelos de IA de Anthropic en investigaciones biológicas, eludiendo las salvaguardas de la empresa. Aunque Anthropic ha prohibido estas cuentas, no reveló los nombres de las instituciones de investigación o los países involucrados, debido a la incertidumbre sobre las intenciones de los investigadores.

Además, el informe menciona operaciones cibernéticas como espionaje ruso y ciberataques, así como campañas de vigilancia y propaganda en Rusia, Malasia, Irán y Bangladesh. También se ha detectado el uso del modelo Claude de Anthropic en Yemen, China y Rusia para desarrollar software para armas convencionales.

Un caso particularmente preocupante involucró a un científico que utilizó Claude para trabajar en una solicitud de subvención estatal para estudiar el virus chikungunya, una enfermedad transmitida por mosquitos que podría ser utilizada para crear armas biológicas.

El informe se publica dos días después de que un ex empleado de Anthropic, Jacob Coxon, renunciara alegando que la empresa no actuaba de manera responsable. Coxon advirtió que Anthropic y su rival, OpenAI, estaban «corriendo hacia una superinteligencia auto-mejorada» que podría causar la extinción humana para 2030. Muchos expertos en IA consideran que las amenazas reales, como las detalladas en el informe, son más preocupantes en los próximos tres años que un apocalipsis causado por una inteligencia omnipotente.

Anthropic ha instado a toda la industria de la IA a trabajar conjuntamente con los gobiernos para abordar estos peligros y crear defensas efectivas. «A medida que los modelos se vuelven más capaces, sus riesgos aumentarán, a menos que los desarrolladores de IA y los defensores de la sociedad actúen para hacerlos más seguros», escribió la empresa.

Fuente: https://www.theguardian.com/technology/2026/sep/10/anthropic-report-details-ai-misuse