🌐 Anthropic alerta sobre posible amenaza de gusano de IA autorreplicante sin centros de datos
Anthropic adverteix d'una amenaça de cuc d'IA autorreplicant que no necessita centres de dades per millorar-se i expandir-se — el desplegament actual és poc pràctic però podria esdevenir una preocupació a mesura que la tecnologia millori
L'empresa Anthropic ha llançat una advertència sobre una potencial amenaça en l'horitzó tecnològic: un cuc d'intel·ligència artificial (IA) autorreplicant que no necessitaria centres de dades per millorar-se i expandir-se. Encara que actualment la seva implementació pràctica és limitada, les millores tecnològiques podrien convertir-lo en una preocupació real.
L'equip Frontier Red d'Anthropic ha demostrat dos components d'un possible cuc impulsat per IA que, si es resolen problemes clau d'implementació, podria propagar-se a través de dispositius de consum, incloent-hi caixes de TV Android econòmiques i electrodomèstics intel·ligents, sense dependre de la infraestructura dels centres de dades. Els experiments mostren que els agents d'IA poden configurar inferències en diferents plataformes de maquinari i orquestrar la replicació a través d'una xarxa.
En el seu informe del 12 d'octubre, titulat "Els models d'IA poden ser capaços d'autorreplicar-se sense accés a un centre de dades", Anthropic examina una classe potencial de malware anomenat replicador basat en pesos. En lloc de distribuir codi executable convencional, propagaria els pesos dels models d'IA juntament amb la infraestructura de programari necessària per executar inferències en dispositius compromesos.
Els investigadors van demostrar que el model Qwen3.5-9B pot establir un servidor d'inferència en vuit dels nou tipus de maquinari provats, que inclouen dispositius NVIDIA Jetson Nano, Macs amb Apple Silicon, servidors Xeon, una TPU de Google, l'MI300X d'AMD i almenys un PC amb una RTX 4090, entre d'altres. També van executar Gemma4-26B-A4B en 15 caixes de TV Android de marca blanca, aconseguint una taxa de generació combinada de 0.39 tokens per segon.
A més, Anthropic va provar si un model podria orquestrar la replicació a través d'una xarxa. L'experiment va utilitzar vuit nodes de Google Cloud executant emuladors d'Android 15. Un agent sembrat es va propagar entre nodes a través d'un port ADB (Android Debug Bridge) no autenticat, transferint fitxers i establint un servidor d'inferència en cada objectiu. El model GLM-5.2, amb 744 mil milions de paràmetres i més d'1TB de mida, va completar la seqüència de replicació en quatre de cinc proves, assolint set nodes en la prova restant.
Anthropic warns of self-replicating AI worm threat that doesn't need data centers to self-improve and spread — current deployment is impractical but could become a worry as tech improves
La empresa Anthropic ha lanzado una advertencia sobre una potencial amenaza en el horizonte tecnológico: un gusano de inteligencia artificial (IA) autorreplicante que no necesitaría centros de datos para mejorar y expandirse. Aunque actualmente su implementación práctica es limitada, las mejoras tecnológicas podrían convertirlo en una preocupación real.
El equipo Frontier Red de Anthropic ha demostrado dos componentes de un posible gusano impulsado por IA que, si se resuelven problemas clave de implementación, podría propagarse a través de dispositivos de consumo, incluyendo cajas de TV Android económicas y electrodomésticos inteligentes, sin depender de la infraestructura de los centros de datos. Los experimentos muestran que los agentes de IA pueden configurar inferencias en diferentes plataformas de hardware y orquestar la replicación a través de una red.
En su informe del 12 de octubre, titulado «Los modelos de IA pueden ser capaces de autorreplicarse sin acceso a un centro de datos», Anthropic examina una clase potencial de malware llamado replicador basado en pesos. En lugar de distribuir código ejecutable convencional, propagaría los pesos de los modelos de IA junto con la infraestructura de software necesaria para ejecutar inferencias en dispositivos comprometidos.
Los investigadores demostraron que el modelo Qwen3.5-9B puede establecer un servidor de inferencia en ocho de los nueve tipos de hardware probados, que incluyen dispositivos NVIDIA Jetson Nano, Macs con Apple Silicon, servidores Xeon, una TPU de Google, el MI300X de AMD y al menos un PC con una RTX 4090, entre otros. También ejecutaron Gemma4-26B-A4B en 15 cajas de TV Android de marca blanca, logrando una tasa de generación combinada de 0.39 tokens por segundo.
Además, Anthropic probó si un modelo podría orquestar la replicación a través de una red. El experimento utilizó ocho nodos de Google Cloud ejecutando emuladores de Android 15. Un agente sembrado se propagó entre nodos a través de un puerto ADB (Android Debug Bridge) no autenticado, transfiriendo archivos y estableciendo un servidor de inferencia en cada objetivo. El modelo GLM-5.2, con 744 mil millones de parámetros y más de 1TB de tamaño, completó la secuencia de replicación en cuatro de cinco pruebas, alcanzando siete nodos en la prueba restante.
Anthropic warns of self-replicating AI worm threat that doesn't need data centers to self-improve and spread — current deployment is impractical but could become a worry as tech improves
The company Anthropic has issued a warning about a potential threat on the technological horizon: a self-replicating artificial intelligence (AI) worm that would not need data centres to improve and spread. Although its practical implementation is currently limited, technological improvements could turn it into a real concern.
Anthropic's Frontier Red team has demonstrated two components of a potential AI-driven worm that, if key implementation issues are resolved, could spread through consumer devices, including low-cost Android TV boxes and smart appliances, without relying on data centre infrastructure. Experiments show that AI agents can set up inferences on different hardware platforms and orchestrate replication across a network.
In its report dated 12 October, titled "AI models may be able to self-replicate without access to a data centre," Anthropic examines a potential class of malware called weight-based replicator. Instead of distributing conventional executable code, it would propagate the weights of AI models along with the necessary software infrastructure to run inferences on compromised devices.
Researchers demonstrated that the Qwen3.5-9B model can set up an inference server on eight of the nine types of hardware tested, which include NVIDIA Jetson Nano devices, Macs with Apple Silicon, Xeon servers, a Google TPU, AMD's MI300X, and at least one PC with an RTX 4090, among others. They also ran Gemma4-26B-A4B on 15 white-label Android TV boxes, achieving a combined generation rate of 0.39 tokens per second.
Additionally, Anthropic tested whether a model could orchestrate replication across a network. The experiment used eight Google Cloud nodes running Android 15 emulators. A seeded agent spread among nodes via an unauthenticated ADB (Android Debug Bridge) port, transferring files and setting up an inference server on each target. The GLM-5.2 model, with 744 billion parameters and over 1TB in size, completed the replication sequence in four out of five tests, reaching seven nodes in the remaining test.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →