🌐 Anthropic alerta sobre los riesgos de los ‘gusanos de IA’ autorreplicantes

What are self-replicating ‘AI worms’, and why is Anthropic worried about them?

Los avisos sobre lo que la inteligencia artificial podría hacer en el futuro, junto con informes alarmantes de lo que ya ha logrado, se emiten tan rápidamente que incluso los expertos en seguridad tienen dificultades para priorizar sus preocupaciones. Sin embargo, un informe reciente del equipo de investigación ofensiva de Anthropic ha captado la atención al describir una nueva amenaza práctica, desprovista de características humanas o especulaciones apocalípticas. El equipo, conocido como red team, afirmó haber creado un programa de IA malicioso que se propaga de manera autónoma a través de televisores inteligentes conectados a internet y que podría hacer lo mismo en otros dispositivos ordinarios.

Mientras que las máquinas que ejecutan IA suelen necesitar una cantidad considerable de potencia de cálculo, los investigadores señalaron que su programa dividía partes de sí mismo entre 15 televisores y aún podía funcionar utilizando un poco de energía de cada uno. Esta capacidad evoca los horrocruxes que mantenían partes del alma de Lord Voldemort vivas dentro de objetos en la serie de Harry Potter, y ha alarmado a algunos profesionales debido a la seguridad generalmente débil de los televisores inteligentes y muchos otros dispositivos del «internet de las cosas», que sería muy difícil de corregir incluso con un esfuerzo concertado.

El daño de estos «gusanos de IA» podría ser asombrosamente grande. Los virus informáticos autorreplicantes, que no necesitan engañar a un humano para propagarse, se conocen como gusanos, y gusanos anteriores han causado algunos de los peores estragos en la historia de internet. La herencia de estos gusanos incluye el gusano Morris de 1988, que llegó antes de que internet fuera de uso común, cuando un estudiante de posgrado lanzó un programa que aprovechaba varias fallas de software y contraseñas débiles, copiándose tan rápidamente que muchas máquinas infectadas se ralentizaron hasta detenerse.

Muchos de los gusanos más destructivos del mundo han dependido de vulnerabilidades conocidas que los propietarios de dispositivos no han parcheado, a veces meses después de que los parches estuvieran disponibles. El equipo de Anthropic predijo que un gusano como el suyo podría funcionar de la misma manera y sería más difícil de detener, ya que los dispositivos inteligentes reciben parches con menos frecuencia que los teléfonos o portátiles. Peor aún, teorizaron que un gusano de IA podría seguir adaptándose a otros tipos de hardware investigando vulnerabilidades recién divulgadas.

Lo que diferencia a los gusanos de IA de los virus reproductores típicos es que los modelos de IA pueden aprender sobre la marcha, dijo Ariel Herbert-Voss, un experto en seguridad temprana en OpenAI que ahora dirige la startup de seguridad de IA RunSybil. La infraestructura de ciberseguridad existente no está preparada para la proliferación de tales amenazas, dijo Herbert-Voss. «Necesitamos habilitar mejor a nuestros equipos de seguridad. Debemos proporcionarles más recursos para solucionar problemas».

Los gusanos también podrían usarse para fines benévolos, sugirió Chris Inglis, ex subdirector de la Agencia de Seguridad Nacional que sirvió como Director Nacional de Ciberseguridad en la Casa Blanca de Biden. «La cuestión de si los gusanos de IA son plausibles ha sido resuelta por varios eventos destacados en los últimos seis meses», dijo Inglis por mensaje digital. «La mejor pregunta es cómo los emplearemos, los contrarrestaremos y/o los combinaremos con otras tecnologías emergentes».

Los investigadores de Anthropic dijeron que un gusano de IA exitoso necesitaría tener más capacidad en dispositivos menos potentes de lo que es posible ahora, pero agregaron que las tendencias actuales harán que eso sea factible para fin de año. Su investigación sigue a un artículo publicado por expertos de la Universidad de Toronto hace unos meses, que infectó una computadora de tamaño completo y podría propagarse a máquinas similares más rápidamente que el gusano de televisión.

Guan y otros expertos dijeron que, en términos prácticos, un gusano de IA no debería encabezar la lista de miedos de nadie sobre la IA. La versión de Anthropic se mueve muy lentamente, dijo Guan, y los gusanos tienen acciones predecibles y detectables que pueden ser bloqueadas en múltiples capas. La higiene básica de seguridad, incluida la exigencia de contraseñas fuertes y la autenticación de dos factores, detendría la mayoría de los gusanos y otros ataques, dijeron los expertos.

«Nada de esto es realmente factible o impactante», dijo Juan Andres Guerrero-Saade, vicepresidente de investigación en la firma de seguridad SentinelOne. «Es un truco de piratería ingenioso que está recibiendo mucha más amplificación en los servicios de noticias de lo que merece».

Fuente: https://www.theguardian.com/technology/2026/oct/18/anthropic-ai-worm-worries