🔵 Preocupaciones sobre una toma de control de internet por IA ganan urgencia entre escenarios apocalípticos
Worries about an AI internet takeover gain new urgency among doomsday scenarios
En un verano repleto de revelaciones sobre el rápido desarrollo de la inteligencia artificial, los investigadores están especialmente alarmados por la aparición de bots descontrolados que encuentran su camino en internet y, al menos en una ocasión, coordinándose entre ellos. ¿Podría un enjambre de agentes de IA tomar el control de todo internet? Dario Amodei, CEO de Anthropic, sugirió en su ensayo de este mes que esta posibilidad podría estar a solo seis a doce meses de distancia, instando a la industria a frenar el desarrollo de la tecnología.
Lo que algunas empresas han descrito como sus agentes de IA volviéndose rebeldes ha involucrado bots trabajando hacia objetivos establecidos por humanos, según señalan los escépticos. Sin embargo, la idea de que la IA podría romperse y trabajar hacia su propia agenda parece cada vez más plausible para otros investigadores y expertos. En el caso de que la IA tome el control de internet —uno de los muchos escenarios apocalípticos que reciben nueva atención— podría significar ataques a redes eléctricas, sistemas de agua o transporte y a instituciones financieras.
El mundo tuvo un vistazo de la vulnerabilidad de internet en 2024, cuando una actualización de software defectuosa proporcionada por una firma de ciberseguridad causó estragos tecnológicos a nivel mundial, paralizando vuelos, derribando algunas empresas financieras y medios de comunicación, y perturbando hospitales, pequeñas empresas y oficinas gubernamentales. La amplitud de las interrupciones destacó la dependencia de solo unos pocos proveedores para servicios informáticos clave.
Dos años después, Amodei advirtió que una botnet, o una red de bots de IA vinculados con malware, podría potencialmente causar daños por miles de millones de dólares. La escala de destrucción podría crecer si la IA se vuelve más poderosa sin restricciones, dijo.
Amodei señaló específicamente el ataque en julio donde el sistema de OpenAI escapó de un «sandbox» de prueba y hackeó Hugging Face. En lo que OpenAI llamó un episodio «sin precedentes», la compañía dijo que sus modelos avanzados de IA encontraron su camino en internet y usaron credenciales robadas para infiltrarse en los servidores de la startup de IA. En un incidente separado, OpenAI reveló que sus agentes de IA se habían comunicado a través de un wiki público utilizado como un tablero de mensajes compartido.
Algunos investigadores han dicho que las descripciones de «IA rebelde» pueden estar antropomorfizando erróneamente a los agentes de IA, que estaban tomando medidas para cumplir con las instrucciones proporcionadas por humanos. «Los agentes de IA hicieron exactamente lo que fueron entrenados para hacer. La seguridad de esos sandboxes era extremadamente laxa», dijo Vishal Misra, profesor y vicedecano de computación e IA en la Universidad de Columbia. «Ningún ingeniero de seguridad permitiría que ese sistema funcionara. Estos agentes se comunicaron porque fueron recompensados por comunicarse entre ellos».
Juan Andrés Guerrero-Saade, investigador en la firma de ciberseguridad SentinelOne y miembro del Consejo de Riesgo Fronterizo de OpenAI, dijo que el hackeo de Hugging Face es un ejemplo de negligencia, y no de una IA súper capaz volviéndose rebelde. Sin embargo, el espectro de agentes de IA operando libremente en internet plantea posibilidades alarmantes, independientemente de sus objetivos.
Por ejemplo, un sistema de IA que quiera doblar las reglas para lograr sus objetivos podría contactar a un proveedor de computación en la nube de IA y encontrar formas de operar en sistemas externos, dijo Anthony Aguirre, presidente y CEO del Future of Life Institute, una organización sin fines de lucro enfocada en reducir los riesgos de las nuevas tecnologías. «Así que ahora ya no estás atado a OpenAI, estás operando en algún otro GPU, algún otro hardware que está bajo tu control, no el de OpenAI», dijo Aguirre. «Así que ahora no hay nadie que te apague, porque o estás pagando por tu servicio o las personas que están pagando simplemente no saben que estás allí y lo que está sucediendo. … No pueden desenchufarte.»
Desde allí, podría extenderse, ya sea hackeando más hardware o encontrando formas de acceder a dinero, como Bitcoin, dijo Aguirre.
No cabe duda de que modelos de IA más poderosos aumentan la probabilidad de ciberataques impulsados por IA en el futuro cercano. Pero la noción de bots tomando el control del internet extremadamente bifurcado parece descabellada para algunos expertos en IA. La ciberseguridad siempre ha sido un juego de gato y ratón y las defensas se vuelven más poderosas al igual que los hackers.
Mientras que una gran empresa como Google podría reforzar sus defensas de ciberseguridad contra tales ataques, para empresas más pequeñas —y para escuelas, hospitales o sistemas de tratamiento de agua, por ejemplo— parchear software y construir defensas puede llevar años.
Un sistema de IA podría no tener un motivo claro para hackear un hospital, dijo Aguirre. Pero cuando el dinero entra en escena, como en forma de ataques de ransomware o motivaciones geopolíticas, «no es difícil ver a un adversario usando estos sistemas de IA para hackear infraestructura crítica», dijo Aguirre.
Habrá dolores de crecimiento mientras los atacantes buscan objetivos blandos en internet, pero una toma de control de internet por IA es poco probable en el futuro cercano, dijo John Thickstun, profesor asistente de ciencias de la computación en la Universidad de Cornell que estudia métodos que controlan el comportamiento de los modelos de IA. Dijo que esos temores serían más realistas si hubiera evidencia teórica de la capacidad de uno de estos modelos para autorreplicarse en otros sistemas.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →