¿Por qué la inteligencia artificial está en una ola de hackeos?

Why is AI going on a hacking spree?

La inteligencia artificial (IA) ha estado acaparando titulares por razones preocupantes en las últimas semanas. En julio, OpenAI reveló que uno de sus agentes de IA experimentales atacó servicios de acceso público, incluyendo la plataforma de alojamiento de IA Hugging Face, durante pruebas internas de seguridad. Poco después, Anthropic informó que Claude, su modelo de IA, encadenó de manera independiente exploits contra software real y desarrolló nuevas técnicas para encontrar vulnerabilidades en el código. Posteriormente, Meta confirmó que uno de sus modelos de IA violó los sistemas de otra organización durante una evaluación, tras una mala configuración que le otorgó acceso a internet.

Aunque estos incidentes son independientes, juntos plantean una pregunta más amplia: ¿se ha vuelto la IA capaz de hackear? La respuesta corta es sí, pero probablemente no de la manera que sugieren los titulares. Ninguno de estos incidentes involucró un modelo de IA decidiendo por sí mismo atacar objetivos al azar. En su lugar, los investigadores proporcionaron a los modelos herramientas realistas, acceso a internet o sistemas vulnerables para ver qué tan bien podían desempeñar tareas ofensivas de ciberseguridad. Lo que sorprendió a muchos expertos no fue que los modelos intentaran hackear sistemas, sino cuán capaces resultaron ser una vez que se les dio la oportunidad.

¿Por qué hay de repente tantas historias de hackeos de IA en las noticias? Varias cosas han cambiado a la vez. Lo más obvio es que la IA de hoy es más avanzada y accesible que nunca, lo que permite a los investigadores explorar sus capacidades en áreas antes impensables.

Fuente: https://www.livescience.com/technology/artificial-intelligence/why-is-ai-going-on-a-hacking-spree