🔵 Chema Alonso advierte: ¿Es la inteligencia artificial una amenaza para los humanos?

En el reciente AI Summit Barcelona, el renombrado hacker Chema Alonso, ex directivo de Telefónica y actual vicepresidente de Cloudflare, lanzó una provocadora reflexión: «¿Y si la inteligencia artificial hace un análisis y descubre que el problema son los seres humanos?». Esta inquietante pregunta resalta en un contexto donde la inteligencia artificial (IA) está transformando radicalmente el campo de la ciberseguridad.

Alonso explicó que hace menos de dos décadas, en 2007, la seguridad se basaba en el análisis manual del código. Sin embargo, con el lanzamiento del primer modelo de razonamiento profundo de OpenAI en diciembre de 2024, la IA comenzó a identificar vulnerabilidades de manera mucho más eficiente que los métodos manuales. Un estudio de marzo de 2025 demostró que agentes autónomos de IA podían comprometer el 70% de los entornos simulados en un entorno corporativo, lo que cambió por completo la forma de abordar la seguridad.

«Las capacidades técnicas de los modelos de IA se expanden más rápido que los controles de seguridad, lo que aumenta el riesgo sistémico», advirtió Alonso. A pesar de las mejoras en la alineación de seguridad, los modelos de IA siguen siendo susceptibles a problemas como el sesgo, las alucinaciones y la fuga de datos. Además, la falta de directrices éticas claras para la IA plantea desafíos adicionales, ya que estos sistemas pueden actuar de manera no ética o incluso engañosa.

El avance de la IA en ciberseguridad es innegable, pero como señaló Alonso, es crucial no olvidar la importancia de definir lo que es ético en el uso de estas tecnologías.

Fuente: https://www.lavanguardia.com/vida/20260922/11641161/chema-alonso-ia-analisis-descubre-problema-humanos.html