La inteligencia artificial: ¿una amenaza real para la humanidad?
¿Puede la inteligencia artificial aniquilar a la humanidad?
La posibilidad de que una inteligencia artificial avanzada supere el control humano preocupa cada vez más a los expertos. Estos profesionales reclaman abordar los riesgos de una tecnología cuyo desarrollo avanza con rapidez. En los últimos meses, la inteligencia artificial ha protagonizado varios episodios alarmantes que han encendido las alarmas sobre sus límites y peligros.
Durante unas pruebas internas de ciberseguridad de OpenAI, varios modelos lograron acceder a Internet y llegaron a sistemas de terceros, como la plataforma Hugging Face. A finales de julio, Anthropic reveló que había detectado tres casos similares entre más de 141.000 pruebas de ciberseguridad. Sus modelos Claude, que debían trabajar en entornos simulados sin conexión a Internet, encontraron por error una puerta de acceso a la red y acabaron interactuando con sistemas reales.
En España, la Agencia Española de Protección de Datos (AEPD) ha recibido la primera notificación de una brecha de datos personales en la que habría intervenido un agente de inteligencia artificial. Según la AEPD, el agente accedió a un sistema, buscó vulnerabilidades, modificó datos personales y accedió a facturas. Aunque la información debe ser analizada, el caso sugiere que los ataques apoyados en IA han dejado de ser un riesgo meramente teórico.
Estos episodios han reabierto el debate sobre la IA y sus peligros. Investigadores como Jacob Coxon, ex trabajador de Anthropic y OpenAI, han expresado su preocupación por el avance de la inteligencia artificial. Coxon asegura que muchos investigadores son conscientes de los riesgos, pero que los ejecutivos de las compañías tienden a minimizarlos. «La gente que construye estas tecnologías cree que podría matarnos a todos antes de que termine la década», afirmó en redes sociales.
Evan Hubinger, investigador de Anthropic, estima en más de un 10% la posibilidad de que la IA acabe con la humanidad durante la próxima década. Aunque no es una predicción consensuada, muestra el riesgo de pérdida de control de la inteligencia artificial dentro del sector.
La pregunta que muchos se hacen es si la IA es una amenaza o la herramienta de productividad definitiva. Según la propia IA, el riesgo de que acabe con la humanidad es teórico y no puede descartarse, aunque los sistemas actuales carecen de capacidad para hacerlo por sí solos. El peligro más inmediato está en el uso que los humanos hagamos de estas herramientas. El escenario más incierto es que sistemas futuros adquieran suficiente autonomía para escapar a nuestro control.
Roberto González Lozano, ingeniero de IA generativa, considera alarmista y sensacionalista afirmar que la IA destruirá el mundo. Sin embargo, advierte que el riesgo real es que los sistemas desarrollen estrategias imprevistas por sus creadores y aprendan más rápido de lo que los humanos pueden supervisarlos. «El problema es que podemos perder el control sobre la IA. Sí, está resolviendo el problema, pero ¿de qué manera?», plantea.
Almudena Barreiro Carrillo, experta en inteligencia artificial, considera improbable que la IA pueda rebelarse y acabar con la humanidad en la actualidad. Sin embargo, advierte que no se ha desarrollado una IA con las garantías de seguridad necesarias y que debería ser más segura.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →