Alarma Apocalíptica: La IA y su Potencial Amenaza Global

Alarma apocalíptica en la IA

Nadie podrá decir que no estábamos avisados. El Reino Unido acaba de anunciar que su economía crece a un ritmo muy superior al previsto gracias al impulso de la inteligencia artificial. También Estados Unidos, incluso el crecimiento mundial se apoya en el desarrollo de la nueva tecnología, que ha llevado las bolsas a máximos pese a las sucesivas crisis geopolíticas. La carrera de la IA preside nuestros días, ante el miedo a quedarse atrás o directamente fuera. Las alertas lanzadas esta semana desde Anthropic, no obstante, han puesto en primer plano algo mucho más preocupante en la escala del miedo: ¿la IA puede acabar con la humanidad?

Mientras Anthropic alerta de los riesgos de la tecnología, las grandes potencias se pronuncian contra su regulación. Es el apocalíptico mensaje lanzado esta semana por Jacob Coxon, un investigador de Anthropic de 27 años que ha decidido dejar la compañía a lo grande: «mis ex jefes y los de OpenAI están enfrascados en una carrera por liderar una tecnología que puede acabar con todos nosotros sobre el 2030». Podría parecer el mensaje de revancha de un empleado despechado, pero solo minutos después Evan Hubinger, responsable en la misma empresa del control de estos sistemas, confirmaba que “creemos seriamente que la IA podría matar a toda la humanidad”. Este jueves, Anthropic remachaba el clavo con un informe sobre el mal uso de la IA que documenta casos en los que se han superado todos los controles existentes para utilizar sus modelos en el posible desarrollo de armas biológicas.

El líder de Anthropic, Dario Amodei, pero también otras muchas voces desde empresas destacadas de la IA llevan tiempo alertando de los riesgos y de la necesidad de una acción gubernamental global coordinada para regular los límites de esta tecnología. El dramatismo de las últimas llamadas de atención pueden acabar despertando conciencias, aunque de momento estamos muy lejos. La semana pasada, el responsable científico de OpenAI, Jakub Pachocki, admitía que los modelos de IA evolucionan tan rápido que es cada vez más difícil mantenerlos bajo control. Una prueba de ello llegó en julio, cuando agentes creados por la IA de su compañía se saltaron todos los controles y lanzaron por su cuenta, sin instrucciones humanas, un ataque coordinado sobre la compañía tecnológica Hugging Face.

En la reunión del G-20 celebrada la semana pasada, la Administración Trump presionó para aprobar un acuerdo internacional sobre la materia, pero precisamente en contra de una regulación. La declaración evita muy significativamente utilizar el término IA y en ella las mayores economías del mundo apoyan al que en la industria se conoce como el campo “aceleracionista”. El documento pone énfasis en una serie de medidas para minimizar la carga regulatoria. Aunque habla de un desarrollo “responsable”, el verbo “acelerar” se repite 1.200 veces en el texto, que defiende el impacto positivo de estas tecnologías y no menciona ninguno de los posibles riesgos.

Por contra, el gobernador del Banco de Inglaterra y actual presidente del Consejo Financiero de Estabilidad, Andrew Bailey, presentó ante el G-20 una carta de advertencia en la que mostraba su preocupación sobre los riesgos para la ciberseguridad y la estabilidad del sistema financiero. “Muchos países no tienen protocolos en marcha para gestionar el lanzamiento y desarrollo de modelos avanzados de IA, lo que agrava los riesgos para el sistema financiero”, subrayó. Preocupante, sin duda, aunque sus advertencias palidecen ahora ante lo que llega desde la propia industria.

Fuente: https://www.lavanguardia.com/economia/20260912/11632879/alarma-apocaliptica-ia.html