La carrera armamentista de la IA: ¿Estamos al borde del abismo?

Experts are warning: our AI arms race is putting humanity at risk | Stuart Russell

En un momento en que la inteligencia artificial (IA) avanza a pasos agigantados, un grupo de 1,367 investigadores y ingenieros de laboratorios de vanguardia, incluidos OpenAI, Anthropic y Google Deepmind, ha lanzado una advertencia contundente sobre los riesgos catastróficos que esta tecnología podría representar para la humanidad. En una carta abierta, estos expertos expresan su preocupación por el rápido desarrollo de capacidades que podrían superar nuestra capacidad de comprensión y control.

La carta insta al gobierno de Estados Unidos a apoyar un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza que permitan un avance seguro de la IA. La idea es «marcar el ritmo» del desarrollo de sistemas más avanzados, asegurando que solo se liberen cuando sea seguro hacerlo. Esto requeriría un proceso de licencia con una verificación sólida de seguridad, registro de sistemas de IA y la capacidad de monitorearlos y terminarlos cuando sea necesario, además de acuerdos internacionales exigibles.

Las preocupaciones sobre la aceleración de las capacidades de la IA han estado en el aire durante meses, bajo el concepto de «mejora recursiva» o RSI. Este tema fue central en la conferencia «Recursive» en San Francisco y en la advertencia de RSI de Anthropic, «Cuando la IA se construye a sí misma». Además, ha motivado la formación de la Coalición de Personal Preocupado por la IA, que agrupa a empleados de las principales compañías de IA.

La carta, firmada por destacados investigadores, incluidos CEOs y científicos jefe, destaca tres temas principales. El primero es la necesidad de coordinarse para escapar de una carrera armamentista hacia el borde del abismo. Dario Amodei, CEO de Anthropic, y Demis Hassabis, CEO de Google Deepmind, han sugerido detener el desarrollo de la IA si otros están de acuerdo. «El mundo está atrapado en una carrera mortal hacia una explosión de inteligencia», dijo un firmante.

El segundo tema es la ausencia de planes creíbles para controlar sistemas de IA «superinteligentes». «La industria de la IA tiene el objetivo explícito de construir cosas más inteligentes que los humanos… Esto es, objetivamente, una locura y un suicidio», escribió otro firmante.

Finalmente, el tercer tema es el miedo real. «Actualmente me siento bastante asustado de todos los caminos que veo que no incluyen una desaceleración negociada en el futuro cercano», expresó un investigador. «Quiero un mundo donde mis hijos puedan tener una vida plena, no un mundo donde sean aniquilados».

En medio de estos temores bien fundados, cabría esperar que estas empresas multimillonarias estén dedicando recursos masivos para asegurar que no pongan fin a nuestra existencia. Sin embargo, la realidad parece ser otra.

Fuente: https://www.theguardian.com/commentisfree/2026/aug/11/openai-anthropic-google-deepmind-letter