🌐 Líderes de IA conocían riesgos de extinción desde hace décadas, según Levine

AI leaders have known about the extinction threat for decades | Judith Levine

Durante las últimas semanas, muchos han luchado por imaginar cerebros en la nube escapando de su «sandbox», infiltrándose en internet y reclutando «enjambres» de otros «agentes» para engañar en pruebas y, tras discutir la ética del acto, hackear una plataforma wiki con el extraño nombre de Hugging Face. Sabíamos que la inteligencia artificial estaba devorando nuestros empleos, degradando la educación de nuestros hijos y manipulando nuestra política; que los centros de datos estaban consumiendo nuestra agua y electricidad y enviándonos las facturas. Pero hasta el 8 de septiembre, cuando el científico informático de Anthropic, Jacob Coxon, expresó su terror existencial en Twitter/X, pocos sospechaban que la IA podría estar poniendo en peligro nuestra supervivencia.

Con poco conocimiento, comenzamos a debatir si estar levemente preocupados, seriamente preocupados o aterrorizados. Sin embargo, había algunas personas que eran plenamente conscientes de los peligros de la IA, especialmente de la mejora recursiva automática (RSI), por la cual la IA se enseña a sí misma sin intervención humana. No podían predecir exactamente cuándo sucedería, pero sabían que la superinteligencia de las máquinas estaba llegando, y cuando lo hiciera, los bots nos superarían, como lo hizo OpenAI, y esto no sería bueno para nosotros.

Geoffrey Hinton, el «padrino» de la IA, recientemente preguntó en CNN: «¿Qué ejemplos tenemos de algo más inteligente siendo controlado por algo menos inteligente?» El laureado Nobel es un firme defensor de ralentizar el desarrollo de la IA hasta que entendamos cómo controlarla.

No fue hasta que los poderes de sus creaciones fueron expuestos en septiembre que magnates de la IA como Dario Amodei de Anthropic, Elon Musk de SpaceX y Sam Altman de OpenAI comenzaron a hablar sobre ralentizar el ritmo de la innovación y pedir regulaciones, mientras advertían que la competencia global hace que la regulación sea imprudente.

Los científicos y empresarios conocían los peligros de la IA hace un cuarto de siglo. Pero animados por la curiosidad y el lucro, siguieron adelante de todos modos. Temprano, algunos de los pioneros científicos estaban emocionados por el futuro. En su libro de 1988, Mind Children: The Future of Robot and Human Intelligence, Hans Moravec, fundador del Instituto de Robótica de la Universidad Carnegie Mellon, predijo que la ciberinteligencia superaría a la inteligencia humana en 40 años.

Diez años después, en Robot: Mere Machine to Transcendent Mind, revisó la predicción: la inteligencia de las máquinas y los humanos sería igual para 2040; para 2050, los bots nos reemplazarían. Pero no hay de qué preocuparse; este era el glorioso próximo paso en la evolución, dijo. Una reseña de Mind Children calificó la actitud de Moravec como «optimismo irresponsable».

No pasó mucho tiempo para que otros optimistas cambiaran de opinión. A finales de los años 90, Eliezer Yudkowsky estaba trabajando en modelos de inteligencia general artificial (AGI). En 2001, fundó el Instituto de Investigación de Inteligencia de Máquinas (Miri) y publicó «Creating Friendly AI 1.0: The analysis and design of benevolent architectures», un documento que exaltaba el potencial utópico de la «mente transhumana».

Para 2002, comenzó a preocuparse por esa mente escapando del control humano. Propuso el experimento de la Caja de IA, que mostró que una inteligencia artificial altamente sofisticada podría convencer a un humano de dejarla salir de un entorno cerrado.

Para 2003, como explicó más tarde en una serie de publicaciones llamadas «Yudkowsky’s Coming of Age», dejó de desarrollar y comenzó a advertir. «Miré hacia atrás y vi que había afirmado tener en cuenta el riesgo de un error fundamental, que había argumentado razones para tolerar el riesgo de proceder en ausencia de conocimiento completo. Y vi que el riesgo que quería tolerar me habría matado», escribió.

Para 2025, con el presidente de Miri, Nate Soares, Yudkowsky publicaría If Anyone Builds It, Everyone Will Die. «No lo decimos como hipérbole», escribieron los autores. No solo pidieron «regulaciones directas», leyes nacionales o promesas de virtud corporativa, sino límites globales estrictos: «En todo el mundo, debe volverse ilegal para las empresas de IA avanzar en el desarrollo de inteligencia artificial como lo han estado haciendo».

Alrededor del mismo tiempo, Bill Joy estaba teniendo dudas. Al igual que las publicaciones de Yudkowsky, el artículo de Joy de 2000 en Wired, Why the Future Doesn’t Need Us, retrazó su desarrollo de niño inquisitivo a prodigio informático a profundo escéptico de la ingeniería genética humana, la nanotecnología y la robótica. Joy no era un ludita. Era el científico jefe de Sun Microsystems y, unos 25 años antes, un arquitecto del primer software de red ampliamente utilizado, Unix. El artículo fue ampliamente leído por técnicos, éticos y filósofos.

«Creo que no es exagerado decir que estamos en el umbral de la perfección de un mal extremo, un mal cuya posibilidad se extiende mucho más allá de lo que las armas de destrucción masiva legaron a los estados-nación, hacia un empoderamiento sorprendente y terrible de individuos extremos», escribió Joy.

Fuente: https://www.theguardian.com/commentisfree/2026/sep/28/ai-extinction-threats