🔵 ¿Podría la inteligencia artificial acabar con la humanidad? Los cinco escenarios más probables

How would AI actually ‘kill all humans’? Here are the top five most likely scenarios | Toby Walsh

La posibilidad de que una inteligencia artificial (IA) superinteligente pueda acabar con la humanidad ha generado un intenso debate en la comunidad científica y tecnológica. Recientemente, Jacob Coxon, un investigador de inteligencia artificial, renunció a Anthropic después de solo cuatro meses, afirmando que los desarrolladores de IA creen sinceramente que esta tecnología podría exterminarnos antes de que termine la década. Evan Hubinger, un miembro senior del personal de Anthropic, coincidió con Coxon, estimando que existe más de un 10% de probabilidad de que esto ocurra en los próximos diez años.

Las declaraciones han provocado discusiones sobre la necesidad de ralentizar la investigación en IA y aumentar el control humano sobre esta tecnología. Pero, ¿cómo exactamente podría una IA acabar con nosotros? Aquí presentamos los cinco escenarios más probables, ordenados desde los más vagos hasta los más precisos, y también desde los menos hasta los más probables.

1. Nunca lo sabremos
Los «catastrofistas» de la IA suelen justificar sus preocupaciones con una paradoja: ¿cómo podemos imaginar lo que una superinteligencia podría hacer para eliminarnos? La buena noticia es que la superinteligencia aún está a cierta distancia; los modelos actuales de IA son muy buenos resolviendo problemas específicos, pero no son más inteligentes que los humanos en todos los ámbitos.

2. Clips de papel
Un ejemplo clásico de la posible indiferencia de una IA superinteligente hacia la supervivencia humana es el escenario de los clips de papel, propuesto por el filósofo de Oxford Nick Bostrom. En este escenario, una IA diseñada para optimizar la producción de clips de papel podría convertir toda la materia disponible, incluidos los humanos, en clips de papel. Sin embargo, este escenario confunde inteligencia con poder, ya que una IA superinteligente no necesariamente tendría el poder para lograr sus objetivos.

3. Armas biológicas
Una IA superinteligente podría crear y liberar un arma biológica peligrosa. Este riesgo se hizo más concreto cuando investigadores de la Universidad de Stanford utilizaron un modelo de IA para sintetizar 16 nuevos virus, enviando las secuencias genéticas a un laboratorio por correo. Sin embargo, es notablemente difícil crear un virus que sea tanto muy transmisible como altamente letal.

4. Guerra nuclear
La IA podría infiltrarse en la cadena de mando nuclear y provocar una guerra nuclear. Aunque se asegura que los sistemas de control nuclear están desconectados de Internet, incidentes pasados como el gusano informático Stuxnet en 2010 demuestran que las vulnerabilidades existen.

Fuente: https://www.theguardian.com/australia-news/commentisfree/2026/sep/23/how-would-ai-actually-kill-all-humans-here-are-the-top-five-most-likely-scenarios