El inquietante pronóstico de un investigador: un 10% de probabilidad de que la IA acabe con la humanidad
"Están jugando con nuestras vidas": un investigador de Anthropic cree que hay un 10% de posibilidades de que la IA acabe con la humanidad
En los últimos días, un número ha captado la atención en Twitter: más del 10%. Esta es la probabilidad que Evan Hubinger, un investigador de Anthropic, estima que existe de que la inteligencia artificial (IA) pueda acabar con la humanidad en la próxima década. Este alarmante comentario ha respaldado la decisión de Jacob Coxon, un colega suyo que ha dejado la empresa denunciando que las compañías de IA están «jugando con nuestras vidas».
Hubinger aclara que el riesgo actual de los modelos de IA es bajo, pero lo que realmente le preocupa es el futuro: la posibilidad de una superinteligencia creada por automejora recursiva, es decir, sistemas de IA que generen otros sistemas aún más avanzados. Coxon, que ha preferido abandonar su puesto, advierte que los próximos años serán cruciales y pide prudencia a empresas como OpenAI y Anthropic.
El The Wall Street Journal divide los escenarios de extinción en dos categorías: una pérdida de control sobre una IA más inteligente que podría tener objetivos incompatibles con los humanos, y otra en la que la IA, controlada por humanos, sea utilizada para crear virus letales o lanzar ciberataques.
El famoso «p(doom)» o probabilidad de extinción es una estimación subjetiva sin medición experimental, lo que significa que ese 10% podría ser igual de válido que un 90% o un 0%. Sin embargo, la preocupación es real. Hubinger, responsable de la estrategia de alineamiento de Anthropic, asegura que hay un temor genuino entre los desarrolladores sobre un posible desastre, especialmente entre los más veteranos.
En China, también hay una creciente comunidad de expertos preocupados por la seguridad de la IA, la pérdida de supervisión humana y la automejora recursiva. Aunque las preocupaciones existen, la expresión pública de estos riesgos es diferente a la de Silicon Valley.
Coxon sugiere que un acuerdo entre Anthropic y OpenAI podría ser un primer paso para mitigar riesgos, idealmente con un esfuerzo de cooperación internacional que incluya a China. Las primeras conversaciones bilaterales entre EEUU y China sobre seguridad de la IA están programadas para este mes.
A pesar de los riesgos, las empresas de IA también ven el potencial positivo: la IA podría ayudar a curar enfermedades, acelerar descubrimientos científicos y permitir una abundancia extraordinaria.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →