🌐 Escenarios Apocalípticos de la IA: ¿Realidad o Ciencia Ficción?
A look at AI doomsday scenarios that researchers say could put humanity at risk
Durante años, los investigadores de inteligencia artificial han advertido sobre las formas en que esta tecnología podría acabar con la humanidad. Entre los escenarios más discutidos se encuentran la creación de una enfermedad imparable, el desencadenamiento de una guerra nuclear o la transformación de la Tierra en fábricas de clips, como lo plantea un experimento mental.
Los debates dentro de la industria de la IA y más allá sobre la plausibilidad de estos escenarios apocalípticos se han intensificado desde que varios ejecutivos apoyaron la idea de ralentizar el desarrollo de la tecnología por razones de seguridad. A pesar de las advertencias sobre la posibilidad de que los humanos pierdan el control sobre la tecnología, algunos sospechan que los escenarios más catastróficos descritos por las propias empresas de IA tienen más que ver con validar la importancia de su trabajo que con la realidad.
Juan Andrés Guerrero-Saade, investigador en la firma de ciberseguridad SentinelOne y miembro del Consejo de Riesgos Fronterizos de OpenAI, comentó: “Estos argumentos realmente no tienen fundamento. Creo que son ciencia ficción y son atractivos para un cierto estilo de pensamiento infantil, y es muy tentador para los laboratorios de vanguardia porque les ayuda a reclutar cierto tipo de personas”.
Aun así, más personas comienzan a preocuparse por los riesgos de la tecnología que ha deslumbrado al mundo con sus asombrosas capacidades. Jacob Coxon, investigador de Anthropic que renunció a la empresa por preocupaciones sobre el desarrollo responsable de la IA, expresó recientemente en X que necesita «trabajar en» comunicar a las personas de manera más efectiva exactamente cómo la IA podría acabar con la humanidad.
Uno de los escenarios más discutidos es la posibilidad de que los sistemas de IA desencadenen una guerra nuclear al lograr que los países disparen misiles con ojivas nucleares entre sí. En un informe del año pasado, los investigadores de RAND Corp. concluyeron que «en la actualidad» no sería posible que la IA causara el uso de armas nucleares «debido a las estrictas salvaguardias integradas en los sistemas de mando y control». Sin embargo, el informe señaló que esto podría cambiar si los modelos de IA se integran en la «cadena de decisiones» de las armas nucleares o acceden de manera no autorizada a estos sistemas.
Por otro lado, uno de los mayores beneficios prometidos por la IA es su capacidad para ayudar a los humanos a desarrollar tratamientos y curas para enfermedades. Sin embargo, el reverso de la moneda es la creación o el avance de enfermedades para dañar a la humanidad. Anthropic informó que ha bloqueado intentos de actores malintencionados de usar su IA para actividades maliciosas como ciberataques, vigilancia e investigaciones que podrían haber llevado a armas biológicas.
Algunos investigadores temen que un evento de extinción humana podría resultar de un «desalineamiento», es decir, cuando los modelos de IA actúan sin autorización humana, coordinan con otros modelos o evaden la supervisión. Esto no se desarrollaría a partir de una intención maliciosa, sino simplemente porque los humanos podrían interponerse en el camino del modelo al lograr su objetivo.
El experimento mental del «maximizador de clips» del filósofo de Oxford Nick Bostrom ilustra cómo una IA superinteligente podría avanzar hacia un objetivo que los humanos pueden ver como deseable, pero que «en realidad resulta ser una falsa utopía, en la que cosas esenciales para el florecimiento humano se han perdido irreversiblemente».
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →