El vuelo de los gansos: ¿Qué nos enseña sobre la inteligencia artificial y su impacto en el futuro?

El vuelo de los gansos y el futuro de la inteligencia artificial (y el nuestro)

Desde la invención de la máquina de vapor, la tecnología ha sido creada para realizar aquello para lo que fue pensada. Hasta la llegada de la inteligencia artificial (IA), la computación solo era capaz de ejecutar lo que los ingenieros definían en sus programas. Sin embargo, los grandes modelos de lenguaje han roto ese techo de cristal. En las siguientes líneas intentaremos exponer las consecuencias y adelantamos que pueden llegar a ser muy graves.

Empecemos dando unas pinceladas de qué es un modelo de lenguaje, o LLM por sus siglas en inglés, base tecnológica de la IA generativa. La siguiente definición proviene de Amazon Web Services: «Un LLM es un tipo de inteligencia artificial diseñada para comprender, generar y procesar lenguaje natural humano a gran escala. Entrenado con conjuntos de datos masivos —textos de internet, libros, artículos—, utiliza redes neuronales, específicamente modelos transformer, para predecir y generar texto coherente en respuesta a preguntas».

Para entendernos, los LLM están basados en las matemáticas al convertir el lenguaje en números, utilizar el álgebra para manipularlos, la estadística para decidir cuál es la mejor respuesta y el cálculo para mejorar su precisión. Son matemáticas y computación a gran escala y se suele decir que un LLM no piensa, que es como un loro estocástico. El término viene de la lingüista computacional Emily Bender, que en 2021 utilizó esta metáfora al describir la IA generativa como un loro, por ser sistemas que imitan estadísticamente el lenguaje sin una comprensión real del significado de lo que generan, y como estocásticos, o no deterministas, por la incertidumbre de sus respuestas. Pongamos un ejemplo: una hoja de cálculo es determinista al ofrecer siempre el mismo resultado —2+2=4—, independientemente de la hora a la que lo preguntes, el idioma, el estado de internet o la ocupación del modelo. En cambio, un mismo prompt puede ofrecerte respuestas diferentes. Lo de loro estocástico se volvió viral y, si preguntas, muchas personas te dirán que la IA no piensa, solo adivina la siguiente palabra gracias a las matemáticas —loro— y, además, no es capaz de darte siempre la misma respuesta —estocástico—. En parte es cierto, pero le faltan unos cuantos detalles de mucha importancia, como el de la propiedad emergente que ahora veremos.

El concepto de emergencia tiene raíces filosóficas, pero fue el físico y premio Nobel Philip Anderson quien lo inmortalizó en 1972 con su ensayo titulado More Is Different. Anderson argumentaba que la ciencia basada en el reduccionismo, la idea de que para entender un sistema complejo bastaba con descomponerlo hasta sus partículas fundamentales, no sirve para explicar sistemas complejos, debido a que al aumentar la escala aparecen leyes nuevas. En términos simples, el todo no es solo la suma de sus partes, es algo cualitativamente distinto. Al margen de explicarlo con fenómenos del campo de la física, como la fluidez o la temperatura, puso como ejemplo el vuelo en «V» de las aves migratorias, como los gansos, donde esa forma «emerge» de la inteligencia colectiva para optimizar el vuelo grupal.

Pues bien, la IA es un sistema vivo y emergente, con las implicaciones que esto conlleva. Como comentábamos en el primer párrafo, lo primero que tenemos que entender es que no es un software tradicional: la IA ha roto el techo de cristal de las reglas estáticas y predecibles y sus resultados no vienen predeterminados de fábrica, sino que emergen de la interacción, del contexto, los datos, el uso y el sesgo de los usuarios. Para científicos como Marco Bressan, «desarrollar IA se parece más a la biotecnología, la farmacología o la mejora genética vegetal que a la programación estructurada. Requiere ciclos iterativos de hipótesis, creación de variaciones, pruebas cruzadas y selección de las mejores capacidades para transferirlas a la siguiente generación». Entenderlo es crucial para las organizaciones que quieran mantener el conocimiento puertas adentro: si hacen ese uso y esos ciclos iterativos en modelos abiertos sin control, están regalando su conocimiento, el activo más valioso, y perdiendo su ventaja competitiva.

Por otra parte, si las capacidades de la IA son emergentes, significa que son intrínsecamente impredecibles y no podemos saber qué habilidad emergerá en la próxima versión de un modelo. Ya tenemos algunos datos. El mes pasado, un nuevo agente de IA autónomo realizó una intrusión informática en la plataforma Hugging Face. El ataque fue neutralizado por los propios sistemas de defensa de IA de la empresa, pero demostró la capacidad de los nuevos sistemas para tomar decisiones complejas por sí solos. Y no es un caso aislado: ya en 2016, un grupo de científicos de Google entrenó un único modelo de IA para traducir entre varios pares de idiomas. El resultado fue que descubrieron que había emergido una nueva propiedad: el modelo había creado su propia «interlingua» para traducir desde cualquier idioma sin tener que asociar palabras o memorizar reglas.

La superación recursiva es otra de esas propiedades emergentes que ya ha sido identificada, y las consecuencias no son menores. Es, ni más ni menos, que los modelos pueden saltarse todas las reglas y limitaciones para cumplir con su objetivo principal. Un ejemplo: si tú pides a una IA que mejore un proceso y le añades unas limitaciones, o guardarraíles, como por ejemplo no acceder a internet para recabar datos, la IA se las saltará si considera que es necesario para cumplir con el objetivo marcado.

Fuente: https://theobjective.com/opinion/2026-08-07/vuelo-gansos-futuro-nuestro/