Héctor Santcovsky · AI: APOCALíPTICOS, INTEGRADOS Y «DECIDIDORES»

Umberto Eco publicó en 1964 Apocalípticos e integrados, una distinción que, con todas las distancias, parece escrita para algunas de las discusiones actuales sobre inteligencia artificial. Para colmo, apocalípticos e integrados se podría abreviar como AI… ¿Coincidencia?
Cambia la tecnología, pero reaparecen las dos actitudes. Para unos, estamos construyendo una máquina que destruirá empleos, creatividad, privacidad y quizá terminará tomando decisiones que ya no podremos controlar. Para otros, una herramienta extraordinaria que aumentará la productividad, acelerará la investigación científica y mejorará nuestras vidas. Quizás ambos tengan una parte de razón.
La discusión sobre si la IA es buena o mala empieza a resultar estéril. La cuestión es decidir qué inteligencia artificial queremos, para qué, con qué límites, quién asume sus costes y quién responde de sus decisiones.
El primer problema es ético. Una IA no posee una deontología propia. Somos nosotros quienes establecemos objetivos, restricciones y mecanismos de supervisión. Pero cuanto mayor sea su autonomía, más complicada se vuelve la cuestión.
El salto del chatbot al agente es importante. Ya no hablamos solamente de una máquina que responde, sino de sistemas capaces de recibir un objetivo, descomponerlo en tareas, utilizar herramientas y ejecutar acciones. ¿Hasta dónde pueden hacerlo sin autorización? ¿Qué decisiones deben permanecer bajo control humano?
En el ámbito militar la pregunta adquiere su expresión extrema. Una cosa es utilizar IA para detectar una amenaza y otra permitir que un sistema decida cuándo utilizar fuerza letal. Es por eso que debemos pensar qué decisiones no queremos delegar aunque técnicamente podamos hacerlo.
Y aparece una complicación adicional: los sistemas multiagente. ¿Qué ocurre cuando varias IA cooperan, compiten, negocian y se reparten tareas? Ya se investiga la posibilidad de comportamientos emergentes y colusorios difíciles de atribuir a un agente concreto. Podríamos controlar perfectamente cada árbol y descubrir que el problema estaba en el bosque.
Pero los dilemas no son solo éticos. También importa para qué utilizamos esa capacidad. Podemos emplearla para seleccionar objetivos militares o mejorar diagnósticos médicos; optimizar publicidad o reducir agua y fertilizantes en la agricultura; desarrollar sistemas de vigilancia o anticipar fenómenos meteorológicos. La tecnología proporciona capacidades. Los fines siguen siendo una decisión humana.
Lo mismo ocurre con el empleo. Pretender que la IA no destruya ningún puesto de trabajo parece poco realista. Todas las grandes transformaciones tecnológicas han eliminado actividades y creado otras. Incluso sería absurdo, y a la larga denigrante, proteger trabajos penosos o rutinarios simplemente para conservar empleo.
La pregunta interesante es otra: ¿quién se quedará con el dividendo de productividad? Si una empresa puede producir lo mismo utilizando la mitad del tiempo de trabajo, esa ganancia puede convertirse en beneficios, mejores salarios, reducción de jornada, menores precios, aportaciones fiscales y a la seguridad social, o una combinación de todo ello. La IA no decide cómo se distribuye. Lo hacen las relaciones económicas, las instituciones y, en último término, la política.
Tampoco sabemos si estamos ante una gigantesca burbuja financiera. Una revolución tecnológica auténtica puede producir simultáneamente inversiones excesivas, valoraciones injustificadas y empresas que nunca recuperarán el capital invertido. Internet transformó el mundo y eso no impidió la burbuja puntocom.
Además, el negocio de la IA no termina en quien vende el modelo. Necesita semiconductores, centros de datos, electricidad, agua, suelo y redes. La Agencia Internacional de la Energía calcula que la inversión de capital de cinco grandes tecnológicas superó los 400.000 millones de dólares en 2025 y prevé otro enorme incremento durante 2026, impulsado en buena medida por los centros de datos.
Por eso debemos ampliar la contabilidad. No basta con preguntarnos cuánto dinero producirá la IA. Hay que saber cuánta energía necesita, qué redes exige, qué agua consume, qué territorio ocupa, quién paga esas infraestructuras, qué aporta a la caja común de impuestos y servicios públicos y qué otros usos puede desplazar. La supuesta nube resulta extraordinariamente material.
Y detrás aparece otra cuestión: la concentración de poder. Desarrollar los sistemas más avanzados exige enormes cantidades de capital, semiconductores especializados, energía, datos, investigadores y capacidad computacional. Podemos pasarnos años discutiendo cómo regular la IA mientras prestamos mucha menos atención a quién controla los medios necesarios para producirla.
Europa conoce bien esta contradicción: puede convertirse en una gran potencia regulatoria y continuar dependiendo de tecnologías desarrolladas fundamentalmente fuera de Europa.
China parece haber comprendido que la discusión no será solamente tecnológica. En julio de 2026 impulsó en Shanghái la creación de la Organización Mundial para la Cooperación en Inteligencia Artificial (WAICO), firmada inicialmente por 29 países y presentada como instrumento de cooperación y gobernanza global.
No hace falta compartir la concepción china para comprender el movimiento. Quien participe en la definición de las reglas de la IA estará participando también en la distribución de su poder. El peligro de la intervención de la nueva oligarquía tecnológica es severo.
Europa debería reflexionar sobre ello. Necesitamos regulación: derechos fundamentales, privacidad, responsabilidad, competencia y seguridad no pueden quedar sometidos exclusivamente a la voluntad de las empresas. Pero tampoco podemos imaginar que cada problema se resolverá mediante otra capa regulatoria cada vez más compleja.
Necesitamos también algo parecido a una deontología de la inteligencia artificial: principios suficientemente universales sobre responsabilidad humana, autonomía, trazabilidad, manipulación, privacidad, usos militares y utilización de recursos. No sustituirían a las leyes, pero establecerían aquello aceptable jurídicamente como obligatorio. Se han de gobernar las cuestiones de manera conjunta.
Los especialistas en energía miran los centros de datos; los laboralistas, el empleo; los juristas, los derechos; los economistas, productividad y burbuja; los militares, la autonomía; los ambientalistas, agua y emisiones; y los expertos en competencia, la concentración empresarial. Todos pueden tener razón mientras nadie contempla el conjunto.
Quizá necesitemos un sistema multiagente para controlar los sistemas multiagente: uno para la ética, otro para el empleo, otro para la energía, otro para el agua, otro para la competencia y alguno encargado de comprobar que los anteriores no se hayan puesto de acuerdo a nuestras espaldas.
La broma contiene una cuestión seria. La IA no plantea un problema tecnológico. Plantea simultáneamente problemas económicos, éticos, sociales, ambientales, geopolíticos y democráticos. El mayor error sería intentar resolver cada uno ignorando los demás.
Eco nos dejó dos categorías magníficas: apocalípticos e integrados. Sesenta años después quizá necesitemos añadir una tercera, aunque tengamos que inventarnos la palabra: los «decididores».
Porque frente a la inteligencia artificial no basta con anunciar el apocalipsis ni con integrarse entusiastamente en todo lo que la tecnología permita hacer. Hay que decidir.
Decidir para qué queremos utilizarla, qué límites debe tener, qué costes estamos dispuestos a asumir, cómo distribuimos sus beneficios y qué decisiones no queremos delegar nunca. La tecnología amplía extraordinariamente nuestras posibilidades. Pero todavía nos corresponde a nosotros decidir entre ellas.

Héctor Santcovsky
Este artículo ha sido publicado directamente por su autor, un colaborador de confianza de BarcelonaDot.org. Su contenido refleja exclusivamente su perspectiva personal y no ha pasado por el proceso editorial habitual del medio.