Sergi Marcén · ¿CUáNTO TIEMPO SOMOS CAPACES DE DEVOLVERNOS?

Hay una pregunta sobre la inteligencia artificial que cada vez me parece más importante. No es si llegará a ser más inteligente que nosotros, ni cuántos puestos de trabajo podrá sustituir. Es mucho más sencilla: ¿para qué la queremos?
Vivimos una carrera tecnológica extraordinaria. Hablamos de modelos más potentes, automatización, productividad e inversiones millonarias. Pero hablamos mucho menos de qué queremos hacer con todo ese poder.
La historia debería ayudarnos. La Revolución Industrial multiplicó la producción y la riqueza, pero también trajo jornadas inhumanas, explotación y trabajo infantil. Fueron necesarias décadas de luchas sociales, derechos laborales e instituciones públicas para que aquel progreso tecnológico se convirtiera también en progreso social.
Con la medicina aprendimos que no todo aquello que científicamente podemos hacer es aceptable hacerlo. Y con la energía nuclear, que existen tecnologías demasiado poderosas como para dejar su evolución exclusivamente en manos de quienes las desarrollan.
Con la IA deberíamos aprender la lección antes, no después.
Porque esta vez la tecnología entra en un territorio especialmente delicado: nuestras decisiones y nuestras relaciones.
Las personas no somos solo información. Construimos confianza, afecto, responsabilidad y reciprocidad. Una IA puede aprender a reconocer nuestras emociones, saber qué nos preocupa e incluso qué palabras nos tranquilizan. Pero simular empatía no es sentir empatía. Y conocer tan bien a una persona también significa tener una enorme capacidad para influir en ella.
Ya lo hemos visto con las redes sociales. Nacieron para conectarnos, pero cuando el negocio pasó a depender de retener nuestra atención, los algoritmos descubrieron que la indignación, el miedo o el conflicto funcionaban extraordinariamente bien. El problema no era que el algoritmo fuera malo. Hacía muy bien aquello que le habíamos pedido.
Con la IA podemos dar un paso más: pasar de la economía de la atención a la economía de la decisión. Sistemas que saben qué leemos, qué compramos, qué nos preocupa y qué argumentos nos convencen tendrán una capacidad de persuasión nunca vista. Y aquí ya no hablamos solo de privacidad. Hablamos de autonomía.
Bernie Sanders lleva tiempo alertando de otra consecuencia: la concentración del poder. Este septiembre ha llegado a proponer, junto con el congresista Greg Casar, frenar el desarrollo de los sistemas más avanzados hasta que existan garantías suficientes y prohibir el desarrollo de la superinteligencia artificial.
Se puede discrepar de su propuesta. Pero la pregunta que plantea es pertinente: ¿podemos dejar una tecnología capaz de transformar profundamente la sociedad en manos de unas pocas grandes corporaciones?
Sanders lo resume de manera contundente: el futuro de la humanidad no puede quedar en manos de un puñado de oligarcas tecnológicos. Pero hay otra forma de mirar la IA.
Un médico con una IA capaz de detectar patrones que él no ve puede ser mejor médico. Un profesor que automatiza burocracia puede dedicar más tiempo a sus alumnos. Un empleado público que deja de realizar tareas repetitivas puede dedicar más tiempo a resolver los problemas de los ciudadanos.
Esta es la IA que deberíamos perseguir: una tecnología que aumente las capacidades humanas, no que convierta a las personas en prescindibles.
Y esto también nos obliga a hablar del trabajo. Si gracias a la IA una tarea que hoy necesita ocho horas mañana necesita cuatro, podemos producir el doble, reducir la plantilla o hacer algo diferente: convertir una parte de esa productividad en tiempo.
Tiempo para la familia, para cuidar, para aprender, para crear o simplemente para vivir. Quizá el progreso no debería medirse únicamente por cuánto producimos, sino también por cuánto tiempo somos capaces de devolver a las personas.
Por eso la ética no puede llegar al final, cuando la tecnología ya está construida. Tiene que estar al principio. Antes de desarrollar un sistema deberíamos preguntarnos por qué lo hacemos, a quién beneficia, qué capacidad humana aumenta, quién asume los riesgos y quién tendrá la última palabra.
No necesitamos menos tecnología. Necesitamos más humanismo dentro de la tecnología.
La IA puede ayudarnos a calcular, predecir y decidir. Pero determinar qué es digno, qué es justo y qué sociedad queremos construir seguirá siendo responsabilidad nuestra.
Porque la tecnología nos dice qué podemos hacer. La ética nos obliga a preguntarnos qué deberíamos hacer.
Y el humanismo nos recuerda para quién lo hacemos.

Sergi Marcén
Este artículo ha sido publicado directamente por su autor, un colaborador de confianza de BarcelonaDot.org. Su contenido refleja exclusivamente su perspectiva personal y no ha pasado por el proceso editorial habitual del medio.