Nuestro particular Hiroshima

Estamos construyendo el motor más potente de la historia de la tecnología, pero a todo el mundo se le ha olvidado instalarle los frenos. Mientras aplaudimos fascinados cómo este bólido algorítmico acelera sin límite y nos resuelve el trabajo diario en segundos, las luces de emergencia del salpicadero llevan meses parpadeando. Y no son las alarmas de cuatro conspiranoicos asustados por el futuro; son los propios ingenieros que han diseñado la máquina y las empresas que las construyen quienes nos están advirtiendo que levantemos el pie del acelerador antes de estrellarnos contra el muro.

Si observas con atención los medios serios y autorizados, el debate sobre la distopía que se nos viene encima y, más allá aún, sobre el posible fin de la humanidad a manos de esta IA (¡glup!) es constante. Por supuesto yo no pretendo afirmar que la IA vaya a extinguir a la humanidad; nadie puede sostener eso en serio (¿seguro?). Pero tampoco podemos seguir mirando hacia otro lado cuando gobiernos, científicos y hasta las propias empresas que construyen y desarrollan la IA empiezan a hablar de riesgos que hace apenas unos años sonaban a ciencia ficción.

El intento de respuesta ya ha empezado. Este verano, el primer Diálogo Mundial sobre Gobernanza de la IA de la ONU reunió en Ginebra a 163 países. Sobre el papel, es un hito: el mundo entero sentado en la misma mesa. El problema es que hablar no es legislar. Debatimos, posamos preocupados para la foto, pero no firmamos nada vinculante. Y mientras la burocracia charla, la carrera comercial hacia la distopía sigue pisando el acelerador a fondo.

Nuestra especie tiene una relación casi supersticiosa con la prevención: casi nunca actuamos antes, siempre después. Necesitamos que el mundo se rompa para arreglarlo. Hizo falta una Segunda Guerra Mundial para parir la ONU en 1945. Tuvimos que ver el terror atómico aniquilando Hiroshima y Nagasaki para firmar tratados de no proliferación. Y necesitamos tragarnos el Crack del 29 y la Gran Depresión para que Estados Unidos creara reglas bancarias serias como la Banking Act. Guerra, bomba, quiebra: primero el desastre, después la norma.

Me temo que con la inteligencia artificial no vamos a romper esta macabra costumbre humana de aprender a base de golpes. No sé cuál será el gran accidente de la IA. Ojalá nunca llegue y me equivoque en cada palabra de esta columna. Pero resulta escalofriante pensar que, en el fondo, estamos esperando de forma inconsciente nuestro particular Hiroshima para sentarnos por fin y decir «hasta aquí hemos llegado».

Individualmente podemos hacer bien poco. Yo, desde luego, no tengo ninguna solución que ofrecer -salvo escribir este artículo-  y sería un ejercicio de vanidad fingir lo contrario. Pero al menos podemos hablar de ello. Podemos exigirlo. Podemos negarnos a aceptar que primero tenga que ocurrir una tragedia para que empecemos a movernos en serio.

La lección que no debemos olvidar. A los que formamos parte del ecosistema tecnológico nos han grabado a fuego el mantra de Silicon Valley: «Muévete rápido y rompe cosas». Ha sido un lema fantástico para crear software, vender aplicaciones y disrumpir mercados. Pero ya no estamos jugando a hacer aplicaciones divertidas; estamos programando el sistema operativo de nuestra sociedad. El ser humano siempre acaba aprendiendo de sus errores, sí, pero con la inteligencia artificial no tenemos margen para tropezar dos veces con la misma piedra. Porque esta vez, si dejamos que la tecnología se mueva tan rápido como para «romper cosas», lo que se va a romper somos nosotros.