Sergi Marcén · HI HA DECISIONS QUE UNA MÀQUINA NO HAURIA DE PRENDRE MAI

Hi ha dies en què una sola frase et sacseja més que cent titulars.

Aquesta setmana, António Guterres va advertir que *“ens trobem perillosament a prop de creuar una línia vermella moral: que les màquines ataquin autònomament éssers humans”*. I mentre llegia aquestes paraules vaig pensar que, potser sense adonar-nos-en, ja ens hem acostumat massa a veure la tecnologia com una força inevitable, com si tot allò que és possible acabés sent acceptable.

No ho és.

La intel·ligència artificial és una de les creacions més extraordinàries de la nostra generació. Pot ajudar a diagnosticar malalties, protegir boscos, millorar l’educació o fer més eficients els serveis públics. Però també pot convertir-se en una eina devastadora si renunciem a posar-hi límits. El problema no és la tecnologia; el problema és què decidim fer-ne.

Hi ha una diferència enorme entre construir màquines que ajudin les persones i construir màquines que decideixin sobre elles.

Per això aquest debat no va només d’armes. Va de responsabilitat. Va de dignitat. Va de decidir si estem disposats a delegar en un algoritme la decisió més irreversible que existeix: la vida d’un ésser humà.

I aquí és on sovint cometem un error. Pensem que això és cosa de l’ONU, dels grans exèrcits o de les potències mundials. Ens ho mirem des del sofà com si fos una partida que juguen uns altres.

Però la història ens ensenya just el contrari. Els grans canvis sempre han començat quan la societat ha decidit que hi havia una línia que no es podia travessar.

Des de Catalunya no decidirem sols el futur de les armes autònomes. Però això no vol dir que siguem irrellevants.

Podem defensar una posició valenta a Europa. Podem impulsar una recerca tecnològica amb principis ètics. Podem exigir que els diners públics no acabin alimentant sistemes que deshumanitzen la guerra. Podem educar els nostres fills perquè entenguin que la innovació no és només crear coses noves, sinó crear-les amb consciència.

I cadascun de nosaltres també hi té un paper.

Els enginyers, preguntant-se què estan construint. Els investigadors, per a què servirà la seva feina. Les empreses, posant límits abans que beneficis. Els polítics, convertint els valors en lleis. I els ciutadans, recordant que la democràcia també consisteix a decidir quin futur volem.

No podem esperar que algú altre faci aquesta conversa per nosaltres.

La tecnologia avançarà. Això és inevitable. El que no és inevitable és perdre el control moral sobre les nostres decisions.

Encara hi som a temps.

Mobilitzar-nos avui no és estar en contra de la intel·ligència artificial; és estar a favor de la humanitat. És defensar que hi ha una frontera que cap progrés, per brillant que sigui, hauria de travessar mai.

Que cap màquina tingui l’última paraula sobre la vida d’una persona.

Aquest és el límit que val la pena defensar. I aquesta és una causa en què Catalunya també pot fer sentir la seva veu.

Sergi Marcén
Este artículo ha sido publicado directamente por su autor, un colaborador de confianza de BarcelonaDot.org. Su contenido refleja exclusivamente su perspectiva personal y no ha pasado por el proceso editorial habitual del medio.