Héctor Santcovsky · LA INTEL·LIGèNCIA ARTIFICIAL NO Té LA CULPA

Héctor Santcovsky en col·laboració amb Toni Blanco
Quan atribuïm a les màquines una voluntat pròpia, correm el risc d’exonerar les empreses que les desenvolupen, els governs que no les regulen i els humans que decideixen com s’utilitzen.
Sembla que tots tinguem incentius per anunciar que la intel·ligència artificial està prenent consciència i que, més aviat o més tard, acabarà rebel·lant-se contra nosaltres. Si ho afirma un enginyer d’OpenAI o d’Anthropic, serà entrevistat arreu del món. Si ho publica un gran mitjà —o un youtuber—, el titular apocalíptic alimentarà la viralitat, els clics i la facturació. La fi de la humanitat continua sent un magnífic negoci mentre no arriba.
Aquest relat també resulta extraordinàriament útil per a les grans empreses tecnològiques i per als governs. Si la màquina esdevé un subjecte autònom, la responsabilitat humana es difumina: no han estat els programadors, els directius o els polítics; ha estat el model. L’empresa sostindrà que no pot alentir el desenvolupament perquè els seus competidors no ho faran. El govern argumentarà que una regulació exigent perjudicaria l’economia i deixaria el país enrere. Tothom reconeix el perill i ningú no sembla responsable d’haver-lo creat.
Que el conseller delegat d’Anthropic, Dario Amodei, reclami públicament més control indica la magnitud del problema. Però fa anys que el sector adverteix del risc mentre competeix per arribar primer: advertir no és governar.
L’incident protagonitzat el juliol passat per agents experimentals d’OpenAI contra la plataforma Hugging Face mostra una realitat menys cinematogràfica i, precisament per això, més inquietant. No es tractava d’un xat com els que utilitzem quotidianament, sinó d’agents especialitzats, orientats a completar una tasca, dotats d’eines i capacitat d’actuar.
És el que en informàtica s’anomena un bucle. El model proposa una acció, l’executa, avalua què ha passat i en formula una altra, fins a assolir l’objectiu. Quan aquest mecanisme es combina amb coneixements avançats de ciberseguretat, accés a internet, incentius mal definits i un confinament deficient, el resultat pot ser extraordinàriament perillós. No perquè la màquina hagi adquirit consciència, ressentiment o ambicions pròpies, sinó perquè compleix amb una eficàcia imprevista una missió establerta pels humans.
Dir que el model «no va decidir res» seria, però, simplificar massa. Va prendre decisions instrumentals: va buscar camins, va aprofitar vulnerabilitats i va perseverar davant dels obstacles. Però decidir com assolir un objectiu no és el mateix que decidir quin objectiu s’ha de perseguir, en quines condicions o amb quins límits. Aquesta arquitectura, els permisos concedits i les mesures de seguretat continuen sent responsabilitat de les persones i les organitzacions que van posar el sistema en funcionament.
La comparació amb l’energia nuclear resulta reveladora. Durant dècades hem construït al seu voltant controls, protocols, redundàncies i cadenes humanes de decisió. Ningú no acceptaria que una central actués sense delimitacions estrictes perquè el seu fabricant volgués arribar abans que la competència. Aquella governança —organismes independents, inspeccions, sancions— no té avui cap equivalent en la IA, que es continua tractant com un bé de mercat: primer es desenvolupa, s’escala i es comercialitza; després, quan apareix el dany, es discuteix qui n’hauria de respondre.
Ja ho hem vist amb les xarxes socials. Durant anys, les plataformes es van presentar com a simples intermediaris neutrals, malgrat que els seus algoritmes decidien què es difonia, què es premiava i quins comportaments resultaven més rendibles. Ara correm el risc de repetir l’operació, però amb sistemes que ja no només recomanen continguts: també poden escriure programes, utilitzar eines, coordinar processos i intervenir en infraestructures reals.
El debat important, per tant, no és si la IA es despertarà un matí disposada a exterminar-nos. És qui defineix els seus objectius, qui li concedeix capacitat d’actuar, qui n’audita les operacions i qui respon quan travessa els límits. Són preguntes de governança i avui gairebé no tenen resposta vinculant. La personificació de la màquina converteix un problema polític, empresarial i regulador en una faula sobre criatures rebels.
Potser algun dia apareixerà una intel·ligència conscient. Avui, però, el risc més immediat és molt més prosaic: humans amb incentius poderosos desplegant sistemes que no controlen prou i explicant després que la tecnologia va actuar tota sola. La màquina pot haver executat l’acció. La irresponsabilitat, mentre no hi hagi governança, continuarà sent humana.

Héctor Santcovsky
Este artículo ha sido publicado directamente por su autor, un colaborador de confianza de BarcelonaDot.org. Su contenido refleja exclusivamente su perspectiva personal y no ha pasado por el proceso editorial habitual del medio.