Debate internacional sobre regulación de armas autónomas con IA
L'aplicació de la Intel·ligència Artificial (IA) en l'àmbit militar ha desencadenat un intens debat sobre la necessitat de regular l'ús d'armes autònomes. Aquests sistemes, coneguts com a Sistemes d'Armes Autònomes Letals (LAWS, per les seves sigles en anglès), són capaços d'identificar i atacar objectius sense intervenció humana, la qual cosa planteja seriosos problemes legals, ètics i morals.
El Grup d'Experts Governamentals de la Convenció sobre Certes Armes Convencionals (CCW) de les Nacions Unides ha estat treballant des de 2018 per analitzar els riscos d'aquests sistemes i la possibilitat d'establir una regulació. La recent reunió al setembre de 2023 va aconseguir un avenç significatiu en acordar les bases per redactar una llei que reguli l'ús dels LAWS, encara que encara queda per decidir si aquesta normativa serà vinculant.
L'ús d'armes autònomes podria canviar radicalment la manera d'entendre la guerra. Mentre que per als exèrcits aquests sistemes ofereixen avantatges tàctics, com la possibilitat de salvar vides en retardar el desplegament d'unitats humanes, per a la població civil representen un risc considerable. "L'algoritme ni sent por, ni dubta, ni negocia, ni entén el context de la guerra", adverteix Roser Martínez, professora de la Universitat Autònoma de Barcelona. Això planteja un dilema ètic: delegar en una màquina la decisió de matar.
Richard Lennane, assessor de desarmament del Comitè Internacional de la Creu Roja (CICR), alerta sobre el perill que les màquines prenguin decisions sense intervenció humana, la qual cosa podria portar a atacs indiscriminats contra civils. La tecnologia ja existeix, i el seu ús sense regulació podria tenir conseqüències devastadores.
La regulació dels LAWS és urgent, ja que el Dret Internacional Humanitari podria no ser suficient per abordar els desafiaments que plantegen aquestes noves tecnologies. La comunitat internacional s'enfronta al repte d'acordar un marc legal que garanteixi la seguretat i els drets humans en un context bèl·lic cada vegada més automatitzat.
La aplicación de la Inteligencia Artificial (IA) en el ámbito militar ha desencadenado un intenso debate sobre la necesidad de regular el uso de armas autónomas. Estos sistemas, conocidos como Sistemas de Armas Autónomas Letales (LAWS, por sus siglas en inglés), son capaces de identificar y atacar objetivos sin intervención humana, lo que plantea serios problemas legales, éticos y morales.
El Grupo de Expertos Gubernamentales de la Convención sobre Ciertas Armas Convencionales (CCW) de las Naciones Unidas ha estado trabajando desde 2018 para analizar los riesgos de estos sistemas y la posibilidad de establecer una regulación. La reciente reunión en septiembre de 2023 logró un avance significativo al acordar las bases para redactar una ley que regule el uso de los LAWS, aunque todavía queda por decidir si esta normativa será vinculante.
El uso de armas autónomas podría cambiar radicalmente la forma de entender la guerra. Mientras que para los ejércitos estos sistemas ofrecen ventajas tácticas, como la posibilidad de salvar vidas al retrasar el despliegue de unidades humanas, para la población civil representan un riesgo considerable. «El algoritmo ni siente miedo, ni duda, ni negocia, ni entiende el contexto de la guerra», advierte Roser Martínez, profesora de la Universidad Autónoma de Barcelona. Esto plantea un dilema ético: delegar en una máquina la decisión de matar.
Richard Lennane, asesor de desarme del Comité Internacional de la Cruz Roja (CICR), alerta sobre el peligro de que las máquinas tomen decisiones sin intervención humana, lo que podría llevar a ataques indiscriminados contra civiles. La tecnología ya existe, y su uso sin regulación podría tener consecuencias devastadoras.
La regulación de los LAWS es urgente, ya que el Derecho Internacional Humanitario podría no ser suficiente para abordar los desafíos que plantean estas nuevas tecnologías. La comunidad internacional se enfrenta al reto de acordar un marco legal que garantice la seguridad y los derechos humanos en un contexto bélico cada vez más automatizado.
The application of Artificial Intelligence (AI) in the military field has sparked an intense debate on the need to regulate the use of autonomous weapons. These systems, known as Lethal Autonomous Weapons Systems (LAWS), are capable of identifying and attacking targets without human intervention, raising serious legal, ethical, and moral issues.
The Group of Governmental Experts of the United Nations Convention on Certain Conventional Weapons (CCW) has been working since 2018 to analyse the risks of these systems and the possibility of establishing regulation. The recent meeting in September 2023 achieved significant progress by agreeing on the foundations to draft a law regulating the use of LAWS, although it remains to be decided whether this regulation will be binding.
The use of autonomous weapons could radically change the way war is understood. While for armies these systems offer tactical advantages, such as the possibility of saving lives by delaying the deployment of human units, for the civilian population they represent a considerable risk. "The algorithm neither feels fear, nor doubts, nor negotiates, nor understands the context of war," warns Roser Martínez, a professor at the Autonomous University of Barcelona. This poses an ethical dilemma: delegating the decision to kill to a machine.
Richard Lennane, disarmament adviser for the International Committee of the Red Cross (ICRC), warns about the danger of machines making decisions without human intervention, which could lead to indiscriminate attacks against civilians. The technology already exists, and its use without regulation could have devastating consequences.
The regulation of LAWS is urgent, as International Humanitarian Law may not be sufficient to address the challenges posed by these new technologies. The international community faces the challenge of agreeing on a legal framework that ensures security and human rights in an increasingly automated warfare context.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →