🌐 Preocupación por uso de IA en armas autónomas tras acciones de Israel en Gaza
Els sistemes d'armes d'IA ja són aquí. Els algoritmes no han de decidir qui viu i qui mor | Kenneth Roth
En un món on la intel·ligència artificial (IA) avança a passos de gegant, sorgeix una preocupació creixent: l'ús de sistemes d'armes autònomes en conflictes bèl·lics. La recent conducta d'Israel a Gaza ha posat de manifest els perills de permetre que algoritmes decideixin sobre la vida i la mort. Segons una anàlisi de Kenneth Roth, publicada a The Guardian, és imperatiu que els humans mantinguin el control sobre les decisions en temps de guerra.
Des de fa més d'una dècada, governs de tot el món s'han reunit a Ginebra per aturar el desenvolupament d'armes autònomes. No obstant això, els esforços han estat obstaculitzats per representants de potències com els Estats Units i Rússia, que han debilitat propostes clau que requerien la revisió humana dels objectius militars determinats per IA abans d'un atac.
L'ús d'IA en la guerra no és un tema nou, però la implementació de sistemes com "Lavender" per part de l'exèrcit israelià ha portat el debat a un nou nivell. Aquest sistema, utilitzat per identificar patrons telefònics associats a operatius de Hamas, ha resultat en la mort de persones que simplement complien amb certs criteris establerts per l'algoritme. A més, el sistema "Where's Daddy?" ha permès rastrejar aquests sospitosos fins a les seves llars, causant la mort de les seves famílies com a dany col·lateral.
Tot i que teòricament un humà havia d'aprovar els objectius seleccionats per la IA, en la pràctica, aquesta intervenció humana va ser merament simbòlica. Un oficial israelià va descriure el seu paper com un "segell d'aprovació", dedicant només 20 segons a cada objectiu abans d'autoritzar un atac. Aquesta dependència de la IA ha portat al fet que, en essència, un algoritme jugui a ser Déu.
La preocupació s'agreuja en considerar que els algoritmes són afectats inevitablement per l'entrada de dades humanes. Les decisions sobre quanta evidència es necessita per identificar un combatent de Hamas o quin marge d'error és tolerable depenen del judici dels programadors i els seus superiors, que poden haver desvaloritzat la vida civil palestina després dels atacs de Hamas.
La controvèrsia al voltant d'aquestes pràctiques no només planteja qüestions ètiques, sinó que també subratlla la necessitat urgent d'establir regulacions internacionals que assegurin un control humà significatiu sobre les armes impulsades per IA. La comunitat internacional ha d'actuar ràpidament per evitar que els "robots assassins" es converteixin en la norma en els conflictes futurs.
Font: https://www.theguardian.com/commentisfree/2026/oct/02/ai-weapons-systems-algorithms-war
AI weapons systems are already here. Algorithms must not decide who lives and dies | Kenneth Roth
En un mundo donde la inteligencia artificial (IA) avanza a pasos agigantados, surge una preocupación creciente: el uso de sistemas de armas autónomas en conflictos bélicos. La reciente conducta de Israel en Gaza ha puesto de manifiesto los peligros de permitir que algoritmos decidan sobre la vida y la muerte. Según un análisis de Kenneth Roth, publicado en The Guardian, es imperativo que los humanos mantengan el control sobre las decisiones en tiempos de guerra.
Desde hace más de una década, gobiernos de todo el mundo se han reunido en Ginebra para detener el desarrollo de armas autónomas. Sin embargo, los esfuerzos han sido obstaculizados por representantes de potencias como Estados Unidos y Rusia, quienes han debilitado propuestas clave que requerían la revisión humana de los objetivos militares determinados por IA antes de un ataque.
El uso de IA en la guerra no es un tema nuevo, pero la implementación de sistemas como «Lavender» por parte del ejército israelí ha llevado el debate a un nuevo nivel. Este sistema, utilizado para identificar patrones telefónicos asociados a operativos de Hamas, ha resultado en la muerte de personas que simplemente cumplían con ciertos criterios establecidos por el algoritmo. Además, el sistema «Where’s Daddy?» ha permitido rastrear a estos sospechosos hasta sus hogares, causando la muerte de sus familias como daño colateral.
A pesar de que teóricamente un humano debía aprobar los objetivos seleccionados por la IA, en la práctica, esta intervención humana fue meramente simbólica. Un oficial israelí describió su papel como un «sello de aprobación», dedicando apenas 20 segundos a cada objetivo antes de autorizar un ataque. Esta dependencia de la IA ha llevado a que, en esencia, un algoritmo juegue a ser Dios.
La preocupación se agrava al considerar que los algoritmos son afectados inevitablemente por la entrada de datos humanos. Las decisiones sobre cuánta evidencia se necesita para identificar a un combatiente de Hamas o qué margen de error es tolerable dependen del juicio de los programadores y sus superiores, quienes pueden haber desvalorizado la vida civil palestina tras los ataques de Hamas.
La controversia en torno a estas prácticas no solo plantea cuestiones éticas, sino que también subraya la necesidad urgente de establecer regulaciones internacionales que aseguren un control humano significativo sobre las armas impulsadas por IA. La comunidad internacional debe actuar rápidamente para evitar que los «robots asesinos» se conviertan en la norma en los conflictos futuros.
Fuente: https://www.theguardian.com/commentisfree/2026/oct/02/ai-weapons-systems-algorithms-war
AI weapons systems are already here. Algorithms must not decide who lives and dies | Kenneth Roth
In a world where artificial intelligence (AI) is advancing rapidly, there is growing concern about the use of autonomous weapons systems in armed conflicts. Israel's recent conduct in Gaza has highlighted the dangers of allowing algorithms to decide matters of life and death. According to an analysis by Kenneth Roth, published in The Guardian, it is imperative that humans maintain control over decisions in times of war.
For more than a decade, governments around the world have been meeting in Geneva to halt the development of autonomous weapons. However, efforts have been hindered by representatives from powers such as the United States and Russia, who have weakened key proposals requiring human review of military targets determined by AI before an attack.
The use of AI in warfare is not a new topic, but the implementation of systems like "Lavender" by the Israeli military has taken the debate to a new level. This system, used to identify phone patterns associated with Hamas operatives, has resulted in the deaths of people who simply met certain criteria set by the algorithm. Additionally, the "Where's Daddy?" system has allowed these suspects to be tracked to their homes, causing the deaths of their families as collateral damage.
Although theoretically a human was supposed to approve the targets selected by the AI, in practice, this human intervention was merely symbolic. An Israeli officer described his role as a "rubber stamp," spending just 20 seconds on each target before authorising an attack. This reliance on AI has led to a situation where, in essence, an algorithm plays God.
The concern is exacerbated by the fact that algorithms are inevitably affected by human data input. Decisions about how much evidence is needed to identify a Hamas combatant or what margin of error is tolerable depend on the judgement of programmers and their superiors, who may have devalued Palestinian civilian life following Hamas attacks.
The controversy surrounding these practices not only raises ethical questions but also underscores the urgent need to establish international regulations ensuring meaningful human control over AI-driven weapons. The international community must act swiftly to prevent "killer robots" from becoming the norm in future conflicts.
Source: https://www.theguardian.com/commentisfree/2026/oct/02/ai-weapons-systems-algorithms-war
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →