🌐 Preocupación por uso de IA en armas autónomas tras acciones de Israel en Gaza

AI weapons systems are already here. Algorithms must not decide who lives and dies | Kenneth Roth

En un mundo donde la inteligencia artificial (IA) avanza a pasos agigantados, surge una preocupación creciente: el uso de sistemas de armas autónomas en conflictos bélicos. La reciente conducta de Israel en Gaza ha puesto de manifiesto los peligros de permitir que algoritmos decidan sobre la vida y la muerte. Según un análisis de Kenneth Roth, publicado en The Guardian, es imperativo que los humanos mantengan el control sobre las decisiones en tiempos de guerra.

Desde hace más de una década, gobiernos de todo el mundo se han reunido en Ginebra para detener el desarrollo de armas autónomas. Sin embargo, los esfuerzos han sido obstaculizados por representantes de potencias como Estados Unidos y Rusia, quienes han debilitado propuestas clave que requerían la revisión humana de los objetivos militares determinados por IA antes de un ataque.

El uso de IA en la guerra no es un tema nuevo, pero la implementación de sistemas como «Lavender» por parte del ejército israelí ha llevado el debate a un nuevo nivel. Este sistema, utilizado para identificar patrones telefónicos asociados a operativos de Hamas, ha resultado en la muerte de personas que simplemente cumplían con ciertos criterios establecidos por el algoritmo. Además, el sistema «Where’s Daddy?» ha permitido rastrear a estos sospechosos hasta sus hogares, causando la muerte de sus familias como daño colateral.

A pesar de que teóricamente un humano debía aprobar los objetivos seleccionados por la IA, en la práctica, esta intervención humana fue meramente simbólica. Un oficial israelí describió su papel como un «sello de aprobación», dedicando apenas 20 segundos a cada objetivo antes de autorizar un ataque. Esta dependencia de la IA ha llevado a que, en esencia, un algoritmo juegue a ser Dios.

La preocupación se agrava al considerar que los algoritmos son afectados inevitablemente por la entrada de datos humanos. Las decisiones sobre cuánta evidencia se necesita para identificar a un combatiente de Hamas o qué margen de error es tolerable dependen del juicio de los programadores y sus superiores, quienes pueden haber desvalorizado la vida civil palestina tras los ataques de Hamas.

La controversia en torno a estas prácticas no solo plantea cuestiones éticas, sino que también subraya la necesidad urgente de establecer regulaciones internacionales que aseguren un control humano significativo sobre las armas impulsadas por IA. La comunidad internacional debe actuar rápidamente para evitar que los «robots asesinos» se conviertan en la norma en los conflictos futuros.

Fuente: https://www.theguardian.com/commentisfree/2026/oct/02/ai-weapons-systems-algorithms-war