🌐 La ONU lanza iniciativa para regular el uso militar de la inteligencia artificial
Nova iniciativa de l'ONU per abordar els usos militars de la IA
L'Organització de les Nacions Unides ha anunciat el llançament d'una nova iniciativa destinada a abordar els usos militars de la intel·ligència artificial (IA), en resposta a les creixents preocupacions sobre les amenaces que aquesta tecnologia en ràpid desenvolupament podria representar per a la humanitat.
L'Institut de Recerca sobre el Desarmament de l'ONU (UNIDIR) planeja inaugurar aquest dijous el primer fòrum internacional perquè els actors clau intentin afrontar aquest desafiament. Robin Geiss, director de l'institut amb seu a Ginebra, va advertir en una conferència de premsa de l'ONU que "el marge per al judici humà és cada vegada més estret, fins i tot en l'àmbit nuclear".
Geiss va destacar la dificultat d'avaluar com de prop està el món de que les màquines actuïn fora del control humà, i va subratllar que aquesta incertesa és precisament "el problema que intentem resoldre aquí". La IA s'està infiltrant en molts àmbits, com els sistemes d'alerta primerenca, la recopilació d'informació i el reconeixement, cosa que fa difícil determinar en quin punt realment estem perdent el control.
Durant molt de temps, hi va haver una reticència generalitzada a establir límits per a la IA, però la proliferació de les seves capacitats i l'impacte potencial han portat a "una creixent consciència que estem en una cruïlla: ara és el moment d'actuar, fins i tot en l'àmbit militar de la IA".
Geiss va assenyalar que la competència global per liderar en IA planteja seriosos obstacles, però les preocupacions sobre el seu impacte ja estan transcendint els blocs geopolítics, cosa que està impulsant l'acció de les grans potències. Va esmentar una proposta recent perquè els Estats Units i la Xina estableixin un sistema d'alerta de seguretat de IA per a qüestions que podrien amenaçar la seguretat nacional.
Aquest estiu, UNIDIR va establir un Centre d'Excel·lència en IA, Pau i Seguretat, la primera plataforma permanent de l'ONU centrada en aquests temes. El centre ha rebut finançament de les cinc principals potències nuclears: Estats Units, Rússia, Xina, Regne Unit i França. Aquest dijous, UNIDIR llançarà un nou fòrum com a part del centre per reunir "actors de tots els sectors rellevants i de tot el món" per treballar en els usos militars de la IA.
Geiss va ser vague sobre les accions específiques que prendrà la iniciativa, però va esmentar que formarà part d'altres esforços relacionats amb la IA que el centre llançarà aquesta setmana. Un altre enfocament serà el paper de la indústria, amb l'objectiu de desenvolupar "un marc per a un comportament responsable de la indústria".
Les decisions de les empreses sobre disseny i desenvolupament "determinen si les capacitats militars habilitades per IA són en última instància fiables, predictibles i si poden operar d'acord amb el dret internacional", va dir Geiss. Per això, UNIDIR està desenvolupant un marc de comportament responsable de la indústria que proporcionarà "directrius pràctiques i voluntàries" que segueixin el dret internacional i assegurin els drets humans.
L'agència de l'ONU durà a terme consultes aquesta setmana amb empreses de tecnologia de defensa, desenvolupadors de programari, subcontractistes, inversors i altres que treballaran al costat de governs, societat civil, acadèmia i experts. UNIDIR també està llançant una iniciativa centrada en els riscos del mal ús de la IA per part de grups armats, advertint que aquests actors ja estan utilitzant la tecnologia per donar suport a la planificació operativa, l'execució i la logística.
"El tema urgent de la IA en l'àmbit militar certament ja no es permetrà que romangui en les ombres", va afirmar Geiss. "Ha arribat el moment d'unir les nostres forces i afrontar de cara la IA en l'àmbit militar".
Font: https://abcnews.com/Technology/wireStory/new-initiative-aim-tackle-military-ai-137430609
New UN initiative will aim to tackle the military uses of AI
La Organización de las Naciones Unidas ha anunciado el lanzamiento de una nueva iniciativa destinada a abordar los usos militares de la inteligencia artificial (IA), en respuesta a las crecientes preocupaciones sobre las amenazas que esta tecnología en rápido desarrollo podría representar para la humanidad.
El Instituto de Investigación sobre el Desarme de la ONU (UNIDIR) planea inaugurar este jueves el primer foro internacional para que los actores clave intenten enfrentar este desafío. Robin Geiss, director del instituto con sede en Ginebra, advirtió en una conferencia de prensa de la ONU que «el margen para el juicio humano es cada vez más estrecho, incluso en el ámbito nuclear».
Geiss destacó la dificultad de evaluar cuán cerca está el mundo de que las máquinas actúen fuera del control humano, y subrayó que esta incertidumbre es precisamente «el problema que intentamos resolver aquí». La IA se está infiltrando en muchos ámbitos, como los sistemas de alerta temprana, la recopilación de información y el reconocimiento, lo que hace difícil determinar en qué punto realmente estamos perdiendo el control.
Durante mucho tiempo, hubo una reticencia generalizada a establecer límites para la IA, pero la proliferación de sus capacidades y el impacto potencial han llevado a «una creciente conciencia de que estamos en una encrucijada: ahora es el momento de actuar, incluso en el ámbito militar de la IA».
Geiss señaló que la competencia global por liderar en IA plantea serios obstáculos, pero las preocupaciones sobre su impacto ya están trascendiendo los bloques geopolíticos, lo que está impulsando la acción de las grandes potencias. Mencionó una propuesta reciente para que Estados Unidos y China establezcan un sistema de alerta de seguridad de IA para cuestiones que podrían amenazar la seguridad nacional.
Este verano, UNIDIR estableció un Centro de Excelencia en IA, Paz y Seguridad, la primera plataforma permanente de la ONU centrada en estos temas. El centro ha recibido financiación de las cinco principales potencias nucleares: Estados Unidos, Rusia, China, Reino Unido y Francia. Este jueves, UNIDIR lanzará un nuevo foro como parte del centro para reunir a «actores de todos los sectores relevantes y de todo el mundo» para trabajar en los usos militares de la IA.
Geiss fue vago sobre las acciones específicas que tomará la iniciativa, pero mencionó que formará parte de otros esfuerzos relacionados con la IA que el centro lanzará esta semana. Otro enfoque será el papel de la industria, con el objetivo de desarrollar «un marco para un comportamiento responsable de la industria».
Las decisiones de las empresas sobre diseño y desarrollo «determinan si las capacidades militares habilitadas por IA son en última instancia confiables, predecibles y si pueden operar de acuerdo con el derecho internacional», dijo Geiss. Por ello, UNIDIR está desarrollando un marco de comportamiento responsable de la industria que proporcionará «directrices prácticas y voluntarias» que sigan el derecho internacional y aseguren los derechos humanos.
La agencia de la ONU llevará a cabo consultas esta semana con empresas de tecnología de defensa, desarrolladores de software, subcontratistas, inversores y otros que trabajarán junto a gobiernos, sociedad civil, academia y expertos. UNIDIR también está lanzando una iniciativa centrada en los riesgos del mal uso de la IA por parte de grupos armados, advirtiendo que dichos actores ya están utilizando la tecnología para apoyar la planificación operativa, la ejecución y la logística.
«El tema urgente de la IA en el ámbito militar ciertamente ya no se permitirá que permanezca en las sombras», afirmó Geiss. «Ha llegado el momento de unir nuestras fuerzas y enfrentar de frente la IA en el ámbito militar».
Fuente: https://abcnews.com/Technology/wireStory/new-initiative-aim-tackle-military-ai-137430609
New UN initiative will aim to tackle the military uses of AI
The United Nations has announced the launch of a new initiative aimed at addressing the military uses of artificial intelligence (AI), in response to growing concerns about the threats this rapidly developing technology could pose to humanity.
The United Nations Institute for Disarmament Research (UNIDIR) plans to inaugurate this Thursday the first international forum for key players to attempt to tackle this challenge. Robin Geiss, director of the Geneva-based institute, warned at a UN press conference that "the room for human judgment is becoming increasingly narrow, even in the nuclear realm."
Geiss highlighted the difficulty of assessing how close the world is to machines acting beyond human control, and stressed that this uncertainty is precisely "the problem we are trying to solve here." AI is infiltrating many areas, such as early warning systems, information gathering, and recognition, making it difficult to determine at what point we are truly losing control.
For a long time, there was widespread reluctance to set limits for AI, but the proliferation of its capabilities and potential impact have led to "a growing awareness that we are at a crossroads: now is the time to act, even in the military realm of AI."
Geiss noted that the global competition to lead in AI poses serious obstacles, but concerns about its impact are already transcending geopolitical blocs, driving action from major powers. He mentioned a recent proposal for the United States and China to establish an AI security alert system for issues that could threaten national security.
This summer, UNIDIR established a Centre of Excellence in AI, Peace and Security, the UN's first permanent platform focused on these issues. The centre has received funding from the five major nuclear powers: the United States, Russia, China, the United Kingdom, and France. This Thursday, UNIDIR will launch a new forum as part of the centre to bring together "actors from all relevant sectors and from around the world" to work on the military uses of AI.
Geiss was vague about the specific actions the initiative will take, but mentioned that it will be part of other AI-related efforts the centre will launch this week. Another focus will be the role of industry, with the aim of developing "a framework for responsible industry behaviour."
Companies' decisions on design and development "determine whether AI-enabled military capabilities are ultimately reliable, predictable, and whether they can operate in accordance with international law," said Geiss. Therefore, UNIDIR is developing a framework for responsible industry behaviour that will provide "practical and voluntary guidelines" that follow international law and ensure human rights.
The UN agency will conduct consultations this week with defence technology companies, software developers, subcontractors, investors, and others who will work alongside governments, civil society, academia, and experts. UNIDIR is also launching an initiative focused on the risks of AI misuse by armed groups, warning that such actors are already using the technology to support operational planning, execution, and logistics.
"The urgent issue of AI in the military realm will certainly no longer be allowed to remain in the shadows," stated Geiss. "The time has come to join forces and face AI in the military realm head-on."
Source: https://abcnews.com/Technology/wireStory/new-initiative-aim-tackle-military-ai-137430609
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →