🌐 Informe revela uso secreto de IA en el Ministerio del Interior del Reino Unido
‘Digital hostile environment’: AI secretly being embedded across Home Office, report claims
Un informe recent de l'Open Rights Group (ORG) ha revelat que la intel·ligència artificial (IA) està sent implementada al Ministeri de l'Interior del Regne Unit en un ambient de gairebé total secretisme. Aquesta situació reforça el que es coneix com a "entorn hostil" cap a la immigració, segons la investigació.
L'IA s'utilitza en tasques que van des de la detecció de matrimonis fraudulents fins a la determinació de l'edat dels sol·licitants d'asil i la revisió del contingut dels telèfons dels nouvinguts. A més, s'empra per a la vigilància de fronteres mitjançant reconeixement facial en viu i drons i satèl·lits impulsats per IA. També s'utilitza per resumir entrevistes d'asil i informació de polítiques de país, i per prioritzar i avaluar casos a través de l'eina opaca Identificar i Prioritzar Casos d'Immigració (Ipic).
L'informe, titulat Automated Discrimination: Unpacking the Digital Hostile Environment, adverteix que l'ús de la IA en immigració no és neutral ni precís, i pot replicar biaixos i discriminació existents en la societat, especialment quan el seu ús està impulsat per polítiques i retòrica antiimmigració. La investigació critica els governs successius per reduir casos humans complexos a un problema tècnic que es pot "arreglar".
L'Open Rights Group exigeix al govern que reguli la IA i prohibeixi usos que siguin antidemocràtics i que posin en risc els drets humans, com l'ús d'eines tipus ChatGPT en aplicacions d'asil. A més, demana més transparència, lleis de llibertat d'informació més estrictes, una definició més estreta de la seguretat nacional i un registre públic robust d'eines d'IA governamentals.
Un portaveu del Ministeri de l'Interior va afirmar que l'ús de la IA és només una de les eines disponibles per protegir les fronteres i no reemplaça ni automatitza el paper dels prenedors de decisions humans. "Les decisions d'asil són preses per treballadors capacitats, i les eines d'IA s'utilitzen només per ajudar en la navegació de registres d'entrevistes i informació de polítiques. No es poden utilitzar de forma aïllada i no prenen decisions sobre les reclamacions", va assegurar.
‘Digital hostile environment’: AI secretly being embedded across Home Office, report claims
Un reciente informe del Open Rights Group (ORG) ha revelado que la inteligencia artificial (IA) está siendo implementada en el Ministerio del Interior del Reino Unido en un ambiente de casi total secretismo. Esta situación refuerza el llamado «entorno hostil» hacia la inmigración, según la investigación.
La IA se utiliza en tareas que van desde la detección de matrimonios fraudulentos hasta la determinación de la edad de los solicitantes de asilo y la revisión del contenido de los teléfonos de los recién llegados. Además, se emplea para la vigilancia de fronteras mediante reconocimiento facial en vivo y drones y satélites impulsados por IA. También se utiliza para resumir entrevistas de asilo e información de políticas de país, y para priorizar y evaluar casos a través de la herramienta opaca Identificar y Priorizar Casos de Inmigración (Ipic).
El informe, titulado Automated Discrimination: Unpacking the Digital Hostile Environment, advierte que el uso de la IA en inmigración no es neutral ni preciso, y puede replicar sesgos y discriminación existentes en la sociedad, especialmente cuando su uso está impulsado por políticas y retórica antiinmigración. La investigación critica a los gobiernos sucesivos por reducir casos humanos complejos a un problema técnico que se puede «arreglar».
El Open Rights Group exige al gobierno que regule la IA y prohíba usos que sean antidemocráticos y que pongan en riesgo los derechos humanos, como el uso de herramientas tipo ChatGPT en aplicaciones de asilo. Además, pide mayor transparencia, leyes de libertad de información más estrictas, una definición más estrecha de la seguridad nacional y un registro público robusto de herramientas de IA gubernamentales.
Un portavoz del Ministerio del Interior afirmó que el uso de la IA es solo una de las herramientas disponibles para proteger las fronteras y no reemplaza ni automatiza el papel de los tomadores de decisiones humanos. «Las decisiones de asilo son tomadas por trabajadores capacitados, y las herramientas de IA se utilizan solo para ayudar en la navegación de registros de entrevistas e información de políticas. No se pueden usar de forma aislada y no toman decisiones sobre las reclamaciones», aseguró.
'Digital hostile environment': AI secretly being embedded across Home Office, report claims
A recent report by the Open Rights Group (ORG) has revealed that artificial intelligence (AI) is being implemented in the UK's Home Office in an almost total secrecy environment. This situation reinforces the so-called "hostile environment" towards immigration, according to the research.
AI is used in tasks ranging from detecting fraudulent marriages to determining the age of asylum seekers and reviewing the content of newcomers' phones. Additionally, it is employed for border surveillance through live facial recognition and AI-powered drones and satellites. It is also used to summarise asylum interviews and country policy information, and to prioritise and assess cases through the opaque Identify and Prioritise Immigration Cases (Ipic) tool.
The report, titled Automated Discrimination: Unpacking the Digital Hostile Environment, warns that the use of AI in immigration is neither neutral nor accurate, and can replicate existing biases and discrimination in society, especially when its use is driven by anti-immigration policies and rhetoric. The research criticises successive governments for reducing complex human cases to a technical problem that can be "fixed".
The Open Rights Group calls on the government to regulate AI and ban uses that are undemocratic and risk human rights, such as the use of ChatGPT-type tools in asylum applications. It also demands greater transparency, stricter freedom of information laws, a narrower definition of national security, and a robust public register of government AI tools.
A Home Office spokesperson stated that the use of AI is just one of the tools available to protect borders and does not replace or automate the role of human decision-makers. "Asylum decisions are made by trained workers, and AI tools are used only to assist in navigating interview records and policy information. They cannot be used in isolation and do not make decisions on claims," they assured.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →