🌐 Australia: advierten sobre riesgos de algoritmos en decisiones gubernamentales
El govern d'Albanese advertit que està 'anant cap a un altre escenari robodebt' per l'ús d'algoritmes i IA
El govern federal d'Austràlia, liderat per Anthony Albanese, ha estat advertit que podria estar encaminant-se cap a un nou escàndol similar al de robodebt a causa de la manca de transparència i legislació al voltant de l'ús d'algoritmes i la intel·ligència artificial (IA) en la presa de decisions. Aquesta preocupació va ser expressada per la directora executiva del think tank independent, el Centre per a la Integritat Pública, Dra. Catherine Williams.
L'informe titulat "Computer Says No", presentat pel centre, examina l'ús d'eines de presa de decisions automatitzades (ADM) per part del govern i fa una crida a una reforma urgent. Entre les seves vuit recomanacions, es destaca la necessitat d'una auditoria obligatòria i un registre públic de tots els usos d'ADM, així com la creació d'un organisme de supervisió independent amb poders per monitoritzar, auditar i investigar el govern.
Williams va expressar la seva creixent preocupació per l'ús d'un algoritme com a part de l'eina d'avaluació integrada (IAT) del govern, utilitzada per determinar el nivell de suport a domicili al qual tenen dret els australians grans. S'ha descobert que l'IAT subestima rutinàriament les necessitats i drets de les persones, i que els avaluadors d'atenció a persones grans tenen prohibit pel govern anul·lar decisions algorítmiques incorrectes.
"Sembla que estem caminant cap a un altre escenari robodebt, i per això hem decidit presentar aquest treball ara, amb l'esperança que també pugui ajudar a informar qualsevol marc que el govern proposi en relació amb l'ADM", va dir Williams.
El departament del fiscal general ha estat desenvolupant un marc d'ADM, el procés de consulta pública del qual va finalitzar al gener de 2025. No obstant això, la fiscal general Michelle Rowland no va respondre a preguntes sobre quan es completarà i es farà públic un esborrany del marc, encara que va afirmar que el govern "està compromès a garantir l'ús segur i responsable de l'ADM per oferir serveis oportuns i eficients a la comunitat australiana".
Al setembre, la diputada independent Kate Chaney va presentar un projecte de llei per establir el primer marc legislat i obligatori per a l'ús d'ADM per part del govern. Chaney va criticar la manca de consistència i transparència en les decisions governamentals sobre l'ús d'ADM i va emfatitzar la importància de mantenir la pressió perquè no s'abandoni el tema per ser massa complicat.
Albanese government warned it is ‘sleepwalking into another robodebt scenario’ over use of algorithms and AI
El gobierno federal de Australia, liderado por Anthony Albanese, ha sido advertido de que podría estar encaminándose hacia un nuevo escándalo similar al de robodebt debido a la falta de transparencia y legislación en torno al uso de algoritmos y la inteligencia artificial (IA) en la toma de decisiones. Esta preocupación fue expresada por la directora ejecutiva del think tank independiente, el Centro para la Integridad Pública, Dr. Catherine Williams.
El informe titulado «Computer Says No», presentado por el centro, examina el uso de herramientas de toma de decisiones automatizadas (ADM) por parte del gobierno y llama a una reforma urgente. Entre sus ocho recomendaciones, se destaca la necesidad de una auditoría obligatoria y un registro público de todos los usos de ADM, así como la creación de un organismo de supervisión independiente con poderes para monitorear, auditar e investigar al gobierno.
Williams expresó su creciente preocupación por el uso de un algoritmo como parte de la herramienta de evaluación integrada (IAT) del gobierno, utilizada para determinar el nivel de apoyo a domicilio al que tienen derecho los australianos mayores. Se ha descubierto que el IAT subestima rutinariamente las necesidades y derechos de las personas, y que los evaluadores de atención a personas mayores tienen prohibido por el gobierno anular decisiones algorítmicas incorrectas.
«Parece que estamos caminando hacia otro escenario robodebt, y por eso hemos decidido presentar este trabajo ahora, con la esperanza de que también pueda ayudar a informar cualquier marco que el gobierno proponga en relación con la ADM», dijo Williams.
El departamento del fiscal general ha estado desarrollando un marco de ADM, cuyo proceso de consulta pública finalizó en enero de 2025. Sin embargo, la fiscal general Michelle Rowland no respondió a preguntas sobre cuándo se completará y se hará público un borrador del marco, aunque afirmó que el gobierno «está comprometido a garantizar el uso seguro y responsable de la ADM para ofrecer servicios oportunos y eficientes a la comunidad australiana».
En septiembre, la diputada independiente Kate Chaney presentó un proyecto de ley para establecer el primer marco legislado y obligatorio para el uso de ADM por parte del gobierno. Chaney criticó la falta de consistencia y transparencia en las decisiones gubernamentales sobre el uso de ADM y enfatizó la importancia de mantener la presión para que no se abandone el tema por ser demasiado complicado.
Albanese government warned it is ‘sleepwalking into another robodebt scenario’ over use of algorithms and AI
The federal government of Australia, led by Anthony Albanese, has been warned that it could be heading towards a new scandal similar to robodebt due to the lack of transparency and legislation surrounding the use of algorithms and artificial intelligence (AI) in decision-making. This concern was expressed by the executive director of the independent think tank, the Centre for Public Integrity, Dr. Catherine Williams.
The report titled "Computer Says No", presented by the centre, examines the use of automated decision-making (ADM) tools by the government and calls for urgent reform. Among its eight recommendations, it highlights the need for a mandatory audit and a public register of all ADM uses, as well as the creation of an independent oversight body with powers to monitor, audit, and investigate the government.
Williams expressed her growing concern about the use of an algorithm as part of the government's integrated assessment tool (IAT), used to determine the level of home support to which older Australians are entitled. It has been found that the IAT routinely underestimates people's needs and entitlements, and that aged care assessors are prohibited by the government from overturning incorrect algorithmic decisions.
"It seems we are walking into another robodebt scenario, and that is why we have decided to present this work now, in the hope that it can also help inform any framework the government proposes regarding ADM," Williams said.
The attorney general's department has been developing an ADM framework, whose public consultation process concluded in January 2025. However, Attorney General Michelle Rowland did not respond to questions about when a draft of the framework will be completed and made public, although she stated that the government "is committed to ensuring the safe and responsible use of ADM to deliver timely and efficient services to the Australian community."
In September, independent MP Kate Chaney introduced a bill to establish the first legislated and mandatory framework for the government's use of ADM. Chaney criticised the lack of consistency and transparency in government decisions on the use of ADM and emphasised the importance of maintaining pressure so that the issue is not abandoned for being too complicated.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →