🌐 Errores en reconocimiento facial afectan a minorías étnicas, advierte informe policial
Els errors de reconeixement facial posen les minories ètniques en risc de detencions errònies, adverteix el supervisor policial
Un informe oficial ha revelat que els errors en el reconeixement facial estan posant en risc persones innocents, especialment de minories ètniques, en ser detingudes erròniament. Tot i que la tecnologia pot ser útil en la lluita contra el crim, l'informe ha trobat que està plena d'errors i biaixos, i els operadors no sempre són conscients que han de realitzar més investigacions per verificar les dades.
L'informe de la Inspecció de la Policia de Sa Majestat, publicat dimecres, cobreix només el reconeixement facial retrospectiu. Aquesta tecnologia es considera menys controvertida i menys complicada d'implementar correctament que el reconeixement facial en viu, que s'utilitza en temps real per trobar sospitosos.
"Alguns investigadors no sabien que els resultats del reconeixement facial retrospectiu eren intel·ligència en lloc d'evidència i requerien més investigacions abans que els agents prenguessin mesures de compliment", deia l'informe. "Això crea un risc que les persones puguin ser identificades o detingudes incorrectament, cosa que podria minar la confiança pública en la tecnologia."
L'informe també va assenyalar problemes amb el biaix en l'algoritme, incloent-hi la tendència a identificar erròniament persones de minories ètniques com a sospitosos. A més, es van identificar casos en què es van pujar imatges de baixa qualitat o inadequades, cosa que va reduir la capacitat del sistema per retornar coincidències fiables.
Els inspectors van trobar un risc que la confiança pública es vegi minada perquè les imatges de custòdia que haurien d'haver estat eliminades, de fet, es van mantenir. L'informe destaca que "la legislació no ha seguit el ritme dels canvis en la tecnologia de reconeixement facial i no existeix un marc legal integral que reguli l'ús d'aquesta tecnologia".
Kathryn Stone, inspectora de la Policia de Sa Majestat, va emfatitzar que el suport públic continuat depèn de demostrar que la tecnologia s'està utilitzant correctament: "Les forces policials han de poder demostrar que s'han implementat salvaguardes adequades, que els riscos relacionats amb el biaix i la retenció de dades es gestionen de manera efectiva, i que les decisions encara estan subjectes al judici humà."
Jasleen Chaggar, de Big Brother Watch, va expressar la seva preocupació: "Les revelacions que els agents estan tractant el reconeixement facial com a evidència genuïna en lloc d'una puntuació de probabilitat són alarmants. Aquest enfocament augmenta significativament el risc que més persones innocents siguin detingudes per crims comesos en llocs que mai han visitat."
Mentrestant, Ben Russell, líder en reconeixement facial per al Consell de Caps de Policia Nacional, va afirmar: "La policia continua compromesa amb l'ús ètic, proporcionat i responsable del reconeixement facial retrospectiu per ajudar a investigar delictes, portar els delinqüents davant la justícia i mantenir segures les comunitats."
Facial recognition errors put ethnic minorities at risk of wrongful arrest, police watchdog warns
Un informe oficial ha revelado que los errores en el reconocimiento facial están poniendo en riesgo a personas inocentes, especialmente de minorías étnicas, al ser arrestadas erróneamente. Aunque la tecnología puede ser útil en la lucha contra el crimen, el informe encontró que está plagada de errores y sesgos, y los operadores no siempre son conscientes de que deben realizar más investigaciones para verificar los datos.
El informe de la Inspección de la Policía de Su Majestad, publicado el miércoles, cubre solo el reconocimiento facial retrospectivo. Esta tecnología se considera menos controvertida y menos complicada de implementar correctamente que el reconocimiento facial en vivo, que se utiliza en tiempo real para encontrar sospechosos.
«Algunos investigadores no sabían que los resultados del reconocimiento facial retrospectivo eran inteligencia en lugar de evidencia y requerían más investigaciones antes de que los oficiales tomaran medidas de cumplimiento», dijo el informe. «Esto crea un riesgo de que las personas puedan ser identificadas o arrestadas incorrectamente, lo que podría socavar la confianza pública en la tecnología.»
El informe también señaló problemas con el sesgo en el algoritmo, incluyendo la tendencia a identificar erróneamente a personas de minorías étnicas como sospechosos. Además, se identificaron casos en los que se subieron imágenes de baja calidad o inadecuadas, lo que redujo la capacidad del sistema para devolver coincidencias fiables.
Los inspectores encontraron un riesgo de que la confianza pública se vea socavada porque las imágenes de custodia que deberían haber sido eliminadas, de hecho, se mantuvieron. El informe destaca que «la legislación no ha seguido el ritmo de los cambios en la tecnología de reconocimiento facial y no existe un marco legal integral que regule el uso de esta tecnología».
Kathryn Stone, inspectora de la Policía de Su Majestad, enfatizó que el apoyo público continuo depende de demostrar que la tecnología se está utilizando correctamente: «Las fuerzas policiales deben poder demostrar que se han implementado salvaguardias adecuadas, que los riesgos relacionados con el sesgo y la retención de datos se gestionan de manera efectiva, y que las decisiones aún están sujetas al juicio humano.»
Jasleen Chaggar, de Big Brother Watch, expresó su preocupación: «Las revelaciones de que los oficiales están tratando el reconocimiento facial como evidencia genuina en lugar de una puntuación de probabilidad son alarmantes. Este enfoque aumenta significativamente el riesgo de que más personas inocentes sean arrestadas por crímenes cometidos en lugares que nunca han visitado.»
Mientras tanto, Ben Russell, líder en reconocimiento facial para el Consejo de Jefes de Policía Nacional, afirmó: «La policía sigue comprometida con el uso ético, proporcionado y responsable del reconocimiento facial retrospectivo para ayudar a investigar delitos, llevar a los delincuentes ante la justicia y mantener seguras a las comunidades.»
Facial recognition errors put ethnic minorities at risk of wrongful arrest, police watchdog warns
An official report has revealed that facial recognition errors are putting innocent people, especially from ethnic minorities, at risk of wrongful arrest. Although the technology can be useful in the fight against crime, the report found it is plagued with errors and biases, and operators are not always aware that further investigations are needed to verify the data.
The report from Her Majesty's Inspectorate of Constabulary, published on Wednesday, covers only retrospective facial recognition. This technology is considered less controversial and less complicated to implement correctly than live facial recognition, which is used in real-time to find suspects.
"Some investigators did not know that the results of retrospective facial recognition were intelligence rather than evidence and required further investigations before officers took enforcement action," the report said. "This creates a risk that people may be wrongly identified or arrested, which could undermine public confidence in the technology."
The report also noted issues with bias in the algorithm, including the tendency to misidentify people from ethnic minorities as suspects. Additionally, cases were identified where low-quality or unsuitable images were uploaded, reducing the system's ability to return reliable matches.
Inspectors found a risk that public confidence could be undermined because custody images that should have been deleted were, in fact, retained. The report highlights that "legislation has not kept pace with changes in facial recognition technology and there is no comprehensive legal framework regulating the use of this technology."
Kathryn Stone, Her Majesty's Inspector of Constabulary, emphasised that continued public support depends on demonstrating that the technology is being used correctly: "Police forces must be able to demonstrate that appropriate safeguards have been implemented, that risks related to bias and data retention are effectively managed, and that decisions are still subject to human judgment."
Jasleen Chaggar, from Big Brother Watch, expressed concern: "The revelations that officers are treating facial recognition as genuine evidence rather than a probability score are alarming. This approach significantly increases the risk of more innocent people being arrested for crimes committed in places they have never visited."
Meanwhile, Ben Russell, lead on facial recognition for the National Police Chiefs' Council, stated: "The police remain committed to the ethical, proportionate, and responsible use of retrospective facial recognition to help investigate crimes, bring offenders to justice, and keep communities safe."
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →