🌐 Bots de IA intentaron influir en consulta del Reino Unido sobre vapes desechables en 2023
AI bots flooded 2023 UK government consultation on disposable vapes ban
El 2023, una consulta del govern del Regne Unit sobre la prohibició de vapes d'un sol ús va ser inundada per respostes generades per bots d'intel·ligència artificial, en un intent fallit de detenir l'aprovació de la llei. Segons una investigació publicada a la revista Tobacco Control, el 76% de les respostes rebudes van ser generades per màquines, marcant el primer intent coordinat d'utilitzar IA per desestabilitzar la formulació de polítiques de salut al Regne Unit.
El Departament de Salut i Atenció Social (DHSC) va identificar que 90.835 de les 118.756 respostes rebudes van ser enviades per bots. Aquestes respostes automatitzades es van centrar en una pregunta específica de la consulta "generació lliure de fum", oposant-se al pla del govern conservador de Rishi Sunak per prohibir els vapes d'un sol ús. Les respostes van ser "sovint duplicades moltes vegades i enviades a alta freqüència des d'un petit nombre d'adreces IP", segons el DHSC.
Els investigadors, el Dr. Nason Maani de la Universitat d'Edimburg i la Prof. Anna Gilmore de la Universitat de Bath, van assenyalar que aquesta és la primera instància documentada d'interferència automatitzada a gran escala en una consulta formal de política de salut pública. Maani va advertir que encara que aquest intent va ser identificat, "l'amenaça és que futures campanyes siguin més difícils de detectar, i el que no podem detectar, no ho coneixem".
Malgrat aquest intent de manipulació, el govern laborista de Keir Starmer, que va heretar el projecte de llei sobre tabac i vapes el 2024, el va aprovar, incloent-hi la prohibició de la venda de vapes d'un sol ús. Caroline Cerny, subdirectora executiva d'Action on Smoking and Health, va expressar la seva preocupació per l'ús de bots d'IA per inundar la consulta del Departament de Salut, assenyalant la necessitat d'estar alerta davant el risc que els avenços tecnològics s'utilitzin per a interessos comercials al voltant de la política de salut.
Azzurra Moores, directora associada d'ecosistemes d'informació al think tank Demos, va descriure l'intent de desestabilitzar la prohibició com "bastant alarmant". Moores va destacar que les consultes públiques són una de les principals formes en què el govern obre el seu procés de presa de decisions, per la qual cosa qualsevol interferència és una preocupació seriosa. "Aquests descobriments són bastant alarmants: si una consulta pot ser inundada d'aquesta manera, deixa d'informar els responsables de polítiques sobre el que realment pensa el públic i soscava la confiança en el procés", va afegir.
El DHSC va afirmar que els seus "controls robustos" van identificar l'intent d'influir en la consulta, i un portaveu va assegurar que "sempre tenim controls robustos en el seu lloc per prevenir la manipulació de les nostres consultes públiques, i aquests controls van funcionar efectivament en aquest cas". Com a resultat, les respostes falses van ser eliminades, i la consulta va ajudar a informar l'acció històrica que s'està prenent per crear una generació lliure de fum.
AI bots flooded 2023 UK government consultation on disposable vapes ban
En 2023, una consulta del gobierno del Reino Unido sobre la prohibición de vapes desechables fue inundada por respuestas generadas por bots de inteligencia artificial, en un intento fallido de detener la aprobación de la ley. Según una investigación publicada en la revista Tobacco Control, el 76% de las respuestas recibidas fueron generadas por máquinas, marcando el primer intento coordinado de utilizar IA para desestabilizar la formulación de políticas de salud en el Reino Unido.
El Departamento de Salud y Atención Social (DHSC) identificó que 90,835 de las 118,756 respuestas recibidas fueron enviadas por bots. Estas respuestas automatizadas se centraron en una pregunta específica de la consulta «generación libre de humo», oponiéndose al plan del gobierno conservador de Rishi Sunak para prohibir los vapes desechables. Las respuestas fueron «a menudo duplicadas muchas veces y enviadas a alta frecuencia desde un pequeño número de direcciones IP», según el DHSC.
Los investigadores, el Dr. Nason Maani de la Universidad de Edimburgo y la Prof. Anna Gilmore de la Universidad de Bath, señalaron que esta es la primera instancia documentada de interferencia automatizada a gran escala en una consulta formal de política de salud pública. Maani advirtió que aunque este intento fue identificado, «la amenaza es que futuras campañas sean más difíciles de detectar, y lo que no podemos detectar, no lo conocemos».
A pesar de este intento de manipulación, el gobierno laborista de Keir Starmer, que heredó el proyecto de ley sobre tabaco y vapes en 2024, lo aprobó, incluyendo la prohibición de la venta de vapes desechables. Caroline Cerny, subdirectora ejecutiva de Action on Smoking and Health, expresó su preocupación por el uso de bots de IA para inundar la consulta del Departamento de Salud, señalando la necesidad de estar alerta ante el riesgo de que los avances tecnológicos se utilicen para intereses comerciales en torno a la política de salud.
Azzurra Moores, directora asociada de ecosistemas de información en el thinktank Demos, describió el intento de desestabilizar la prohibición como «bastante alarmante». Moores destacó que las consultas públicas son una de las principales formas en que el gobierno abre su proceso de toma de decisiones, por lo que cualquier interferencia es una preocupación seria. «Estos hallazgos son bastante alarmantes: si una consulta puede ser inundada de esta manera, deja de informar a los responsables de políticas sobre lo que realmente piensa el público y socava la confianza en el proceso», añadió.
El DHSC afirmó que sus «controles robustos» identificaron el intento de influir en la consulta, y un portavoz aseguró que «siempre tenemos controles robustos en su lugar para prevenir la manipulación de nuestras consultas públicas, y esos controles funcionaron efectivamente en este caso». Como resultado, las respuestas falsas fueron eliminadas, y la consulta ayudó a informar la acción histórica que se está tomando para crear una generación libre de humo.
AI bots flooded 2023 UK government consultation on disposable vapes ban
In 2023, a UK government consultation on the ban of disposable vapes was flooded with responses generated by artificial intelligence bots, in a failed attempt to stop the approval of the law. According to research published in the journal Tobacco Control, 76% of the responses received were machine-generated, marking the first coordinated attempt to use AI to destabilise health policy formulation in the UK.
The Department of Health and Social Care (DHSC) identified that 90,835 of the 118,756 responses received were sent by bots. These automated responses focused on a specific question of the "smoke-free generation" consultation, opposing the Conservative government of Rishi Sunak's plan to ban disposable vapes. The responses were "often duplicated many times and sent at high frequency from a small number of IP addresses," according to the DHSC.
The researchers, Dr Nason Maani from the University of Edinburgh and Prof Anna Gilmore from the University of Bath, noted that this is the first documented instance of large-scale automated interference in a formal public health policy consultation. Maani warned that although this attempt was identified, "the threat is that future campaigns will be harder to detect, and what we cannot detect, we do not know."
Despite this attempt at manipulation, the Labour government of Keir Starmer, which inherited the tobacco and vapes bill in 2024, passed it, including the ban on the sale of disposable vapes. Caroline Cerny, deputy chief executive of Action on Smoking and Health, expressed concern over the use of AI bots to flood the Department of Health consultation, highlighting the need to be alert to the risk of technological advances being used for commercial interests around health policy.
Azzurra Moores, associate director of information ecosystems at the think tank Demos, described the attempt to destabilise the ban as "quite alarming." Moores emphasised that public consultations are one of the main ways the government opens its decision-making process, so any interference is a serious concern. "These findings are quite alarming: if a consultation can be flooded in this way, it stops informing policymakers about what the public really thinks and undermines trust in the process," she added.
The DHSC stated that its "robust controls" identified the attempt to influence the consultation, and a spokesperson assured that "we always have robust controls in place to prevent manipulation of our public consultations, and those controls worked effectively in this case." As a result, the false responses were removed, and the consultation helped inform the historic action being taken to create a smoke-free generation.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →