🌐 Estudiantes de Maryland demandan tras error de IA que confundió Doritos con arma
Quatre estudiants de secundària de Maryland demanden després que una IA confongui una bossa de Doritos amb una pistola
Quatre estudiants de secundària a Maryland han presentat una demanda un any després que la policia armada els detingués, instigada per una alerta d'intel·ligència artificial que va confondre una bossa de Doritos amb una arma de foc. L'incident, que va deixar els joves "temorosos per les seves vides", ha desencadenat una sèrie d'acusacions contra Omnilert, l'empresa darrere del sistema de detecció d'armes, la policia del comtat de Baltimore, la junta d'educació, oficials individuals i el director de l'escola, al·legant detenció i registre il·legals a causa d'errors tecnològics i humans.
"Aquests estudiants van ser fallats no només per una tecnologia propensa a falses alertes, sinó també pels adults que haurien de protegir-los quan els enviem a l'escola", va declarar Damon Hewitt, president i director executiu del Comitè d'Advocats pels Drets Civils sota la Llei, que representa els estudiants. "En lloc de protecció, es van trobar amb armes i van quedar traumatitzats. I podria haver estat encara pitjor."
L'incident va ocórrer la tardor passada, després d'una pràctica de futbol el 20 d'octubre, quan el seu entrenador va repartir bosses de Doritos a l'equip. Taki Allen, un júnior en aquell moment, va agafar diverses bosses i estava amb els seus amics prop de les taules de pícnic esperant el seu transport, quan sis patrulles de policia local van aparèixer amb les llums enceses. Molts oficials van desenfundar les seves armes i els estudiants van aixecar les mans, segons la demanda.
La demanda legal afirma que els demandants "estaven en xoc i temien per les seves vides després de ser detinguts, ordenats a agenollar-se, emmanillats i registrats" per oficials armats. Un oficial suposadament els va dir en marxar: "Gràcies per no fugir, això hauria estat un veritable problema."
El sistema de detecció d'armes d'Omnilert va marcar la bossa de patates com una arma amb un 90% de confiança. Tot i que el personal de l'escola i la policia local van revisar la imatge i van determinar que era un error, l'alerta va persistir. Mentre Omnilert promociona el seu producte com a fiable i que genera "menys falsos positius", la demanda assenyala que l'oficina de l'inspector general d'educació de Maryland "va trobar que més del 99% de les alertes d'OGD a les Escoles Públiques del Comtat de Baltimore van ser falsos positius que no requerien resposta policial".
Un portaveu d'Omnilert va comentar prèviament al Baltimore Banner que l'empresa estava revisant la demanda i que lamentaven sincerament la por que van experimentar els estudiants i les seves famílies. "Entenem per què volen respostes."
Els estudiants van reportar sentir dolor per les manilles ajustades, així com un estrès emocional durador. Taki Allen va afirmar que ja no se sent segur esperant transport o passant l'estona a l'escola després d'hores; sovint paga pel transport per evitar esperar amics o familiars.
Freida Winfield, la mare del qual Keith és part de la demanda, estava de camí per recollir-lo a ell i als seus amics quan van ser detinguts. "Cap nen al comtat de Baltimore hauria d'enfrontar-se a aquest tipus de perill mentre espera fora de la seva pròpia escola per un transport de la seva mare", va dir Winfield.
Font: https://www.theguardian.com/us-news/2026/nov/18/maryland-baltimore-county-doritos-gun-ai-lawsuit
Four Maryland high school students sue after AI mistakes Doritos bag for gun
Cuatro estudiantes de secundaria en Maryland han presentado una demanda un año después de que la policía armada los detuviera, instigada por una alerta de inteligencia artificial que confundió una bolsa de Doritos con un arma de fuego. El incidente, que dejó a los jóvenes «temiendo por sus vidas», ha desatado una serie de acusaciones contra Omnilert, la empresa detrás del sistema de detección de armas, la policía del condado de Baltimore, la junta de educación, oficiales individuales y el director de la escuela, alegando detención y registro ilegales debido a errores tecnológicos y humanos.
«Estos estudiantes fueron fallados no solo por una tecnología propensa a falsas alertas, sino también por los adultos que deberían protegerlos cuando los enviamos a la escuela», declaró Damon Hewitt, presidente y director ejecutivo del Comité de Abogados por los Derechos Civiles Bajo la Ley, que representa a los estudiantes. «En lugar de protección, se encontraron con armas y quedaron traumatizados. Y podría haber sido aún peor.»
El incidente ocurrió el otoño pasado, después de una práctica de fútbol el 20 de octubre, cuando su entrenador repartió bolsas de Doritos al equipo. Taki Allen, un junior en ese momento, tomó varias bolsas y estaba con sus amigos cerca de las mesas de picnic esperando su transporte, cuando seis patrullas de policía local aparecieron con las luces encendidas. Muchos oficiales desenfundaron sus armas y los estudiantes levantaron las manos, según la demanda.
La demanda legal afirma que los demandantes «estaban en shock y temían por sus vidas después de ser detenidos, ordenados a arrodillarse, esposados y registrados» por oficiales armados. Un oficial supuestamente les dijo al irse: «Gracias por no huir, eso habría sido un verdadero problema.»
El sistema de detección de armas de Omnilert marcó la bolsa de chips como un arma con un 90% de confianza. A pesar de que el personal de la escuela y la policía local revisaron la imagen y determinaron que era un error, la alerta persistió. Mientras Omnilert promociona su producto como confiable y que genera «menos falsos positivos», la demanda señala que la oficina del inspector general de educación de Maryland «encontró que más del 99% de las alertas de OGD en las Escuelas Públicas del Condado de Baltimore fueron falsos positivos que no requerían respuesta policial».
Un portavoz de Omnilert comentó previamente al Baltimore Banner que la empresa estaba revisando la demanda y que lamentaban sinceramente el miedo que experimentaron los estudiantes y sus familias. «Entendemos por qué quieren respuestas.»
Los estudiantes reportaron sentir dolor por las esposas apretadas, así como un estrés emocional duradero. Taki Allen afirmó que ya no se siente seguro esperando transporte o pasando el rato en la escuela después de horas; a menudo paga por transporte para evitar esperar a amigos o familiares.
Freida Winfield, cuya hijo Keith es parte de la demanda, estaba en camino para recogerlo a él y a sus amigos cuando fueron detenidos. «Ningún niño en el condado de Baltimore debería enfrentar este tipo de peligro mientras espera fuera de su propia escuela por un transporte de su madre», dijo Winfield.
Fuente: https://www.theguardian.com/us-news/2026/nov/18/maryland-baltimore-county-doritos-gun-ai-lawsuit
Four Maryland high school students sue after AI mistakes Doritos bag for gun
Four high school students in Maryland have filed a lawsuit a year after armed police detained them, prompted by an artificial intelligence alert that mistook a bag of Doritos for a firearm. The incident, which left the youths "fearing for their lives," has sparked a series of accusations against Omnilert, the company behind the weapon detection system, the Baltimore County police, the board of education, individual officers, and the school principal, alleging illegal detention and search due to technological and human errors.
"These students were failed not only by a technology prone to false alerts but also by the adults who should protect them when we send them to school," stated Damon Hewitt, president and executive director of the Lawyers' Committee for Civil Rights Under Law, which represents the students. "Instead of protection, they were met with guns and left traumatised. And it could have been even worse."
The incident occurred last autumn, after a football practice on October 20, when their coach handed out bags of Doritos to the team. Taki Allen, a junior at the time, took several bags and was with his friends near the picnic tables waiting for their ride, when six local police patrols arrived with lights flashing. Many officers drew their weapons, and the students raised their hands, according to the lawsuit.
The legal complaint states that the plaintiffs "were in shock and feared for their lives after being detained, ordered to kneel, handcuffed, and searched" by armed officers. An officer allegedly told them upon leaving: "Thank you for not running, that would have been a real problem."
Omnilert's weapon detection system flagged the bag of chips as a weapon with 90% confidence. Despite school staff and local police reviewing the image and determining it was an error, the alert persisted. While Omnilert promotes its product as reliable and generating "fewer false positives," the lawsuit notes that the Maryland education inspector general's office "found that over 99% of OGD alerts in Baltimore County Public Schools were false positives that did not require a police response."
A spokesperson for Omnilert previously commented to the Baltimore Banner that the company was reviewing the lawsuit and that they sincerely regretted the fear experienced by the students and their families. "We understand why they want answers."
The students reported feeling pain from the tight handcuffs, as well as enduring emotional stress. Taki Allen stated that he no longer feels safe waiting for a ride or hanging out at school after hours; he often pays for transport to avoid waiting for friends or family.
Freida Winfield, whose son Keith is part of the lawsuit, was on her way to pick him and his friends up when they were detained. "No child in Baltimore County should face this kind of danger while waiting outside their own school for a ride from their mother," said Winfield.
Source: https://www.theguardian.com/us-news/2026/nov/18/maryland-baltimore-county-doritos-gun-ai-lawsuit
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →