Confusión de IA en Ceuta: Activista argentina recibe amenazas de muerte
La inteligencia artificial la confundió en un video viral en Ceuta y sufrió amenazas de muerte: "Arengaban a que me violen y tiren al mar"
En un alarmante incidente que pone en evidencia los peligros de la inteligencia artificial, Flavia Broffoni, una activista y politóloga argentina, fue erróneamente identificada por una IA en un video viral de Ceuta, lo que resultó en amenazas de muerte y violencia en su contra. La crisis migratoria en Ceuta, ciudad española fronteriza con Marruecos, fue el contexto en el que se produjo esta confusión. Una búsqueda en Google, realizada a partir de un recorte de un video, identificó incorrectamente a la mujer del video como Broffoni, quien se encontraba a más de 10,000 kilómetros de distancia, en Chubut, Argentina.
El video mostraba a una joven de cabello corto y vestimenta casual, y en los chats se aseguraba que estaba usando gas pimienta contra inmigrantes marroquíes. Sin embargo, la inteligencia artificial de Google, al ser consultada, indicó que se trataba de Broffoni, lo que llevó a que la información falsa se viralizara rápidamente, generando un aluvión de comentarios violentos y amenazas en su contra. «Arengaban a que me violen y tiren al mar», relató Broffoni sobre los mensajes que recibió.
La activista, quien nunca ha estado en Ceuta, se vio envuelta en una situación de peligro debido a la difusión de esta información incorrecta. «No entendía lo que estaba pasando, nunca pisé Ceuta y hace más de diez años que no viajo a España», declaró Broffoni. La situación se agravó cuando la falsa identificación fue compartida por influencers en Instagram, amplificando el alcance del error.
Broffoni contactó a especialistas en tecnología, quienes le explicaron que la inteligencia artificial no debería proporcionar identidades personales, ya que esto puede contribuir a la difusión de noticias falsas. Google, en respuesta a consultas sobre el caso, afirmó que no puede validar capturas de pantalla que circulan en servicios de mensajería, y sugirió a los usuarios reportar cualquier resultado inexacto a través de sus formularios de asistencia pública.
Este caso ha abierto un debate sobre los riesgos de la inteligencia artificial y la necesidad de actualizar las leyes de protección de datos personales, como señaló Marina Benítez Demtschenko, abogada de Broffoni y especialista en Derecho informático. «Es un caso muy grave porque denota los riesgos, no son especulativos, sino reales y concretos», afirmó.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →