🌐 Aumento de abuso infantil con IA en Isla del Príncipe Eduardo, Canadá
Com els criminals utilitzen la IA per abusar dels nens
La Reial Policia Muntada del Canadà (RCMP) a l'Illa del Príncep Eduard (P.E.I.) ha informat d'un "augment notable" en el material d'abús sexual infantil generat mitjançant intel·ligència artificial (IA) en diverses parts de la província. Els especialistes en explotació en línia adverteixen que aquest increment en contingut il·legal generat per IA podria estar augmentant la demanda d'abús infantil en el món real.
Segons un correu electrònic de l'assessor sènior de comunicacions de la RCMP de P.E.I., Scott Ferris, s'estima que un terç de les investigacions sobre abús infantil en línia a l'illa ara involucren material generat per IA. Aquesta estimació només considera les àrees sota la jurisdicció de la RCMP, excloent Charlottetown, Summerside i Kensington.
Els casos d'explotació infantil mitjançant IA estan sorgint a tota la regió atlàntica. A St. John’s, Terranova i Labrador, aquest estiu, un jove de 17 anys va ser acusat de gairebé 60 càrrecs relacionats amb la creació i distribució de material d'abús sexual infantil. La policia al·lega que va utilitzar eines de IA per alterar imatges de 19 menors i fer-les explícites.
La tecnologia ha canviat dràsticament la manera com es cometen els delictes d'abús sexual infantil. Amb la IA, els delinqüents ja no necessiten contactar directament amb una víctima menor d'edat per crear nou contingut abusiu. No obstant això, aquests no són crims sense víctimes. En molts casos, el contingut generat per IA es produeix per crear material d'un nen que està en la família o el veïnat del delinqüent, cosa que augmenta la demanda de material i normalitza l'abús.
Models de IA generativa poden crear imatges o vídeos abusius ja sigui en la semblança d'una persona específica o generant un nen sintètic inexistent des de zero. Alguns delinqüents també utilitzen eines de "nudificació" impulsades per IA per crear "deepfakes" explícits —imatges o vídeos falsos realistes d'una víctima.
Els models de IA generativa més coneguts, com ChatGPT, Gemini i Claude, tenen estrictes salvaguardes dissenyades per bloquejar la generació de qualsevol material d'abús infantil, i les violacions confirmades es reporten suposadament a les autoritats.
How criminals are using AI to abuse kids
La Real Policía Montada de Canadá (RCMP) en la Isla del Príncipe Eduardo (P.E.I.) ha reportado un «aumento notable» en el material de abuso sexual infantil generado mediante inteligencia artificial (IA) en varias partes de la provincia. Los especialistas en explotación en línea advierten que este incremento en contenido ilegal generado por IA podría estar aumentando la demanda de abuso infantil en el mundo real.
Según un correo electrónico del asesor senior de comunicaciones de la RCMP de P.E.I., Scott Ferris, se estima que un tercio de las investigaciones sobre abuso infantil en línea en la isla ahora involucran material generado por IA. Esta estimación solo considera las áreas bajo la jurisdicción de la RCMP, excluyendo Charlottetown, Summerside y Kensington.
Los casos de explotación infantil mediante IA están surgiendo en toda la región atlántica. En St. John’s, Terranova y Labrador, este verano, un joven de 17 años fue acusado de casi 60 cargos relacionados con la creación y distribución de material de abuso sexual infantil. La policía alega que utilizó herramientas de IA para alterar imágenes de 19 menores y hacerlas explícitas.
La tecnología ha cambiado drásticamente la forma en que se cometen los delitos de abuso sexual infantil. Con la IA, los delincuentes ya no necesitan contactar directamente a una víctima menor de edad para crear nuevo contenido abusivo. Sin embargo, estos no son crímenes sin víctimas. En muchos casos, el contenido generado por IA se produce para crear material de un niño que está en la familia o el vecindario del delincuente, lo que aumenta la demanda de material y normaliza el abuso.
Modelos de IA generativa pueden crear imágenes o videos abusivos ya sea en la semejanza de una persona específica o generando un niño sintético inexistente desde cero. Algunos delincuentes también utilizan herramientas de «nudificación» impulsadas por IA para crear «deepfakes» explícitos —imágenes o videos falsos realistas de una víctima.
Los modelos de IA generativa más conocidos, como ChatGPT, Gemini y Claude, tienen estrictas salvaguardias diseñadas para bloquear la generación de cualquier material de abuso infantil, y las violaciones confirmadas se reportan supuestamente a las autoridades.
How criminals are using AI to abuse kids
The Royal Canadian Mounted Police (RCMP) in Prince Edward Island (P.E.I.) have reported a "notable increase" in child sexual abuse material generated using artificial intelligence (AI) in various parts of the province. Online exploitation specialists warn that this increase in illegal AI-generated content could be driving up the demand for real-world child abuse.
According to an email from the senior communications advisor of the P.E.I. RCMP, Scott Ferris, it is estimated that one-third of online child abuse investigations on the island now involve AI-generated material. This estimate only considers areas under the jurisdiction of the RCMP, excluding Charlottetown, Summerside, and Kensington.
Cases of child exploitation using AI are emerging throughout the Atlantic region. In St. John’s, Newfoundland and Labrador, this summer, a 17-year-old was charged with nearly 60 counts related to the creation and distribution of child sexual abuse material. Police allege he used AI tools to alter images of 19 minors and make them explicit.
Technology has drastically changed the way child sexual abuse crimes are committed. With AI, criminals no longer need to directly contact a minor victim to create new abusive content. However, these are not victimless crimes. In many cases, AI-generated content is produced to create material of a child who is in the offender's family or neighbourhood, increasing the demand for material and normalising abuse.
Generative AI models can create abusive images or videos either in the likeness of a specific person or by generating a non-existent synthetic child from scratch. Some offenders also use AI-powered "nudification" tools to create explicit "deepfakes" — realistic fake images or videos of a victim.
The most well-known generative AI models, such as ChatGPT, Gemini, and Claude, have strict safeguards designed to block the generation of any child abuse material, and confirmed violations are reportedly reported to authorities.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →