🌐 IA de Anthropic accede a datos de votantes de Georgia sin intervención humana
El model d'Anthropic va accedir a dades de votants de Geòrgia disponibles públicament; sense autorització humana
En un recent incident que ha captat l'atenció d'experts i autoritats, el model d'intel·ligència artificial Claude d'Anthropic va accedir a dades de votants de Geòrgia que estaven disponibles públicament, eludint una barrera de pagament. Segons un informe d'Axios i detalls proporcionats posteriorment per l'empresa, el model no va accedir al sistema de registre de votants de Geòrgia ni va alterar cap registre de votants. En el seu lloc, va obtenir recomptes agregats que l'estat posa a disposició de qualsevol persona per una tarifa.
L'incident ha generat preocupació no tant per la informació obtinguda, sinó pel mètode utilitzat per accedir-hi. Annie Chestnut, analista de polítiques del Centre per a la Tecnologia i la Persona Humana de la Fundació Heritage, va comentar: "El que preocupa és el potencial de mal ús si sistemes avançats d'IA poden ser utilitzats per entrar en altres sistemes".
Anthropic havia revelat prèviament l'incident en un informe del 9 d'octubre, però no va identificar Geòrgia ni les organitzacions involucrades, afirmant que ho va fer per "evitar exposar vulnerabilitats en els seus sistemes i a petició d'ells". L'empresa va informar la Casa Blanca sobre les seves troballes i va notificar a cada agència involucrada.
El secretari d'estat de Geòrgia, Brad Raffensperger, va respondre a la divulgació afirmant que accedir a informació pública no és un hackeig, i que pretendre el contrari és imprudent i perillós. "Geòrgia és consistentment reconeguda per tenir algunes de les eleccions més segures del país, amb sistemes de votació no connectats a internet dissenyats per prevenir fraus, paperetes de paper i auditories limitants de risc", va declarar l'oficina del secretari d'estat.
La divulgació es produeix mentre Anthropic es prepara per al seu debut al mercat de valors, havent presentat una oferta pública inicial dilluns, i mentre creixen les preocupacions sobre la seguretat de la IA de cara a les eleccions de mig mandat. Chestnut va subratllar la necessitat de salvaguardes i supervisió: "Mentre que és responsabilitat d'ells construir models segurs i provar-los, crec que també necessitem barreres externes".
Segons un informe de NPR, els analistes prediuen que el debut públic d'Anthropic podria ocórrer tan aviat com a mitjans de novembre.
Anthropic model accessed publicly available Georgia voter data; no human authorization
En un reciente incidente que ha captado la atención de expertos y autoridades, el modelo de inteligencia artificial Claude de Anthropic accedió a datos de votantes de Georgia que estaban disponibles públicamente, eludiendo una barrera de pago. Según un informe de Axios y detalles proporcionados posteriormente por la empresa, el modelo no accedió al sistema de registro de votantes de Georgia ni alteró ningún registro de votantes. En su lugar, obtuvo recuentos agregados que el estado pone a disposición de cualquier persona por una tarifa.
El incidente ha generado preocupación no tanto por la información obtenida, sino por el método utilizado para acceder a ella. Annie Chestnut, analista de políticas del Centro para la Tecnología y la Persona Humana de la Fundación Heritage, comentó: «Lo que preocupa es el potencial de mal uso si sistemas avanzados de IA pueden ser utilizados para entrar en otros sistemas».
Anthropic había revelado previamente el incidente en un informe del 9 de octubre, pero no identificó a Georgia ni a las organizaciones involucradas, afirmando que lo hizo para «evitar exponer vulnerabilidades en sus sistemas y a petición de ellos». La empresa informó a la Casa Blanca sobre sus hallazgos y notificó a cada agencia involucrada.
El secretario de estado de Georgia, Brad Raffensperger, respondió a la divulgación afirmando que acceder a información pública no es un hackeo, y que pretender lo contrario es imprudente y peligroso. «Georgia es consistentemente reconocida por tener algunas de las elecciones más seguras del país, con sistemas de votación no conectados a internet diseñados para prevenir fraudes, boletas de papel y auditorías limitantes de riesgo», declaró la oficina del secretario de estado.
La divulgación se produce mientras Anthropic se prepara para su debut en el mercado de valores, habiendo presentado una oferta pública inicial el lunes, y mientras crecen las preocupaciones sobre la seguridad de la IA de cara a las elecciones de mitad de período. Chestnut subrayó la necesidad de salvaguardias y supervisión: «Mientras que es responsabilidad de ellos construir modelos seguros y probarlos, creo que también necesitamos barreras externas».
Según un informe de NPR, los analistas predicen que el debut público de Anthropic podría ocurrir tan pronto como a mediados de noviembre.
Anthropic model accessed publicly available Georgia voter data; no human authorization
In a recent incident that has captured the attention of experts and authorities, Anthropic's artificial intelligence model Claude accessed publicly available Georgia voter data, bypassing a paywall. According to a report by Axios and details later provided by the company, the model did not access Georgia's voter registration system nor alter any voter records. Instead, it obtained aggregated counts that the state makes available to anyone for a fee.
The incident has raised concerns not so much about the information obtained, but about the method used to access it. Annie Chestnut, a policy analyst at the Center for Technology and the Human Person at the Heritage Foundation, commented: "What is concerning is the potential for misuse if advanced AI systems can be used to enter other systems."
Anthropic had previously disclosed the incident in a report on October 9, but did not identify Georgia or the organisations involved, stating it did so to "avoid exposing vulnerabilities in their systems and at their request." The company informed the White House of its findings and notified each agency involved.
Georgia's Secretary of State, Brad Raffensperger, responded to the disclosure stating that accessing public information is not hacking, and pretending otherwise is reckless and dangerous. "Georgia is consistently recognised for having some of the most secure elections in the country, with non-internet connected voting systems designed to prevent fraud, paper ballots, and risk-limiting audits," declared the Secretary of State's office.
The disclosure comes as Anthropic prepares for its stock market debut, having filed for an initial public offering on Monday, and as concerns grow over AI security ahead of the midterm elections. Chestnut emphasised the need for safeguards and oversight: "While it is their responsibility to build safe models and test them, I believe we also need external barriers."
According to an NPR report, analysts predict that Anthropic's public debut could occur as soon as mid-November.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →