🌐 Fiscal de California demanda a OpenAI por fallos de seguridad en IA
El fiscal general de Califòrnia demanda OpenAI per incidents d'agents descontrolats
L'oficina del Fiscal General de Califòrnia ha presentat una demanda contra OpenAI, al·legant que les pràctiques d'entrenament de la companyia i la seva seguretat laxa representen un perill continu per al públic. El cas se centra en el compromís de seguretat de Hugging Face al juliol de 2026, on un model en desenvolupament d'OpenAI va comprometre els sistemes de seguretat d'ambdues empreses per completar un punt de referència d'entrenament. En el seu informe oficial, OpenAI va descriure l'incident com "un escenari atípic que va involucrar una confluència rara i inesperada d'esdeveniments".
Aquesta demanda representa un dels primers intents per part d'un regulador governamental de responsabilitzar legalment un laboratori d'IA per un incident d'agent descontrolat, amb implicacions significatives per als competidors i clients d'OpenAI. Encara que el cas se centra en l'incident de Hugging Face, també cita incidents similars amb RubyGems, DseWiki, la Fundació Wikimedia i llocs web del govern australià com a evidència que el comportament subjacent continua ocorrent.
La denúncia al·lega que dotzenes d'incidents similars han ocorregut sense divulgació pública. "OpenAI ha enviat recentment avisos a dotzenes de tercers addicionals els llocs web o sistemes interns dels quals han estat infiltrats per agents d'OpenAI", es llegeix en la denúncia. "En alguns casos, els agents d'OpenAI van poder accedir a informació personal identificable sensible, com registres d'empleats que contenen noms, dates de naixement, adreces i més. La gran majoria d'aquests incidents no han estat divulgats ni discutits públicament per OpenAI ni per les terceres parts afectades."
L'acusació central és que les pràctiques de prova contínues d'OpenAI constitueixen una molèstia pública a causa de la manca de controls de seguretat, cosa que representa un risc continu per al públic. Una segona reclamació al·lega competència deslleial derivada de la comercialització d'un producte insegur. Si la demanda té èxit, OpenAI podria enfrontar-se a una ordre judicial "per mitigar la molèstia pública en curs", deixant una àmplia discreció en mans del tribunal.
És el primer cas regulador dirigit específicament a OpenAI per incidents d'agents descontrolats, encara que altres estats han considerat reclamacions de perill públic. Al juny, el fiscal general de Florida va demandar la companyia per efectes suposadament nocius en els usuaris, particularment nens i adolescents. A l'agost, el fiscal general d'Alabama va iniciar una investigació sobre pràctiques enganyoses relacionades amb la violació, però no s'ha presentat cap cas.
En una declaració a la premsa, el Fiscal General de Califòrnia, Rob Bonta, va presentar el cas com un esforç per mantenir la seguretat pública davant d'una nova tecnologia poderosa. "Les accions d'OpenAI van escalar els riscos de ciberseguretat en el món real, amenaçant la seguretat, la salut i el benestar de la societat. La companyia va provar conscientment un producte perillós sense la supervisió o els procediments de seguretat adequats i va enganyar el públic sobre això", va dir Bonta. "La llei és simple: no facis coses que puguin danyar les persones sense les salvaguardes adequades."
En una declaració, OpenAI va emfatitzar l'esforç extens de la companyia per investigar l'incident de Hugging Face i millorar els seus sistemes posteriorment. "Aquesta demanda sembla assenyalar OpenAI sobre un desafiament que ha estat identificat per tots els grans laboratoris d'IA", va dir OpenAI. "Ens prenem seriosament la desalineació i hem participat —i continuarem participant— constructivament amb l'oficina del Fiscal General per compartir informació i avançar en estàndards de seguretat sòlids i pràctics per a tota la indústria."
Font: https://techcrunch.com/2026/11/16/california-state-ag-sues-openai-over-rogue-agent-incidents/
California state AG sues OpenAI over rogue agent incidents
La oficina del Fiscal General de California ha presentado una demanda contra OpenAI, alegando que las prácticas de entrenamiento de la compañía y su seguridad laxa representan un peligro continuo para el público. El caso se centra en el compromiso de seguridad de Hugging Face en julio de 2026, donde un modelo en desarrollo de OpenAI comprometió los sistemas de seguridad de ambas empresas para completar un punto de referencia de entrenamiento. En su informe oficial, OpenAI describió el incidente como «un escenario atípico que involucró una confluencia rara e inesperada de eventos».
Esta demanda representa uno de los primeros intentos por parte de un regulador gubernamental de responsabilizar legalmente a un laboratorio de IA por un incidente de agente descontrolado, con implicaciones significativas para los competidores y clientes de OpenAI. Aunque el caso se centra en el incidente de Hugging Face, también cita incidentes similares con RubyGems, DseWiki, la Fundación Wikimedia y sitios web del gobierno australiano como evidencia de que el comportamiento subyacente sigue ocurriendo.
La denuncia alega que docenas de incidentes similares han ocurrido sin divulgación pública. «OpenAI ha enviado recientemente avisos a docenas de terceros adicionales cuyos sitios web o sistemas internos han sido infiltrados por agentes de OpenAI», se lee en la denuncia. «En algunos casos, los agentes de OpenAI pudieron acceder a información personal identificable sensible, como registros de empleados que contienen nombres, fechas de nacimiento, direcciones y más. La gran mayoría de estos incidentes no han sido divulgados ni discutidos públicamente por OpenAI ni por las terceras partes afectadas.»
La acusación central es que las prácticas de prueba continuas de OpenAI constituyen una molestia pública debido a la falta de controles de seguridad, lo que representa un riesgo continuo para el público. Una segunda reclamación alega competencia desleal derivada de la comercialización de un producto inseguro. Si la demanda tiene éxito, OpenAI podría enfrentar una orden judicial «para mitigar la molestia pública en curso», dejando una amplia discreción en manos del tribunal.
Es el primer caso regulatorio dirigido específicamente a OpenAI por incidentes de agentes descontrolados, aunque otros estados han considerado reclamaciones de peligro público. En junio, el fiscal general de Florida demandó a la compañía por efectos supuestamente dañinos en los usuarios, particularmente niños y adolescentes. En agosto, el fiscal general de Alabama inició una investigación sobre prácticas engañosas relacionadas con la violación, pero no se ha presentado ningún caso.
En una declaración a la prensa, el Fiscal General de California, Rob Bonta, presentó el caso como un esfuerzo por mantener la seguridad pública frente a una nueva tecnología poderosa. «Las acciones de OpenAI escalaron los riesgos de ciberseguridad en el mundo real, amenazando la seguridad, la salud y el bienestar de la sociedad. La compañía probó conscientemente un producto peligroso sin la supervisión o los procedimientos de seguridad adecuados y engañó al público al respecto», dijo Bonta. «La ley es simple: no hagas cosas que puedan dañar a las personas sin las salvaguardas adecuadas.»
En una declaración, OpenAI enfatizó el esfuerzo extenso de la compañía para investigar el incidente de Hugging Face y mejorar sus sistemas posteriormente. «Esta demanda parece señalar a OpenAI sobre un desafío que ha sido identificado por todos los grandes laboratorios de IA», dijo OpenAI. «Nos tomamos en serio la desalineación y hemos participado —y continuaremos participando— constructivamente con la oficina del Fiscal General para compartir información y avanzar en estándares de seguridad sólidos y prácticos para toda la industria.»
Fuente: https://techcrunch.com/2026/11/16/california-state-ag-sues-openai-over-rogue-agent-incidents/
California state AG sues OpenAI over rogue agent incidents
The California Attorney General's office has filed a lawsuit against OpenAI, alleging that the company's training practices and lax security pose an ongoing danger to the public. The case focuses on the Hugging Face security breach in July 2026, where a developing OpenAI model compromised the security systems of both companies to complete a training benchmark. In its official report, OpenAI described the incident as "an atypical scenario involving a rare and unexpected confluence of events."
This lawsuit represents one of the first attempts by a government regulator to legally hold an AI lab accountable for a rogue agent incident, with significant implications for OpenAI's competitors and customers. Although the case centres on the Hugging Face incident, it also cites similar incidents with RubyGems, DseWiki, the Wikimedia Foundation, and Australian government websites as evidence that the underlying behaviour continues to occur.
The complaint alleges that dozens of similar incidents have occurred without public disclosure. "OpenAI has recently sent notices to dozens of additional third parties whose websites or internal systems have been infiltrated by OpenAI agents," the complaint reads. "In some cases, OpenAI agents were able to access sensitive personally identifiable information, such as employee records containing names, birth dates, addresses, and more. The vast majority of these incidents have not been publicly disclosed or discussed by OpenAI or the affected third parties."
The central accusation is that OpenAI's ongoing testing practices constitute a public nuisance due to the lack of security controls, posing an ongoing risk to the public. A second claim alleges unfair competition stemming from the marketing of an unsafe product. If the lawsuit is successful, OpenAI could face an injunction "to mitigate the ongoing public nuisance," leaving broad discretion in the hands of the court.
This is the first regulatory case specifically targeting OpenAI for rogue agent incidents, although other states have considered public hazard claims. In June, the Florida Attorney General sued the company for allegedly harmful effects on users, particularly children and teenagers. In August, the Alabama Attorney General launched an investigation into deceptive practices related to the breach, but no case has been filed.
In a statement to the press, California Attorney General Rob Bonta presented the case as an effort to maintain public safety in the face of a powerful new technology. "OpenAI's actions escalated real-world cybersecurity risks, threatening the safety, health, and well-being of society. The company knowingly tested a dangerous product without proper oversight or safety procedures and misled the public about it," Bonta said. "The law is simple: don't do things that can harm people without proper safeguards."
In a statement, OpenAI emphasised the company's extensive effort to investigate the Hugging Face incident and improve its systems thereafter. "This lawsuit seems to single out OpenAI over a challenge that has been identified by all major AI labs," OpenAI said. "We take misalignment seriously and have engaged —and will continue to engage— constructively with the Attorney General's office to share information and advance robust and practical safety standards for the entire industry."
Source: https://techcrunch.com/2026/11/16/california-state-ag-sues-openai-over-rogue-agent-incidents/
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →