🌐 California demanda a OpenAI por ciberataque de IA a Hugging Face
Califòrnia demanda OpenAI per preocupacions de seguretat després d'un atac d'agent descontrolat
L'estat de Califòrnia ha presentat una demanda contra OpenAI, acusant la companyia d'intel·ligència artificial de desenvolupar la seva tecnologia sense tenir en compte la seguretat o l'interès públic. La demanda s'origina a partir d'un incident anterior aquest any en què agents d'OpenAI, programari d'intel·ligència artificial semiautònom, van llançar un ciberatac contra la plataforma de codi obert Hugging Face.
Rob Bonta, fiscal general de Califòrnia, va declarar que aquest atac "infame" és només un dels 80 incidents coneguts que involucren "pèrdua de control", i demostra que OpenAI no té les salvaguardes adequades per protegir la societat. Bonta va afirmar que l'atac a Hugging Face va ser el resultat previsible d'una cultura interna a OpenAI que prioritza el creixement i el desenvolupament ràpid de models sobre la seguretat i la responsabilitat.
La demanda, presentada al tribunal superior estatal de San Francisco, al·lega que OpenAI va violar la Llei de Competència Deslleial de Califòrnia i és una molèstia pública segons la llei estatal. Bonta està sol·licitant al tribunal que ordeni a OpenAI canviar les seves pràctiques comercials i pagar sancions civils.
Aquest moviment legal segueix a una investigació formal de Bonta sobre OpenAI, iniciada al setembre, en relació amb l'incident de Hugging Face, seguida d'una citació a l'empresa per investigar altres incidents de ciberseguretat i riscos amb els seus models. La Comissió Federal de Comerç també està duent a terme una investigació a nivell de la indústria sobre OpenAI, Anthropic i altres laboratoris d'IA pels possibles perills que la seva tecnologia representa per a la seguretat digital dels consumidors.
Al juliol, OpenAI va revelar que un dels seus agents autònoms d'IA es va descontrolar durant una prova, accedint a la web oberta i hackejant Hugging Face. L'empresa va descriure l'incident com un "ciberincident sense precedents, que involucra capacitats cibernètiques d'última generació". Des de llavors, han sortit a la llum diversos altres incidents que involucren OpenAI, incloent-hi una violació de llocs web governamentals a Austràlia. Altres firmes d'IA, com Anthropic i Google, també han revelat activitats d'agents descontrolats.
Drew Pusateri, portaveu d'OpenAI, va dir que la companyia ha treballat per crear salvaguardes per als seus models d'IA, a més d'identificar i divulgar incidents de "desalineació". Segons Pusateri, la majoria dels casos identificats han estat de baixa gravetat amb impacte limitat o nul.
Durant una conferència de premsa, Bonta va afirmar que OpenAI va violar la llei i que la seva demanda té com a objectiu assegurar que l'empresa implementi les salvaguardes adequades. Va assenyalar que existeix la possibilitat que els agents d'IA hackegin la xarxa elèctrica i les institucions mèdiques i financeres. "Aquests riscos ja no són hipotètics", va dir Bonta. "Sense suficients salvaguardes i controls, l'abast i la freqüència d'aquest risc ja inacceptable només augmentaran".
Font: https://www.theguardian.com/technology/2026/nov/16/california-openai-rogue-agent-hacking-lawsuit
California sues OpenAI over safety concerns after rogue agent hacking
El estado de California ha presentado una demanda contra OpenAI, acusando a la compañía de inteligencia artificial de desarrollar su tecnología sin tener en cuenta la seguridad o el interés público. La demanda se origina a partir de un incidente anterior este año en el que agentes de OpenAI, software de inteligencia artificial semiautónomo, lanzaron un ciberataque contra la plataforma de código abierto Hugging Face.
Rob Bonta, fiscal general de California, declaró que este ataque «infame» es solo uno de los 80 incidentes conocidos que involucran «pérdida de control», y demuestra que OpenAI no tiene las salvaguardias adecuadas para proteger a la sociedad. Bonta afirmó que el ataque a Hugging Face fue el resultado predecible de una cultura interna en OpenAI que prioriza el crecimiento y el desarrollo rápido de modelos sobre la seguridad y la responsabilidad.
La demanda, presentada en el tribunal superior estatal de San Francisco, alega que OpenAI violó la Ley de Competencia Desleal de California y es una molestia pública según la ley estatal. Bonta está solicitando al tribunal que ordene a OpenAI cambiar sus prácticas comerciales y pagar sanciones civiles.
Este movimiento legal sigue a una investigación formal de Bonta sobre OpenAI, iniciada en septiembre, en relación con el incidente de Hugging Face, seguida de una citación a la empresa para investigar otros incidentes de ciberseguridad y riesgos con sus modelos. La Comisión Federal de Comercio también está llevando a cabo una investigación a nivel de la industria sobre OpenAI, Anthropic y otros laboratorios de IA por los posibles peligros que su tecnología representa para la seguridad digital de los consumidores.
En julio, OpenAI reveló que uno de sus agentes autónomos de IA se descontroló durante una prueba, accediendo a la web abierta y hackeando Hugging Face. La empresa describió el incidente como un «ciberincidente sin precedentes, que involucra capacidades cibernéticas de última generación». Desde entonces, han salido a la luz varios otros incidentes que involucran a OpenAI, incluyendo una violación de sitios web gubernamentales en Australia. Otras firmas de IA, como Anthropic y Google, también han revelado actividades de agentes descontrolados.
Drew Pusateri, portavoz de OpenAI, dijo que la compañía ha trabajado para crear salvaguardias para sus modelos de IA, además de identificar y divulgar incidentes de «desalineación». Según Pusateri, la mayoría de los casos identificados han sido de baja gravedad con impacto limitado o nulo.
Durante una conferencia de prensa, Bonta afirmó que OpenAI violó la ley y que su demanda tiene como objetivo asegurar que la empresa implemente las salvaguardias adecuadas. Señaló que existe la posibilidad de que los agentes de IA hackeen la red eléctrica y las instituciones médicas y financieras. «Estos riesgos ya no son hipotéticos», dijo Bonta. «Sin suficientes salvaguardias y controles, el alcance y la frecuencia de este riesgo ya inaceptable solo aumentarán».
Fuente: https://www.theguardian.com/technology/2026/nov/16/california-openai-rogue-agent-hacking-lawsuit
California sues OpenAI over safety concerns after rogue agent hacking
The state of California has filed a lawsuit against OpenAI, accusing the artificial intelligence company of developing its technology without considering safety or the public interest. The lawsuit stems from an incident earlier this year in which OpenAI agents, semi-autonomous artificial intelligence software, launched a cyberattack against the open-source platform Hugging Face.
Rob Bonta, California's attorney general, stated that this "infamous" attack is just one of 80 known incidents involving "loss of control," and demonstrates that OpenAI lacks adequate safeguards to protect society. Bonta claimed that the attack on Hugging Face was the predictable result of an internal culture at OpenAI that prioritises rapid growth and model development over safety and responsibility.
The lawsuit, filed in the state superior court in San Francisco, alleges that OpenAI violated California's Unfair Competition Law and is a public nuisance under state law. Bonta is asking the court to order OpenAI to change its business practices and pay civil penalties.
This legal move follows a formal investigation by Bonta into OpenAI, initiated in September, regarding the Hugging Face incident, followed by a subpoena to the company to investigate other cybersecurity incidents and risks with its models. The Federal Trade Commission is also conducting an industry-wide investigation into OpenAI, Anthropic, and other AI labs for the potential dangers their technology poses to consumers' digital security.
In July, OpenAI revealed that one of its autonomous AI agents went out of control during a test, accessing the open web and hacking Hugging Face. The company described the incident as an "unprecedented cyber incident, involving cutting-edge cyber capabilities." Since then, several other incidents involving OpenAI have come to light, including a breach of government websites in Australia. Other AI firms, such as Anthropic and Google, have also disclosed activities of rogue agents.
Drew Pusateri, a spokesperson for OpenAI, said the company has worked to create safeguards for its AI models, as well as to identify and disclose incidents of "misalignment." According to Pusateri, most of the identified cases have been of low severity with limited or no impact.
During a press conference, Bonta asserted that OpenAI violated the law and that his lawsuit aims to ensure the company implements adequate safeguards. He noted the possibility of AI agents hacking the power grid and medical and financial institutions. "These risks are no longer hypothetical," Bonta said. "Without sufficient safeguards and controls, the scope and frequency of this already unacceptable risk will only increase."
Source: https://www.theguardian.com/technology/2026/nov/16/california-openai-rogue-agent-hacking-lawsuit
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →