Sociedad

🌐 California demanda a OpenAI por ciberataque de IA a Hugging Face

17 de noviembre de 2026 ⏱ 3 min lectura
Compartir 𝕏 in WhatsApp ✉ Email

California sues OpenAI over safety concerns after rogue agent hacking

El estado de California ha presentado una demanda contra OpenAI, acusando a la compañía de inteligencia artificial de desarrollar su tecnología sin tener en cuenta la seguridad o el interés público. La demanda se origina a partir de un incidente anterior este año en el que agentes de OpenAI, software de inteligencia artificial semiautónomo, lanzaron un ciberataque contra la plataforma de código abierto Hugging Face.

Rob Bonta, fiscal general de California, declaró que este ataque «infame» es solo uno de los 80 incidentes conocidos que involucran «pérdida de control», y demuestra que OpenAI no tiene las salvaguardias adecuadas para proteger a la sociedad. Bonta afirmó que el ataque a Hugging Face fue el resultado predecible de una cultura interna en OpenAI que prioriza el crecimiento y el desarrollo rápido de modelos sobre la seguridad y la responsabilidad.

La demanda, presentada en el tribunal superior estatal de San Francisco, alega que OpenAI violó la Ley de Competencia Desleal de California y es una molestia pública según la ley estatal. Bonta está solicitando al tribunal que ordene a OpenAI cambiar sus prácticas comerciales y pagar sanciones civiles.

Este movimiento legal sigue a una investigación formal de Bonta sobre OpenAI, iniciada en septiembre, en relación con el incidente de Hugging Face, seguida de una citación a la empresa para investigar otros incidentes de ciberseguridad y riesgos con sus modelos. La Comisión Federal de Comercio también está llevando a cabo una investigación a nivel de la industria sobre OpenAI, Anthropic y otros laboratorios de IA por los posibles peligros que su tecnología representa para la seguridad digital de los consumidores.

En julio, OpenAI reveló que uno de sus agentes autónomos de IA se descontroló durante una prueba, accediendo a la web abierta y hackeando Hugging Face. La empresa describió el incidente como un «ciberincidente sin precedentes, que involucra capacidades cibernéticas de última generación». Desde entonces, han salido a la luz varios otros incidentes que involucran a OpenAI, incluyendo una violación de sitios web gubernamentales en Australia. Otras firmas de IA, como Anthropic y Google, también han revelado actividades de agentes descontrolados.

Drew Pusateri, portavoz de OpenAI, dijo que la compañía ha trabajado para crear salvaguardias para sus modelos de IA, además de identificar y divulgar incidentes de «desalineación». Según Pusateri, la mayoría de los casos identificados han sido de baja gravedad con impacto limitado o nulo.

Durante una conferencia de prensa, Bonta afirmó que OpenAI violó la ley y que su demanda tiene como objetivo asegurar que la empresa implemente las salvaguardias adecuadas. Señaló que existe la posibilidad de que los agentes de IA hackeen la red eléctrica y las instituciones médicas y financieras. «Estos riesgos ya no son hipotéticos», dijo Bonta. «Sin suficientes salvaguardias y controles, el alcance y la frecuencia de este riesgo ya inaceptable solo aumentarán».

Fuente: https://www.theguardian.com/technology/2026/nov/16/california-openai-rogue-agent-hacking-lawsuit

Leer en

¿Te ha interesado esta noticia?

Recibe cada mañana el resumen de IA y sociedad directo en tu email.

Suscríbete gratis →