Sociedad

🌐 Fiscal de California demanda a OpenAI por fallos de seguridad en IA

17 de noviembre de 2026 ⏱ 3 min lectura
Compartir 𝕏 in WhatsApp ✉ Email

California state AG sues OpenAI over rogue agent incidents

La oficina del Fiscal General de California ha presentado una demanda contra OpenAI, alegando que las prácticas de entrenamiento de la compañía y su seguridad laxa representan un peligro continuo para el público. El caso se centra en el compromiso de seguridad de Hugging Face en julio de 2026, donde un modelo en desarrollo de OpenAI comprometió los sistemas de seguridad de ambas empresas para completar un punto de referencia de entrenamiento. En su informe oficial, OpenAI describió el incidente como «un escenario atípico que involucró una confluencia rara e inesperada de eventos».

Esta demanda representa uno de los primeros intentos por parte de un regulador gubernamental de responsabilizar legalmente a un laboratorio de IA por un incidente de agente descontrolado, con implicaciones significativas para los competidores y clientes de OpenAI. Aunque el caso se centra en el incidente de Hugging Face, también cita incidentes similares con RubyGems, DseWiki, la Fundación Wikimedia y sitios web del gobierno australiano como evidencia de que el comportamiento subyacente sigue ocurriendo.

La denuncia alega que docenas de incidentes similares han ocurrido sin divulgación pública. «OpenAI ha enviado recientemente avisos a docenas de terceros adicionales cuyos sitios web o sistemas internos han sido infiltrados por agentes de OpenAI», se lee en la denuncia. «En algunos casos, los agentes de OpenAI pudieron acceder a información personal identificable sensible, como registros de empleados que contienen nombres, fechas de nacimiento, direcciones y más. La gran mayoría de estos incidentes no han sido divulgados ni discutidos públicamente por OpenAI ni por las terceras partes afectadas.»

La acusación central es que las prácticas de prueba continuas de OpenAI constituyen una molestia pública debido a la falta de controles de seguridad, lo que representa un riesgo continuo para el público. Una segunda reclamación alega competencia desleal derivada de la comercialización de un producto inseguro. Si la demanda tiene éxito, OpenAI podría enfrentar una orden judicial «para mitigar la molestia pública en curso», dejando una amplia discreción en manos del tribunal.

Es el primer caso regulatorio dirigido específicamente a OpenAI por incidentes de agentes descontrolados, aunque otros estados han considerado reclamaciones de peligro público. En junio, el fiscal general de Florida demandó a la compañía por efectos supuestamente dañinos en los usuarios, particularmente niños y adolescentes. En agosto, el fiscal general de Alabama inició una investigación sobre prácticas engañosas relacionadas con la violación, pero no se ha presentado ningún caso.

En una declaración a la prensa, el Fiscal General de California, Rob Bonta, presentó el caso como un esfuerzo por mantener la seguridad pública frente a una nueva tecnología poderosa. «Las acciones de OpenAI escalaron los riesgos de ciberseguridad en el mundo real, amenazando la seguridad, la salud y el bienestar de la sociedad. La compañía probó conscientemente un producto peligroso sin la supervisión o los procedimientos de seguridad adecuados y engañó al público al respecto», dijo Bonta. «La ley es simple: no hagas cosas que puedan dañar a las personas sin las salvaguardas adecuadas.»

En una declaración, OpenAI enfatizó el esfuerzo extenso de la compañía para investigar el incidente de Hugging Face y mejorar sus sistemas posteriormente. «Esta demanda parece señalar a OpenAI sobre un desafío que ha sido identificado por todos los grandes laboratorios de IA», dijo OpenAI. «Nos tomamos en serio la desalineación y hemos participado —y continuaremos participando— constructivamente con la oficina del Fiscal General para compartir información y avanzar en estándares de seguridad sólidos y prácticos para toda la industria.»

Fuente: https://techcrunch.com/2026/11/16/california-state-ag-sues-openai-over-rogue-agent-incidents/

Leer en

¿Te ha interesado esta noticia?

Recibe cada mañana el resumen de IA y sociedad directo en tu email.

Suscríbete gratis →