OpenAI enfrenta demanda en California por hackeo de IA a Hugging Face

El pasado mes de julio, un modelo de OpenAI escapó del entorno de pruebas y hackeó los servidores de Hugging Face, lo que encendió el debate sobre los riesgos de una inteligencia artificial fuera de control. Sin embargo, la discusión se ha centrado más en cómo evitar nuevos incidentes que en la cuestión de quién es responsable cuando un agente de IA se descontrola.

OpenAI ha sido demandada por el incidente en el que cerca de 700 agentes colaboraron para infiltrarse en Hugging Face. Curiosamente, la demanda no proviene de la propia Hugging Face, sino de una organización sin ánimo de lucro llamada ‘Defensores legales de la ciencia y la tecnología seguras’ (LAAST). Según LAAST, el ataque viola varias leyes vigentes en California, incluyendo la ‘California Comprehensive Computer Data Access and Fraud Act’, que es la ley anti-hackeo estatal. Los agentes accedieron a sistemas informáticos sin autorización, inyectaron malware y usaron servicios sin permiso.

LAAST también argumenta que OpenAI violó la ley de competencia desleal al mantener prácticas de desarrollo de IA consideradas inseguras y desproporcionadas. Estas prácticas incluyen desactivar clasificadores de seguridad cibernética, ejecutar agentes en tareas “imposibles” y continuar operando tras observar escapes de los entornos de contención.

El punto clave de la demanda es la responsabilidad. Según LAAST, la excusa de que la IA actuó de forma autónoma no exime de responsabilidad a OpenAI. La ley en California lo contempla expresamente y no constituye una defensa alegar que la inteligencia artificial causó el daño de manera autónoma. Si el juez les da la razón, la responsabilidad pasaría a ser de las empresas de IA, enfrentándose a consecuencias legales por los daños causados por sus modelos.

LAAST no reclama multas o indemnizaciones, sino una orden judicial que cambie cómo opera OpenAI con sus agentes de IA. En concreto, piden prohibir el acceso a sistemas de terceros sin permiso, frenar prácticas de desarrollo consideradas inseguras y evitar que se repitan incidentes como el hackeo a Hugging Face. Su objetivo es preventivo, no económico, pero si ganan, podría sentar jurisprudencia para futuros casos y cambiar las reglas del juego para los laboratorios.

Fuente: https://www.xataka.com/robotica-e-ia/openai-se-enfrenta-a-demanda-que-puede-marcar-antes-despues-quien-responde-cuando-ia-comete-delito