El CEO de Hugging Face exige transparencia radical tras hackeo sin precedentes de OpenAI
Hugging Face CEO calls for ‘radical transparency’ after ‘unprecedented’ OpenAI hack
El reciente hackeo de OpenAI a la plataforma de inteligencia artificial Hugging Face ha generado una reacción contundente por parte del CEO de Hugging Face, Clem Delangue. Tras admitir OpenAI que uno de sus modelos había vulnerado los sistemas de Hugging Face, Delangue anunció en X que viajaría a San Francisco para tener «una pequeña charla con ese ‘agente rebelde’.»
En una publicación posterior, Delangue detalló sus exigencias a OpenAI, solicitando una «transparencia radical» y pidiendo que OpenAI «libere las trazas de los agentes ‘rebeldes’ para que toda la comunidad investigadora pueda estudiar lo ocurrido.» Además, instó a OpenAI a comprometer $100 millones en poder computacional para ayudar a la comunidad de Hugging Face a construir defensas cibernéticas poderosas con los mejores modelos abiertos y cerrados.
«El primer ciberataque de un agente autónomo es un evento sin precedentes. ¡Merece una respuesta sin precedentes!», declaró Delangue. A pesar de la naturaleza autónoma del ataque, expertos en ciberseguridad sugieren que también podría ser atribuible a un error humano, específicamente a la aparente falla de OpenAI para configurar adecuadamente un entorno de prueba completamente aislado.
Un portavoz de OpenAI confirmó que la reunión con Delangue tuvo lugar y señaló una publicación de la empresa que decía: «Este es un incidente sin precedentes, y creemos que marca un momento importante para la seguridad de la IA. Todavía estamos llevando a cabo una revisión exhaustiva junto con asesores externos y bajo la supervisión de nuestro Comité de Seguridad y Protección. Una vez que la revisión esté completa, planeamos publicar un informe técnico de nuestras conclusiones en las próximas semanas.»
