El CEO de DeepMind propone un organismo independiente para regular la IA de frontera
DeepMind CEO calls for an independent standards body to regulate frontier AI
En una publicación reciente en X, el CEO de Google DeepMind, Demis Hassabis, ha propuesto la creación de un nuevo organismo regulador para supervisar el lanzamiento de modelos de inteligencia artificial (IA) de frontera. Titulada «Un marco para la IA de frontera y el amanecer de una nueva era», la publicación aboga por un «organismo de estándares» inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA), que podría probar modelos de frontera y desarrollar mejores prácticas para su lanzamiento.
Hassabis sugiere que, inicialmente, los laboratorios de frontera compartirían voluntariamente sus modelos con el organismo de estándares para su revisión hasta 30 días antes de su lanzamiento. «Una vez que el protocolo de evaluación demuestre ser efectivo y robusto, podría formalizarse rápidamente, lo que significaría que los modelos de frontera tendrían que aprobarlo para ser desplegados en el mercado estadounidense. Los laboratorios también trabajarían con el organismo de estándares para abordar cualquier vulnerabilidad crítica después del lanzamiento», explicó Hassabis.
Este sistema propuesto se basaría en las revisiones ad hoc realizadas por el gobierno de EE. UU. sobre los modelos Mythos de Anthropic y Sol de OpenAI. Dichas revisiones recibieron críticas significativas por la falta de experiencia técnica y la toma de decisiones opacas sobre cuándo un modelo podría ser lanzado. Bajo el regulador propuesto por Hassabis, esas decisiones podrían ser transferidas a una nueva organización, respaldada por el gobierno de EE. UU. pero financiada por la industria de la IA y operada de manera independiente.
La perspectiva de una regulación de la IA sigue siendo controvertida tanto para la industria tecnológica como para la administración Trump. Recientemente, el asesor de IA de la Casa Blanca y socio general de a16z, Sriram Krishnan, descartó la posibilidad de un regulador de IA dentro del poder ejecutivo, afirmando que «no habrá una FDA para la IA».
Establecer el organismo de estándares como una organización autorreguladora similar a FINRA podría ser una forma de abordar esas preocupaciones. Hassabis imagina que el regulador estaría compuesto por representantes de código abierto y expertos técnicos de la industria, junto con el respaldo financiero de los laboratorios de IA necesario para retenerlos. Incluso podrían subcontratar algunas evaluaciones al creciente grupo de grupos de seguridad de IA que podrían especializarse en riesgos específicos.
«La fortaleza de este enfoque es que estaría técnicamente enfocado, al mismo tiempo que apoya la innovación e incentiva el comportamiento responsable», argumenta Hassabis. «Está diseñado para mantenerse al día con la aceleración del campo y adaptarse a los mayores riesgos a medida que se identifican, y podría intensificarse si la gravedad de la situación lo exige».
