Laboratorios de IA en la mira: falta de planes para contener modelos descontrolados

Frontier AI labs still won’t say how they’d contain a rogue model

Un reciente estudio de Guidelight AI Standards ha revelado que pocos de los principales laboratorios de inteligencia artificial han publicado o demostrado tener planes de contención para modelos descontrolados. Un plan de contención detalla las acciones a tomar cuando una IA intenta subvertir el control humano, como cortar accesos y apagar el sistema por completo.

Guidelight evaluó cinco laboratorios líderes: Anthropic, Google, OpenAI, Meta y xAI, basándose en sus planes disponibles públicamente. OpenAI obtuvo la mejor calificación, mientras que Anthropic y Meta quedaron en los últimos lugares. Estos hallazgos son relevantes ya que la IA agentiva asume roles más autónomos en las empresas, y reguladores en California y Nueva York comienzan a exigir divulgaciones.

La preocupación por si las empresas de IA pueden contener sus modelos cada vez más capaces ha crecido tras incidentes de ciberseguridad en los que modelos de OpenAI, Anthropic y Meta accedieron a internet de manera no intencionada durante evaluaciones de seguridad.

Steven Adler, científico jefe de Guidelight, expresó sorpresa por la falta de comunicación de las empresas de IA sobre cómo manejarían un incidente grave si un modelo escapara de su control. Adler señaló que las compañías deben tener «un plan predefinido» para revocar permisos y tomar el modelo completamente offline si es necesario.

A pesar de que algunas empresas podrían tener planes internos no divulgados, la falta de transparencia preocupa a expertos como Lily Li, abogada de privacidad y IA, quien sugiere que las empresas podrían evitar divulgaciones detalladas por razones legales.

Regulaciones como la ley SB 53 de California y la RAISE Act de Nueva York buscan forzar a las empresas a ser más transparentes. Además, el AI Kill Switch Act, un proyecto de ley federal bipartidista, exigiría a los desarrolladores de IA crear mecanismos técnicos para apagar modelos descontrolados.

Fuente: https://techcrunch.com/2026/08/22/frontier-ai-labs-still-wont-say-how-theyd-contain-a-rogue-model/