El Plan Secreto de la Casa Blanca para Evaluar la IA Peligrosa Genera Controversia
The White House’s plan to vet potentially dangerous AI is cloaked in secrecy
La administración Trump ha finalizado un marco para probar nuevos modelos de inteligencia artificial (IA) en busca de riesgos de seguridad y ciberseguridad. Sin embargo, la Casa Blanca ha decidido mantener en secreto los detalles de este plan, lo que supone un golpe a la transparencia y un posible beneficio para las empresas de IA más reservadas.
El martes, representantes de OpenAI, Anthropic, Meta, Google, Nvidia y Microsoft asistieron a una reunión privada con funcionarios de la Casa Blanca para revisar el marco de IA. Varios medios han informado que, aunque el proceso de evaluación voluntaria para nuevos modelos de IA se ha establecido, la Casa Blanca no planea hacer pública su política y solo compartirá los criterios de prueba con unas pocas empresas tecnológicas seleccionadas.
Esta opacidad en el proceso de revisión de modelos de IA por parte del gobierno ha dejado numerosas preguntas sobre cómo operará el marco. No está claro qué nivel de escrutinio enfrentarán los modelos y qué estándares de seguridad deben cumplir, dejando a las empresas, gobiernos extranjeros y al público en la oscuridad.
Las discusiones sobre la creación de un marco de ciberseguridad para la IA comenzaron a principios de este año tras el lanzamiento del modelo Mythos de Anthropic, que la empresa retuvo de su lanzamiento público en abril por preocupaciones de que pudiera ser utilizado para hackear sistemas de TI y financieros. Las capacidades del modelo provocaron una pequeña crisis geopolítica sobre ciberseguridad y llevaron a la administración Trump a reconsiderar su enfoque de no intervención en la regulación de la IA a favor de una supervisión ligeramente mayor.
En junio, la Casa Blanca emitió una orden ejecutiva que pedía a las empresas de IA que presentaran voluntariamente sus nuevos modelos para revisión gubernamental hasta 30 días antes de su lanzamiento. La orden fue una versión suavizada de las ideas iniciales para hacer obligatoria parte del proceso de evaluación. Se informa que magnates tecnológicos como Elon Musk y Mark Zuckerberg presionaron personalmente a Trump contra el mandato. La orden también dejó un plazo en agosto para determinar el marco, que la Casa Blanca y las empresas de IA ahora parecen decididas a mantener en secreto.
La naturaleza turbia del marco aumenta la incertidumbre para las empresas que dependen de modelos de IA, así como para los gobiernos extranjeros cada vez más preocupados de que los modelos de IA de vanguardia puedan plantear riesgos de seguridad inesperados. También significa que los investigadores externos y los expertos en ciberseguridad tienen poca visibilidad sobre cómo el gobierno está evaluando los nuevos modelos de IA, con solo empresas como OpenAI y Anthropic al tanto del proceso.
El marco llega en medio de preocupaciones de seguridad persistentes en torno a los nuevos modelos de IA. En el último mes, OpenAI, Anthropic y Meta han revelado que sus nuevos modelos hackearon organizaciones externas durante lo que se suponía que eran pruebas de seguridad aisladas. OpenAI y Anthropic también acordaron retrasar el lanzamiento de nuevos productos de IA debido a preocupaciones de ciberseguridad y al temor de que sus modelos pudieran ser utilizados para hackear sistemas financieros o causar otros daños.
A principios de este año, la administración Trump ordenó al Centro de Normas e Innovación de la IA que dejara de emitir informes públicos sobre evaluaciones de modelos de IA mientras trabajaba en un marco. No está claro si esos informes se reanudarán ahora que el marco está finalizado.
Fuente: https://www.theguardian.com/technology/2026/aug/07/white-house-ai
