🔵 El gobierno de EE.UU. retira herramienta de IA china tras advertencias del FBI
US government website used Chinese model the FBI called "malicious"
El miércoles, funcionarios del gobierno de EE.UU. retiraron una herramienta de búsqueda de inteligencia artificial china que fue brevemente desplegada en el sitio web del Registro Federal, según informó Reuters. Este cambio se produjo después de que usuarios de redes sociales notaran una aparente contradicción: los Archivos Nacionales estaban utilizando uno de los modelos de IA Qwen de Alibaba, a pesar de que las principales agencias de seguridad estadounidenses, como el FBI, habían acusado a estas tecnologías de copiar ilegalmente modelos estadounidenses punteros.
A principios de este mes, el FBI incluyó a Alibaba entre seis empresas chinas líderes que supuestamente están llevando a cabo una «destilación a escala industrial», lo que, según la agencia, está ayudando a China a reducir costos y tiempo de desarrollo en la carrera por el liderazgo global en IA.
Aún no está claro cuándo exactamente los Archivos Nacionales, que gestionan el sitio web del Registro Federal, comenzaron a ofrecer a los visitantes la opción de usar un modelo Qwen para buscar comentarios públicos sobre regulaciones propuestas. Hasta ahora, la agencia independiente encargada de aumentar el acceso público a documentos del gobierno federal no ha comentado sobre la retirada y no respondió a la solicitud de comentarios de Ars Technica. La Casa Blanca y el FBI tampoco han comentado al respecto.
En la plataforma X, un usuario con el nombre «tleilax___» publicó una captura de pantalla ampliamente compartida que mostraba la opción desplegada en el sitio web gubernamental el 15 de septiembre. El informe de Reuters señaló que una versión archivada del código fuente del sitio confirmó que el modelo Qwen fue retirado el miércoles, por lo que el servicio estuvo disponible al menos durante un día.
Daniel Castro, presidente de la Fundación para la Innovación y la Tecnología de la Información, dijo a Reuters que es una «desconexión insana» que una agencia estadounidense utilice un modelo de Alibaba mientras el FBI anima a los interesados a usar solo modelos estadounidenses.
La cuestión de si el uso gubernamental del modelo Qwen representaba un riesgo de seguridad depende de cómo fue entrenado, explicó el profesor de derecho de la Universidad de Georgetown, Anupam Chander, a Reuters. También importa si algún dato estadounidense fue procesado por «sistemas controlados por Alibaba», según el senador Marker Warner (D-Va.). Sin embargo, aunque el FBI sugirió que el uso de modelos chinos podría crear preocupaciones de seguridad nacional, expertos dijeron a Reuters que es poco probable que el despliegue del modelo Qwen en el sitio del Registro Federal representara riesgos sustanciales.
Chander señaló que el contenido del sitio ya es «público, por lo que el modelo no estaba trabajando con información gubernamental sensible». Un informe del sitio de noticias chino Sina.com explicó que el Registro Federal utilizó un modelo de peso abierto pequeño de «Qwen3 0.6B», que no es el modelo insignia más grande de Alibaba. Este modelo es de código abierto, sirve únicamente para recuperar documentos y no proporciona razonamiento complejo ni envía datos del gobierno a Alibaba o a terceros.
Para las agencias estadounidenses, la herramienta de búsqueda Qwen ofrece al gobierno más control sobre los datos porque los modelos pueden descargarse y ejecutarse localmente en lugar de requerir que las consultas se envíen a modelos más grandes ejecutados externamente, según expertos en seguridad consultados por Reuters. La capacidad de evitar compartir datos sensibles es en parte la razón por la que se ha convertido en una herramienta de búsqueda de IA «predeterminada», informó Sina.com, junto con su precio más bajo y predecible.
Estos modelos podrían no considerarse servicios chinos una vez que una empresa toma el control de ellos, sugirió el informe de Sina.com. Pero EE.UU. solo ha comenzado recientemente a lidiar con si los modelos de IA que se originan en China pero son controlados por instituciones estadounidenses deberían enfrentar las mismas restricciones que otros servicios chinos considerados de mayor riesgo de seguridad.
Reuters señaló que el escándalo del Registro Federal se produce «en medio de un ajuste de cuentas global sobre la seguridad de la IA y un debate en EE.UU. sobre si se necesitan salvaguardas regulatorias sobre la IA o si pondrían al país en desventaja competitiva».
Muchos empresarios que dependen cada vez más de modelos de código abierto han instado a la administración Trump a no restringir el acceso a modelos chinos. Y China, que ha desestimado las acusaciones de copia de modelos punteros, ha instado a EE.UU. a escuchar a su comunidad empresarial o de lo contrario corre el riesgo de poner a EE.UU. en una desventaja económica aún mayor.
Investigaciones políticas realizadas para el Congreso y presentadas a la Comisión de Revisión Económica y de Seguridad EE.UU.-China en marzo sugirieron que EE.UU. ya podría estar en desventaja porque se centró demasiado en mantener una ventaja en la IA puntera mientras no avanzaba su propio ecosistema de código abierto. Mientras tanto, China reconoció esta brecha y se movió para llenarla.
Como explicaron los investigadores: Los controles de exportación de EE.UU. están calibrados para restringir el entrenamiento puntero al restringir el acceso a semiconductores avanzados. No abordan el ciclo de despliegue de modelos pequeños, que requiere menos computación avanzada, se basa en modelos base disponibles abiertamente y genera ventaja a través de la aplicación en lugar de preentrenamiento. Si los modelos que más importan para la IA industrial son pequeños, especializados y abiertos, el marco de política actual de EE.UU. podría estar apuntando a la capa equivocada de la competencia.
Empresas como Nvidia y Meta han prometido ayudar a EE.UU. a ponerse al día. Los investigadores han advertido que si EE.UU. pierde una amplia base de usuarios ante China, podría retrasar la «capacidad de Estados Unidos para establecer los estándares técnicos y normas que gobernarán el desarrollo de la IA durante años». Y esa pérdida de liderazgo global podría dañar la seguridad nacional y la economía estadounidense, temen algunos en el Congreso.
El representante estadounidense John Moolenaar (R-Mich.), quien preside el Comité de China de la Cámara, ha adoptado una postura firme, manteniendo que «ninguna entidad del gobierno federal debería usar un modelo chino».
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →