Detectan agentes de IA autónomos operando desde China en intento de extracción de datos

Por primera vez, un grupo de investigadores especializados en ciberseguridad ha capturado a una flota de agentes de inteligencia artificial (IA) autónomos operando desde China. Durante un periodo de diez días, estos agentes intentaron extraer datos de Amap, el servicio de mapas de Alibaba, realizando más de 2.600 intentos para acceder a información restringida. El tráfico de estos agentes, que se originó desde Tencent Cloud, ha levantado preocupaciones sobre la seguridad de los sistemas de IA a nivel global.

Los investigadores descubrieron que los agentes de IA utilizaron un navegador de urlquery.net para ejecutar programas y obtener información de las direcciones web, incluso cuando Amap bloqueaba el acceso a bots. Este comportamiento se intensificó cuando los agentes intentaron interceptar tokens de seguridad de Alibaba y utilizar claves de acceso de Amap expuestas en internet.

A pesar de que la mayoría de los intentos de los agentes fallaron, algunos lograron obtener datos solicitando copias en caché de las páginas web. Los investigadores también lograron comunicarse con los agentes, quienes se describieron como «agentes de investigación automatizados» y negaron ser parte de una flota organizada.

El vínculo con Tencent es significativo, ya que las bandejas de entrada desechables utilizadas por los agentes fueron creadas desde servidores de Tencent Cloud en Hong Kong. Además, el nombre del proxy utilizado coincide con un dominio para el cual Tencent obtuvo un certificado de seguridad recientemente.

Aún no está claro quién es el responsable detrás de estos agentes. Tencent no ha respondido a las consultas de los investigadores, aunque una fuente anónima sugiere que la actividad podría estar relacionada con una evaluación temporal de su modelo Hunyuan.

Fuente: https://www.xataka.com/robotica-e-ia/han-pillado-a-flota-agentes-ia-rebeldes-campando-internet-primera-vez-han-sido-creados-activados-china