🔵 Grave vulnerabilidad en Muse, el asistente de IA de Meta, pone en jaque su seguridad
Muse, Meta's extraordinarily privileged AI assistant, has a serious 0-day
Meta, la empresa liderada por Mark Zuckerberg, ha promocionado intensamente la seguridad de su nuevo asistente de inteligencia artificial, Muse, asegurando que está «construido desde cero para la privacidad y la seguridad». Sin embargo, una vulnerabilidad de día cero que permite a las aplicaciones locales y comandos de terminal tomar control total del agente ha generado serias dudas sobre estas afirmaciones. Además, Amazon ha comenzado a bloquear Muse en su sitio web, aumentando aún más las sospechas.
Muse, presentado hace unas semanas, es capaz de «reservar citas, completar formularios y gestionar el servicio al cliente», además de «realizar compras, generar imágenes, crear documentos y conectarse con tus aplicaciones y servicios favoritos». Sin embargo, para que Muse realice estas tareas, los usuarios deben darle acceso a sus cuentas, autenticando al asistente en cada servicio y otorgándole permisos a una amplia gama de recursos del sistema operativo macOS, lo que deshace las medidas de seguridad predeterminadas de Apple.
La vulnerabilidad permite a cualquier aplicación o comando de terminal acceder al token que autentica a los usuarios en su cuenta de Muse. Esto se debe a que los desarrolladores de Meta diseñaron el asistente de manera que cualquier aplicación instalada localmente o código ejecutado, independientemente de los permisos de macOS, pueda cambiar una larga lista de configuraciones no documentadas. Una de estas configuraciones permite cambiar el endpoint donde ocurre la transcripción, lo que podría ser explotado por atacantes para redirigir el proceso a su propio servidor y obtener el control total de la cuenta de Muse.
El experto en seguridad de macOS, Patrick Wardle, quien descubrió la vulnerabilidad, afirmó: «Podemos manipular el agente y aprovechar sus privilegios para hacer lo que queramos». Wardle ha desarrollado varias pruebas de concepto que demuestran cómo se pueden escribir archivos maliciosos en el disco y tomar fotografías sin que el usuario lo note.
Meta no ha respondido a las preguntas enviadas por correo electrónico sobre esta vulnerabilidad. La empresa ha publicado dos entradas en su blog en las últimas semanas documentando las decisiones de diseño que se tomaron para garantizar la seguridad y privacidad del asistente, aunque estas revelaciones han coincidido con brechas de seguridad en modelos de otras empresas como Anthropic y Google.
Wardle criticó las decisiones de diseño de Meta, señalando que la elección de realizar la dictación en la nube, donde Meta puede registrarla, fue un error. «El estándar de seguridad para estas aplicaciones debería ser mucho más alto», comentó Wardle. «No tienen que ser perfectas, pero parece que no pensaron en la seguridad desde el principio, lo cual es realmente preocupante».
Amazon, por su parte, ha bloqueado el uso de Muse en su plataforma, afirmando que es un «agente de IA no autorizado que viola las Condiciones de Uso de Amazon». La compañía ha solicitado a Meta que elimine a Amazon de la experiencia de Muse para garantizar una experiencia segura y confiable para los clientes.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →