Muse de Meta, un agente de IA de propósito general diseñado para realizar tareas como reservar citas y gestionar calendarios, ha sido objeto de escrutinio debido a un fallo de privacidad en su función de compartir conversaciones. Aunque Meta comercializó al asistente como algo "construido desde cero para la privacidad y la seguridad", investigadores de la firma de seguridad Claroc descubrieron que la forma en que Muse construye las URLs compartibles permite que terceros no autorizados descubran y accedan a conversaciones privadas.
El artículo presenta a Muse de Meta como un agente de IA de propósito general diseñado para la gestión de tareas y la asistencia personal.
El texto analiza las afirmaciones de marketing de Meta sobre la arquitectura de privacidad y seguridad del asistente Muse.
La vulnerabilidad surge de una elección arquitectónica específica: Muse incluye el título de la conversación directamente dentro del subdominio de la URL. Por ejemplo, un enlace podría aparecer como `loan-application-draft-a4c9e2.cf.metaaiusercontent.com`. Debido a que estos subdominios están registrados en un dominio público, quedan registrados en sistemas de DNS pasivo, que son bases de datos que almacenan resoluciones DNS históricas. Los investigadores pudieron utilizar una sola consulta para enumerar 6,800 de estos enlaces, revelando datos sensibles que incluyen notas confidenciales de búsqueda de ejecutivos, revisiones internas de ingresos, solicitudes de préstamos e informes de rendimiento inmobiliario.
En respuesta a los hallazgos, Meta declaró que ha suspendido la funcionalidad de compartir mientras revisa el informe y considera cambios en la forma en que se descubren estos enlaces. El incidente ha planteado interrogantes sobre la seguridad de los agentes de IA que requieren un acceso profundo a las cuentas y datos personales de un usuario. Si bien la amenaza actual se mitiga con la suspensión de la función, el fallo resalta una importante compensación entre la facilidad de compartir y la seguridad de la información almacenada en los nombres de subdominios, los cuales son inherentemente más visibles para las herramientas de monitoreo público que las rutas de URL estándar.
Los investigadores de Claroc caracterizaron estos fallos como "GhostShares": páginas que permanecen accesibles para cualquiera que pueda encontrar la URL, incluso si nunca se le proporcionó el enlace al destinatario previsto. El descubrimiento subraya un desafío recurrente en el desarrollo de la IA: garantizar que las funciones de conveniencia, como el intercambio con un solo clic, no omitan inadvertidamente las mismas protecciones de privacidad que la plataforma promete proporcionar. Hasta que Meta implemente un método más opaco para generar identificadores únicos, el riesgo de descubrimiento público sigue siendo una preocupación primordial para los usuarios de la plataforma.
Este problema se ve agravado por preocupaciones de seguridad previas relacionadas con Muse. Poco después de su lanzamiento, se descubrió una vulnerabilidad de día cero que podría permitir que otras aplicaciones en un dispositivo ganaran el control de la cuenta de Muse de un usuario. Aunque Meta restó importancia a la gravedad de ese error específico, la facilidad con la que se pueden descubrir los enlaces de intercambio añade más debate sobre si el alto nivel de acceso al sistema del asistente está equilibrado por medidas de seguridad suficientes.
Actualmente, el mecanismo principal de descubrimiento es la búsqueda de DNS pasivo a través de servicios comerciales. Al mover el título de la conversación de la ruta de la URL al subdominio, Muse hizo inadvertidamente que su contenido privado fuera buscable por cualquier entidad que monitoree el tráfico DNS. La decisión de Meta de pausar la función sugiere que es necesario un rediseño de la estructura de la URL, probablemente hacia cadenas largas y no adivinables que no incluyan títulos descriptivos, para restaurar la privacidad de las conversaciones de los usuarios.
En última instancia, el incidente sirve como un recordatorio de que, incluso cuando un agente de IA se diseña con la privacidad como pilar central, detalles de implementación específicos como la arquitectura DNS pueden crear puertas traseras no deseadas. Para los usuarios, la conclusión inmediata es que cualquier contenido compartido a través de los enlaces de Muse puede ser visible para cualquiera que pueda consultar registros DNS públicos, un riesgo que Meta está abordando actualmente desactivando la función por completo.