MetaのMuseは、予約の受付やカレンダーの管理などのタスクを実行するように設計された汎用AIエージェントですが、その会話共有機能におけるプライバシーの欠陥について精査を受けています。Metaは同アシスタントを「プライバシーとセキュリティを基盤として構築された」と宣伝していましたが、セキュリティ企業Clarocの研究者は、Museが共有URLを構築する方法により、権限のない第三者がプライベートな会話を発見し、アクセスすることが可能であることを突き止めました。
記事では、タスク管理や個人アシスタント用に設計された汎用AIエージェントとしてMetaのMuseを紹介しています。
テキストでは、Museアシスタントのプライバシーとセキュリティのアーキテクチャに関するMetaのマーケティング上の主張について述べています。
この脆弱性は、特定の設計上の選択に起因しています。Museは会話のタイトルをURLのサブドメイン内に直接含めています。例えば、リンクは `loan-application-draft-a4c9e2.cf.metaaiusercontent.com` のように表示される可能性があります。これらのサブドメインは公開ドメインに登録されているため、過去のDNS解決を保存するデータベースであるパッシブDNSシステムに記録されます。研究者は単一のクエリを使用して6,800ものこのようなリンクを列挙することに成功し、機密の役員探索ノート、内部収益レビュー、ローン申請、不動産パフォーマンスレポートなどの機密データを含む内容を明らかにしました。
これらの調査結果を受け、Metaは報告書を検討し、これらのリンクが発見される方法の変更を検討する間、共有機能を停止したと発表しました。この事案は、ユーザーの個人アカウントやデータへの深いアクセスを必要とするAIエージェントのセキュリティに関する疑問を投げかけています。現在の脅威は機能の停止によって緩和されていますが、この欠陥は、共有のしやすさと、標準的なURLパスよりも公開監視ツールに対して本質的に可視性が高いサブドメイン名に保存される情報のセキュリティとの間の重大なトレードオフを浮き彫りにしています。
Clarocの研究者は、これらを「GhostShares」と表現しました。これは、意図された受信者にリンクが提供されなかったとしても、URLを見つけることができる人であれば誰でもアクセス可能なページのことです。この発見は、AI開発における繰り返される課題を強調しています。つまり、ワンクリック共有のような利便性の高い機能が、プラットフォームが約束するプライバシー保護を意図せずバイパスしないようにすることです。Metaが固有の識別子を生成するためのより不透明な方法を実装するまで、公開による発見のリスクはプラットフォームのユーザーにとって主要な懸念事項として残ります。
この問題は、Museに関する以前のセキュリティ上の懸念によってさらに複雑になっています。発売直後、デバイス上の他のアプリがユーザーのMuseアカウントを制御できる可能性があるゼロデイ脆弱性が発見されました。Metaはその特定のバグの深刻さを過小評価しましたが、共有リンクが容易に発見できるという事実は、アシスタントの高いシステムアクセス権が十分なセキュリティ対策によってバランスされているかという継続的な議論に拍車をかけています。
現在、発見の主なメカニズムは商用サービスを通じたパッシブDNS検索です。会話のタイトルをURLパスからサブドメインに移動したことで、Museは意図せず、DNSトラフィックを監視するあらゆる組織によってプライベートなコンテンツを検索可能にしてしまいました。Metaが機能を一時停止したことは、ユーザーの会話のプライバシーを回復するために、URL構造の再設計（おそらく記述的なタイトルを含まず、推測不可能な長い文字列への移行）が必要であることを示唆しています。
最終的に、この事案は、AIエージェントがプライバシーを核として設計されたとしても、DNSアーキテクチャのような特定の実装の詳細が意図しないバックドアを作り出す可能性があることを思い出させるものです。ユーザーにとっての即時の教訓は、Museのリンクを介して共有されるコンテンツは、公開DNSレコードをクエリできる誰にでも見える可能性があるということであり、Metaは現在、機能を完全に無効化することでこのリスクに対処しています。]