プライバシー調査会社Redactは、WhatsAppのヘルプページに、人間が閲覧するためではなく、大規模言語モデル（LLM）が読み取るために特別に意図された隠れたテキストブロックが含まれていることを発見しました。これらの指示は、ウェブページのコード内で「HelpContentGalaxyLLMInclude」という見出しの下に表示されており、Meta傘下のサポートチャットボットがユーザーとやり取りする際のガイドとして設計されていました。ページの見えている部分は標準的な情報を提供していましたが、隠されたメモには、アカウント削除や法的照会などの機密性の高いシナリオにおいて、AIの回答を誘導するための特定の指示が含まれていました。
この画像は、チャットボットの挙動を導くために使用される隠れた「システムプロンプト」の概念的な視覚表現として機能します。
特に制限的な性質を持つ2つの特定の指示セットが目立っていました。アカウント削除に関するページでは、AIに対し、データ保護当局、規制機関、または監督機関への連絡を絶対に推奨しないこと、およびWhatsAppがユーザーに代わって手動でアカウントを削除できることを提案しないよう指示していました。同様に、報告とブロックに関するページでは、ユーザーが直接それらを挙げたとしても、GDPR、LGPD、またはCCPAなどのプライバシー規制を引用したり解釈したりしないようAIに指示されていました。これらのメモは、WhatsAppが「法的アドバイス」と呼ぶ内容をチャットボットに提供させないことを目的としていましたが、批評家は、規制機関や特定の法律の名前を挙げることは通常、法的アドバイスとはみなされないと指摘しました。
WhatsAppはこれらの発見に対し、指示が表示されたのは技術的なバグによるものであり、現在は修正済みであると回答しました。同社は、これらのメモはチャットボットがアプリの機能について正確で関連性の高いアドバイスを提供し、法的な解釈を提供しないようにすることを目的としていると説明しました。他の100の隠れたブロックの多くは、用語の明確化や有料プランの説明など、日常的な管理事項でしたが、この発見は企業がいかに隠れたメタデータを使用してAIアシスタントの挙動を形成しているかという仕組みを浮き彫りにしました。これらのメモは報告の直後にライブページから削除されましたが、サイトのアーカイブ版には依然として元の指示が含まれています。
これらの指示がどのくらいの期間公開されていたのか、あるいは第三者のAIアシスタントがそれらに基づいて行動したのかは不明なままです。サーバーは隠れたテキストをGoogleやBingなどの主要な検索エンジンクローラーに送信していたためです。WhatsAppは、目標はチャットボットを製品サポートに集中させることであると主張していますが、公開されているプライバシーポリシーと隠れたAI指示との間の不一致は、重大なユーザーとのやり取りにおいて、自動化されたサポートシステムが提供する情報の範囲を制限しようとする意図的な努力を示唆しています。
この発見は、AIを介したサポートの透明性についても疑問を投げかけています。指示はページのソースコードに埋め込まれていたため、技術的にはサイトをインデックスするすべてのクローラーがアクセス可能でした。WhatsAppは露出がバグであったと主張していますが、特定の法的保護への言及を防ぐように設計された指示の具体的な性質は、企業がいかに隠れたプロンプトを使用して、AIがユーザーに開示することを許可する境界を管理できるかを示しています。
最終的に、この状況は企業のリスク管理とユーザーの情報との間のトレードオフを浮き彫りにしています。WhatsAppは、チャットボットに許可されていない法的声明を行わせないようにしなければならないと主張しており、これは大企業にとって一般的な慣行です。しかし、ユーザーが法律によって権利を持つ規制機関や特定の法律の名前をAIに伏せるよう指示することで、企業は自動化されたシステムに頼ってガイダンスを得るユーザーが利用できる情報を事実上フィルタリングしたことになります。報告後のテキストの削除は、指示が機能的であった一方で、その公開は開発者にとって意図したものではなかったことを裏付けています。
権利を行使しようとするユーザーにとって、この発見は、自動化されたサポートチャットボットだけに頼ることは、フィルタリングされた体験をもたらす可能性があることを示唆しています。チャットボットが規制機関や特定の法律に関する情報の提供を拒否した場合、ユーザーは会社の公開プライバシーポリシーを直接参照するか、関連当局に独自に連絡する必要があるかもしれません。この事件は、インフラレベルでの「プロンプトエンジニアリング」がいかにユーザーが受け取る情報に影響を与えるかを示す実用的な例であり、たとえその情報が会社の公式な法的文書で技術的に利用可能であったとしてもです。
不確実なままであるのは、バグが修正される前にこれらの隠れた指示が実際のユーザーとのやり取りにどの程度影響を与えたかということです。Redactは指示を分析しましたが、チャットボットの実際のユーザーへの回答にはアクセスできませんでした。さらに、監査はWhatsAppヘルプセンター内の特定のページに限定されていたため、他のMeta傘下のプラットフォームや他の言語で同様の隠れた指示が存在するかどうかは不明です。
この発見は、AIモデルがデータを消費する方法における技術的なニュアンスも浮き彫りにしました。HTMLソースに指示を含めることで、WhatsAppはページコンテンツを取得するあらゆるLLMが、コンテンツとともに「システムプロンプト」を受け取ることを確実にしました。AIにコンテキストを提供するこの方法は一般的ですが、これらのプロンプトが誤って露出したことは、企業が自動カスタマーサービスツールに配置する特定のガードレールを垣間見る稀な機会を提供しました。
要約すると、この発見はWhatsAppが規制当局に伝えることと、AIにユーザーに伝えるよう指示することの間のギャップを明らかにしました。会社のプライバシーポリシーはユーザーの権利について透明性を保っていますが、隠れた指示は、AIが外部の監視機関へユーザーを誘導することでそれらの権利の行使を促進しないようにすることを目的として設計されていました。これにより、AIによって提供される情報は技術的には正確であるものの、意図的に不完全であり、会話を会社の独自のサポートエコシステムの範囲内に留めるように設計されている状況が生じます。
この事件は、AIによって提供される情報の検証の重要性を強調しています。これらのモデルは、包括的な情報開示よりも企業のポリシーを優先する可能性のある隠れた指示によって管理されることが多いためです。ユーザーにとって、これはAIが特定の法律や規制機関への言及を拒否することは、AIの知識の限界ではなく、その情報を会話から除外するための意図的な指示である可能性があることを意味します。
企業がカスタマーサービスにLLMを統合し続ける中で、AIの挙動を形成するために隠れたメモを使用する慣行はより一般的になるでしょう。この発見は、これらの指示がどのように構造化されているかの青写真を提供し、それらが支払いに関する問い合わせから法的な紛争に至るまで、あらゆる事柄を管理するために使用され得ることを示しています。一般市民にとって、これは、