隐私研究公司 Redact 发现，WhatsApp 的帮助页面包含专门供大型语言模型（LLM）阅读、而非供人类用户查看的隐藏文本块。这些指令出现在网页代码中，标题为 "HelpContentGalaxyLLMInclude"，旨在引导 Meta 旗下的支持聊天机器人在与用户互动时遵循特定规则。虽然页面的可见部分提供了标准信息，但隐藏的注释包含了特定的指令，旨在引导 AI 在敏感场景（如账户删除和法律咨询）中的回答。
这张图片作为用于引导聊天机器人行为的隐藏“系统提示”的概念视觉效果。
两组特定的指令因其限制性特征而脱颖而出。在关于账户删除的页面上，隐藏文本指示 AI 切勿建议联系数据保护机构、监管机构或监督机构，并避免暗示 WhatsApp 可以代表用户手动删除账户。同样，在关于举报和屏蔽的页面上，AI 被指示避免引用或解释 GDPR、LGPD 或 CCPA 等隐私法规，即使用户直接提出这些法规。这些注释旨在防止聊天机器人提供 WhatsApp 所描述的“法律建议”，但批评人士指出，提及监管机构或特定法律通常不被视为法律建议。
WhatsApp 对这些发现做出回应，表示这些指令是由于技术漏洞而显示的，目前已修复。该公司澄清，这些注释旨在确保聊天机器人提供有关应用程序功能的准确且相关的建议，而非法律解释。虽然其他 100 个隐藏块大多是常规的维护工作——例如澄清术语或描述付费计划——但这一发现突显了公司利用隐藏元数据来塑造 AI 助手行为的机制。报告发布后不久，这些注释就从实时页面中移除，尽管存档版本的网站仍包含原始指令。
目前尚不清楚这些指令公开可访问的时间长短，或者是否有任何第三方 AI 助手根据这些指令采取了行动，因为服务器将隐藏文本发送给了 Google 和 Bing 等主要搜索引擎爬虫。虽然 WhatsApp 坚持认为其目标是让聊天机器人专注于产品支持，但面向公众的隐私政策与隐藏的 AI 指令之间的差异，表明公司在用户进行高风险互动时，有意限制自动化支持系统提供信息的范围。
这一发现还引发了关于 AI 介导支持透明度的疑问。由于指令嵌入在页面的源代码中，它们在技术上对任何索引该网站的爬虫都是可见的。虽然 WhatsApp 声称暴露是由于漏洞造成的，但指令的特定性质——旨在防止提及特定的法律保护——说明了公司如何利用隐藏提示来管理 AI 被允许向用户披露信息的边界。
最终，这种情况突显了企业风险管理与用户信息之间的权衡。WhatsApp 辩称，它必须防止其聊天机器人做出未经授权的法律声明，这是大型企业的常见做法。然而，通过指示 AI 隐瞒用户依法享有权利的监管机构名称和特定法律，公司实际上过滤了那些依赖自动化系统获取指导的用户可获得的信息。报告发布后移除文本证实，虽然这些指令具有功能性，但其公开可见并非公司开发者的本意。
对于寻求行使权利的用户来说，这些发现表明，仅依赖自动化支持聊天机器人可能会导致过滤后的体验。如果聊天机器人拒绝提供有关监管机构或特定法律的信息，用户可能需要直接查阅公司的公开隐私政策或独立联系相关机构。这一事件是一个实际案例，展示了基础设施层面的“提示工程”如何影响用户接收到的信息，即使这些信息在公司的官方法律文件中技术上是可用的。
目前尚不确定这些隐藏指令在漏洞修复前影响实际用户互动的程度。虽然 Redact 分析了这些指令，但他们无法获取聊天机器人对用户的实际回答。此外，目前尚不清楚其他 Meta 旗下的平台或其他语言中是否存在类似的隐藏指令，因为此次审计仅限于 WhatsApp 帮助中心内的特定页面。
这些发现还突显了 AI 模型消耗数据的技术细微差别。通过将指令包含在 HTML 源代码中，WhatsApp 确保任何获取页面内容的 LLM 都会在获取内容的同时收到“系统提示”。这种为 AI 提供上下文的方法很常见，但这些提示的意外暴露提供了一个罕见的视角，让我们看到公司在其自动化客户服务工具上设置的特定护栏。
总结来说，这一发现揭示了 WhatsApp 向监管机构告知的内容与其要求 AI 向用户告知的内容之间的差距。虽然公司的隐私政策透明地说明了用户权利，但隐藏的指令旨在确保 AI 不会通过引导用户前往外部监督机构来促进这些权利的行使。这造成了一种情况：AI 提供的信息在技术上是准确的，但故意是不完整的，旨在将对话保持在公司自身的支持生态系统范围内。
这一事件强调了核实 AI 提供信息的重要性，因为这些模型通常受隐藏指令的约束，这些指令可能会优先考虑公司政策而非全面的信息披露。对于用户来说，这意味着 AI 拒绝提及特定法律或监管机构可能不是 AI 知识的局限，而是故意要求在对话中省略这些信息。
随着公司继续将 LLM 集成到客户服务中，使用隐藏注释来塑造 AI 行为的做法可能会变得更加普遍。这一发现提供了一个关于这些指令如何构建的蓝图，表明它们可以被用于管理从付款查询到法律纠纷的一切事务。对于公众来说，这是一个提醒，提醒人们……