目前，用户和监管机构几乎没有办法验证 AI 响应是否源自特定模型。供应商可能会为了节省成本而秘密用更便宜的模型替换更昂贵的模型，或者网络攻击者可能会拦截并篡改 Token 流。虽然高质量的输出可能暗示正在使用前沿模型，但输出本身并不是判断底层权重的可靠指标。为了解决这个问题，Anthropic 正在开发“可证明推理”（Provable Inference, PI），这是一种允许供应商承诺使用特定模型，然后提供密码学证明以证实每个响应都是由该确切模型生成的的方法。
这张图片展示了可证明推理的核心概念，即允许供应商承诺特定的模型权重并为每个响应提供密码学证明。
FlashProve 的核心机制依赖于 zkSNARKs（简洁的零知识知识论证）。这些是密码学证书，允许“证明者”向“验证者”证明某项计算已正确执行。它们非常适合 AI 推理，因为它们是“零知识”的，意味着它们不会泄露模型的专有权重；而且是“简洁”的，意味着验证证明的速度比运行模型本身快得多。Anthropic 的原型展示了对于一个拥有 400B 参数的混合专家模型（Llama 4 Maverick），单个 H100 GPU 每秒可生成约 110 个 Token 的证明。虽然这比标准推理增加了 70 到 95 倍的 GPU 时间开销，但生成的证明足够小（每 1,024 个 Token 的请求约 19 MB），用户可以使用有限的计算资源快速进行验证。
这项技术对 AI 安全和监管具有若干实际意义。它可以通过允许监管机构验证供应商的硬件是用于推理而非用于训练新模型，从而促进“节奏控制”。它还提供了“文本溯源”，允许开发者证明使用了特定的前沿模型来扫描代码漏洞或分析商业计划。然而，该系统具有明显的局限性：它只能证明特定的一组权重生成了响应，但无法验证答案的“正确性”，也无法确保在过程中数据未被外泄。此外，虽然验证速度比运行模型快，但仍需要非微不足道的时间——在单个 CPU 线程上大约需要 17 到 21 秒——这可能会影响实时应用。