現在、ユーザーや規制当局がAIの回答が特定のモデルから生成されたものであることを検証する方法はほとんどありません。プロバイダーはコスト削減のために高価なモデルを密かに安価なモデルに置き換えたり、サイバー攻撃者がトークンストリームを傍受して改ざんしたりする可能性があります。高品質な出力は最先端モデルが使用されていることを示唆するかもしれませんが、出力だけでは基礎となる重みの信頼できる指標にはなりません。これに対処するため、Anthropicは「証明可能な推論（provable inference; PI）」を開発しています。これは、プロバイダーが特定のモデルにコミットし、各回答がまさにそのモデルによって生成されたことを示す暗号学的証明を提供できるようにする手法です。
この画像は、プロバイダーが特定のモデルの重みにコミットし、各回答に対して暗号学的証明を提供することを可能にする、証明可能な推論の核心的な概念を説明しています。
FlashProveの核心的なメカニズムは、zkSNARKs（ゼロ知識簡潔な知識の証明）に基づいています。これらは、「証明者」が「検証者」に対して計算が正しく実行されたことを確信させる暗号学的証明書です。これらはAIの推論に特に適しています。なぜなら、それらは「ゼロ知識」であり、モデルの機密性の高い重みに関する情報を一切明かさないこと、そして「簡潔」であり、証明の検証がモデル自体の実行よりも指数関数的に速いことを意味するからです。Anthropicのプロトタイプは、400Bパラメータの混合専門家モデル（Llama 4 Maverick）において、単一のH100 GPUが毎秒約110トークンの速度で証明を生成できることを実証しています。これは標準的な推論と比較してGPU時間に70〜95倍のオーバーヘッドを伴いますが、生成される証明は十分に小さく（1,024トークンのリクエストにつき約19 MB）、計算リソースの限られたユーザーでも迅速に検証することが可能です。
この技術は、AIの安全性と規制においていくつかの実用的な意味を持ちます。規制当局が、プロバイダーのハードウェアが新しいモデルのトレーニングではなく推論に使用されていることを検証できるようにすることで、「ペース設定（pacing）」を促進する可能性があります。また、「テキストの出所（text provenance）」を提供し、開発者が特定の最先端モデルを使用してコードの脆弱性をスキャンしたり、事業計画を分析したりしたことを証明できるようにします。しかし、このシステムには明確な限界もあります。特定の重みセットが回答を生成したことは証明しますが、回答の「正当性」を検証したり、プロセス中にデータが流出していないことを保証したりするものではありません。さらに、検証はモデルの実行よりも速いものの、依然として無視できない時間（単一のCPUスレッドで約17〜21秒）を必要とするため、リアルタイムのアプリケーションには影響を与える可能性があります。