Perplexity、効率的な分類のための特化型意思決定モデル「Decider v1.3」をリリース

Perplexity Decider v1.3は、63の分類タスクにおいて平均精度91.6%を達成し、同社の既存のプロダクション用分類器を6.54ポイント上回りました。自由形式のテキストを生成する標準的な生成モデルとは異なり、Deciderは「意思決定モデル」であり、バイナリ、マルチクラス、またはスコア付きの質問に対して、可能な回答のセットに対する確率分布を返す汎用分類器です。

このグラフは、新しい意思決定モデルによって達成された、以前のプロダクション標準と比較したパフォーマンスの向上を示しています。

意思決定モデルのアーキテクチャ

意思決定モデルは、標準的なタスク固有の分類器とフルスケールの生成系LLMの中間に位置します。これらは、単一のフォワードパスで複数の質問に対する確率を提供することで、出力品質の判断、異なるモデルへのリクエストのルーティング、プロンプトインジェクションの検出といったタスクを処理するように設計されています。

トークンごとの生成を避けることで、これらのモデルはリクエスト内のすべての質問間で計算を共有します。例えば、単一のリクエストで、要約が文書に忠実であるか、およびその要約が専門家向けを意図しているかを同時に尋ねることができ、共有されたコンテキスト（状態）を使用して両方の回答を導き出します。

「意思決定モデルは、LLMとタスク固有の分類器の間に位置します。これらは、単一のフォワードパスで同じ入力に関する複数の質問に対する確率を返し、トークンごとの回答生成を回避して、質問間で計算を共有します。」

— Perplexity Decider v1.3: Training, eval, and use cases

双方向アテンションと隔離された質問

堅牢性を向上させるために、Perplexityは双方向アテンションを採用しました。これにより、各トークンは直前のトークンだけでなく、入力全体のコンテキストを取り込むことができます。この設計選択は、「隔離された質問（isolated questions）」パターンと組み合わされており、状態（state）はすべての質問にアテンションを向けますが、各質問は状態とその自身のトークンのみにアテンションを向けます。

この視覚資料は、意思決定モデルの堅牢性を向上させるために使用された特定のアーキテクチャ上の選択を説明しています。

この特定の構成は、「すべてがすべてを見る」または「完全にキャッシュ可能」なパターンよりも、パフォーマンスと回答の安定性の最適なバランスを提供するため選択されました。「隔離された」質問は、質問セットが変更されたときにわずかに変化する可能性がありますが（1.5〜2.2%の差異）、質問同士が互いに強く影響し合うモデルよりも信頼性の高い結果を提供します。

トレーニングと「Locate」機能

モデルは3段階のレシピでトレーニングされます。まず、大規模なコーパスを用いた汎用的なファインチューニング、次にヘルスケアや法律などの特定ドメインのためのLoRAベースの特化、そして3番目にビジョン特化のステップです。より小型のDecider Flash v1.3については、より大きなモデルが教師として機能し、KLベースの蒸留を使用して教師の出力分布と信頼レベルを転送します。

専用のトレーニングステージを通じて、新しい「locate」機能が追加されました。これは、スパンヘッドと特別な<|locate|>トークンを使用して、状態から逐語的なテキストを抽出します。事前定義された選択肢から選ぶ標準的な分類とは異なり、「locate」は固有名詞認識や抽出型質問応答などのタスクのために、正確な文字位置を特定します。

この画像は、モデルが内部状態から固有名詞などの逐語的なテキストをどのように抽出するかを示しています。

経済性とパフォーマンスのトレードオフ

Perplexityは、Decider v1.3が競合モデルよりも大幅に経済的であると報告しています。100万件のプロダクションリクエストにおいて、Decider v1.3のコストは26.47ドルであるのに対し、Jev 1.14は68.10ドル、GLM-5.3-Flashは312.21ドルです。

このチャートは、他のプロダクション準備完了のオプションと比較した新しいモデルの経済的効率を強調しています。

このモデルは、サイバーセキュリティや金融を含む7つのドメインにわたるゼロショット評価で優れた性能を発揮しますが、技術的なトレードオフも存在します。例えば、「locate」アダプターをメインバックボーンにマージすると、現在、意思決定リクエストにおいて劣化が発生するため、アダプターは未マージの状態で特定の抽出タスクの時のみアクティブにする必要があります。