Google、高速なマルチモーダル選択評価のためのGemini Decisions APIをリリース

Googleは、Yes/Noのチェック、多肢選択、ルーブリックによるスコアリングなど、最大1,000の独立した質問を単一のフォワードパスで評価するために設計された専用ツール、Gemini Decisions APIをリリースしました。新しいGemini Decision 1モデルを搭載したこのAPIは、エンドツーエンドのレイテンシで150〜250msを達成しており、動的なモデルルーティングや安全性のレイヤーといったリアルタイムアプリケーションに適しています。

限定的な選択に特化した設計

テキストをトークンごとに生成する標準的な生成モデルとは異なり、Gemini Decisions APIは単一のパスで候補の選択肢をスコアリングします。このアーキテクチャは、オープンなコンテンツを生成するのではなく、定義済みの選択肢リストから選ぶことを目的とした「クローズドセット」の意思決定に最適化されています。

このAPIは、3つの特定の意思決定タイプをサポートしています。Yes/Noの条件のための「noul」、2〜255の選択肢から選ぶための「choice」、および順序付きのルーブリックに照らして入力を評価するための「score」です。各レスポンスには、開発者がモデルの確信度を評価するのに役立つ正規化された確率と信頼度スコアが含まれています。

「回答テキストをトークンごとに生成するのではなく、Gemini Decision 1は候補の選択肢を単一のフォワードパスでスコアリングし、出力トークン料金なしで100万入力トークンあたり0.10ドルのコストで、150〜250msのエンドツーエンドのレイテンシで確率と信頼度スコアを返します。」

— Gemini Decisions API: Fast, calibrated multimodal decisions

マルチモーダル処理とレイテンシ

Gemini Decision 1モデルはネイティブなマルチモーダルアーキテクチャに基づいて構築されており、通話録音とアカウントのメタデータを組み合わせたり、スキャンされたPDFと写真を組み合わせたりといった多様な入力を同時に処理できます。リクエストあたりの質問数が1から100に増加しても、ほぼフラットなレイテンシプロファイルを維持します。

HN Digestによる図表（openrouter.aiの報告数に基づく）。数値はソースの表記通り。

トークンごとのデコードによるオーバーヘッドを回避することで、モデルは中央値の計算レイテンシを50〜100msに抑えています。この効率性により、チームは検索クエリにおける敵対的な動作の検出や、リアルタイムでの絵文字リアクションの選択といったタスクのための低レイテンシな「コントロールプレーン」としてこのAPIを使用できます。

このAPIは、特定の動作やアクションを検出するような、リアルタイムアプリケーションや低レイテンシのコントロールプレーン向けに設計されています。

コスト効率と可用性

料金体系は、高ボリュームで低複雑度のタスクを優先するように設計されています。このAPIは出力トークンに対して請求を行わないため、共通のベンチマークタスクを実行する際、Gemini 3.5 Flash-Liteのような汎用モデルと比較して大きなコスト優位性を提供します。

この記事では、Gemini Decisions APIが標準的な生成モデルと比較して、いかに大きなコストと性能の優位性を達成しているかについて論じています。

このツールは現在、Google AI StudioおよびOpenRouterなどのサードパーティプロバイダーを通じてアクセス可能ですが、Google CloudのVertex AIプラットフォームでの可用性はまだ確認されていません。開発者は現在、このAPIを使用して、意図の分類、コンテンツの格付け、ツールの選択のための迅速なプロトタイプを構築できます。