Inceptionは、複雑な商用アプリケーション向けに高速な推論を提供する拡散ベースの大規模言語モデル（LLM）「Mercury 3」を発表しました。テキストを1トークンずつ生成する標準的な自己回帰モデルとは異なり、拡散モデルはノイズベースの表現を反復的に洗練させることでコンテンツを生成します。Mercury 3はこのアーキテクチャの拡張可能な進化形として位置付けられており、開発者によれば、NVIDIA GPU上で毎秒1,000トークン以上の速度を実現しつつ、GPT-6 LunaやClaude Haiku 5.5といった最先端の速度最適化モデルを凌駕すると主張されています。
このモデルは前身から大幅なスケールアップを実現しており、Mercury 1の総パラメータ数の40倍以上を誇ります。Inceptionによると、このスケーリングにより、標準的なベンチマークにおいてMercury 1（mini）バージョンと比較して知能が3倍向上しました。Mercury 3の技術的な目標は、パラメータとデータの増加がより高い知能につながるという自己回帰モデルを支配するスケーリング則が、拡散ベースのアーキテクチャにも適用されることを証明することです。これにより、モデルは大規模な自己回帰システムに特有の遅延のボトルネックに阻まれることなく、ウェブナビゲーション、リアルタイムの家庭教師、データエンジニアリングなどの高度なタスクを処理することが可能になります。
このチャートは、パラメータ数の増加によって達成された3倍の知能向上とスケーリング則を説明しています。
実際のプロダクション環境において、Mercury 3は、モデルの応答におけるわずかな遅延がユーザーにとって大きな待ち時間へと累積する可能性がある、遅延に敏感な「ブラウザ操作」エージェントに活用されています。Mind2Webナビゲーションベンチマークでのテストでは、Mercury 3は50%のタスクを完了し、同じトークン量とエージェントのステップ数を使用しながらGPT-6.1-Solを上回りました。さらに、このモデルの速度により、約1秒で学生に即座のフィードバックやヒントを提供できるリアルタイムのインタラクティブな教育が可能になります。このモデルはこれらのユースケースに対して高速な代替手段を提供しており、現在はInception API PlatformおよびOpenRouterやVercelなどの複数のサードパーティプロバイダーを通じて利用可能です。
この図は、GPT-6.1-Solなどの他のモデルに対するMercury 3のパフォーマンスの視覚的な比較を提供します。