Mistral AIは、同社初の時系列基盤モデル（TSFM）ファミリーであるTimestralを発表しました。単一のデータシリーズに適合させるのが一般的なARIMAのような古典的な予測ツールや、特定のデータセット向けにゼロから訓練されることが多いPatchTSTのようなディープラーニングモデルとは異なり、Timestralは基盤モデルのアプローチを採用しています。大規模で多様なコーパスで事前学習を行うことで、このモデルは基礎となるパターンを学習し、過去のデータが乏しい場合でも、新しいドメインに対してゼロショットで適用することが可能です。
Timestralファミリーは、5Mから209Mのパラメータを持つ4つのモデルで構成されています。Mistral社は、209Mパラメータのモデルが、競合するモデルのパラメータの3分の2しか使用していないにもかかわらず、3つの主要な公開ベンチマーク（GIFT-Eval、TIME、fev-bench）において最先端の性能を達成したと主張しています。Timestralの主要な技術的特徴は「Decoupled Horizon Forecasting（DHF）」メカニズムです。予測値を欠損したコンテキストとして扱う連続的なパッチマスキングを使用する他のいくつかのモデルとは異なり、DHFはシーケンス内に完全な履歴を保持し、学習された予測トークンがそれより前の全履歴を読み取れるようにします。これにより、すべての観測値がターゲットとコンテキストの両方の役割を果たし、真のギャップのみが欠損としてフラグ立てられます。
Timestralファミリーは、5Mから209Mのパラメータを持つ4つのモデルで構成されています。
Mistral社は、209Mパラメータのモデルが、競合するモデルのパラメータの3分の2しか使用していないにもかかわらず、3つの主要な公開ベンチマーク（GIFT-Eval、TIME、fev-bench）において最先端の性能を達成したと主張しています。
Mistral社は、209Mパラメータのモデルが、競合するモデルのパラメータの3分の2しか使用していないにもかかわらず、3つの主要な公開ベンチマーク（GIFT-Eval、TIME、fev-bench）において最先端の性能を達成したと主張しています。
Mistral社は、209Mパラメータのモデルが、競合するモデルのパラメータの3分の2しか使用していないにもかかわらず、3つの主要な公開ベンチマーク（GIFT-Eval、TIME、fev-bench）において最先端の性能を達成したと主張しています。
Mistral社は、209Mパラメータのモデルが、競合するモデルのパラメータの3分の2しか使用していないにもかかわらず、3つの主要な公開ベンチマーク（GIFT-Eval、TIME、fev-bench）において最先端の性能を達成したと主張しています。
標準的な予測を超えて、Timestralは多変量ターゲット、および過去のみの共変量と既知の将来の共変量の両方をサポートします。例えば、産業環境において、このモデルは生産スケジュールや天気予報のような既知の将来の変数に条件付けを行いながら、ポンプの振動や温度といった関連するセンサーデータを共同で予測できます。機械の状態（「アイドル」や「メンテナンス」など）のような非数値データを処理するために、Timestralはカテゴリ入力を直接受け入れます。これらのモデルは効率性を重視して設計されており、209MバージョンはGPUなしで標準的なサーバーCPU上で実行可能です。モデルはゼロショット推論が可能である一方で、Mistral社は、独自のドメインデータや特定のアーキテクチャ拡張に適応させる必要がある組織向けに、Mistral Forgeを通じてファインチューニングパイプラインも提供しています。