Google、安全で高コンテキストなAIに向けた8txおよび8i Maxを含むTPUポートフォリオを拡大

Googleは、第8世代Tensor Processing Unit（TPU）ポートフォリオに、2つの新しい特化型システムであるTPU 8txとTPU 8i Maxを追加し、拡大しています。これらの追加は、機密データのための高セキュリティ環境と、膨大な量の情報を同時に推論する能力の両方をワークロードがますます必要とするAIの「エージェント時代」に対応するために設計されています。

この画像は、第8世代TPUポートフォリオで導入された2つの主要な新システムを説明しています。

セキュリティとコンテキストのための特化型ハードウェア

TPU 8txは、機密データと並行してフロンティアモデルを実行する必要がある規制対象の企業や政府向けに特別に設計されています。静止時や転送時にデータを保護する標準的な暗号化とは異なり、8txはセキュリティをハードウェア層に直接構築し、メモリ内で処理されている間もデータが隔離された状態であることを保証します。

トレーニンググレードの計算能力と高速な推論ネットワークを組み合わせることで、8txは組織が単一のシステム上でモデルの実行とカスタマイズを同時に行うことを可能にします。この構成により、チームは機密データを別のクラスター間で移行することなく、プライベートなファインチューニングや強化学習を実行できます。

「TPU 8txは機密データに対してハードウェアレベルのセキュリティを提供し、TPU 8i Maxは大規模なコンテキストウィンドウを処理します。」

— Our newest TPUs: 8tx and 8i Max, built for the agentic era

TPU 8i Maxによるメモリの壁の打破

TPU 8i Maxは、AIエージェントがソフトウェアのコードベース全体や数時間のビデオなど、膨大な量のデータを処理しなければならないときに発生するボトルネックである「メモリの壁」に対処します。これは、2つのTPU 8iチップを単一のパッケージに統合することで、計算とメモリを同期してスケールさせることで実現しています。

ベースとなる8iモデルのSRAMとHBM帯域幅を倍増させることで、8i Maxはプロセッサが不可欠なデータを備え続けることを保証し、大規模なワークロードが停滞しないようにします。この設計により、既存のラックフットプリント内に2倍のシリコンを収めることで、データセンターは1平方フィートあたり、およびワットあたりの計算能力を大幅に向上させることができます。

このビジュアルは、新しい8txおよび8i Maxモデルを既存の8tおよび8iシステムと区別するのに役立ちます。

システムのモジュール性と開発者のアクセシビリティ

Googleは、これらの新しい製品を単なる「チップ」ではなく「システム」として区別しています。シリコン製造は長期のサイクルに縛られるため、GoogleはコアTPUビルディングブロックの周囲で、パッケージング、高速メモリ、および光ネットワークを迅速に調整できるモジュール式アーキテクチャを採用しています。

参入障壁を下げるために、Googleはこれらのシステムをオープンなソフトウェアスタックと統合しています。これには、PyTorchコードやHugging FaceモデルをTPU上でネイティブに実行できるTorchTPUや、自然言語を使用してオンボーディングとカーネルのオートチューニングを自動化する新しいTPUエージェントスイートが含まれます。

パフォーマンス指標と制限

Googleは、8tおよび8iシステムが前世代よりも最大2.7倍優れたトレーニングパフォーマンスと、80%優れた推論価格性能を提供すると報告していますが、新しい8txおよび8i Maxモデルの具体的な数値は発表では提供されていません。

HN Digestによる図（cloud.google.comの報告数値に基づく）。数値はソースの表記通り。

現在のドキュメントは、「計算能力の倍増」やセキュリティ機能に対する「ほぼゼロのパフォーマンスペナルティ」など、定性的な改善に焦点を当てています。特定のワット・パー・トークン数値や、NVIDIAの最新製品に対する直接的な価格対性能の比較は依然として明記されていません。