データリポジトリの調査により、同じNVIDIA H100 GPUの時給レンタル料金が、ホスティングプロバイダーによって最大4.57倍も異なることが明らかになった。この価格差は、ユーザーが低コストの「コミュニティ」アクセスと、高速ネットワークやセキュリティ保証を含むプレミアムなインフラのどちらかを選択しなければならない、断片化された市場を浮き彫りにしている。
GPUレンタルの価格差
GPUの価格を追跡しているGitHubリポジトリという主な情報源は、H100 GPUのコストが固定されていないことを示している。プロバイダーによっては、ユーザーは同じハードウェアに対して、時給でわずか2.69ドルから最大12.29ドルを支払うことになる。
この変動は、GPUの「表示価格」が周囲のインフラに大きく影響されることを示唆している。Hacker Newsのコメントでは、4.57倍の価格差はチップ自体を超えた要因、例えば高速インターコネクトのためのInfiniBandの有無、コミットされた容量、およびエンタープライズ級のコンプライアンスによって引き起こされることが多いと指摘されている。
コストとセキュリティのトレードオフ
最低価格を求めるユーザーは、重大なセキュリティ上のトレードオフに直面する可能性がある。Hacker Newsのコメント投稿者の一人であるplantainは、RunpodやVastのような「コミュニティ」プロバイダーで価値のあるワークロードを実行することは、ホストが仮想マシンの中を覗き見ることができる可能性があるため、リスクがある可能性があると警告した。
逆に、一部の参加者は、「覗き見」のリスクは非機密性のタスクにとっては許容可能なトレードオフであると主張した。コメント投稿者のgpmは、イチゴを識別するためのモデルの微調整など、多くのワークロードにおいて、競合他社が営業秘密を獲得するリスクは、より大きな組織が関与している場合に営業秘密法に違反するリスクよりも低いと示唆した。
信頼性と可用性の制約
低コストの選択肢は、常にプレミアムサービスの信頼できる代替品になるわけではない。Hacker Newsのコメントでは、特定のホスト型GPUを使用した際に、プロセスの「スタック」、古いドライバー、およびインターネット接続の不良を経験したという報告があった。
予算を重視するユーザーにとって、可用性も依然として障壁となっている。コメント投稿者のjdc0589は、一部のプロバイダーは魅力的な価格を提供しているものの、高VRAM（20GB以上）の特定のGPUを見つけることは困難な場合があり、希望するハードウェアが利用できない場合は時給料金が意味をなさない可能性があると指摘した。
新興の市場指標
この変動する市場をナビゲートするために、新しい価格指標が登場し始めている。コメント投稿者のburedorannaは、価格の観察と実行された取引を追跡するためのツールとして「Silicon Index」と「Ornn Compute Price Index (OCPI)」を強調した。
これらの指標は、ユーザーが実際に支払う意思のある金額をより明確に把握することを目指しており、異なる層のGPUプロバイダー間の市場力学を明確にするのに役立つ。
プロバイダーのインフラにおける不確実性
価格データは可視化されているものの、2.69ドルのH100と12.29ドルのH100の間の具体的な技術的差異は必ずしも透明ではない。Hacker Newsのコメント投稿者の一人が提起した可能性のように、どのプロバイダーが高価格のリスティングに対して安価な容量を下請けしているのかは依然として不明である。
さらに、異なるH100バリアントの具体的なデータや、すべてのプロバイダーにおける「エンタープライズ」コストの正確な内訳は、現在のデータセットでは大部分が定量化されていないままである。