現在のAIエージェント向けインフラは、各エージェントを専用のサンドボックス内で実行することに依存していることが多いです。しかし、これらのサンドボックスは維持コストが高く、起動が遅く、時間の大部分をアイドル状態で過ごすため、しばしば非効率となります。Rivetは、各エージェントをフルサンドボックスではなく軽量なActorとして表現するActorモデルを採用することで、これらのボトルネックを解決します。これらのActorは、コンテキストのためのインメモリ状態を維持し、マルチプレイヤーのインタラクションのためのWebSocketサーバーを提供し、耐久性のあるSQLiteストレージを利用します。この移行により、リソースのオーバーヘッドが大幅に削減されます。RivetのActorは、最小限のサンドボックスに必要な512 MBに対し、ベースラインで72 KBであり、起動時間のp99はサンドボックスの1.7秒に対し4.9 msを達成しています。

パフォーマンスとコストのバランスを取るために、RivetはAmazon S3をバックエンドとした階層型ストレージアーキテクチャを採用しています。エージェントは、セッションのトランスクリプトや完全なPOSIXファイルシステムなど、大量のデータを生成する可能性があるため、すべてを高パフォーマンスなSSDに保存することはコスト面で現実的ではありません。Rivetは、SSDティアを使用して書き込みを即座に承認し（3つのアベイラビリティゾーンにわたる）、そのデータをバックグラウンドでS3にバッチ処理することでこの問題を解決します。これにより、S3がクリティカルな書き込みパスに決して入らないことが保証され、システムはSSDレベルの速度を維持しながら、データストレージを標準的なEBS gp3ボリュームよりも10倍安く抑えることができます。このアーキテクチャは、約1.07 msの耐久性のある書き込みと1.36 msの読み込みをサポートし、キャッシュされていないデータについてはオブジェクトストレージへのフォールバックを提供します。

このモデルの実際的な応用例としては、Cloudflare Durable ObjectsからRivetへ移行し、プラットフォームの制限を回避して独自のプライベートVPC内にデプロイしたAmpのような企業があります。Actorモデルの技術的な効率性は主な魅力ですが、初期のユーザーの中には、プラットフォームのユーザーエクスペリエンスや特定のエッジケースに関して急な学習曲線があることを指摘している人もいます。さらに、このモデルに関する技術的な議論では、エージェントループをサンドボックスから切り離すことで、エージェントが応答を待機している推論フェーズのコストを最小限に抑えられることが示唆されています。注目すべき制限が一つ残っています。提供された資料には、従来のサンドボックス環境なしで、多くのエージェントワークロードに共通の要件である信頼できないAI生成コードに対するセキュリティ隔離をRivetがどのように処理するかが明記されていません。