目前的 AI Agent 基础设施通常依赖在专用沙箱中运行每个 Agent。然而,这些沙箱往往效率低下,因为它们的维护成本高、启动速度慢,且大部分时间处于闲置状态。Rivet 通过使用 Actor 模型来解决这些瓶颈,其中每个 Agent 由一个轻量级的 Actor 代表,而不是完整的沙箱。这些 Actor 为上下文维护内存状态,提供用于多玩家交互的 WebSocket 服务器,并利用持久化的 SQLite 存储。这种转变显著降低了资源开销:Rivet Actor 的基准占用为 72 KB,而最小沙箱需要 512 MB;此外,它们的 p99 启动时间为 4.9 毫秒,而沙箱则需要 1.7 秒。
为了平衡性能与成本,Rivet 采用了由 Amazon S3 支持的分层存储架构。由于 Agent 可能会生成海量数据——例如会话转录和完整的 POSIX 文件系统——将所有内容存储在高性能 SSD 上在成本上是不可承受的。Rivet 通过使用 SSD 层立即确认写入(跨三个可用区),同时在后台将数据批量传输到 S3 来解决这一问题。这确保了 S3 永远不在关键写入路径上,使系统能够在保持 SSD 级别速度的同时,将数据存储成本降低至标准 EBS gp3 卷的 10 倍。该架构支持约 1.07 毫秒的持久化写入和 1.36 毫秒的读取,对于未缓存的数据则回退到对象存储。
该模型的实际应用包括像 Amp 这样的公司,他们从 Cloudflare Durable Objects 迁移到 Rivet,以绕过平台限制并在自己的私有 VPC 中进行部署。虽然 Actor 模型的技术效率是主要吸引力,但一些早期用户指出,在平台用户体验和特定边缘情况方面存在陡峭的学习曲线。此外,围绕该模型的技术讨论表明,通过将 Agent 循环与沙箱解耦,开发人员可以在 Agent 等待响应的推理阶段最小化成本。目前仍有一个显著的局限性:提供的材料并未说明 Rivet 在没有传统沙箱环境的情况下,如何处理不受信任的 AI 生成代码的安全隔离,而这是许多 Agent 工作负载的常见要求。
