Google 发布了 Gemini Decisions API，这是一个专门设计的工具，旨在单次前向传递中评估多达 1,000 个独立问题——例如是/否检查、多项选择和评分标准评分。该 API 由全新的 Gemini Decision 1 模型驱动，端到端延迟仅为 150-250 毫秒，使其适用于动态模型路由和安全层等实时应用。
专为受限选择而设计
与逐个 token 生成文本的标准生成式模型不同，Gemini Decisions API 在单次传递中对候选选项进行评分。这种架构针对“封闭集”决策进行了优化，其目标是从预定义选项列表中进行选择，而非生成开放式内容。
该 API 支持三种特定的决策类型：用于是/否条件的 'noul'，用于从 2 到 255 个选项中选择的 'choice'，以及用于根据有序评分标准对输入进行评分的 'score'。每个响应都包含归一化的概率和置信度分数，以帮助开发人员评估模型的确定性。
“Gemini Decision 1 不是逐个 token 生成答案文本，而是在单次前向传递中对您的候选选项进行评分，在 150-250 毫秒的端到端延迟下返回概率和置信度分数，每 100 万输入 token 收取 0.10 美元，且不收取输出 token 费用。”
— Gemini Decisions API: Fast, calibrated multimodal decisions
多模态处理与延迟
Gemini Decision 1 模型构建在原生多模态架构之上，使其能够同时处理多样化的输入——例如将通话录音与账户元数据配对，或将扫描的 PDF 与照片配对。即使每个请求的问题数量从 1 个增加到 100 个，它仍能保持近乎平稳的延迟曲线。
图表由 HN Digest 根据 openrouter.ai 报告的数据绘制；数值与源文件一致。
通过避免逐个 token 解码带来的开销，该模型的中位计算延迟保持在 50-100 毫秒之间。这种效率允许团队将该 API 作为低延迟的“控制平面”，用于执行诸如检测搜索查询中的对抗性行为或实时选择表情符号反应等任务。
该 API 专为实时应用和低延迟控制平面设计，例如检测特定的行为或动作。
成本效益与可用性
定价结构旨在支持高容量、低复杂度的任务。由于该 API 不收取输出 token 费用，在执行共享基准测试任务时，相比于 Gemini 3.5 Flash-Lite 等通用模型，它具有显著的成本优势。
文章讨论了 Gemini Decisions API 如何比标准生成式模型获得显著的成本和性能优势。
虽然该工具目前可通过 Google AI Studio 和 OpenRouter 等第三方供应商访问，但其在 Google Cloud 的 Vertex AI 平台上的可用性尚未确认。开发人员目前可以使用该 API 构建用于意图分类、内容评分和工具选择的快速原型。
Hacker News 读者的反应
- 技术补充: 一位评论者指出，虽然该 API 比某些竞争对手更贵，但它接受音频和视频输入的能力使其在特定用例中具有独特的用途。 评论 ↗
- 质疑: 一位读者对 Google 的动机表示怀疑，认为该产品可能是通过提供一个稳健但非优越的替代方案来从现有客户手中夺取市场份额的一种方式。 评论 ↗
- 技术补充: 一位用户分享了他们使用自定义构建系统进行文件索引的经验，指出他们更倾向于使用自己的优化设置来处理图像和文档，而非标准产品。 评论 ↗
- 疑问: 一位评论者对这些模型如何计算概率的底层机制提出了疑问，好奇该过程是否与其它分类器有本质区别。 评论 ↗
以上为 Hacker News 讨论中观点的摘要，并非经过核实的事实。 阅读完整讨论 ↗