据报道,苹果公司大幅削减了部分工程师的每日 AI 支出上限,从 300 美元降至 200 美元。这一内部调整表明,公司的 AI 支出正面临超出分配预算的风险,迫使领导层对计算资源的使用实施更严格的控制。

企业级 AI 的经济学

将计算资源像“配给办公用品”一样进行配给的决定指向了一个基本现实:先进模型的成本可能迅速变得不可持续。即使对于拥有巨额资本的硬件巨头来说,当生成式 AI 的指数级成本曲线扩展到整个工程组织时,仍会对利润空间构成风险。

通过降低上限,苹果公司发出信号,表明用于实验的无限制 Token 消耗时代正在结束。此举强调了组织需要将计算资源视为有限资源,而非无限的公用事业。

“无限制访问先进模型会产生指数级的成本曲线,即使是印钞般的硬件帝国,也会被毁掉利润空间。”

— Apple capped engineers at a $200 daily AI budget.

向极高效率的转变

对于构建者和初创公司来说,核心结论是原始能力不再是衡量成功的唯一指标。AI 开发的下一个阶段将优先考虑极高的效率,获胜者将是那些能够有效优化提示词并管理 Token 膨胀的人。

诸如智能缓存、将任务路由到更小、更便宜的模型以及优化提示词结构等策略,将成为构建可持续产品的核心要素。在没有自动化成本控制的情况下依赖暴力式推理,正日益被视为一种财务风险。

更广泛的行业压力

苹果公司内部的预算收紧反映了 AI 领域更广泛的基础设施挑战。例如,密歇根大学的研究显示,非英语提示词消耗的能量可能比英语提示词高出多达 179 倍,这为全球化产品带来了不可预测的成本。

此外,自主智能体的兴起引入了新的安全和成本担忧,导致对严格访问控制和护栏的需求日益增加。这些因素共同表明,行业正朝着更严谨、更具成本意识的 AI 集成方式转变。

Hacker News 读者的反应

  • 亲身经验: 一位构建大型功能的评论者指出,他们的会话偶尔会产生超过 1,000 美元的 API 成本,并质疑 200 美元的限制对于复杂的开发是否足够。 评论 ↗
  • 质疑: 另一位用户认为,如果 200 美元的限制是指 API 定价,那么可能太低了,因为某些个人订阅计划提供的 Token 数量可能超过这个数额。 评论 ↗
  • 亲身经验: 一位评论者分享说,在使用某些模型且请求不明确或无限制时,他们仅用 6 小时就耗尽了一周的 Token。 评论 ↗
  • 质疑: 一位读者建议,如果目标是确保工程师将 AI 作为辅助工具而非主要工具,那么这个预算是合理的,这将迫使他们更深入地思考问题。 评论 ↗

以上为 Hacker News 讨论中观点的摘要,并非经过核实的事实。 阅读完整讨论 ↗