Sam Altman 最近关于内存（RAM）利用效率的评论引发了关于本地 AI 与集中式 AI 未来的辩论。Altman 论点的核心在于，由于本地推理——即直接在用户硬件上运行 AI 模型——往往会导致内存利用不足，因此从全球角度来看，它不如将这些资源集中在大型数据中心高效。从这个角度来看，数百万台消费端设备中的 RAM “浪费”是错失了为更大、更强大的集中式模型提供动力机会。
然而，技术爱好者和观察家指出了这种“效率”逻辑中的几个缺陷。一个主要的反对论点是，消费端 RAM 很少处于闲置状态；它支持除 LLM 之外的广泛功能，包括游戏、系统显示以及语音识别和文本转语音等专门任务。此外，本地推理提供了集中式系统难以复制的独特效用：它允许处理高度敏感的数据（如医疗记录或公司机密），而无需这些数据离开私人网络。它还确保了 AI 工具在互联网中断期间仍能正常运行，为防止系统性的单点故障提供了韧性层。
这场讨论还凸显了集中化论点中的潜在讽刺。一些观察家指出，大型 AI 公司目前正面临瓶颈，因为他们无法足够快地建设数据中心容量，导致硬件堆积在货架上。这表明问题不在于世界上缺乏可用的 RAM，而在于大型实体未能利用他们已经拥有的硬件。批评者还对这一转变的经济影响表示担忧，认为转向完全集中化可能导致计算成本的高额加价，并导致那些受益于在本地 CPU 上运行小型智能体模型的开发者和爱好者的自主权丧失。最终，这场辩论的核心在于，“效率”究竟应该由内存芯片的原始占空比来衡量，还是由隐私、去中心化和个人自主权带来的价值来衡量。
这些论点的证据主要源于 Hacker News 上关于该主题的讨论。虽然该讨论提供了关于本地 AI 与集中式 AI 权衡的丰富视角，但它并未提供关于全球“浪费” RAM 的具体百分比，也未提供在本地机器上运行 Claude 3.5 Opus 等高端模型所需的精确硬件规格。这场辩论仍是追求最大综合效用与保留本地私人计算能力之间的概念冲突。