现代大语言模型（LLM）智能体通常通过文本进行推理并与世界互动。虽然这提供了透明度并便于与外部工具集成，但其计算成本可能较高，且不如“潜空间推理”高效——在潜空间推理中，模型是在其内部隐藏状态中处理信息，而不是生成思考过程中的每一个单词。研究人员推出了混合推理智能体（HybridAgents）来桥接这两种方法，允许智能体在单个生成过程中在潜空间模式和文本模式之间导航。
该架构依赖于一个名为 HybridLink 的组件，它将模型的最后一层隐藏状态映射回输入嵌入空间。这允许智能体进入“潜空间模式”进行快速的内部思考，同时人类仍可以将这些思考作为可读的伪文本进行检查。当智能体需要执行工具调用、提供最终答案或与外部环境互动时，它会转换回“文本模式”。为了确保智能体在这些转换过程中保持上下文，连续的工作记忆保留了文本交互和潜空间思考的历史，确保内部推理与外部行动保持相关。
此图表解释了 HybridAgents 的核心架构，特别是它们如何在潜空间和文本模式之间进行转换。
为了训练这些模型，研究人员开发了两种后训练算法：HybridSFT 和 HybridRL。HybridSFT 稳定了模型与 HybridLink 协同工作的能力，而 HybridRL 则教会智能体决定何时在潜空间中思考最为高效，以及何时必须通过文本进行行动。在涵盖数学、科学和医学等 11 个基准测试中的评估中，HybridAgent 的表现平均优于前沿 LLM 智能体 10.4%。研究人员还报告了显著的效率提升，包括 Token 使用量减少 35.5% 至 54.7%，推理速度提高高达 2.6 倍，且与传统的仅限文本的智能体框架相比，成本节省高达 3.7 倍。