Dessa 是由 Block 研究实验室开发的一种对话模型,其独特之处在于完全基于人类语音进行训练。与大多数通过摄入海量文本来学习语言的现代大语言模型(LLMs)不同,Dessa 是仅利用音频数据从零开始训练的。这种方法旨在模拟人类通过倾听来学习说话的过程,使模型能够捕捉到在语音转换为文本时经常丢失的信息,例如讽刺、叹息和特定的语调变化。

该图像代表了 Dessa 模型,它完全基于人类语音音频进行训练,旨在捕捉文本转换中丢失的细微差别。
该模型专为全双工交互而设计,这意味着它可以同时处理和生成语音,而不是等待用户说完才做出响应。这种能力支持如“回馈信号”(backchanneling,即插入简短的确认词如“嗯”或“明白了”)等自然行为,并能实时对情感信号做出反应。根据开发者的描述,该模型是在单台 NVIDIA GB200 NVL72 上训练的,并针对高端硬件(如搭载 M4 Max 芯片的 MacBook Pro)进行了本地运行优化,其推理速度快于实时。
虽然该模型展现出了极高的表现力,但其训练方法也带来了独特的挑战和研究机会。由于缺乏文本基准,模型必须从原始声音中学习事实和语言,开发者指出这比从文本中学习要困难得多。这为研究人员创造了一个全新的深度学习模型类别,特别是关于模型在没有文本基础的情况下,如何高效地学习新语言或进行上下文学习。开发者还邀请了 AI 安全研究人员来评估该模型,并指出其感知和复制人类情感的能力是迈向更具共情能力且更安全的 AI 交互的重要一步。