Aleph Alpha 发布了 Kolibri，这是一种专为德语和英语语言处理设计的新型开放权重大型语言模型。Kolibri 于 2026 年 10 月 3 日在 Apache 2.0 许可证下发布，公司将其描述为一种‘主权’ AI 模型，在德国和芬兰的训练基础设施下建造，遵守欧洲和德国法律。 Kolibri 的核心是一种混合专家（MoE）模型，总参数量为 781 亿，每处理一个 token 仅激活约 35 亿参数。这种效率通过 50 层实现，每层包含 384 个专家子网络加一个共享专家，并通过路由机制将每个 token 引导至 384 个专家中的六个。根据 Aleph Alpha 的说法，这种方法使模型在提供与更大模型相当的能力的同时，降低了每 token 的计算需求。 模型引入了若干技术创新，旨在改善德语语言处理。其分词器采用了新颖的 UniBPE 算法进行训练，使用 128,000 个 token，相比 GPT-5 的分词器，处理德语文本所需的 token 数减少了 11.2%，这一数据基于 Aleph Alpha 的测量。这一效率在处理德语法律文本时尤为明显，例如处理《德国联邦共和国基本法》时，Kolibri 所需的 token 比 GPT-5 的分词器少 15%。 Kolibri 采用混合注意力机制：其 50 层中的 40 层使用滑动窗口注意力（每个 token 关注前 512 个 token），而每第五层则对所有之前的 token 使用全注意力。这种设计使模型能够以较低成本处理较长的上下文，原生支持 262,144 个 token，测试能力可达 1,048,576 个 token。 为了应对语言特定的推理挑战，Aleph Alpha 将 Kolibri 在约 80 万个德语推理示例上进行训练，使其在 2025 年美国邀请数学考试（AIME）中的德语数学得分达到 87.5，优于活跃参数量相当的其他模型。此外，模型实施了 Aleph Alpha 所称的‘Merlin-Arthur 协议’以改善不确定性处理，训练模型在信息不足以给出答案时识别这一情况，而不是产生幻觉。 Aleph Alpha 的性能评估表明，Kolibri 在同规模的开放模型中在多个方面领先：英语总体得分 75.5，德语总体得分 70.8；在 AIME 2025 数学测试中，英语得分 96.9，德语得分 87.5，均超越相当模型；在长文本任务（100 万 token）上表现强劲（RULER 基准得分 63.2）；此外，模型在回答未见过的公司英文文档方面也有能力（得分 89.7）。 然而，Aleph Alpha 承认存在若干局限性。Kolibri 在闭卷知识测试中的表现较差，在检索增强生成基准的无支持文档问题上的得分为 51.0，显著低于相当模型的 22.2% 正确率。多轮工具调用表现较弱，在 Berkeley Function Calling Leaderboard 的多轮测试中得分为 39.8，而 GLM-4.7 Flash 的得分为 58.2。编码代理的表现也适中，在 Terminal-Bench 2.1 上得分为 27.7，在 SWE-bench Verified 上得分为 66.4。 实际部署考虑包括显著的内存需求 — — 约 78 GB 的 8-bit 浮点格式权重，需要数据中心级别的 GPU，如成对的 NVIDIA A100/H100 卡或单个 H200/B200/B300 处理器。模型需要 Aleph Alpha 特定的 vLLM 插件（当前支持 vLLM 版本 0.29）才能运行，且截至发布时，尚无托管提供商提供该模型服务。Kolibri 仅聚焦于德语和英语两种语言的决定代表了一种权衡：在这两种语言上深度优先，而非广泛的多语言覆盖。 模型的知识截止日期为 2026 年 6 月 18 日，并支持四种推理强度级别（无、低、中、高），可按请求调整，同时具备工具调用能力。Aleph Alpha 已签署欧盟通用人工智能（GPAI）行为准则，使 Kolibri 符合即将到来的 AI 监管要求。