Aleph Alpha 发布了 Kolibri，这是一个全新的开放权重语言模型，定位为面向关键任务环境的主权 AI 解决方案。Kolibri 是一个英德双语混合专家 Transformer 模型，拥有 780 亿总参数，每个 token 激活 30 亿参数。该模型可以处理长达 100 万 token 的上下文长度，并通过 Hugging Face 以 Apache 2.0 许可证发布。
开篇图像展示了绿色渐变背景上的 Kolibri 蜂鸟徽标，代表该模型作为主权 AI 解决方案的品牌身份。
此次发布强调了两个维度的“主权”：模型的构建方式以及它如何转移给客户。Aleph Alpha 提供完整的供应链完整性，记录了从数据摄入到预训练、后训练直至最终评估的每一个步骤。该公司表示，客户享有部署自由和知识产权安全，合规性作为模型本身的属性被继承下来。
Kolibri 针对德语、推理、数学和智能体行为进行了专门优化。开发了一个双语德/英分词器，其中 21.3% 的预训练 token 是原生德语数据，这意味着该模型在设计上就是双语的，而不是一个仅仅阅读了一些德语内容的英语模型。训练是在德国和芬兰的基础设施上进行的，遵循欧洲和德国法律，不受外国控制。
菜单屏幕显示了 Kolibri 的模型选项，反映了该模型在受监管领域的可访问性及其双语德/英分词器。
基准测试结果显示，Kolibri 在英语和德语的质量与服务成本之间处于帕累托前沿。在许多任务中——包括数学、编码和长上下文推理——Kolibri 的表现足以媲美拥有高达四倍激活参数数量的模型，例如 Nemotron 3 Super。该模型还继承了弃权训练（Merlin-Arthur 协议），使其能够在上下文不支持答案时输出“我不知道”，这一功能深受客户青睐。
Kolibri Origin（之前的 300 亿模型）作为中间步骤；Kolibri 在其基础上进行了改进，拥有更多参数、更长的上下文窗口（训练时最高可达 256k token，而 Origin 为 65k）以及更大的训练 token 数量（20T 对比 7.5T）。训练流水线作为 GitHub Actions 工作流实现，能够自动处理硬件中断和检查点。
小组讨论中，Aleph Alpha 团队成员在公开发布会上讨论 Kolibri 的开发和主权 AI 定位。
总体而言，Kolibri 旨在为受监管领域提供一个透明且可部署的模型，其规模和效率允许在本地运行，而无需将内部数据发送到第三方服务。