Aleph Alpha ha lanzado Kolibri, un nuevo modelo de lenguaje de pesos abiertos diseñado específicamente para el procesamiento del idioma alemán e inglés. Lanzado el 3 de octubre de 2026 bajo la licencia Apache 2.0, Kolibri representa lo que la empresa describe como un modelo de IA 'soberano' construido con infraestructura de entrenamiento en Alemania y Finlandia bajo la ley europea y alemana. En su núcleo, Kolibri es un modelo de mezcla de expertos (MoE) con 78,1 mil millones de parámetros totales que activa aproximadamente 3,5 mil millones de parámetros por token procesado. Esta eficiencia se logra mediante 50 capas, cada una con 384 subredes de expertos más un experto compartido, con un mecanismo de enrutamiento que dirige cada token a seis de los 384 expertos. Según Aleph Alpha, este enfoque permite que el modelo ofrezca capacidades comparables a modelos mucho más grandes reduciendo los requisitos computacionales por token. El modelo introduce varias innovaciones técnicas destinadas a mejorar el manejo del idioma alemán. Su tokenizador, entrenado con un nuevo algoritmo UniBPE, utiliza 128.000 tokens y requiere un 11,2% menos de tokens para texto alemán en comparación con el tokenizador de GPT-5, según las mediciones de Aleph Alpha. Esta eficiencia es particularmente notable con texto legal alemán, donde Kolibri necesitó un 15% menos de tokens que el tokenizador de GPT-5 al procesar la Ley Fundamental de la República Federal de Alemania. Kolibri emplea un mecanismo de atención híbrido donde 40 de sus 50 capas utilizan atención de ventana deslizante (cada token atiende a los 512 tokens anteriores), mientras que cada quinta capa utiliza atención completa sobre todos los tokens previos. Este diseño permite que el modelo maneje contextos extensos de manera asequible, con soporte nativo para 262.144 tokens y capacidades probadas hasta 1.048.576 tokens. Para abordar los desafíos de razonamiento específicos del idioma, Aleph Alpha entrenó a Kolibri con aproximadamente 800.000 ejemplos de razonamiento en alemán, lo que resultó en una puntuación de matemáticas alemana de 87,5 en el Examen Invitacional de Matemáticas Estadounidenses (AIME) de 2025, superando a modelos comparables con conteos similares de parámetros activos. El modelo también implementa lo que Aleph Alpha llama el 'protocolo Merlin-Arthur' para mejorar el manejo de la incertidumbre, entrenándolo para reconocer cuando le falta suficiente información para proporcionar una respuesta en lugar de alucinar. Las evaluaciones de rendimiento de Aleph Alpha muestran que Kolibri lidera a los modelos abiertos de su tamaño en varios aspectos: alcanza una puntuación global de 75,5 en inglés y 70,8 en alemán, supera a modelos comparables en las pruebas de matemáticas AIME 2025 (96,9 en inglés, 87,5 en alemán) y demuestra un buen desempeño en tareas de contexto largo de 1 millón de tokens (63,2 en el benchmark RULER). El modelo también muestra capacidad para responder preguntas sobre documentos de empresa no vistos en inglés (puntuación de 89,7). Sin embargo, Aleph Alpha reconoce varias limitaciones. Kolibri rinde peor en pruebas de conocimiento de libro cerrado, obteniendo 51,0 en las preguntas sin documentos de apoyo del Benchmark de Generación Aumentada por Recuperación, significativamente por debajo del 22,2% de tasa de acierto de modelos comparables. El llamado de herramientas multi-turno parece más débil, con una puntuación de 39,8 en las pruebas multi-turno del Berkeley Function Calling Leaderboard en comparación con 58,2 para GLM-4.7 Flash. El rendimiento del agente de codificación también es modesto, con 27,7 en Terminal-Bench 2.1 y 66,4 en SWE-bench Verificado. Las consideraciones prácticas de despliegue incluyen requisitos sustanciales de memoria - aproximadamente 78 GB de pesos en formato de punto flotante de 8 bits, lo que requiere GPUs de centro de datos como pares de tarjetas NVIDIA A100/H100 o un solo procesador H200/B200/B300. El modelo requiere el plugin específico vLLM de Aleph Alpha (que actualmente soporta la versión 0.29 de vLLM) para su funcionamiento, y en el lanzamiento ningún proveedor alojado estaba sirviendo el modelo. El enfoque deliberado de Kolibri en solo dos idiomas (alemán e inglés) representa un compromiso donde se prioriza la profundidad en estos idiomas sobre una cobertura multilingüe más amplia. El límite de conocimiento del modelo es el 18 de junio de 2026 y admite cuatro niveles de esfuerzo de razonamiento (ninguno, bajo, medio, alto) ajustables por solicitud, junto con capacidades de llamado de herramientas. Aleph Alpha ha firmado el Código de Práctica de IA de Propósito General (GPAI) de la Unión Europea, posicionando a Kolibri como conforme con las próximas regulaciones de IA.