Inception ha presentado Mercury 3, un modelo de lenguaje de gran escala (LLM) basado en difusión diseñado para proporcionar inferencia de alta velocidad en aplicaciones comerciales complejas. A diferencia de los modelos autorregresivos estándar que generan texto token por token, los modelos de difusión generan contenido refinando iterativamente una representación basada en ruido. Mercury 3 se posiciona como una evolución escalable de esta arquitectura, y los desarrolladores afirman que supera a modelos de vanguardia optimizados para la velocidad como GPT-6 Luna y Claude Haiku 5.5, mientras ofrece velocidades de más de 1,000 tokens por segundo en GPUs de NVIDIA.
El modelo representa un aumento significativo de escala en comparación con sus predecesores, contando con más de 40 veces el total de parámetros de Mercury 1. Según Inception, este escalado ha resultado en un aumento de 3 veces en la inteligencia en las pruebas de referencia estándar en comparación con la versión Mercury 1 (mini). El objetivo técnico de Mercury 3 es demostrar que las leyes de escalado que rigen a los modelos autorregresivos —donde el aumento de parámetros y datos conduce a una mayor inteligencia— también se aplican a las arquitecturas basadas en difusión. Esto permite que el modelo maneje tareas sofisticadas como la navegación web, la tutoría en tiempo real y la ingeniería de datos sin los cuellos de botella de latencia típicos de los sistemas autorregresivos más grandes.
El gráfico ilustra las leyes de escalado y el aumento de 3 veces en la inteligencia logrado al aumentar el recuento de parámetros.
En entornos de producción prácticos, Mercury 3 se está utilizando para agentes de 'uso de navegador' sensibles a la latencia, donde pequeños retrasos en la respuesta del modelo pueden acumularse en tiempos de espera significativos para el usuario. En pruebas contra el benchmark de navegación Mind2Web, Mercury 3 completó el 50% de las tareas, superando a GPT-6.1-Sol mientras utilizaba el mismo volumen de tokens y número de pasos del agente. Además, la velocidad del modelo permite la educación interactiva en tiempo real, donde puede proporcionar retroalimentación instantánea y pistas a los estudiantes en aproximadamente un segundo. Si bien el modelo ofrece una alternativa de alta velocidad para estos casos de uso, actualmente está disponible a través de la plataforma Inception API y varios proveedores externos como OpenRouter y Vercel.
Esta figura proporciona una comparación visual del rendimiento de Mercury 3 frente a otros modelos como GPT-6.1-Sol.