Los modelos de recomendación modernos han evolucionado para consumir historiales de usuarios cada vez más largos y ricos en atributos. Este cambio crea una asimetría de almacenamiento significativa: los sistemas deben gestionar actualizaciones pequeñas y continuas (cargas de trabajo de streaming) mientras soportan simultáneamente lecturas repetitivas a gran escala de datos históricos (cargas de trabajo por lotes). Para abordar esto, ByteDance desarrolló USDB, una práctica de almacenamiento de secuencias unificada diseñada para cerrar la brecha entre estos dos requisitos conflictivos mediante la reutilización de resultados de mantenimiento en la ingesta, la inferencia y el entrenamiento.
USDB logra esto a través de varias innovaciones arquitectónicas. Emplea una estrategia de compactación basada en el tiempo 'CascadeLSM' para materializar historiales específicos de la aplicación. Al utilizar réplicas diferenciadas que comparten archivos persistentes, el sistema garantiza que los datos no se almacenen de forma redundante en diferentes cargas de trabajo. Además, USDB utiliza un formato columnar híbrido para acelerar las lecturas proyectadas, permitiendo que el sistema reconstruya las entradas de inferencia a partir de una combinación de estados recientes capturados e historiales versionados. Estos diseños permiten que el sistema mantenga una única fuente de verdad para las secuencias mientras se optimiza para los patrones de acceso específicos de diferentes tareas.
Los datos de migración a producción indican que USDB mejora significativamente la eficiencia, registrando una reducción del 85.8% en la latencia media de escritura y una reducción del 42.1% en los costos de infraestructura en comparación con las configuraciones de producción anteriores. En comparaciones controladas, USDB superó a una línea base de secuencias de RocksDB optimizado, demostrando lecturas de historiales largos más rápidas en diversas cargas de clientes y proyecciones. Además, la capacidad de pushdown de agregación del sistema sostiene un rendimiento 8.5 veces superior al de las lecturas ordinarias bajo un presupuesto de recepción restringido. Aunque está altamente optimizado para la asimetría específica de las cargas de trabajo de recomendación, el rendimiento del sistema está adaptado a estos casos de uso específicos en lugar de operaciones de bases de datos de propósito general.
