El aprendizaje profundo estándar se basa en la retropropagación: una pasada hacia adelante calcula las predicciones, y luego una pasada hacia atrás propaga el gradiente de error desde la salida a través de cada capa para actualizar los pesos. El problema es que la retropropagación requiere una coordinación precisa y sincronizada en toda la red: una neurona en una capa temprana debe mantener su activación mientras espera a que llegue la señal de error. Los neurocientíficos han observado durante mucho tiempo que el cerebro no tiene un mecanismo conocido para tal sincronización estricta, lo que motiva la búsqueda de reglas de aprendizaje locales que puedan asignar crédito sin una pasada hacia atrás global.
La codificación predictiva (PC) es una de esas alternativas. Cada capa intenta predecir la actividad de la capa inferior; solo el error de predicción —la discrepancia— se transmite hacia arriba. Matemáticamente, esto evita las pasadas sincronizadas de la retropropagación: las capas ajustan iterativamente sus activaciones para minimizar una "energía libre" compartida, y cada actualización solo afecta a las capas vecinas. La PC ha funcionado en redes poco profundas o anchas, pero sufre un problema de degradación de la señal. En redes profundas y estrechas, el crédito de supervisión que se origina en la salida se vuelve demasiado débil para influir en las capas anteriores antes de que se disipe a través de una cadena de compromisos locales. Aumentar el número de pasos de inferencia ayuda, pero a costa de más computación por actualización.
PC-ALM aumenta la codificación predictiva con una herramienta de optimización clásica: el Lagrangiano aumentado. Cada capa obtiene una variable dual (un multiplicador de Lagrange) del mismo tamaño que su vector de activación. Durante la inferencia, la capa actualiza sus activaciones para reducir el error de predicción, mientras que la variable dual acumula la violación de la restricción residual. En una red lineal, estas variables duales convergen a las señales de crédito exactas de la retropropagación utilizando únicamente computación local. En redes no lineales, la dinámica se convierte en una forma de ascenso primal-dual: las variables primales (activaciones) descienden sobre una energía, mientras que las variables duales ascienden sobre los errores acumulados.
Esta figura ilustra el resultado clave del artículo de que PC-ALM mantiene la precisión dentro de aproximadamente dos puntos porcentuales de la retropropagación incluso en profundidades extremas de 1000 capas, validando la efectividad del enfoque de Lagrangiano aumentado para la propagación de crédito en redes profundas.
El efecto práctico es una onda frontal de crédito que se mueve a través de la red más rápido que la propagación difusiva de la PC, similar al flujo de calor. Los autores llaman a esto propagación de crédito "balística": en PC-ALM, las señales de crédito se distribuyen uniformemente a través de las capas en lugar de degradarse con la profundidad. En MNIST, PC-ALM entrena MLPs residuales de hasta 1000 capas (ancho 32, ReLU) y se mantiene dentro de aproximadamente dos puntos porcentuales de la precisión de la retropropagación en todo el rango de profundidad. En CIFAR-10 y Tiny ImageNet con ResNet-18, PC-ALM mejora sobre la PC en todas las pruebas de referencia y reduce la brecha con la retropropagación a medida que aumenta la profundidad.
Esta visualización demuestra la robustez de PC-ALM en múltiples conjuntos de datos de clasificación de imágenes, confirmando que el método mejora sobre la codificación predictiva estándar y cierra progresivamente la brecha de rendimiento con la retropropagación en CIFAR-10 y Tiny ImageNet a medida que crece la profundidad de la red, respaldando las afirmaciones de propagación de crédito balística.
Se aplican advertencias importantes. Los experimentos utilizan tareas de alimentación hacia adelante relativamente simples; los autores no han mostrado PC-ALM en transformadores grandes o modelado de lenguaje. El método iguala el rendimiento de la retropropagación con un presupuesto de inferencia equivalente, pero no parece ser más eficiente computacionalmente; simplemente logra una precisión comparable con actualizaciones locales donde la PC sola falla. El artículo fue enviado a arXiv el 29 de mayo de 2026 por Jeffrey Seely y Julian Gould de Sakana AI.
El resultado se entiende mejor como una prueba de principio: las señales de supervisión similares a gradientes pueden distribuirse a través de una red profunda utilizando únicamente dinámicas locales de capa, lo que tiene implicaciones para el hardware neuromórfico donde la simulación de sistemas dinámicos es más barata que la ejecución en GPU. Si este enfoque escala a las arquitecturas grandes, discretas o composicionales discutidas en los comentarios sigue siendo una incógnita; las fuentes suministradas no abordan el ajuste fino de modelos preentrenados, componentes discretos como argmax o mezclas de expertos, ni las conexiones con el principio de energía libre de Friston.