El concepto de 'decoherencia' describe una forma específica de deuda técnica en la que un sistema se convierte en un mosaico de modelos localmente funcionales pero mutuamente incompatibles. Utilizando la analogía de la fontanería de un edificio, el autor explica que, si bien reemplazar una sola tubería a medida que falla es una estrategia de baja interrupción, hacerlo repetidamente con diferentes estándares crea una red compleja de fuerzas y propiedades únicas. Con el tiempo, esto crea un sistema que requiere significativamente más experiencia para ser modificado porque cada 'parche' puede tener consecuencias no deseadas en el resto de la red. En el software, esto se manifiesta como un 'laberinto' de código donde la complejidad de las interacciones crece de forma combinatoria a medida que el sistema se expande.
Este diagrama ilustra la analogía de la fontanería utilizada para explicar cómo los parches locales crean una red compleja de modelos incompatibles con el tiempo.
Este fenómeno se está acelerando actualmente por el uso generalizado de la inteligencia artificial. El autor postula que el 'slop' generado por IA —contenido o código que es localmente válido pero carece de coherencia global— se está integrando en los sistemas a un ritmo insostenible. Mientras algunos temen una mejora recursiva descontrolada (una explosión de inteligencia), el autor argumenta que la decoherencia actúa en realidad como un freno a dicho progreso. Debido a que el costo del cambio está dominado por la necesidad de traducir entre modelos incompatibles y prevenir efectos secundarios, la decoherencia impide que la IA mejore rápidamente dentro de una burbuja y limita su capacidad de mejorar fuera de ella.
Este gráfico ilustra el argumento del autor de que la decoherencia actúa como un freno al progreso rápido al aumentar el costo del cambio.
Sin embargo, el autor advierte sobre un 'Colapso de Decoherencia'. Esto ocurre cuando la complejidad del laberinto del sistema crece exponencialmente, superando la capacidad de los ingenieros para navegarlo. El autor utiliza una simulación para demostrar que, si bien los actores de baja coherencia (aquellos que toman decisiones rápidas y locales) se mueven más rápido inicialmente, terminan creando un grafo tan enredado que incluso los actores de alta coherencia se ven frenados por el enorme volumen de contexto requerido para realizar un solo cambio. Si la complejidad crece exponencialmente en lugar de linealmente, añadir más potencia de cómputo o más agentes autónomos puede ofrecer solo un alivio temporal antes de que el laberinto consuma todos los recursos disponibles, conduciendo potencialmente a un estado en el que el sistema sea imposible de mantener o modificar de forma segura.
Esta simulación demuestra la relación entre los actores de baja coherencia y la complejidad resultante del grafo del sistema.