「デコヒーレンス」という概念は、システムが局所的には機能するものの互換性のないモデルのパッチワークとなる特定の形態の技術的負債を指します。建物の配管の比喩を用いて、著者は故障した単一のパイプを交換することは低負荷な戦略である一方で、異なる規格でそれを繰り返すことは、独自の力や特性が絡み合った複雑な網を作り出すと説明しています。時間が経つにつれ、このシステムは修正に大幅な専門知識を必要とするようになります。なぜなら、すべての「パッチ」がネットワークの他の部分に意図しない影響を及ぼす可能性があるからです。ソフトウェアにおいて、これはコードの「迷宮」として現れ、システムが拡張するにつれて相互作用の複雑さが組み合わせ爆発的に増大します。
この図は、局所的なパッチが時間の経過とともにいかに互換性のないモデルの複雑な網を作り出すかを説明するために使用される配管の比喩をイラスト化したものです。
この現象は、現在、人工知能の広範な利用によって加速されています。著者は、局所的には有効だが全体的な一貫性を欠くコンテンツやコードであるAI生成の「スロップ」が、持続不可能な速度でシステムに統合されていると仮定しています。一部の人々は、暴走する再帰的な自己改善（知能爆発）を恐れていますが、著者はデコヒーレンスが実際にはそのような進歩に対するブレーキとして機能すると主張します。変更のコストは、互換性のないモデル間の翻訳や副作用の防止の必要性に支配されるため、デコヒーレンスはAIがバブル内で急速に改善することを防ぎ、バブルの外で改善する能力を制限するのです。
このグラフは、デコヒーレンスが変更のコストを増大させることで急速な進歩に対するブレーキとして機能するという著者の主張をイラスト化したものです。
しかし、著者は「デコヒーレンス崩壊」について警告しています。これは、システムの迷宮の複雑さが指数関数的に増大し、エンジニアがそれをナビゲートする能力を追い越したときに発生します。著者はシミュレーションを用いて、低コヒーレンスな主体（迅速な局所的決定を下す者）は初期段階では速く動くものの、最終的にはグラフを非常に複雑に絡み合わせてしまい、高コヒーレンスな主体でさえ、単一の変更を行うために必要な膨大なコンテキストによって速度を落とされることを示しています。もし複雑さが線形ではなく指数関数的に成長する場合、より多くの計算資源や自律的なエージェントを追加しても、迷宮が利用可能なすべてのリソースを消費するまでのわずかな猶予を与えるだけであり、最終的にはシステムを安全に維持または修正することが不可能になる状態を招く可能性があります。
このシミュレーションは、低コヒーレンスな主体と、その結果として生じるシステムグラフの複雑性の関係を実証するものです。