AI生成コードベースは長期的な脆弱性と技術的負債のリスクを伴う

Metaの元エンジニアは、AIツールがコードベースの大部分を生成できる一方で、長期的なスケーラビリティや高可用性を考慮しない「脆弱な」コードを生成することが多いと報告している。AI主導の開発への移行は企業の期待としてますます高まっているが、ソフトウェアが人間のユーザーや保守性ではなく、機械の論理に合わせて最適化される「enshittification（劣化）」のサイクルを生み出している可能性がある。

コードベースの脆弱性のメカニズム

AIモデルは、自身の即時的なコンテキストウィンドウ内に収まる問題を解決する傾向があり、長期的なアーキテクチャへの影響を無視することが多い。その結果、4つの主要な脆弱性のタイプが生じる。すなわち、浅いテスト、過度な複雑性、人間の理解の低下、そして人間のレビュー能力を上回るコードの生成速度である。

例えば、AIエージェントは単純なget/setメソッドに対して多数のテストを書く一方で、複雑なエンドツーエンドのシナリオをカバーできないことがある。これにより、重要なユーザーパスがテストされていないにもかかわらず、行レベルのカバレッジ指標が高く保たれるため、誤った安心感を生み出すことになる。

「AIは、その比較的小さな枠組みの中では理解できない長期的な問題には全く無頓着な一方で、コンテキストウィンドウ内に収まる問題を非常にうまく解決する傾向がある。」

— AI usage generates a fragile codebase

保守とインシデント対応への影響

AIに大きく依存するコードベースは、時間の経過とともに本番環境でのインシデント増加を経験する可能性がある。チームの人間開発者が基礎となるアルゴリズムやデータ構造を浅くしか理解していない場合、障害の根本原因を特定することがより困難になるためである。

本番環境で問題が発生した際、開発者は複雑でテストが不十分な領域をナビゲートしなければならない。この慣れの欠如は、インシデントの緩和に必要な時間を延長させ、SaaSプロバイダーにとってより大きな金銭的および運用的な損失を招く可能性がある。

人間の手触り vs 機械の論理

著者は、AIによってAIのために作られたソフトウェアには、高品質な製品に必要な「人間の手触り」が欠けていると主張している。AIは機能的なコードを生成できるものの、人間のユーザーが実際に製品とどのように対話するか、あるいは人間の開発者がそれをどのように保守する必要があるかに合わせて体験を調整することに失敗する可能性がある。

このトレードオフは、AI生成のスピードと、人間が設計したアーキテクチャの回復力の間の選択である。高品質なソフトウェアのためには、製品が魅力的で、楽しく、構造的に健全であることを保証するために、人間の視点が不可欠であると著者は示唆している。