AIが加速させる「認知負債」——コードは動くが、誰も理解していない

マーガレット・アン・ストーリー教授が紹介したエピソードが象徴的だ。あるチームがプロジェクト中盤で行き詰まり、原因を「コードが汚い」と報告した。だが調査すると、問題はコードの質ではなかった。「なぜその設計にしたのか、チームの誰も説明できなかった」のだ。

コードは動いている。テストも通る。しかし、それを変更する判断を下せる人間がいない。Storey教授はこの状態を「共有された理論の喪失」と呼んでいる。

サイモン・ウィリソンはこの概念を自身の体験で裏付けた。AIを使って機能を高速に生成した結果、自分のプロジェクトの「確固としたメンタルモデル」を維持できなくなり、自信を持って判断を下すことが徐々に難しくなったと述べている。

認知負債が厄介なのは、ビルドの失敗やバグとして表面化しないことだ。それは「変更への躊躇」「特定の人しか触れない領域の増加」「なんとなくシステムが不透明になる感覚」として、静かに組織を蝕む。

これはエンジニアだけの問題ではない。AIツールを使って企画書を作り、マーケティング施策を設計し、業務フローを自動化している人すべてに当てはまる。あなたのチームが先月AIで作った仕組みを、今月「なぜそうなっているか」説明できる人はいるだろうか。その答えが曖昧なら、認知負債はすでに蓄積が始まっている。