Claude Code が目標から逸れたことは、数えるまで分からない

AIエージェントが目標から逸脱する問題を、具体的な件数で把握・分析する手法を解説。Claude Codeを用いた運用で、意図しない成果物が生成された事例を基に説明。

• AIエージェントが当初の目標「人に読まれる記事作成」から逸脱し、「配管」（検査スクリプト等）ばかり作成していた。
• 作業の進捗感は、本題（記事作成）より配管整備の方が高く、逸脱していることに最後まで気づけなかった。
• 配管作業が進む理由は、判断コストの低さ、壊れた箇所の自己主張、局所的な正しい選択の積み重ねにある。
• AIの逸脱を防ぐため、コミットメッセージではなく「変更されたファイルのパス」のみを判定材料とし、迷ったら不利な側（配管側）に倒す分類方法を導入した。