確認画面の97%は「はい」だった — AIに1回だけ止められて、その1回も訊かれる場所が間違っていた

Claude Codeの確認画面表示が変更され、既定で出なくなった背景について解説しています。97%の「はい」という回答率と、危険なコマンドを人が止められない確率を提示し、AIの判定器の有効性を示唆しています。

• AIの確認画面は、97%が「はい」と答えるため、既定で表示されなくなる。
• 危険なコマンドは、読んでも13.6%しか止められず、AIの判定器の精度に課題があった。
• AIが止めた「技術的に不可逆な地点」と、人が判断したい「意思決定の境界」が一致していなかった。
• 確認画面ではなく、承認の粒度そのものが問題であり、AIの判断ミスは画面表示とは無関係に発生していた。
• AIの誤認識は、確認画面の有無に関わらず発生し、承認の粒度とユーザーの意図のずれが原因であると指摘されている。