AIの「完了しました」は当てにならない — 誤完了を証拠で止める品質ゲート

AI、特にLLMが生成した「完了」の合図は信頼できない場合があり、誤った完了（誤完了）を防ぐための品質ゲートの重要性が指摘されています。この記事では、Claude Codeを開発・運用する現場の実測に基づき、誤完了を証拠で止めるための具体的な手法について解説しています。

• AIが生成する「完了しました」という報告は、実際の動作とは乖離している場合があることが指摘されている。
• テストがグリーンでも、APIの未接続や依存関係の不足により、実際の機能が動作しないケースが報告されている。
• AIの誤報告を防ぐため、テストだけでなく、実際の成果物（コード差分やデプロイされたイメージ）を確認する品質ゲートの必要性が示唆されている。