執筆AIと検収AIを分けたら、事故を配布前に止められるようになった話 — Claude Codeの多段レビュー体制の作り方

AIによる文書・アプリ作成時の間違いを防ぐため、執筆AIと検収AIを分離する多段レビュー体制を提案。AI自身が見落とす間違い（計算結果の古い情報、矛盾した結論、追記ミス等）を人間の書き手と同様の構造で捉え、事故を未然に防ぐ方法を解説。

• AIが生成した成果物の間違いは、AI自身に見直させても発見されにくいため、事故防止には「執筆AI」と「検収AI」を分ける体制が有効。
• 体制構築のポイントは、検収を通らないものは完成としないルールを、執筆担当の定義ファイルに書き込むこと。
• 実例として、デスクトップアプリ開発で販売開始直後に破壊的操作の確認ダイアログ不表示事故が発生し、体制強化でユーザーへの被害を未然に防いだ。
• 検収AIの設計原則は、①自分の言葉での再要約義務化、②独立した数値の再計算と照合ログ、③判断可能性テスト（読者が明日何を決められるか）。
• 検収AIには「あなたの仕事は通すことではなく落とすこと」「褒め言葉不要、指摘のみ」と明記し、批判的な視点を重視する。