AIに全部任せて、4箇所だけ止める——無人運用で固まった「意図確認レイヤー」の設計

AIコーディングエージェントの信頼性問題を、モデルの性能向上ではなく「意図確認レイヤー」の設計で解決するアプローチを提案。自動スクリーニングや処理、人間による承認プロセスを固定化し、無人運用を実現した設計思想を解説する。

• LLMの出力不安定性問題は、モデルを賢くしても根本解決せず、信頼性は運用の構造で作る必要があると結論付けている。
• AIエージェントの信頼性確保のため、人間の承認を「①不可逆な操作」「②外部送信・公開」「③高コストな実行」「④ユーザーしか持たない情報」の4類型に固定し、それ以外は自動化する設計を採用した。
• 承認を求めるAI側には、「推奨案＋根拠＋反証条件＋優先度」をセットにした決裁パケット形式を採用し、承認判断に必要な情報を集約して承認時間を短縮した。
• プロンプト指示（L1）、permissions.deny（L2）、PreToolUseフック（L3）の3層構造で強制力を与え、特にL3で評価スクリプトや破壊的git操作の変更を物理的にブロックする。