AIエージェントに本番UPDATEをさせる前に置くべき「承認ゲート」設計

AIエージェントに本番環境でのデータベース更新（UPDATE/DELETE）などの破壊的操作を任せる際の、多段階の「承認ゲート」設計パターンを解説。

• AIエージェントによる本番DBへのUPDATE/DELETE操作は、人間とは異なり暗黙の確認プロセスを持たないため危険である。
• 破壊的操作は不可逆であり、AIエージェントの「もっともらしさ」と相まって重大な事故につながりうる。
• 「承認ゲート」は、対象確定、影響プレビュー、人間による承認、限定実行と記録の多段階設計でリスクを低減する。
• エージェントに自由なクエリ生成を任せず、WHERE句などの危険な軸を固定パラメータとして与えることで暴走を防ぐ。
• 「本番更新」のような危険な操作は、オーケストレータと原子スキルの組み合わせで分解し、順序制約を設ける。