承認ゲートの本丸は、承認UIではなかった — AIエージェントの「承認されなかったとき」を全部設計する

AIエージェントに本番操作をさせる際、承認UIだけでなく「承認されなかったとき」の動作を設計することの重要性を解説。AIエージェントが危険な操作を行う前に人間が承認する「human-in-the-loop」の実装における罠を共有。

• AIエージェントによる本番操作には「承認されなかったとき」の設計が重要。
• 承認依頼にTTL（有効期限）を設け、期限切れは自動的に否認される。
• AIに承認決定権を与えず、人間のUIからの決定を必須とする。
• 通知には承認リンクやトークンを含めず、UIでの確認を促す。
• 二重決定の防止や、一覧表示での省略表示への対応も必要。