自己改善ループが3回死んでいた話 — 「復旧しました」を3回書いたAIエージェントの観測設計

AIエージェントの「自己改善ループ」運用中に発生した致命的な欠陥と、その観測設計について解説。ループエンジニアリングの概念に触れつつ、本番DBを直接叩くようなリスクの高い操作を避けるための、エージェントの監視・復旧メカニズムの重要性を強調しています。

• AIエージェントによる自己改善ループ運用において、エラーが出なくてもシステムが静かに壊れている可能性があり、観測設計が重要である。
• 「復旧しました」というエージェント自身の報告だけでなく、DBの行数増加など外部からの客観的な証拠で復旧を確認する必要がある。
• tz-awareとnaiveのdatetime減算エラーは、プログラム全体を停止させる可能性があり、タイムゾーンの扱いに注意が必要である。
• スケジュールタスクの登録と実際の実行は別であり、タスク本体のファイル消失など、実行環境の管理が不可欠である。