AIのうっかりは注意書きでは止まらない——ポカヨケで考えるルールの4段階

AIのうっかりミスを防ぐための「ポカヨケ」として、ルールの段階的適用を提案。注意書きの増加が逆効果になることを指摘し、より効果的なルール設定法を考察します。

• AIにルールを指示しても、ルールの数や複雑さが増すと遵守率が低下し、文章での制約は効きにくくなることがベンチマーク結果で示された。
• 製造業の「ポカヨケ」（うっかりミス防止）の考え方をAIに応用することで、AIのミスを仕組みで防ぐアプローチが有効とされる。
• AIは疲れないが、前回の失敗を記憶せず、コンテキストウィンドウの限界もあるため、人間の作業者以上にポカヨケの重要性が増す。
• ポカヨケは「警告型」と「制御型」に分類され、AI向けには「紙（注意書き）」「検査」「構造」「排除」の4段階で強さを捉え直すことが提案されている。
• 最も強力な「排除」のポカヨケは、そもそも間違える経路が存在しないように設計するもので、AIのうっかりミス対策として有効である。