AIに任せない問い合わせ業務を、先に責任境界として設計する

AI導入において、責任境界を明確にすることが重要である。AIに任せない業務を先に設計することで、問い合わせ対応の事故を減らすことができる。除外された問い合わせは人間確認へ渡され、次の状態が決まる。

• AIに任せない業務を事前に定義し、責任境界を設計する重要性が指摘されている。
• 契約、返金、苦情、個人情報など、人が判断責任を持つべき案件をAI処理から分離する。
• AI除外案件は人間確認へ移行し、処理が停止するわけではなく、状態が決定される。
• ルールの正本には、条件だけでなく、理由、責任者、見直し日、次の確認先を含める。
• AI導入の成否は自動化率だけでなく、危険な案件を適切に止められたかで測るべきである。