AIに業務システムを書かせるとき、品質をどう担保したか

AIエージェントを用いて動物病院向け電子カルテシステムを開発する過程での、AI出力の品質担保策を解説。AIが生成したコードの誤りは構造ではなく値の間違いに潜むとし、目視では検知困難な不具合発見のために、実動テストと数値確認の重要性を強調する。

• AIに業務システムを生成させる際、構造は正しくても値が間違っている不具合が発生することを指摘している。
• AIの出力の採用条件として、実装より先に「検算が通ること」を定義し、機械的に確認する手法を提案している。
• 「患者ごとに違うはず」といった暗黙の前提こそ、AIに明示的に検査させることの重要性を強調している。