LLMアプリの「デモでは動くが本番で使えない」を潰す評価設計

LLMアプリがデモでは動くのに本番で使えない問題に対し、デモ評価と本番評価の違いに焦点を当てた評価設計を解説。作り手が無意識にモデルが得意なパターンを選ぶデモの罠を指摘。

• LLMアプリで「デモでは動くが本番で使えない」問題は、モデル性能ではなく評価設計の不備に起因することが多い。
• デモで使われる少数のサンプル入力では、モデルの得意なパターンしか試されず、本番での多様な入力に対応できない。
• 本番投入前に、典型例、境界例、意図的誤用の3種類に分類した評価データセットと、それに対応する正解を用意する必要がある。
• 評価は「機能的な正しさ」と「失敗時の被害の大きさ」の2軸で行い、プロンプトやモデル変更のたびに継続的に実施すべきである。