LLM の JSON 出力は本番で壊れる — 抽出→修復→検証の三段構えで受け止める

LLMが生成するJSON形式の出力が本番環境で壊れる問題に対し、抽出・修復・検証の三段階で対応するフォールバック策を提案。Pydanticを用いたスキーマ検証で、エラーハンドリングの堅牢性を高める方法を解説。

• LLMからJSON形式でデータを受け取る際、コードフェンス、説明文、末尾カンマなどで壊れたJSONが返される頻度が高いです。
• 「抽出（extract）」「修復（repair）」「検証（validate）」の三段階フォールバック処理で、壊れたJSONを段階的に受け止めることが推奨されます。
• 抽出ではコードフェンスや前後の説明文を剥がし、修復では末尾カンマなどを修正し、検証ではPydanticで型をチェックします。
• どの段階でパースできたかを計測することで、モデルやプロンプト変更時の劣化を検知しやすくなります。