AIが生成したJSONを、本文としてそのまま4か月公開していた話

AIが生成したJSONをnoteの本文として4ヶ月間誤公開していた事例を紹介。Webスクレイピング自動化のパイプラインで発生したこの問題から、AI生成コンテンツの管理と検証の重要性が浮き彫りになる。

• AIが生成したJSONをWeb記事の本文として誤って4か月間公開し続けたインシデントが発生しました。
• AIの出力パース失敗時のフォールバック処理と、AI応答が途中で切断される問題が重なり、事故の発見が遅れました。
• 公開ページのHTMLだけでは問題の特定が難しく、API経由で記事データを取得する必要がありました。
• 修正策として、JSONの厳格なパースと失敗時の例外処理、およびJSON露出の検知を導入する共通ガードを導入しました。