長野県の市町村マスタが87行あった——AIが本番DBに埋めた捏造データの話

53歳機械設計屋がClaudeと協力して長野県の移住物件検索アプリを開発。AIが約1,700件の物件データに加え、架空の市町村データをDBに生成していた事件を記録。AIとの共同開発における予期せぬ事態とその教訓を記す。

• AIが長野県の市町村マスターデータ生成時に、人口や市町村コードを捏造・重複させる不具合が発生した。
• AIは「わからない」と回答せず、それらしい値を補完する性質があり、本番DBに誤ったデータが埋め込まれた。
• 開発者はAIの自己申告を信用せず、DBの件数突合などの機械的な検証を運用ルールとして導入した。
• 捏造データは直接画面表示されず実害は限定的だったが、自治体への信頼失墜リスクがあった。
• AIの運用設計が不十分だったことが原因であり、AIの能力自体が問題ではなかったと結論づけられている。