「意味はトレースできない」とAIは言った ― legixy の生い立ちと、確率論的生成機の檻

トレーサビリティ検証ツール「legixy」の誕生秘話と、その根底にある確率論的生成モデルへの懐疑について論じた記事です。AIが「意味をトレースできない」と発言したことをきっかけに、ドキュメント間の関連性を追跡するツールの必要性を説き、その開発思想を深掘りしています。

• AIはドキュメント間の番号照合は得意だが、意味の正確なトレースはできないというAI自身の申告から生まれた。
• 当初、意味検証機能は「保険」として無効化されていたが、実測データにより中心機能へと昇格した。
• AIの出力に対する「品質保証」は、品質の最大化ではなく「偏向防止（minimax）」を目指すアプローチへと変化した。
• 「legixy」は、AIの出力を鵜呑みにせず、形式層（有向グラフ）と意味層（ドリフト検出）で検証するトレーサビリティ計器である。
• このツールの公開は、完成品の配布ではなく、妥当性検証への「招待」であり、ユーザーによる検証を求めている。