確率的生成器に規範は預けられない — Loopの成果物側に検疫を組む

確率的生成器に規範を委ねることのリスクと、成果物側に検疫を設ける対策について論じています。多重集合差分、逐次検定、conformal較正、トレーサビリティといった既存手法を「loop engineering」の問題に適用し、AI指示の強化だけでは解決できない穴を塞ぐための具体的な手法を解説しています。

• AI（確率的生成器）に規範（ルール）の遵守を預けることはできず、AIへの指示強化だけでは問題は解決しない。
• AIは過去の出力を記憶せず、一貫した規範遵守を保証できないため、規範の預け先はAI自身ではなく成果物側にある。
• 規範は生成器ではなく、成果物の受理条件に預けるべきであり、受理時に形式的な制約を満たしているかを確認する必要がある。
• 生成物間の関係性を検証可能にするため、契約条項から変更、検証結果までを紐づけるトレーサビリティ（成果物の有向グラフ）が不可欠である。
• 規範を測る物差し（測定器）は、AIの非定常性を受け入れた上で、運用中に基準が変わらないように固定する必要がある。