LLM推論重要度 ★9
生成テキストにおける因果状態証拠の伝達：計算プロビナンスに向けて
Towards Computational Provenance: Carrying Causal-State Evidence in Generated Text
https://export.arxiv.org/api/query·2026/8/17
AI要約
生成されたテキストに、その生成過程で関与した計算状態の証拠を埋め込む「計算プロビナンス」の概念を探求。モジュール型ニューラルネットワークとTransformerモデルを用い、生成テキストから計算の追跡可能性を検証する。
AI要点
- 生成されたテキストから、それを生成した計算の内部状態の証拠を検出可能か検証する「計算プロビナンス」を研究。
- モジュラー型フィードフォワードニューラルネットワークとTransformerモデルで検証し、内部状態を隠蔽しても統計的パターンに現れることを確認。
- 単純な算術タスクにおいて、異なる内部計算経路でも同じ回答を生成し、状態の正確性を証明。
- 独立に訓練された複数のモデルでも計算結果が再現することを確認し、提案手法の頑健性を示唆。
なぜ重要か
生成AIの出力が、その内部計算プロセスに関する検証可能な証拠を保持できる可能性を示し、AIの透明性、信頼性、デバッグ可能性を向上させるための基盤技術となりうる。