確率的クレームの一貫性を検証する方法

確率的予測器の条件付き確率クエリの一貫性検証問題について考察。AIの安全性、特にAIの行動によって引き起こされる望ましくない結果に対する予測の正直さからの安全性の観点から重要である。インタラクティブPCPを構築し、多項式時間での検証可能性を示す。

• 確率的予測モデルが、多数の条件付き確率クエリに対して自己整合性を持つかを検証する手法を提案。
• AIの安全性、特にAIの行動が引き起こす望ましくない結果に対する確率予測の信頼性検証に焦点を当てる。
• 確率回路Pと信頼度回路Qのペアに対し、多項式時間で検証可能なインタラクティブPCPプロトコルを構築。
• 証明者（Prover）と検証者（Verifier）の対話を通じて、少数の評価と証明オラクルの読み取りで検証。
• 提案手法は、確率的予測モデルの自己整合性を証明するための計算論的基盤を提供し、モデル自身による整合性証明への第一歩となる。