LLMセキュリティにおける言語的判読不可能性の影響

LLMの言語出力と内部計算との間の信頼性の問題を「言語的不可読性」と定義する。LLMの外部化された言語アーティファクトが、モデルの実際の思考プロセスを常に正確に反映しているとは限らないことを論じる。

• LLMの外部出力やプロービングされた言語的特徴が、内部計算を正確に反映しない「言語的判読不可能性」という概念を提唱している。
• 言語的判読不可能性はLLMにおいて避けられない問題であり、言語状態の監視に依存するセキュリティ機構の信頼性を損なう。
• モデルの言語的自己報告に頼らない、汚染追跡(taint tracking)のようなサンドボックス化手法が有効なアプローチであると論じている。
• 仮想化や第三者監査などの補助的なサンドボックス化メカニズムも、言語監視を補完し、最近の攻撃を緩和する可能性がある。