LLMのオンライン安全性監視

LLMのオンライン安全性監視手法を提案。外部モデルからの検証者シグナルをリスク制御によりキャリブレーションされた閾値でアラーム決定するシンプルかつ効果的なリアルタイムモニターを構築。数学的推論やレッドチーミングデータで競合性能を示す。

• LLMのオンライン安全性監視のためのリアルタイム手法を提案。
• 外部モデルからの検証者シグナルをリスク制御によりキャリブレーションされた閾値でアラーム決定。
• シンプルかつ効果的なリアルタイムモニターの構築方法を提示。
• 数学的推論やレッドチーミングデータで競合性能を示す、実用的な監視手法である。