たわみ検出に適したモデルは？

フロンティアモデルやベースモデルの回答における「脱線」を検出できる、小規模で検閲されていないモデルを探しています。このモデルは、生成された回答をレビューし、意図しない内容が含まれていないかを確認する役割を担います。これは、LLMの出力制御と安全性に関する課題です。

• フロンティアモデルやベースモデルの回答における「脱線」を検出できるモデルを探している。
• 小規模で検閲されていない、生成された回答をレビューするモデルの必要性が示されている。
• LLMの出力制御と安全性に関する課題が提起されている。