誰のための安全性か？トピック全体ではなく、一部の除外

本論文は、AIの安全性を確保するために、トピック全体を拒否するのではなく、トピックの適切なサブセットを拒否するという新しいアプローチを提案しています。これにより、AIの有用性を維持しつつ、潜在的なリスクを低減することを目指しています。特に、有害なコンテンツ生成の抑制や、バイアスの低減に有効である可能性が示唆されています。

• AIの安全性分野では、トピック全体を拒否するのではなく、特定のユースケースやポリシーに合わせた部分的な拒否が求められている。
• 個々のAIモデルのデプロイメントは、汎用アシスタント、教育、企業システムなど、用途によって異なる境界設定が必要となる。
• 従来のトピックレベルのガードモデルでは、政治のように文脈によって安全な応答と危険な応答を区別できない。
• 新しい研究「Safety for Whom?」は、この「狭い境界」問題に焦点を当て、特定のユースケースに合わせたAIの安全な拒否方法を提案している。