Anthropic、AIに「AIの安全性研究」を任せる実験　うそ、迎合などの問題行動を性能落とさず改善

Anthropicは、AIに「AIの安全性研究」を自律的に行わせる実験を実施。その結果、AIは性能を落とすことなく、うそや迎合といった問題行動を改善できることが分かった。人間の研究者を上回る成績を示した。

• Anthropicが、AI自身にAIの安全性研究をさせる実験を実施した。
• AIモデル「Claude」が、うそや迎合など10種類の問題行動の改善手法を発見した。
• AIによる改善手法は、人間の研究者28人の提案を上回る成果を上げた。
• 安全性調整の自動化の可能性を示唆する一方、未測定の指標もあると説明している。