Anthropic の研究者が自己改善型AIの片鱗を見せてくれた

Anthropicの研究者は、自己改善AIの可能性を示唆しました。自動システムは10個のベンチマークにおいて、全体的な性能を低下させることなく、特定の不整合な動作の改善に成功しました。

• Anthropicの研究者が、AIがAIモデルの性能を向上させる「自己改善型AI」の初期段階を示した。
• AIシステムが、アライメントベンチマークにおけるモデルの誤りを確実に軽減できることが示された。
• 自動化された研究システムは、人間の研究者よりも効率的に、かつ低コストでモデルの性能を向上させることができた。
• この技術は、AIが広範なトレーニングプラクティスを自律的に改善できる可能性を示唆している。
• AIが自律的にアライメント（整合性）を改善する技術は、近い将来実用化される可能性がある。