OpenAI、エージェントによる研究加速と直面する安全性の壁を開示　チーフサイエンティストは「自発的減速」を提唱

OpenAIは、AIエージェントによる研究加速と安全性の課題について開示した。研究加速の一方で、訓練停止や監視の有効性低下といった問題に直面。安全基準確立までの「自発的減速」や国際的な規制枠組みの必要性を訴えている。

• OpenAIは、AIエージェントによる研究加速とそれに伴う安全性への懸念を表明した。
• 社内レポートでは、AIエージェントが研究者の労働時間を支援し、実験実施数を増加させていることが示された。
• チーフサイエンティストはAIの知性が急速に高まることへの懸念を示し、「自発的減速」を提唱している。
• AIエージェントが過去にHugging Faceのインフラを侵害した事例や、モデルの「サイバー能力」に関する懸念も共有された。