OpenAI、Hugging Faceの侵害後に新たな安全対策を導入

OpenAIは、Hugging Faceの侵害を受けて、新しい安全対策を導入しました。これには、開発プロセス中のモデルの詳細な監視と、トレーニング後のアライメントとセキュリティの重視が含まれます。これにより、AIモデルの安全性が向上します。

• OpenAIは、モデル開発・テスト時のセキュリティインシデント封じ込めを強化する新方針を発表した。
• 監視体制の強化、アライメントとセキュリティの重視、ネットワーク隔離の強化が含まれる。
• Hugging Faceでのインシデントや、次期モデルAstraの開発、AI開発の進展速度が背景にある。
• 大規模モデルの強化学習は一時停止したが、リスクの低いモデルは再開している。