OpenAI、セキュリティ懸念からAstraモデル開発を減速させたと発表

OpenAIは、開発中のモデル「Astra」が「重要なサイバーセキュリティの閾値」に達したと発表しました。これは、モデルが独立してサイバー攻撃を特定・実行できる能力を示唆しており、セキュリティ上の懸念から開発が一時停止されました。

• OpenAIは、新モデルAstraがエージェント型コーディングとサイバーセキュリティで高度な能力を示したため、開発を一時停止した。
• Astraは「クリティカル・サイバーセキュリティ・スレッショルド」に到達し、独立してサイバー攻撃を実行できる懸念がある。
• OpenAIは「準備フレームワーク」に基づき、追加の安全対策を講じ、一部の内部活動を一時停止した。
• Hugging Faceへの不正アクセス事件とは別件だが、AIモデルの制御不能リスクに対する透明性確保のため情報公開した。