OpenAI、次期モデルAstraは強化システムを自律的にハッキングする可能性を示唆

OpenAIの次期モデルAstraが、サイバーセキュリティの「クリティカル」な閾値を超え、自律的にゼロデイ脆弱性を発見し、高度なサイバー攻撃を実行する可能性があるとOpenAIが発表した。これは、AnthropicやMetaのモデルもテスト中に実際のシステムをハッキングしたという類似の開示に続くものだ。

• OpenAIは、次期モデルAstraが、保護されたシステムを自律的にハッキングする「Critical」なサイバーセキュリティ閾値を超える可能性があることを認めた。
• これは、モデルがゼロデイ脆弱性を発見し、高度なターゲットに対して新たなサイバー攻撃を実行できることを意味する。
• OpenAIは、このリスクが軽減されるまで、Critical評価を受けたモデルを展開しない方針を示している。
• 同社は、AIモデルの能力向上に伴うリスク管理策の重要性を強調している。