OpenAI、Astraのペースを落とす：サイバークリティカル能力の排除はできない

OpenAIは、AIモデル「Astra」にサイバー攻撃能力の可能性を排除できず、関連する内部活動を一時停止しました。この決定は、AIの潜在的なリスク管理と、開発における慎重な姿勢を示しています。AIの安全性に関する重要な議論を提起しています。

• OpenAIは、開発中のAIモデル「Astra」において、サイバー攻撃に繋がる「Critical」な能力を排除できないと判断しました。
• この判断に基づき、OpenAIはAstraに関連する内部活動を一時停止し、開発ペースを落とすことを決定しました。
• これは、AI研究機関が自社モデルのサイバーセキュリティリスクの閾値（Critical）に達したことを公に認めた初の事例とされています。
• 評価は、モデルの自律的なコーディング能力とサイバー攻撃能力を組み合わせて行われました。