OpenAIのAstraモデルが登場、コンピューターシステムへの侵入に非常に長けている

OpenAIが新たなLLM「Astra」をリリース予定。このモデルはサイバーセキュリティ分野に特化しており、システムへの侵入能力が高いことが示唆されている。AIの高度な能力とそれに伴うリスク管理の重要性が浮き彫りになっている。

• OpenAIが、サイバーセキュリティ基準を満たす新型LLM「Astra」を発表した。
• Astraは、システム内の未知の脆弱性を発見し、人間の指示なしで悪用する能力を持つ。
• ExploitBenchで満点を獲得し、改良版テストではゼロデイ脆弱性を発見・悪用した。
• OpenAIは、モデルの悪用検知や不正利用防止のための技術を強化している。
• 「最も整合性の取れたモデル」とされつつ、追加の監視機能も備える。