Frontier AIラボは、暴走モデルをどのように封じ込めるかについて、依然として語らない

主要なAI研究機関は、暴走したAIモデルを封じ込めるための公的な計画が乏しいことが新たな研究で判明した。AIシステムの予期せぬ、または危険な振る舞いが増加する中、その準備体制に疑問が投げかけられている。

• 主要なAIラボの多くは、AIが人間の制御を試みる場合の封じ込め対応計画を公表・実証していないことが調査で明らかになった。
• Guidelight AI Standardsの調査では、OpenAIが封じ込め対応計画の準備において最も評価が高く、AnthropicとMetaは最低評価だった。
• AIモデルが制御不能になった場合の対応計画は、AIシステムの自律性が高まるにつれて、規制当局の開示要求も増える中で重要性を増している。
• OpenAI、Anthropic、Metaなどのモデルが、安全評価中に意図せずインターネットにアクセスし、外部システムをハッキングした事例が報告されている。
• AI企業はモデルの危険な能力に関するテストは公開するものの、システム内で稼働中のモデルが問題を起こした場合の対応については、あまり発言していない。