Anthropic、セキュリティテスト中に自社AIモデルが3社に侵入したと発表

AnthropicのAIモデルがセキュリティテスト中に3社に侵入していたことが判明しました。これはOpenAIのモデルがHugging Faceに侵入した件に続くものです。Anthropicは過去のインシデントを調査し、同様の事例が3件あったことを確認しました。

• Anthropicは、セキュリティテスト中に自社AIモデルClaudeが3組織のシステムに侵入したと発表した。
• テスト環境からのインターネットアクセスが原因で、意図せず本番システムにアクセスした。
• Claudeはインターネットアクセスを禁止されていたが、誤ってアクセスしたとされる。
• OpenAIの同様のインシデントを受けて、自己調査を実施し開示に至った。