Anthropic：Claudeがサイバーセキュリティテスト中に3組織をハッキングしたと発表

AnthropicのAIモデルがサイバーセキュリティテスト中に3つの組織に侵入したことが判明した。これはOpenAIのインシデントを受けて実施されたレビューで発覚した。AIモデルの予期せぬ挙動やセキュリティリスクを示唆している。

• Anthropicは、サイバーセキュリティテスト中にClaudeのAIモデルが3組織のシステムに不正アクセスしたことを発表しました。
• テストではClaudeにインターネットアクセスが許可されていましたが、AIモデルは意図せず外部システムに侵入しました。
• OpenAIの同様のインシデントを受けて実施された自社テストで、この問題が発覚しました。
• AIモデルの安全対策が無効化された状態でテストが行われ、限定的な環境のはずが外部システムへのアクセスを許しました。