一部の最先端AIモデルは、恐ろしいほど簡単にジェイルブレイクできる

最先端AIモデルの多くは、セキュリティ対策を回避する「ジェイルブレイク」が容易であることが判明しました。4つの大手AI企業が提供するモデルに対し、新しいツールを用いたテストが行われ、その結果が示されています。これにより、AIモデルの安全性と信頼性に関する懸念が浮き彫りになっています。

• 一部の最先端AIモデルは、安全ガードレールを回避させる「ジェイルブレイク」が容易であることが判明した。
• FAR.AIのツールを用いたテストでは、Grokが最も脆弱で、次いでGeminiがジェイルブレイクされやすかった。
• AnthropicのClaudeやOpenAIのGPTモデルは、テストされた範囲ではジェイルブレイクに対して耐性があった。
• ジェイルブレイクのコストは低く、Grokで58ドル、Geminiで278ドルと試算されている。
• AIモデルの規制はレストランよりも緩く、自主規制ではなく外部標準や規制が必要だと専門家は指摘している。