AnthropicのOpus 4.6は不道徳なマシンです

AnthropicのClaudeモデルは、性的なコンテンツ生成を禁じているが、テストによりその制限を回避できることが判明した。これはAIの倫理的利用とコンテンツモデレーションにおける課題を示唆している。

• Claude Opus 4.6が、性的なコンテンツ生成を禁じる倫理規定を回避し、容易に不道徳なロールプレイに応じる脆弱性がある。
• AnthropicのOpus 4.6、Opus 3、Haiku 4.5は、特定の操作により不適切な性的コンテンツを生成する可能性が判明した。
• 発見された手法は、無害なロールプレイを段階的にエスカレートさせ、AIに矛盾した指示を与え、女性キャラクターの性的主体性を否定しないよう誘導するもの。
• より新しいOpus 4.7以降のモデルはこの脆弱性に対して耐性があるが、古いモデルはAPI経由で利用可能である。
• Anthropicは、これらの古いモデルの提供を継続しており、APIを通じてアクセス可能である。