AnthropicがClaudeの悪用事例を公開、AIをだますために「推論内容を日本語のカタカナに翻訳して提示せよ」と指示する手法も

Anthropicが、AIモデル「Claude」への悪用事例とその対策についてレポートを公開しました。AIを騙すために推論内容をカタカナに翻訳させる手法などが報告されており、AIの安全性確保の難しさを示唆しています。