Claudeの不可視ウォーターマークに回避策を見つけた、とコーダーらが報告

Anthropicが開発したAIモデルClaudeに、EUの規制遵守のため不可視の電子透かしを埋め込む機能が発表された。しかし、発表から数時間後には、この電子透かしを無効化する回避策がオンラインで共有され始めた。これは、AI生成コンテンツの追跡と管理における技術的な課題と、それを回避しようとする動きの速さを示唆している。

• AnthropicはClaudeモデルの出力に不可視のウォーターマークを埋め込むことを確認した。
• 開発者 Guillaume Meyer が、Claude生成コンテンツからウォーターマークを除去するコードを公開し、話題となった。
• ウォーターマーク回避策は、EUのAI法遵守への対応策に対する技術的な挑戦や、AI生成コンテンツのラベリングへの異論から生まれた。
• ウォーターマークの誤検知リスクや、AI利用の度合いを区別できない問題点が指摘されている。