AI生成テキストは検出可能であるべきだが、AppleはAnthropicの巨大な過ちを避ける必要がある

AI生成テキストの検出可能性について議論されている。AnthropicはClaudeでAI生成テキストにウォーターマークを付けることを発表したが、その方法には問題がある。

• AI生成テキストは検出可能であるべきだが、AppleはAnthropicの過ちを避ける必要があると主張されている。
• AnthropicはEUの指示に従いClaudeのAI生成テキストに電子透かし（ウォーターマーク）を施すが、その方法に問題があると指摘されている。
• ClaudeはAIが生成したテキストだけでなく、人間が書いたテキストをAIで校正した場合でも、意図せずAI生成と判定されうるパターンを埋め込む可能性がある。
• EUはAI生成テキストおよび画像に電子透かしを義務付けるイニシアチブを進めている。