Anthropic、Claudeの新ウォーターマークの仕組みをさらに公開

Anthropicは、Claudeの新しいウォーターマーク機能の詳細を公開しました。この機能は、AIによって生成されたコンテンツの出所を追跡し、悪用を防ぐことを目的としています。ウォーターマークがどのように機能し、編集で隠せるか、コード生成にどのような影響があるかについても説明されています。

• Anthropicは、EU AI Actの透明性コード遵守のため、生成AI（Claude）のテキストにウォーターマークを付与する仕組みを公開した。
• Claudeの新ウォーターマークは、読者には知覚不可能だが、特定キーを持つ者には検出可能なパターンを生成することで機能する。
• このウォーターマークは、テキストの品質に影響を与えず、編集によって完全に削除するには完全な書き直しが必要とされる。
• SynthID-Textアプローチを採用し、将来的に検出用APIの提供も計画されている。
• AI検出ツールが「文体の特徴」を捉えるのとは異なり、ウォーターマークは生成されたコンテンツの真正性を直接示すものである。