LLMウォーターマークってなんだ？

LLMが生成した文章か否かを判別する「ウォーターマーク」技術について解説。AI生成証明やAIらしい表現による判別方法の限界に触れつつ、より確実な手法の可能性を探る。

• LLMウォーターマークは、AIが生成した文章に、見た目をほとんど変えずに統計的な偏りを埋め込む技術である。
• 代表的なKGW系ウォーターマークは、秘密鍵と文脈から生成したシードでトークンをGreen/Redに分割し、Green側をわずかに優遇してサンプリングする。
• これにより、人間には知覚しにくい微小な偏りが文章に埋め込まれ、検出器が統計的にAI生成物かどうかを検証する。
• ウォーターマークの検出は、AI生成の証明にはなるが、編集の可能性やウォーターマークなしの生成手法もあるため、絶対的な判定ではない。
• 短い文章では検出力が低下する弱点があるものの、AI生成コンテンツの出所確認やフェイクメディア対策に寄与する可能性がある。