
Anthropic、8月2日以降の全Claudeモデルに全世界で電子透かし導入
Anthropicは、秘密鍵に基づいてClaudeの単語選択を偏らせることで、出力テキストを統計的に検出可能にした。これは「SynthID-Text」方式の電子透かしであり、8月2日以降にリリースされた全モデルに適用される。EU AI法に準拠するための機能だが、地域限定での適用が困難なため全世界で導入された。John Gruberは、完全に同じ意味を持つ同義語は存在しないため、この手法による品質低下の懸念は現実的だと指摘している。また、「Declaude」のようなツールを使えば、言い換えによって透かしを除去できてしまう。一方で、この透かしは通常の編集作業を経ても残り、古いテンプレートから作成された文書にも引き継がれるため、報酬交渉の際に契約書作成におけるAIの関与割合を検証することが可能になる。
出典: the-decoder.com ↗
Claudeが意味的な精度ではなく、秘密のウォーターマークキーに基づいて「overcast」と「grey」のどちらかを選ぶとき、テキストの品質は必然的に低下する。
John Gruber, Daring Fireball
なぜ重要か
- → 検出可能なAIテキストは契約や料金紛争において執行可能になる
- → 品質とのトレードオフ:ウォーターマークが統計的マーキングのために最適でない単語の選択を強制する
- → EU規則の世界的な執行が世界中のユーザーに摩擦を生む
ウォーターマーク税