415.tech
シリコンバレー発、AIとテックの最前線
Anthropic、8月2日以降の全Claudeモデルに全世界で電子透かし導入

Anthropic、8月2日以降の全Claudeモデルに全世界で電子透かし導入

Anthropicは、秘密鍵に基づいてClaudeの単語選択を偏らせることで、出力テキストを統計的に検出可能にした。これは「SynthID-Text」方式の電子透かしであり、8月2日以降にリリースされた全モデルに適用される。EU AI法に準拠するための機能だが、地域限定での適用が困難なため全世界で導入された。John Gruberは、完全に同じ意味を持つ同義語は存在しないため、この手法による品質低下の懸念は現実的だと指摘している。また、「Declaude」のようなツールを使えば、言い換えによって透かしを除去できてしまう。一方で、この透かしは通常の編集作業を経ても残り、古いテンプレートから作成された文書にも引き継がれるため、報酬交渉の際に契約書作成におけるAIの関与割合を検証することが可能になる。

出典: the-decoder.com

Xでポストメール

Claudeが意味的な精度ではなく、秘密のウォーターマークキーに基づいて「overcast」と「grey」のどちらかを選ぶとき、テキストの品質は必然的に低下する。

John Gruber, Daring Fireball

なぜ重要か

  • → 検出可能なAIテキストは契約や料金紛争において執行可能になる
  • → 品質とのトレードオフ:ウォーターマークが統計的マーキングのために最適でない単語の選択を強制する
  • → EU規則の世界的な執行が世界中のユーザーに摩擦を生む
ウォーターマーク税