
AmazonがFable 5のリスクをトランプ政権に報告、Anthropicはリコールに反発
Anthropicに対してFable 5およびMythos 5への外国籍者のアクセスを遮断するよう命じた商務省の6月12日の指示は、AmazonのCEOであるAndy Jassyがトランプ政権の当局者にセキュリティ上の懸念を提起した後に発出された。同社はAnthropicに80億ドルを投資しており、自社のサービスを同社のモデルに依存している。Anthropicは、この懸念はユーザーがFable 5に特定のコードベースを読み込ませてパッチを適用させるという限定的なジェイルブレイクに関するものであり、汎用的な機能ではないと説明している。また、この基準を業界全体に適用すれば、すべての新しいフロンティアモデルのリリースが停止することになると主張している。月曜日にワシントンで開催された会議では、解決策は発表されなかった。
出典: cnbc.com ↗
もしこの基準が業界全体に適用されたとしたら、すべてのフロンティアモデル提供者にとって、すべての新しいモデルの展開を事実上停止させることになると我々は考える。
Anthropic
なぜ重要か
- → Amazonのセキュリティ懸念が、Anthropicの主力モデルを発売から数日以内に停止させた。
- → AIの安全性確保と商用モデル展開のタイムラインとの間の緊張関係を明らかにする。
- → 政府が限定的なジェイルブレイクと体系的な脆弱性をどのように扱うかについて、前例を作る。
Amazonの拒否権