米国政府、GPT-5.5で再現可能なジェイルブレイクを理由にFable 5を全世界で強制停止
米国政府は輸出管理権限を発動し、Anthropicに対し、全世界の全顧客向けにFable 5およびMythos 5を無効化するよう強制した。理由として挙げられたジェイルブレイク手法は、モデルにソフトウェアの脆弱性を発見させるというものだが、これはGPT-5.5がすでに特別な回避策なしで実行できる機能である。これにより、競合モデルで一般に利用可能な機能に関する口頭の証拠だけで、輸出管理当局がグローバルなAIモデルのリコールを強制できるという前例が作られた。
出典： simonwillison.net ↗
これらの脆弱性はいずれも比較的単純なものに見え、他の公開モデルもバイパスを必要とせずにこれらを発見できることが判明している。
Anthropic 声明
なぜ重要か
- → Export control は、競合他社で既に公開されている能力を理由に、グローバルAIモデルのリコールを強制する。
- → 政府が正式な審査プロセスを経ずに、口頭での証拠のみでサービスを停止させる前例を作る。
- → 挙げられているJailbreak技術は、GPT-5.5 が制限なく実行する日常的な脆弱性発見の手法である。
Export control の行き過ぎ