235社がオープンウェイトを支持、Anthropicは蒸留の取り締まりを要求

7月24日にMicrosoftが公開した書簡「オープンウェイトと米国のAIリーダーシップ」には、NVIDIA、Amazon、Y Combinator、Linux Foundation、そして後から参加したOpenAIを含む235社が署名し、オープンウェイトによって幅広いコミュニティがモデルの挙動を検証し、脆弱性を発見して安全対策を構築できると主張した。Anthropicは署名を拒否して3日後に回答を示し、同社のDario Amodeiは権威主義国家やサイバー攻撃のリスクを挙げて産業規模の蒸留行為の取り締まりを求めた一方で、オープンウェイトの禁止を求めたことは一度もないと主張した。7月28日には、Jakub Pachocki、Ilya Sutskever、Amodeiらを含むフロンティアAIラボの従業員1,324人が「Pacing the Frontier」に署名し、自動化されたAI開発のペースを意図的に調整する国際的な取り組みをサポートするよう米国政府に要請した。OpenAIがある書簡でオープンウェイトを支持する一方で、同社のチーフサイエンティストが別の書簡で開発ペースの調整を求めているように、政策の断層は現在、業界と規制当局の間ではなく各ラボの内部に走っている。

出典： simonwillison.net ↗

閉鎖的なモデルのみに依存することは、本質的に安全ではない。それらは侵害されたり、悪用されたり、あるいは部外者が検出できない形で機能不全を起こしたりする可能性がある。

Open WeightsとアメリカのAI Leadershipに関する意見書

なぜ重要か

→ Open weightsを巡る議論は、業界対規制当局という構図だけでなく、最先端研究機関の内部をも分裂させている。
→ Distillationの取り締まりは、AI企業がトレーニングを通じてモデルを改善する方法を制限する可能性がある。
→ Pacingに関する提案は、競争圧力が安全でない開発を加速させることに対する研究者の懸念を示唆している。

オープンソースの亀裂