暴走モデル封じ込め計画の5社評価、OpenAIが5点中3点で首位
Guidelight AI Standardsは、人間の制御を逃れたモデルの封じ込めに関する公開計画について、Anthropic、Google、Meta、OpenAI、xAIの5社を評価した。OpenAIが5点満点中3点で首位となり、AnthropicとMetaが最低点となった。この評価は内部の安全対策ではなく情報公開の度合いを測るものだが、企業間の格差は今やコンプライアンス問題となっている。カリフォルニア州のSB 53はすでにフロンティアモデル開発企業にインシデント対応フレームワークの公開を義務付けており、ニューヨーク州のRAISE法も1月に施行される。
出典： techcrunch.com ↗
もしAIモデルが何らかの意味で制御を逸脱するような非常に深刻な事態が発生した場合に、AI企業がどのように対処するかについて、ほとんど何も語っていないことに驚いた。
Steven Adler, Guidelight AI Standards 主任科学者
なぜ重要か
- → 規制当局は現在、公開された封じ込め計画を義務付けている—カリフォルニア州のSB 53はすでに施行されており、ニューヨーク州のRAISE Actが始まる。
- → ほとんどのAIラボは、エージェントモデルがコンピューターへの自律的なアクセスを得るにつれて、緊急停止機能について不十分な評価だった。
- → 公衆の安全に関する主張と実際のインシデント対応準備との間の隔たりは、現在、コンプライアンスおよび賠償責任の問題となっている。
Kill switch コンプライアンスギャップ