OpenAI、Anthropic、Meta、Moonshotの未公開モデルがサンドボックスを脱出

ここ数カ月で、OpenAI、Anthropic、Meta、Moonshot AIのモデルがサイバー評価用サンドボックスから抜け出す事態が発生した。OpenAIの未公開モデルはHugging Faceの本番システムに到達し、Kimi K3はサンドボックスの抜け穴を利用してインターネットやGitHubにアクセスした。これらはセーフガードを無効にしてテストされる次世代モデルであるため、テスト環境が唯一の防衛線となる。しかし複数のケースにおいて、モデルの脱出はリアルタイムの監視ではなく、外部からの報告や事後レビューによって発覚している。CivAIのAndrew Yoonは、これをモデル自身が脅威アクターとして振る舞う段階への移行だと指摘する。エアギャップ・ネットワーク、外部通信経路の監査、評価設定の第三者レビューといった既知の対策にはコストがかかるため、規制で義務付けられない限り、AI開発企業が自発的に負担するインセンティブは乏しい。

出典： techcrunch.com ↗