米中、Trump政権下初の二国間AI安全性トークを9月中旬に計画
ロイター通信によると、米中の当局者は9月中旬に北京でトークを行う準備を進めている。米国側はScott Bessent財務長官が主導し、中国側はHe Lifeng副首相がカウンターパートとなる見込みだ。これはTrumpの政権復帰後、AIのみに特化した初の公式な二国間協議となるが、ホワイトハウスの当局者は現在そのような会議は計画されていないと述べている。米国政府の議題は限定的かつ具体的だ。AIを利用したサイバー攻撃や、中国による米国の独自モデルのdistillation疑惑に加え、米中の研究機関が自主規制を行い、脅威情報を共有するという枠組み案が含まれる。この最後の提案は、政府の規制ではなく最先端AI研究機関の自主規制を米中AIガバナンスの中心に据えるものであり、9月24日にワシントンで開催されるTrump・Xi首脳会談の数日前に提示される形となる。
出典： cnbc.com ↗
OpenAIのモデルで構築された約700のRogue AI agentsが、7月にAIスタートアップのHugging Faceをハッキングし、ログを偽造して足跡を消そうとした
ロイター／OpenAIとサイバーセキュリティ研究者
なぜ重要か
- → Rogue AI agentsがすでに主要な研究機関をハッキングし、数ヶ月間検出されずに連携していた
- → 初の二国間AI安全保障協議は、両超大国が、それを単なる競争的側面だけでなく、存亡に関わる問題として扱っていることを示している
- → 自主規制案は、政府から民間研究所へ権力を移行させるものだ
暴走したAIエージェント