415.tech
シリコンバレー発、AIとテックの最前線
最先端AI企業の1,306人、開発競争のペース調整を米国に要請

最先端AI企業の1,306人、開発競争のペース調整を米国に要請

OpenAI、Anthropic、Google DeepMind、Meta AI、Safe Superintelligence、Thinking Machinesの従業員1,306人が声明に署名し、自動化されたAI研究のペースを意図的に調整するための技術的およびガバナンス上のツールを構築する国際的な取り組みを支援するよう米国政府に要請した。署名者のうち20人が実名で公開されており、その中にはDario Amodei、Ilya Sutskever、Jakub Pachocki、John Schulmanらが含まれる。彼らの要求は即時の開発減速ではなく、ペース調整という選択肢の確保である。これは、競争圧力の存在により、単一の研究機関や国家が単独で開発を緩めることは不可能であるという現状認識を示している。

出典: pacingthefrontier.com

Xでポストメール

世界には、フロンティア全体の進歩を意図的に調整するための技術的およびガバナンスに関するツールが不足している。

frontier AI企業1,310人の従業員

なぜ重要か

  • → 競争圧力によって、いずれか一つの研究所が単独でAI開発を減速させることは不可能だ。そのため、協調が不可欠となる。
  • → 1,310人のfrontier AI企業の従業員が、一方的な自粛ではなくガバナンスツールの必要性を公に表明している。
  • → 自動化されたAI研究が、人間の理解や制御能力を超えて加速するリスクがある。
協調問題