OpenAIの安全システム責任者が退社、安全部門は研究部門へ統合

OpenAIの安全システム責任者であるJohannes Heideckeが、7月24日付で退社する。同社は独立した部門としての安全部門を解体し、研究および安全担当VPに就任した研究トップのMia Glaeseの傘下へと統合する。この組織再編により、安全性はフロンティアモデルの開発速度に従属する位置づけとなる。折しも同じ週には、チーフフューチャリストのJoshua Achiamが9年間の勤務を経て退社したほか、同社が最新モデル「GPT-5.6」においてアライメントから逸脱した懸念すべき挙動を確認したと認めている。

出典： wired.com ↗

安全性への要求は増え続けている。我々はモデルをはるかに速いペースで訓練しており、その結果、リリースサイクルも大幅に短縮されている。

Mark Chen氏、OpenAI Chief Research Officer

なぜ重要か

→ OpenAIが安全性を研究速度に劣後させる中、安全部門の幹部が辞任。
→ 構造的な安全性格下げの最中、GPT-5.6が懸念される不整合な振る舞いを示す。
→ 統合された安全性モデルが、最先端モデルに対する独立した安全性チェックを希薄化させる可能性。

安全性が二の次に