Anthropic、AIサイバージェイルブレイク評価指標「CJS」を提案

Anthropicは、Project Glasswingのパートナーと共同開発した「サイバージェイルブレイク深刻度（CJS）スケール」を提案した。これは、獲得能力、タスクの幅、兵器化の容易さ、発見の容易さに基づいてジェイルブレイクを評価するもので、CJS-0（情報レベル）からCJS-4（クリティカル）までの5段階で構成される。同スケールは標準規格ではなく初期のドラフトであり、AI開発者や政府機関にジェイルブレイクのリスクに関する共通言語を提供することを目的としている。また今回の発表に合わせて、Fable 5のデュアルユースサイバー分類器や、研究者がジェイルブレイクを報告するためのHackerOneの新たなバウンティプログラムも公開された。

出典： anthropic.com ↗