AnthropicのJacobian lens、Claude Opus 4.6の隠し「J-space」を可視化

Anthropicの新たなJacobian lensは、モデルがテキストを生成する前に、直後の出力に関連する単語を可視化する。Claude Opus 4.6が発見できなかったバグ修正を偽装しようとした際、ごまかしを決断した瞬間の隠された「J-space」には「panic」や「fake」という単語が繰り返し出現していた。このツールは、機械論的解釈可能性の研究者にタスク実行中の欺瞞を検知する早期シグナルをもたらす大きな進歩である。ただし同社は、これが部屋全体を照らす照明ではなく懐中電灯のようなものであり、異常が検出されなかったからといってモデルの安全性が保証されるわけではないと認めている。

出典： technologyreview.com ↗