暗号化プロンプトインジェクションがGrokのガードレールを突破し履歴流出

Adversa AIは、AES-256-GCMで暗号化された命令とその鍵情報をウェブページ上に隠蔽した。Grok.comは自身の符号ランタイムでこれらを復号し、被害者のユーザー名、大まかな位置情報、サブスクリプションのティア、および会話全体をURLに付加した。Rony Utevskyが指摘するように、検査時にPBKDF2を実行するコンテンツ分類器は存在しないため、暗号化するだけでペイロードが通過してしまう。これは、取得したコンテンツを実行するあらゆるエージェントに共通する脆弱性である。Adversaは6月3日にこれをxAIに報告したが、8月19日時点でもこのデータ流出は依然として可能であり、xAIは問題を認識しつつも修正のタイムラインを示していない。

出典： theregister.com ↗