OpenAIのLockdown Modeが全個人・Businessアカウントに拡大、ネットワーク層でデータ流出を阻止
これまでエンタープライズ専用だったOpenAIの「Lockdown Mode」が、Free、Go、Plus、Pro、およびセルフサービス型のBusinessアカウントにも適用された。プロンプトインジェクション攻撃によるデータ流出を防ぐため、ライブWeb、Agent Mode、Canvas、ライブコネクタなどの外部ネットワークチャネルを無効化する。この制御はAIによる評価ではなく、決定論的なアプローチを採用している点が重要である。モデルベースのフィルターは巧妙なインジェクションによって操作される可能性があるが、ネットワークブロックであればそのリスクはない。今回の展開は、デフォルトのChatGPTが執拗なデータ流出の試みに対して堅牢な保護を提供していないことを暗に認めるものであり、APIを利用して開発を行うエンジニアにとって有用な基準となる。
出典： simonwillison.net ↗
Lockdown Modeは、機密データを攻撃者に転送し得る送信ネットワークリクエストを制限することで、プロンプトインジェクション攻撃によるデータ流出の最終段階を防ぐのに役立つよう設計されている。
OpenAIヘルプ
なぜ重要か
- → データ流出を操作可能なAIフィルター経由ではなく、ネットワーク層で阻止する。
- → デフォルトのChatGPTには、プロンプトインジェクションによるデータ窃盗に対する堅牢な保護策がないことを確認した。
- → 全ての個人アカウントおよびBusinessアカウントで利用可能で、高リスクユーザー間での広範な採用を可能にする。
ネットワーク層防御