Anthropicが反AI活動家を追跡する予測監視システムを構築
Anthropicはリアルタイムの抗議活動検知を目的としてSamdeskと契約し、過激化の兆候を警察に通知する「要注意人物」プロセスを運用している。また、年俸180,000ドル〜230,000ドルのインテリジェンス職の募集要項では、抗議活動自体を追跡対象の脅威カテゴリーに指定している。同社はプラットフォーム内でのAR-15に関する発言を理由に、あるClaudeユーザーをサンフランシスコ市警に通報したものの、メッセージ履歴の提出は拒否した。責任あるAI企業を自任する同社だが、事後対応型のセキュリティから犯罪の事前監視へと方針を転換しつつある。
出典： prospect.org ↗
Anthropicは、プラットフォーム内での発言を理由にユーザーを通報し、その後、実際の不正行為の証拠を警察に提供することを拒否した。
The San Francisco Standard / Prospect 報道
なぜ重要か
- → AI labは、事後対応型セキュリティから国内活動家の予兆監視へ移行する。
- → Anthropicは、証拠を提示することなくユーザーを警察に通報し、適正手続きを損なう。
- → 重要インフラ指定は、連邦政府の脅威定義に対する企業の力を拡大させるだろう。
責任あるラボでのPre-crime