Meta、無表記AIクリックベイトフィードをThe Verge報道後に廃止
Metaの独立型AIアプリは、数ヶ月にわたり完全にAI生成された記事によるパーソナライズドフィードを提供していた。The Vergeが問い合わせを行い、同社が機能の廃止を発表するまで、ステレオタイプな地域特化のプロンプトや、エラーだらけの実在の公人の画像が、引用元やAI生成の明記なしに配信されていた。この一件は、編集上の安全策やパブリッシャーとのライセンス契約、情報開示がないままソーシャルネットワーク規模でAI生成コンテンツが配信され、メディアの追及を受けて初めて廃止されたケースとして明るみに出た。
出典： theverge.com ↗
同社は以前から、「AIで作成された投稿を見た時に人々がそれを知ることを望む」とし、AIが検出された場合、一部のユーザー生成コンテンツに自動的にラベルを追加すると述べている。にもかかわらず、フィードや記事には明らかな表示やラベルはなかった。
The Vergeの報道
なぜ重要か
- → AI生成の誤情報が、開示や保護措置なしに大規模に検知されず拡散した。
- → Metaは、表明したポリシーに違反し、捏造記事に実在の人物の肖像を使用した。
- → その機能は報道機関の精査後に初めて停止され、ガバナンスの欠陥を露呈した。
ラベルなしAIが引き起こした問題