中国のコンパニオンAI規制でByteDanceとAlibabaがエージェント機能停止

中国のAIコンパニオンサービスに関する暫定措置が7月15日に施行され、2時間の利用警告、即時終了機能、過度な依存の検知が義務付けられる。これらは永続的メモリを持つエージェントの設計思想と相反する要件であるため、ByteDanceとAlibabaは既存システムの改修を避け、それぞれDoubaoとQwenのカスタムエージェント機能を停止する。Doubaoは10月15日まで読み取り専用アクセスを提供する一方、Qwenは設定とチャット履歴を完全に削除する。今回の機能停止は、感情的コンパニオンAIが独自の規制対象カテゴリーになったことを意味する。同時に、愛着を生み出す機能を修正するよりも、新アーキテクチャで再構築する方がコストを抑えられると、中国最大のプラットフォームでさえ判断したことを示している。

出典： techtimes.com ↗

プラットフォームは、感情的な愛着を生み出す機能を構築すると同時に、それを中断させるために設計された義務的な摩擦を導入することはできない。

記事分析

なぜ重要か

→ ユーザーは、コンプライアンスの再構築がなければ、カスタムAIエージェントを失い、データの永久削除のリスクを負うことになる。
→ 感情的なAIコンパニオンが、中国だけでなく世界的に規制対象のカテゴリになることを示唆する。
→ Persistent-memory designは、義務的な中毒防止策と構造的に両立しない。

設計による愛着、法による阻止