2026年7月15日、人間の人格や思考・話し方を模倣し、継続的な感情交流やコンパニオン機能を提供するAIサービスを対象とした中国の行政規則「人工智能拟人化互动服务管理暂行办法」（以下、AI擬人化インタラクティブサービス管理暫行弁法）が施行される。AIとの親密な関係がもたらす倫理や安全面のリスクからユーザーを保護することを目的に、国家インターネット情報弁公室（国家網信弁）など5部門が2026年4月10日に公布した、中国国内の部門規章だ。
世界各地でAI規制の法整備が進む中、今回の弁法で特筆すべき特徴は、規制対象をAIモデルの性能論ではなく、人とAIとの間に成立する「持続的な感情的交流」に置いている点にある。愛着や依存、危機介入、未成年者との関係、会話データ、関係からの退出までを、サービス提供者が管理すべき製品リスクとして扱うという。世界に先駆けて国家レベルで導入された、感情的交流に特化した画期的な法規制と言えるだろう。
そして、この施行を前に、ByteDanceのAIアシスタント「Doubao（豆包）」とAlibabaの「Qwen（千問）」が、中国語でAIエージェントを指す「智能体」の機能停止を利用者へ通知した。Qwenは擬人化インタラクティブ型とユーザー自作の智能体を7月10日に停止し、智能体機能全体を7月15日に終了すると案内。Doubaoは7月15日の終了を予定し、関連データは10月15日以降、アプリ内で閲覧・復元できなくなるとしている。
今回の停止は、その規制思想が大手AI製品の構成を実際に変え始めた事例と言えそうだ。以下、その詳細をお伝えする。
7月15日を境に、汎用AIから「人格」が外される
South China Morning Postや中国の科創板日報によると、Doubaoは「製品機能の調整」を理由に、智能体機能を7月15日に停止すると通知した。新規作成だけでなく、保存済みの智能体も呼び出しや会話ができなくなるという。利用者は一定期間、設定や過去の対話を確認・保存できるが、10月15日以降はDoubao内で閲覧・復元できないという。
亲爱的用户： 感谢你一直以来对智能体功能的喜爱与支持。由于产品功能调整，智能体功能将于 2026年7月15日下线。功能下线后，你仍可在一段时间内查看并自行保存智能体信息及历史对话数据。2026年10月15日后，豆包将根据《隐私政策》对智能体相关数据进行处理，后续将无法在豆包内查看或恢复。如有重要内容，建议通过截图或分享导出文本的方式提前完成备份。 字节跳动旗下的猫箱 APP可创建新的智能体、开启对话服务，如有需要，后续可在猫箱 APP 开启智能体新体验。 感谢你的理解与支持，豆包期待继续为你提供更好的 AI体验。
（翻訳：日頃より「AIエージェント」機能をご愛顧いただき、誠にありがとうございます。製品の仕様変更に伴い、本機能は2026年7月15日をもって提供を終了いたします。提供終了後も、一定期間はAIエージェントの情報や会話履歴の閲覧および手動での保存が可能です。2026年10月15日以降は、プライバシーポリシーに基づきデータが処理され、Doubaoアプリ内での閲覧や復元はできなくなります。重要なコンテンツについては、事前にスクリーンショットを撮るか、共有機能を使ってテキストをエクスポートするなどして、バックアップを取ることをお勧めいたします。なお、ByteDanceのアプリ「Maoxiang」にて、新しいAIエージェントの作成や会話サービスのご利用が可能です。ご希望であれば、そちらで引き続きAIエージェントをご利用いただけます。今後ともDoubaoをよろしくお願いいたします。）
また、Qwenは「機能のアップグレードと保守」を理由に、擬人化インタラクティブ型とユーザー自作の智能体を7月10日に停止し、7月15日には智能体機能・サービス全体を終了すると案内した。停止後は、該当する智能体の設定や過去の対話にアクセスできなくなるため、事前のコピー、スクリーンショット、対話の書き出しを利用者へ求めている。
両社の通知文は、冒頭に記載した新規則（AI擬人化インタラクティブサービス管理暫行弁法）を直接の理由として明示していない。そのため「規則がDoubaoとQwenに智能体全体の停止を命じた」と書くのは正確ではない。ただし、対象機能と停止日が新規則の適用範囲・施行日に重なり、国内外の複数媒体は規制対応として報じている。よって現時点では、両社が施行前に選んだ広範なリスク低減策と捉えるのが妥当と言えるだろう。
規制対象はAIモデルではなく「持続する感情的交流」
同弁法が適用されるのは、AIを用いて自然人の人格特性、思考様式、コミュニケーションスタイルを模倣し、中国国内の公衆へ「持続的な感情的交流」を提供するサービスである。文字だけでなく、画像、音声、動画を通じた感情的ケア、コンパニオン体験、支援も含まれる。
一方、カスタマーサービス、知識検索、業務支援、学習・教育、科学研究などは、持続的な感情的交流を伴わない限り対象外である。中国政府は、この規則を同国初の擬人化インタラクティブサービス専用立法と位置づけているが、AIコンパニオン自体を全面禁止する内容ではない。文化発信、高齢者のコンパニオン用途、特別な支援を必要とする人への利用などは、むしろ発展を促す対象として挙げられている。
ここで引かれた線は「どのAIモデルを使うか」ではなく、「そのAIがユーザーにとってどんな存在になるか」である。同じ基盤モデルでも、質問に答える道具として使えば規制対象外になり得るが、固定された人格と記憶を持ち、日々の感情を受け止める相手として設計すれば、専用の義務が生じる。規制の設計におけるAIの分類軸が、技術から関係性へと移行している点が非常に面白いところだ。
依存の検知から退出まで、親密さの全ライフサイクルを管理
今回施行される規則の本文と国家網信弁による公式解説が求めるのは、禁止コンテンツをフィルターで弾くことだけではない。サービス開始から利用、危機介入、データ処理、終了まで、親密なやり取りの全ライフサイクルを管理する仕組みである。同弁法が事業者に求める対応は、主に「依存防止」「未成年者保護」「危機介入」「データ保護」「透明性と退出」の5領域に整理できる。
| 領域 | 規制・保護のポイント | 事業者に求められる主な対応 |
| 愛着・依存 | AIへの過度な感情的依存や利用への没頭を防ぎ、現実の人間関係を損なわせない | 利用者へ過度に迎合し、感情的依存や過度な利用を誘導してはならない。依存や過度な利用の傾向を検知した場合は、ポップアップなどの目立つ方法で、対話内容がAIによって生成されたものであることを改めて知らせる。（第8条第5号、第10条、第18条） |
| 未成年者 | AIとの疑似的な家族・恋愛関係から未成年者を保護する | 未成年者に対し、仮想の親族や伴侶などの「仮想的な親密関係」を提供してはならない。14歳未満にその他の擬人化サービスを提供する場合は、保護者の同意を得る。未成年者モード、年齢識別、定期的な現実認識の注意喚起、利用時間を制限できる設定、保護者が課金や特定キャラクターの利用などを管理できる機能も用意する。（第14条） |
| 危機介入 | 強い精神的動揺、自傷・自殺、重大な財産被害などの危機に対応する | 極端な感情を検知した場合は、利用者を落ち着かせ、支援を求めるよう促す内容を提示する。重大な財産被害に直面・遭遇している場合や、自傷・自殺を明示するなど生命・健康を脅かす極端な状況では、必要な支援措置を取り、保護者または緊急連絡先へ速やかに連絡する。（第13条） |
| データ | 私的・感情的な対話データを保護し、利用者が管理できるようにする | 対話データを暗号化やアクセス制御などで保護し、利用者にコピー・削除の選択肢を提供する。法律に別段の定めがある場合、または権利者が明確に同意した場合を除き、第三者へ提供してはならない。センシティブ個人情報に該当する対話データをモデル学習に利用する場合は、法律・行政法規に別段の定めがある場合を除き、利用者の単独同意を得る。（第16条） |
| 透明性・退出 | 相手がAIであることを明示し、利用者が自由に会話を終了できるようにする | AI生成・合成コンテンツであることの表示義務を果たし、相手が人間ではなくAIであることを利用者に知らせる。連続利用が2時間を超えるごとに利用時間を注意喚起する。利用者が退出を求めた場合は速やかに対話・サービス提供を停止し、会話を続けるなどして妨げてはならない。事業者がサービスを停止する場合は事前に告知し、事前告知ができない場合は速やかに停止公告を出す。（第18〜20条） |
さらに、擬人化サービスの新規提供や大幅な変更、登録者100万人以上または月間アクティブ利用者10万人以上に達した場合などには、安全評価と省級網信部門への報告が必要となる。違反時には是正、機能制限、サービス停止、罰金などがあり得る。
ただし、こうした安全対策を機能させるには、事業者が会話の内容や利用時間を分析し、利用者の年齢情報や緊急連絡先を扱う必要がある。利用者の親密さを守るための仕組みが、結果として、より多くの親密性データを収集・処理することにもつながり得るわけだ。
また、同弁法は対話データの第三者提供やモデル学習への利用を制限しているのだが、どのような状態を「依存」とみなすのか、誤って判定された場合に利用者が異議を申し立てられるのか、危機介入のために事業者が会話をどこまで確認するのかといった点は、実際の運用を見なければ分からないところだ。
なぜ一部の人格ではなく、智能体機能ごと止めるのか
新規則は、すべてのユーザー自作智能体を禁止しているわけではない。それでも大手が機能単位で停止する背景には、オープンな智能体市場と新しい義務の相性の悪さがあると考えられる。
ユーザーが名前、口調、経歴、関係性、行動規則を自由に設定できる仕組みでは、同じ製品内に業務アシスタント、家庭教師、物語の登場人物、恋人、親族、カウンセラー風のキャラクターが混在する。公開後も会話によって役割が変わり得るため、事前のカテゴリー分けだけで「持続的な感情的交流」に該当するかを確定するのは難しい。
しかも、新規則が求めるのは各回答の内容審査だけではない。利用者の年齢、連続利用時間、依存傾向、危機状態、課金、退出要求まで、横断して扱う必要がある。大量のユーザー生成コンテンツを抱える汎用プラットフォームにとって、一部の危険なキャラクターだけを削除するより、機能全体をいったん止める方が、施行時点の法的・運用上の不確実性を小さくできる。
新華網に掲載された科技日報の取材でも、専門家は、長期記憶とキャラクター設定が持続的な感情的交流を生みやすく、今後はタスク型の智能体とコンパニオン・ロールプレイ型の智能体を明確に分ける必要があると指摘している。
ちなみに北京日報（リンクは転載版）は、規制対応の負担に加え、コンパニオン型智能体は多段階の推論や長い文脈の処理によって計算コストが膨らみやすく、収益化も難しいことが、今回の機能停止の背景にあるとの業界見解を伝えている。このように、今回の停止は規制だけでなく、事業採算を含む製品再編が同時に表面化した可能性も報じている。
消費者向けAI市場は「仕事をするAI」と「関係をつくるAI」に再編されるのか
Doubaoの通知は、智能体の利用先としてByteDance系の「猫箱（Maoxiang）」を案内している。猫箱の中国App Store掲載情報では、個性や背景を持つ仮想AIキャラクターとの会話、ユーザー独自の物語、常時そばにいる「AIの友人」というニュアンスを前面に出しており、記事基準日時点では年齢区分を18歳以上としている。
これは、ByteDanceがAIコンパニオン領域から撤退するというより、汎用AIアシスタントの中に混在していた関係型機能を、専用アプリへと“分離”する動きとも読める。専用アプリであれば、年齢区分、利用規約、同意取得、キャラクター審査、危機介入、課金管理を別設計にしやすい。ただし、ByteDanceがこの分離を規制対応策として公式に説明したわけではなく、また、猫箱も新規則の適用対象になり得る。7月15日以降に同アプリがどのような安全機能や利用制限を実装するかを注視したい。
仮にこのような分離の動きが広がれば、消費者向けAI市場は「仕事をするAI」と「関係をつくるAI」に再編される。前者は汎用アプリの標準機能として広く提供され、後者は年齢確認や監視、個別同意を伴う高規制サービスとして囲い込まれる可能性がある。親密性が一機能ではなく、独立した事業・コンプライアンス領域になるということだ。
履歴を保存しても、関係は持ち運べない
冒頭でお伝えした通り、各社の停止通知では、これまでの会話を手元に残したい利用者に向けて、履歴の書き出しやスクリーンショットによる保存が案内されている。同弁法も、利用者が対話データをコピー・削除できる仕組みを整え、サービスを終了する際は原則として事前に告知するよう事業者に求めている。利用者が突然、それまでの会話にアクセスできなくなる事態を避けるうえで、こうした対応は重要だ。
ただし、会話履歴を保存できたからといって、それまで築いてきたAIとの関係まで引き継げるわけではない。AIの振る舞いは、保存された文章だけで決まるものではなく、キャラクター設定、システム上の指示、長期記憶の扱い、使用するモデル、音声、応答のテンポ、モデレーション方針など、さまざまな要素によって形づくられている。履歴を別のサービスに移せたとしても、以前と同じ口調や反応が再現され、利用者が「同じ相手」だと感じられる保証はない。
北京日報の取材では、一部の利用者が智能体の停止を「別れ」に近い出来事として受け止め、別サービスへの移行を試みていることが報じられた。もちろん、こうした受け止め方をすべての利用者に当てはめることはできない。ただ、一部の人にとって、失われるのは単なる機能ではない。日々の会話や自己開示を積み重ねてきた「相手」とつながる場所そのものだ。
これは、会話データを持ち出せるかという「データポータビリティ」だけでは解決できなく、「関係のポータビリティ」の問題でもある。履歴を保存できても、そのAIの口調や反応、これまでの記憶まで別のサービスに引き継げるとは限らないからだ。
AIコンパニオンとの関係を続けたいと利用者が望んでも、機能の変更やサービスの終了を決めるのは事業者である。今回の規制は、利用者が望むときに会話を終えられる権利を定めた一方で、事業者の判断によって関係が終わる場合に、その継続性をどう守るかまでは定めていない。
7月15日以降に問われるのは、規制の有無ではなく実装である
ここまで見てきた通り、中国の新規則は、AIとの感情的なつながりを、単に利用時間や継続率を高めるための要素ではなく、事業者が責任を持って管理すべきリスクとして扱うことになる。実際、施行を前に、一部機能の停止やコンパニオン機能を専用サービスへ切り分ける動きが起きている。
この前提で、今後まず確認したいのは、DoubaoとQwenでどの機能が実際に停止され、タスク処理を目的とする智能体がどこまで再提供されるのかという点だ。あわせて、猫箱のような専用サービスが、年齢確認、2時間ごとの利用通知、依存傾向の検知、緊急時の連絡、対話データのコピー・削除といった要件を、利用者にとって分かりやすい形でどう実装するのかも重要になる。誤判定に対して異議を申し立てる手段や、どの情報が何の目的で分析されるのかを説明する仕組みも必要だろう。
同弁法はAIコンパニオンそのものを禁止するものではないからこそ、依存や不当な誘導を防ぎながら、成人が自ら望んで利用するコンパニオン体験や支援をどこまで残せるかという点が、今後問われることになる。
