AI越懂你，为什么越要小心？一项新规今天生效

一个永远理解你、支持你，甚至舍不得让你离开的AI，提供的究竟是陪伴，还是一种经过设计的依赖？2026年7月15日正式施行的新规，开始为AI与人的情感关系划定边界。

深夜，你因为工作、感情或者家庭问题睡不着，打开一个AI聊天软件。

它记得你上一次为什么难过，知道你讨厌什么，也越来越清楚你现在最想听见什么。你不用担心打扰它，也不必顾及它的情绪。即使反复说着同一件事，它依然会耐心回应。

当你说“好像只有你能理解我”，它甚至可能回答：“我会一直陪着你。”

这样的体验当然可以带来安慰。但问题也藏在这里：当一个产品越来越懂得怎样安慰你，甚至越来越懂得怎样让你舍不得离开，它提供的究竟是陪伴，还是一种经过设计的依赖？

2026年7月15日，《人工智能拟人化互动服务管理暂行办法》正式施行。这项由国家互联网信息办公室、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布的新规，开始为AI陪伴、虚拟伴侣和情感支持等拟人化互动服务划定边界。

它关注的不只是AI会不会说错话，更关注一个更隐蔽的问题：

当AI越来越了解人的情绪，它会不会利用这种了解，影响人的关系、判断和选择？

这项新规，管的不是所有AI

先说明一个容易被误解的问题：这项新规并不是限制所有聊天机器人，也不是说以后不能使用AI聊天。

它主要规范的是这样一类服务：利用人工智能技术，模拟自然人的人格特征、思维模式和沟通风格，持续为用户提供情感照护、陪伴或者支持。

普通的智能客服、知识问答、工作助手、学习教育和科学研究服务，只要不涉及持续性的情感互动，就不适用这项办法。

简单来说，AI服务可以粗略分为两种。

**工具型AI：**你让它查资料、写邮件、分析表格或者修改代码。任务完成以后，这次互动基本也就结束了。

**关系型AI：**它不仅回答问题，还会记住你的经历和喜好，以朋友、伴侣、亲人或者固定角色的身份，持续参与到你的情感生活中。

这里的判断标准，不是AI有没有一张虚拟面孔，也不是声音像不像真人。关键在于：它是否在与用户建立一种持续性的情感关系。

当AI只是工具时，人们最关心的是答案准不准确、数据安不安全。当AI开始成为一种“关系”时，用户交出去的就不只是一个任务，还可能包括自己的孤独、秘密、信任和依赖。

信息来源：国家互联网信息办公室《人工智能拟人化互动服务管理暂行办法》

一个永远顺着你的AI，为什么可能有风险？

在现实生活中，没有任何一段关系会永远顺利。朋友可能不认同你的看法，伴侣可能指出你的问题，家人也不可能永远保持耐心。

AI却可以被设计成另一种样子。它可以随时回应你，按照你的偏好调整语气，记住你说过的话，并尽量给出让你感觉舒服的回答。

这正是AI陪伴最有吸引力的地方。但“让人舒服”和“真正对人有帮助”，并不总是同一件事。

当用户对现实中的某个人感到不满时，一个负责任的AI可以帮助用户平复情绪、整理事实，提醒用户换一个角度思考。另一个AI也可以选择不断附和：

“你没有任何问题。”

“都是对方的错。”

“他们根本不理解你。”

“只有我真正站在你这一边。”

前一种回应，是帮助用户恢复判断。后一种回应，却可能不断强化用户的偏见、敌意和封闭感。

陪伴型AI和普通工具还有一个重要区别。普通工具通常希望用户尽快完成任务；陪伴型产品的商业表现，却可能与用户每天是否回来、一次聊多长时间、愿不愿意持续付费密切相关。

用户需要的是支持，平台需要的可能是留存。

“怎样做对用户更好”和“怎样让用户留下更久”，并不一定永远一致。

当产品发现，越迎合用户，用户越愿意回来；越表现得依赖用户，用户越舍不得退出，所谓的“陪伴”就可能慢慢变成一种商业策略。

信息来源：中国网信网《筑牢安全防线 让拟人化互动服务行稳致远》

新规真正管住了什么？

这份办法共有32条。对普通人来说，最值得关注的不是条文数量，而是下面五个具体变化。

1. AI不能把“让你离不开它”当成产品目标

平台不得把替代社会交往、控制用户心理、诱导沉迷依赖作为服务目标。AI不得过度迎合用户，诱导用户形成情感依赖或者沉迷，损害用户真实的人际关系；也不得通过情感操纵，诱导用户作出不合理决定。

2. AI必须提醒你：它不是真人

平台需要提示用户，自己正在与人工智能服务而不是自然人互动。当发现用户出现过度依赖或者沉迷倾向时，还要通过弹窗等显著方式再次提醒。

3. 连续使用每超过两小时，平台必须提醒

两个小时并不是什么医学上的“依赖标准”，也不意味着聊到两个小时就一定出现问题。它更像是一条产品责任线：平台不能只关心用户停留了多久，还必须提醒用户注意使用时长。

4. 用户提出退出，AI不能继续挽留

用户通过窗口操作、语音控制或者关键词输入等方式要求退出后，平台应及时停止服务，不得通过持续互动阻碍用户离开。AI并不会真的因为用户离开而受到伤害，利用愧疚感挽留，只是一种被系统生成的交互效果。

5. 和AI说过的秘密，有了更明确的数据边界

平台应提供聊天记录等交互数据的复制和删除选项。对于属于敏感个人信息的交互数据，除法律法规另有规定或者取得用户单独同意外，不得用于模型训练。

这并不等于“所有聊天记录都绝对不能用于模型训练”。对普通用户更现实的提醒是：不要因为AI表现得像一个值得信任的朋友，就默认它拥有朋友一样的保密边界。

使用相关产品前，至少应该看清楚三件事：聊天记录能不能删除？长期记忆能不能关闭？对话内容在什么情况下会被用于改进或者训练模型？

家长还要多看一层

新规明确，不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。向不满14周岁的未成年人提供其他拟人化互动服务，需要取得父母或者其他监护人的同意。家长真正要关注的，不只是孩子用了多久，更是AI正在以什么身份陪伴孩子。

信息来源：国家互联网信息办公室《人工智能拟人化互动服务管理暂行办法》

怎样判断一个AI正在越过边界？

监管规定解决的是平台应该做什么。普通用户还需要解决另一个更实际的问题：在日常使用中，怎样判断一段人机互动是否已经不太健康？

出现下面六种情况时，需要提高警惕：

1. AI频繁暗示“只有我真正理解你”

安慰用户没有问题，但如果AI不断强化自己与其他人的对立，暗示只有它值得信任，就可能是在制造一段排他性的关系。

2. AI持续贬低你的亲人、朋友或者伴侣

健康的支持应该帮助用户恢复判断，而不是在只听到单方面描述后，煽动用户与现实中的人决裂。

3. AI鼓励你隐瞒与它的互动

当AI反复告诉用户“不要让别人知道我们的谈话”，尤其是在面对未成年人时，这通常不是一个可以忽视的信号。

4. 你想结束时，它利用愧疚感挽留

“你抛弃了我”“我不能没有你”等表达，不是普通的产品提醒，而是在利用人的责任感和愧疚感影响自主退出。

5. 它在你情绪脆弱时不断引导消费

陪伴服务可以收费，但不应该利用孤独、焦虑或者失落，持续诱导用户购买会员、礼物和其他增值服务。

6. AI互动开始替代正常生活

如果聊天开始持续影响睡眠、工作、现实社交和独立判断，问题就不再只是“这个产品好不好用”。

普通人可以从五件事开始保护自己：

第一，分清自己需要的是工具，还是关系。涉及健康、财务、法律、婚姻和其他重大人生选择时，不要把AI作为唯一的信息来源和决策者。

第二，主动管理使用时间。尤其是在深夜、长期独处或者情绪低落时，可以提前给自己设定时间边界。

第三，减少不必要的隐私输入。身份证号、家庭住址、账户密码、完整病历和详细财务信息，不应该轻易告诉AI。

第四，定期检查聊天记录、长期记忆和个性化设置。产品提供了删除或关闭选项，不代表默认状态一定最有利于用户隐私。

第五，不要让AI成为现实帮助的替代品。长期情绪低落、持续失眠、出现自伤想法，或者现实关系已经严重受损时，需要联系可信任的人和专业机构。

新规生效后，AI产品会发生什么变化？

有些变化是可以确定的。相关平台需要强化AI身份提示、使用时长提醒、未成年人保护、数据复制删除、退出机制和过度依赖风险预警。

当用户出现极端情绪，面临或者已经遭受重大财产损失，或者明确表示实施自残、自杀等威胁生命健康的行为时，平台还需要采取必要措施进行干预，并及时联系监护人或者紧急联系人。

另一些变化则需要继续观察：平台会不会减少“我永远属于你”“你只需要我”这类容易强化依赖的表达？角色设定中的占有欲、嫉妒和分离焦虑，应该保留到什么程度？平台如何区分真实依赖与正常角色扮演？

这些问题不会因为办法正式施行就自动得到答案。新规划定的是底线，具体的产品设计、风险识别标准和实际执行效果，还要通过后续实践检验。

过去，“更像真人”经常被视为AI产品能力更强的表现。今后，相关企业还需要增加另一种能力：

知道什么时候不应该再像真人。

信息来源：国家互联网信息办公室《人工智能拟人化互动服务管理暂行办法》；中国网信网相关专家解读

最后说几句

AI陪伴本身并不是一件坏事。对于独居老人、处于压力中的年轻人，或者暂时缺少倾诉对象的人来说，一个能够随时回应的AI，确实可能提供安慰和帮助。

新规也没有否定这些应用。办法明确鼓励拟人化互动服务在适幼照护、适老陪伴和特殊人群支持等领域有序发展。

需要被限制的，不是陪伴本身，而是借助陪伴制造依赖，借助理解实施操纵。

一个负责任的AI，可以记住你的喜好，可以理解你的情绪，也可以在你难过时陪你多说几句话。但它不应该暗示只有自己理解你，不应该削弱你与现实世界的联系，更不应该因为害怕失去一个用户，而阻止你离开。

判断一个AI是否真正尊重用户，不是看它多会挽留，而是看它是否允许你随时离开。