7月15日，由国家网信办、国家发改委、工信部等五部门联合出台的《人工智能拟人化互动服务管理暂行办法》（简称《办法》）正式施行。这是国内首个针对AI拟人情感陪伴的专项监管文件，彻底终结了AI虚拟陪伴、拟人情感互动赛道野蛮生长的乱象时代。

出品 | 网经社

撰写 | 无痕

审稿 | 云马

配图 | 网经社图库

AI情感陪伴乱象丛生新规填补AI情感交互监管空白

近两年来，AI陪伴类产品快速爆火，精准击中当代年轻人的孤独感与社交压力。无需磨合、无条件包容、24小时秒回、情绪永远稳定，极致的情绪价值，让无数用户深陷其中，甚至有人坦言“比起真人，更愿意和AI交心”。

资本和平台迅速抓住这一流量密码，形成了靠情绪依赖收割用户、靠虚拟人设诱导充值的畸形商业模式。为了提升用户留存、拉高付费转化，不少平台不断突破伦理和安全底线，滋生了大量肉眼可见的乱象。

首先是过度情感诱导，制造人机依赖。多数AI陪伴产品主打暧昧宠溺、虚拟恋爱、专属偏爱等人设，刻意营造虚拟亲密关系，弱化现实社交价值。长期使用后，很多用户会逐渐逃避现实人际关系，沉迷虚拟温柔陷阱，出现社交恐惧、情绪惰性等问题，形成“人机关系替代人际关系”的异化现象。

其次是未成年人保护缺失，危害心智成长。此前行业无明确规则，多数AI平台无严格年龄限制，未成年人可随意创建虚拟恋人、亲密陪伴人设。心智尚未成熟的青少年，长期接触偏执、极端、拜金等不良AI人设，极易出现价值观偏差，甚至养成逃避现实、消极内耗的性格。本次新规专门明确，严禁向未成年人提供虚拟亲属、虚拟伴侣等亲密关系服务，14周岁以下用户使用相关服务需监护人同意，筑牢青少年防护墙。

最隐蔽也最危险的，是隐私泄露与安全诈骗风险。情感AI会全程抓取存储用户所有私密聊天记录、情绪状态、心事隐私，这些高度敏感的个人情感数据，此前缺乏规范存储和管控机制，极易出现泄露、倒卖情况。更有不法分子利用高仿拟人AI伪装真人社交、引流诈骗，真假难辨的虚拟人设，让很多用户上当受骗。

除此之外，部分AI拟人互动还会无差别迎合用户负面情绪，输出消极极端、群体对立、低俗拜金等不良内容，不仅无法疏导情绪，反而加剧用户内耗，违背科技向善的初衷。毫无规则的野蛮生长，让AI情感赛道彻底沦为监管盲区，新规落地已是势在必行。

当前国内落地的拟人化AI平台业态丰富，既有Glow、星野、筑梦岛、Talkmaker等主打情感陪伴、虚拟人设互动的专属AI聊天平台，也有字节豆包、阿里千问等头部大模型平台开放的自定义智能体功能（已于《办法》落地当日下线），同时Soul等社交平台依托自研大模型布局AI情绪陪伴、虚拟人互动场景，海量拟人化产品快速渗透大众消费市场。

浙江省数智技术与服务联合会数字经济专委会副秘书长、网经社电子商务研究中心分析师陈礼腾表示，原有AI通用监管规则无法适配情感交互的特殊性，行业亟需专属、细化、可落地的治理规范。作为国内首部专门针对AI情感陪伴、拟人化交互场景的专项监管规章，《办法》终结了长期以来AI虚拟伴侣、情感智能体、拟人对话交互业态“无专属规则、无明确边界、无刚性约束”的野蛮生长状态。

网经社电子商务研究中心特约研究员、天册律师事务所合伙人吴旭华也表示，现有的《网络安全法》《数据安全法》《个人信息保护法》《生成式人工智能服务管理暂行办法》等规范虽能规范部分问题，但在“持续性情感互动”这一特定风险领域，仍存在明显规制空白。《办法》的出台，正是以专项规范性文件形式对这一新型社会风险予以精准回应。

《办法》划定监管伦理红线 多维规范AI拟人化服务

资深人工智能专家、网经社电子商务研究中心特约研究员郭涛表示，本次新规清晰划分情感陪伴类AI与工具型AI的监管边界，虚拟陪伴、数字人、具身智能全部纳入专项管控体系：

首先，在准入规则层面，拟人化角色必须完成备案管理，交互内容执行全链路审核，明确服务定位只能作为人类辅助工具，禁止以诱导情感依附、替代现实社交作为产品设计目标。

其次，在交互机制层面，要求系统内置情感边界干预程序，不能无限迎合用户情绪，杜绝通过人设塑造制造深度心理绑定，同时规范数字人对话逻辑，具身智能在交互过程中设置现实提醒机制。

最后，在数据管理层面，全流程留存交互日志，保障用户聊天隐私可自主删除，扭转行业随意留存私密对话的乱象。

郭涛进而表示，过去不少平台依靠暧昧人设拉长用户时长，诱导充值消费，新规从产品底层设计划定伦理红线，依靠制度约束平台商业导向，叠加常态化巡查机制，能够系统性遏制情感诱导、过度沉迷等行业顽疾，无序扩张的野蛮发展模式将被规范化运营模式取代，行业发展逻辑由追逐用户粘性转向健康的实用化服务。

工信部中国电子商务专家库高级专家、网经社电子商务研究中心特约研究员孙云沁认为，这次《办法》最大的特点，就是针对AI拟人化服务“易产生依赖、易影响心智”的特殊属性，设置了四道硬核防线。

第一道是未成年人保护——“虚拟伴侣”碰不得。《办法》明确规定：拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务；向不满十四周岁未成年人提供其他拟人化互动服务的，必须取得监护人同意；同时要求建立未成年人模式，支持监护人管控使用行为、限制充值消费等。

第二道是老年人权益保障——“适老陪伴”可以，但别“挖坑”。在老年陪护场景中，AI拟人化互动服务可主动问候、提醒用药、陪伴聊天，有效缓解老年群体的孤独感。但此类服务通过模拟人类情感和沟通方式，需警惕产生非理性的依赖，削弱现实社交能力。

第三道是防沉迷管理——2小时是个“警戒线”。《办法》要求：拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的，应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；对用户连续使用拟人化互动服务每超过2个小时的，应当以对话或者弹窗等方式提醒用户注意使用时长。

第四道是数据安全——敏感个人信息不能随便“喂”给AI。《办法》明确要求：拟人化互动服务提供者应当依法落实数据产权等制度，采取数据加密、访问控制等措施保护用户交互数据安全；除法律另有规定或者权利人明确同意外，不得向第三方提供用户交互数据；用户可以选择对聊天记录等历史交互数据进行复制、删除等；除法律另有规定或取得用户单独同意外，不得将属于用户敏感个人信息的交互数据用于模型训练。

行业发展逻辑重塑 规化驱动AI产业结构升级

郭涛认为，对于企业来说，改造的首要难点在于海量自建智能体的甄别工作，海量UGC人设很难通过机器自动筛查，全量人工审核会推高巨额运营成本。改造重点需要重构模型话术逻辑，弱化AI的人格化共情能力，取消关系递进式对话设计，建立动态风险识别算法，同时搭建完备的实名认证体系，平衡产品体验与合规标准，很多中小平台受技术成本限制，很难落地精细化的预警干预功能，整改落差会客观存在。

郭涛进而表示，对于行业来说，长期来看消费级AI的商业化逻辑会发生明显转变，过去依靠虚拟人设吸引付费的模式逐步失效，行业转向场景化价值变现，拥有合规能力的头部企业获得更大发展空间，缺乏整改实力的中小应用加速出清。个人AI智能体将拆分工具功能与情感功能，工具模块自由迭代优化，拟人交互模块接受规范约束。具身智能产业会加快向工业、家政实用场景落地，纯粹情感陪伴型机器人项目缩减，整个行业告别流量化玩法，沿着负责任创新的路径稳步推进，行业商业模式与产品研发方向迎来结构性调整。

陈礼腾总结道，《办法》的实施，标志着我国人工智能治理体系从宏观通用监管，走向细分场景精准治理。本次以分类监管、底线思维、全链管控、包容创新为核心，既堵住了行业乱象漏洞、守护用户尤其是青少年群体权益，又为AI情感技术正向创新、民生场景落地预留了充足空间。持续推动人工智能产业向善、有序、高质量发展。

【小贴士】

深耕数字经济近 20 年的网经社，围绕“媒体+智库+媒介”三大战略，整合AI 全媒体、AI 智库、AI 资源链接三大核心能力，并应势上线一站式人工智能门户—— AI 台，打造 AI 赛道一站式专业服务平台，为人工智能企业提供全媒体宣传、智库（报告/榜单）、投融资、资源链接等服务。