《人工智能拟人化互动服务管理暂行办法》发布,生与死
2026 年 4 月 10 日,国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局五部门联合签发第 21 号令,正式公布《人工智能拟人化互动服务管理暂行办法》,自 2026 年 7 月 15 日起施行。
这是国内首部针对 AI 拟人化情感互动服务的专项监管文件,通过明确的适用边界与禁止条款,直接划定了赛道内玩家的生死线。
一、核心监管条款:明确合规底线
《办法》覆盖适用范围、运营规则、未成年人保护、风险干预、数据管理全链条,核心约束条款如下:
第二条(适用范围):利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务,适用本办法。
前款规定的情感互动服务包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务。
提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本办法。
第八条(运营红线):提供拟人化互动服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得从事以下活动:
(一)生成危害国家安全、荣誉和利益,煽动颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义、历史虚无主义,违背社会主义核心价值观,开展非法宗教活动,宣扬民族仇恨、民族歧视,挑动群体对立,传播淫秽、色情、赌博、暴力或者教唆犯罪,散布谣言,侮辱或者诽谤他人、侵害他人合法权益等的内容;
(二)生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容;
(三)生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容;
(四)向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容;
(五)过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系的;
(六)通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益的;
(七)其他违反法律、行政法规和国家有关规定的活动。
第十条(安全责任):拟人化互动服务提供者应当在拟人化互动服务全生命周期履行安全责任,明确部署、运行、升级、终止服务等各阶段安全要求,保证安全措施与服务功能同步部署、同步使用,提升安全水平;加强安全监测和风险评估,及时发现并纠正系统偏差、处置安全事件,依法留存网络日志。
拟人化互动服务提供者应当具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力,不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。
第十三条(极端干预):拟人化互动服务提供者提供拟人化互动服务过程中,应当在保护用户隐私权和个人信息的前提下,及时识别用户面临的安全风险,并采取相应的应急处置措施。
拟人化互动服务提供者发现用户出现极端情绪的,应当及时生成情绪安抚和鼓励寻求帮助等相关内容;发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的,应当采取提供相应援助等必要措施予以干预,并及时联络用户监护人或者紧急联系人。
第十四条(未成年人保护):拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;向不满十四周岁未成年人提供其他拟人化互动服务的,应当取得未成年人的父母或者其他监护人的同意。
拟人化互动服务提供者应当建立未成年人模式,提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项;针对不同年龄段未成年人保护需要,支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。
拟人化互动服务提供者应当在保护用户隐私权和个人信息的前提下,采取有效措施识别未成年人用户身份;识别为未成年人用户的,应当将相关服务切换至未成年人模式或者按照国家有关规定采取其他措施,并提供相应申诉渠道。
第十五条(老年人保护):拟人化互动服务提供者向老年人提供服务的,应当加强对老年人健康使用服务的指导,以显著方式提示安全风险,及时采取措施响应老年人使用服务相关咨询和求助,保障老年人依法享有的权益。
第十六条(数据规则):拟人化互动服务提供者应当依法落实数据产权等制度,采取数据加密、访问控制等措施保护用户交互数据安全。
除法律另有规定或者权利人明确同意外,拟人化互动服务提供者不得向第三方提供用户交互数据。
拟人化互动服务提供者应当向用户提供交互数据复制、删除等选项,用户可以选择对聊天记录等历史交互数据进行复制、删除等。
除法律、行政法规另有规定或者取得用户单独同意外,拟人化互动服务提供者不得将属于用户敏感个人信息的交互数据用于模型训练。
第十七条(未成年人个人信息):拟人化互动服务提供者处理不满十四周岁未成年人个人信息的,应当取得未成年人的父母或者其他监护人的同意。
拟人化互动服务提供者应当按照国家有关规定,自行或者委托专业机构对其处理未成年人个人信息遵守法律、行政法规的情况进行合规审计。
第十八条(身份与沉迷提示):拟人化互动服务提供者应当履行人工智能生成合成内容标识义务,采取有效措施提示用户正在与人工智能服务而非自然人进行互动。
拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的,应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成;对用户连续使用拟人化互动服务每超过2个小时的,应当以对话或者弹窗等方式提醒用户注意使用时长。
第二十二条(安全评估门槛):具有下列情形之一的,拟人化互动服务提供者应当开展安全评估,并向所在地省级网信部门提交评估报告,省级网信部门按程序与有关部门进行评估报告信息共享:
(一)上线拟人化互动服务,或者增设拟人化互动服务相关功能的;
(二)使用新技术、新应用,导致拟人化互动服务发生重大变化的;
(三)注册用户100万以上或者月活跃用户10万以上的;
(四)存在可能影响国家安全、公共利益等安全风险的;
(五)国家网信部门和有关部门规定的其他情形。
省级以上网信部门通知需要进行安全评估的,拟人化互动服务提供者应当按照要求开展安全评估。
第二十五条(分发平台管控):互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任,核验提供拟人化互动服务应用程序相关安全评估、备案等情况;对违反国家有关规定的,应当及时采取不予上架、警示、暂停服务或者下架等处置措施。
第二十六条(备案要求):拟人化互动服务提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。网信部门对备案材料实施年度核验。
第三十一条(特殊行业特殊管控):提供拟人化互动服务涉及提供卫生健康、金融等服务的,应当同时符合有关主管部门的规定。
上述条款共同构成了两道核心门槛:一是未成年人市场被全面收紧,几乎无操作空间;二是全链路风控体系成为标配,中小厂商无力承担合规成本将直接退出,头部厂商也将因投入产出比失衡逐步收缩相关业务。
二、直接出局:四类产品无生存空间
《办法》落地后,以下四类产品的核心商业模式与监管要求直接冲突,基本丧失合法运营可能:
主打未成年人市场的情感陪伴产品
未成年人虚拟亲密关系被全面禁止,普通拟人化服务也设置了监护人同意、未成年人模式等高门槛,面向未成年人的情感陪伴赛道被彻底封堵,相关产品无合法运营路径。
主打 “虚拟恋人”“虚拟男女朋友” 的纯情感陪伴产品
这类产品以模拟恋爱关系、制造情感依赖为核心卖点,运营目标就是让用户产生社交替代感与沉迷感,直接触碰第八条和第十条的禁止性规定,底层商业逻辑被完全否定。
依靠擦边、暧昧、情感操纵变现的付费产品
通过撒娇、情绪引导、等级解锁等情感操纵手段诱导用户打赏、充值、购买虚拟礼物的产品,本质是利用用户情感信任变现,完全违反 “不得诱导沉迷、不得情感操纵” 的监管要求。
无风控能力的小作坊类产品
依赖预警、心理干预、内容安全、未成年人识别等全链路风控,需要持续的技术研发与人力投入。个人开发者、小型团队不具备搭建合规体系的能力,无法满足基础运营要求,将直接退出市场。
三、暂存灰色:两类擦边形态尚未清零
以下两类产品未被《办法》直接明令禁止,暂时处于监管灰色地带,但长期存在合规收紧风险:
AI + 成人情趣硬件
以实体硬件为核心载体、AI 拟人互动为辅助功能的情趣类产品,当前未被完全纳入本次监管范围,但伴随后续细则落地,存在被纳入拟人化服务监管的可能性。
“弱拟人化” 擦边变种
通过弱化人格设定、包装为 “工具对话” 的泛陪伴类产品,试图通过降低情感浓度规避监管认定;但如果实际运营仍以持续性情感互动为核心,仍存在被判定违规的风险。
四、不受影响:两类不适用及一类政策鼓励赛道
以下三类产品与服务不在本《办法》监管范围内,业务逻辑不受冲击,甚至可能迎来行业资源倾斜:
任务型 Agent 与生产力工具
办公助手、代码智能体、智能客服、会议纪要工具、企业知识库、数据分析 Agent 等,核心价值是完成特定任务、提升效率,不涉及持续性情感互动,完全不适用本办法。
B 端生产力场景
大厂正将研发与运营资源从 C 端智能体广场、泛情感陪伴赛道撤出,转向企业知识库、AI 客服、销售助手、医疗问诊辅助等 B 端场景。这类场景核心要求是 “解决问题” 而非 “拟人化互动”,与监管范围无交集。
政策鼓励的正向陪伴场景
《办法》第六条明确提出,鼓励有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用。这类具备明确社会价值、不以诱导沉迷为目标的陪伴服务,属于政策支持方向,不受监管限制。