2026年4月10日,国家互联网信息办公室、国家发展改革委、工业和信息化部、公安部、国家市场监督管理总局五部委联合发布第21号令,公布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),自2026年7月15日起正式施行。作为我国首部专门针对人工智能持续性情感互动服务的监管规章,《办法》立足发展与安全并重、创新与治理结合,为AI拟人化陪伴、情感照护等新业态划定清晰边界,推动行业向上向善、健康有序发展。

一、精准界定适用范围,厘清服务边界

《办法》明确规制对象为:利用AI技术向境内公众提供模拟自然人人格、思维与沟通风格的持续性情感互动服务,覆盖文字、图片、音频、视频等多模态形式,聚焦情感照护、陪伴、支持等核心场景。

同时作出清晰排除:智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的功能类服务,不适用本办法,避免监管泛化,为技术创新保留充足空间。

二、坚守安全底线,明确七大禁止行为

《办法》划定服务红线,严禁提供者从事危害国家安全、违背公序良俗、侵害用户权益的活动,核心禁止事项包括:

1. 生成危害国家安全、宣扬极端主义、传播淫秽色情、造谣诽谤等违法违规内容;

2. 鼓励自残自杀、实施语言暴力,损害用户身心健康与人格尊严;

3. 诱导套取国家秘密、商业秘密、个人隐私与敏感信息;

4. 向未成年人推送不良内容,诱导不安全行为与极端情绪;

5. 过度迎合、制造情感依赖,破坏用户真实社交关系;

6. 通过情感操纵诱导不合理决策,侵害用户合法权益;

7. 其他违反法律法规与国家规定的行为。

三、压实主体责任,构建全流程安全体系

1. 全生命周期安全管理

提供者需建立算法审核、伦理审查、内容风控、数据安全、应急处置等全流程制度,确保安全措施与服务功能同步部署、同步使用,依法留存网络日志,不得将替代社交、控制心理、诱导沉迷作为服务目标。

2. 训练数据合规硬约束

训练数据须来源合法、符合核心价值观,完成清洗标注与安全评估,防范数据投毒、篡改;加强数据多样性与安全防护,保障数据全流程安全,严防泄露风险。

3. 用户权益刚性保护
  • 签订服务协议,核验用户年龄、监护人等必要信息;
  • 建立极端情绪干预机制,遇自残自杀、重大财产损失等场景,立即干预并联络监护人/紧急联系人;
  • 提供交互数据复制、删除权限,未经同意不得向第三方提供数据,不得将用户敏感信息用于模型训练。
4. 强制标识与防沉迷

必须明确提示用户交互对象为AI,不得伪装自然人;用户连续使用超2小时,须弹窗提醒;提供便捷退出渠道,不得阻碍用户终止服务。

四、聚焦重点人群,筑牢未成年人与老年人保护屏障

未成年人专属保护
  • 严禁向未成年人提供虚拟亲属、虚拟伴侣等亲密关系服务;
  • 向14周岁以下未成年人提供服务,须取得监护人同意;
  • 强制上线未成年人模式,支持时长限制、现实提醒、消费限制、安全提醒推送等功能;
  • 定期开展未成年人个人信息处理合规审计。
老年人适老化保障

提供者需强化健康使用指导,以显著方式提示风险,快速响应老年人咨询与求助,保障老年用户使用安全与合法权益。

五、强化监管闭环,完善评估与问责机制

1. 分级分类安全评估

上线服务、新增功能、使用新技术、用户规模达标(注册100万+/月活10万+)或存在重大安全风险时,必须开展安全评估并提交报告。

2. 算法备案与年度核验

按照《互联网信息服务算法推荐管理规定》履行算法备案、变更、注销手续,网信部门实施年度核验,确保算法透明可控。

3. 严格法律责任

违规者将被警告、通报批评、限期整改;拒不改正或情节严重的,责令停服,并处1万—10万元罚款;涉及危害生命健康且有后果的,处10万—20万元罚款,形成强力震慑。

六、鼓励创新发展,推动技术向善

《办法》坚持包容审慎、分类分级监管,支持算法、框架、芯片等核心技术自主创新,推进标准建设与电子签名授权应用研究,鼓励服务向文化传播、适幼照护、适老陪伴、特殊人群支持等公益与民生领域拓展,实现规范与发展双赢。

人工智能拟人化互动服务,是技术进步带来的新型数字陪伴,既承载着情感慰藉、民生服务的温暖价值,也面临情感依赖、隐私泄露、内容失范等现实挑战。《办法》的出台,以制度规范守护技术温情,既为行业划定不可逾越的红线,也为创新打开可持续的绿灯,推动AI情感交互从“野蛮生长”走向“规范繁荣”。

2026年7月15日起,全行业将迈入合规发展新阶段。唯有坚守安全底线、恪守伦理准则、保障用户权益,人工智能才能真正成为传递温暖、服务民生、赋能社会的可靠伙伴,让技术向善照亮数字生活的每一个角落。

Logo

立足具身智能前沿赛道,致力于搭建全球化、开源化、全栈式技术交流与实践共创平台。

更多推荐