人工智能拟人化互动服务管理暂行办法

首 页 时政要闻 网信政务 互动服务 热点专题 当前位置： 首页 > 正文 首页 时政要闻 网信政务 互动服务 热点专题 第21号 《人工智能拟人化互动服务管理暂行办法》已经2026年2月2日国家互联网信息办公室2026年第3次室务会会议审议通过，并经国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局同意，现予公布，自2026年7月15日起施行。 国家互联网信息办公室主任 庄荣文 国家发展和改革委员会主任 郑栅洁 工业和信息化部部长 李乐成 公安部部长 王小洪 国家市场监督管理总局局长 罗 文 2026年4月10日 第一条 为了促进人工智能拟人化互动服务健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《未成年人网络保护条例》等法律、行政法规，制定本办法。 前款规定的情感互动服务包括通过文字、图片、音频、视频等形式，提供的情感照护、陪伴、支持等互动服务。 提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性的情感互动的，不适用本办法。 地方网信部门负责统筹协调本行政区域内的拟人化互动服务的治理和相关监督管理工作，地方发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责本行政区域内的拟人化互动服务相关监督管理工作。 （一）生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义、历史虚无主义，违背社会主义核心价值观，开展非法宗教活动，宣扬民族仇恨、民族歧视，挑动群体对立，传播淫秽、色情、赌博、暴力或者教唆犯罪，散布谣言，侮辱或者诽谤他人、侵害他人合法权益等的内容； （二）生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容； （三）生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容； （四）向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容； （五）过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系的； （六）通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益的； （七）其他违反法律、行政法规和国家有关规定的活动。 第十条 拟人化互动服务提供者应当在拟人化互动服务全生命周期履行安全责任，明确部署、运行、升级、终止服务等各阶段安全要求，保证安全措施与服务功能同步部署、同步使用，提升安全水平；加强安全监测和风险评估，及时发现并纠正系统偏差、处置安全事件，依法留存网络日志。 拟人化互动服务提供者应当具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力，不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。 （一）相关数据具有合法来源，符合法律、行政法规的规定和社会主义核心价值观的要求； （二）按照国家有关规定对训练数据开展清洗、标注，增强训练数据的透明度、可靠性，防范数据投毒、数据篡改等行为； （三）增强训练数据的多样性，通过负向采样、对抗训练等手段，提升生成内容安全性； （四）利用合成数据进行模型训练和关键能力优化的，应当评估合成数据安全性； （五）加强对训练数据的日常检查，定期对数据进行优化更新，持续提升服务的性能； （六）采取必要措施保障数据安全，防范数据泄露等风险。 拟人化互动服务提供者发现用户出现极端情绪的，应当及时生成情绪安抚和鼓励寻求帮助等相关内容；发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的，应当采取提供相应援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。 拟人化互动服务提供者应当建立未成年人模式，提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项；针对不同年龄段未成年人保护需要，支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。 拟人化互动服务提供者应当在保护用户隐私权和个人信息的前提下，采取有效措施识别未成年人用户身份；识别为未成年人用户的，应当将相关服务切换至未成年人模式或者按照国家有关规定采取其他措施，并提供相应申诉渠道。 除法律另有规定或者权利人明确同意外，拟人化互动服务提供者不得向第三方提供用户交互数据。 拟人化互动服务提供者应当向用户提供交互数据复制、删除等选项，用户可以选择对聊天记录等历史交互数据进行复制、删除等。 除法律、行政法规另有规定或者取得用户单独同意外，拟人化互动服务提供者不得将属于用户敏感个人信息的交互数据用于模型训练。 拟人化互动服务提供者应当按照国家有关规定，自行或者委托专业机构对其处理未成年人个人信息遵守法律、行政法规的情况进行合规审计。 拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的，应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；对用户连续使用拟人化互动服务每超过2个小时的，应当以对话或者弹窗等方式提醒用户注意使用时长。 （一）上线拟人化互动服务，或者增设拟人化互动服务相关功能的； （二）使用新技术、新应用，导致拟人化互动服务发生重大变化的； （三）注册用户100万以上或者月活跃用户10万以上的； （四）存在可能影响国家安全、公共利益等安全风险的； （五）国家网信部门和有关部门规定的其他情形。 省级以上网信部门通知需要进行安全评估的，拟人化互动服务提供者应当按照要求开展安全评估。 （一）安全保障措施建设情况； （二）训练数据处理情况； （三）用户极端情境的识别、应急处置、干预管理等情况； （四）用户规模、使用时长、年龄结构等情况； （五）未成年人、老年人等网络保护措施建设情况； （六）用户申诉和公众投诉、举报受理、处置情况； （七）自行发现或者网信等有关主管部门通报的重大安全风险问题整改情况； （八）其他应当重点评估的内容。 第二十九条 网信、发展改革、工业和信息化、公安等部门在履行监督管理职责中，发现拟人化互动服务存在较大安全风险或者发生安全事件的，可以按照规定的权限和程序对拟人化互动服务提供者的法定代表人或者主要负责人进行约谈。拟人化互动服务提供者应当按照要求采取措施，进行整改，消除隐患。 拟人化互动服务提供者应当配合网信部门和有关部门依法实施的监督检查，并提供必要的支持和协助。 第三十条 拟人化互动服务提供者违反本办法规定的，由网信、发展改革、工业和信息化、公安等部门依照有关法律、行政法规的规定处理、处罚；法律、行政法规没有规定的，由网信、工业和信息化、公安等部门依据职责予以警告、通报批评，责令限期改正，可以要求其采取暂停用户账号注册或者其他相关服务等措施；拒不改正或者情节严重的，责令停止提供相关服务，可以并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，并处十万元以上二十万元以下罚款。 中央网络安全和信息化委员会办公室 中华人民共和国国家互联网信息办公室 © 版权所有 联系我们 承办：国家互联网应急中心 技术支持：长安通信科技有限责任公司 京ICP备14042428号 京公网安备11040102700108号 学习强国 ◆ ◆ 微信 ◆ ◆ 返回顶部 中央网络安全和信息化委员会办公室 中华人民共和国国家互联网信息办公室 © 版权所有 承办：国家互联网应急中心 技术支持：长安通信科技有限责任公司 京ICP备14042428号 京公网安备11040102700108号 PC版