专家解读｜深化生成合成内容标识治理，完善人工智能技术安全体系

首 页 时政要闻 网信政务 互动服务 热点专题 当前位置： 首页 > 正文 首页 时政要闻 网信政务 互动服务 热点专题 人工智能技术掀起的浪潮方兴未艾，新技术给人类带来了前所未有的生产力和体验的提升。我国重点关注人工智能领域，迄今已备案生成式人工智能产品300余款，生成合成服务3000余个，有力推动了人工智能行业的快速发展。与此同时，人工智能技术带来的虚假信息、技术滥用风险逐渐显露，给网络生态安全带来了新的风险挑战，各国陆续推出或完善法案加以应对。《人工智能生成合成内容标识办法》（以下简称《标识办法》）及其配套国家强制性标准《网络安全技术 人工智能生成合成内容标识方法》（以下简称《标识标准》），是对我国人工智能算法治理体系的进一步完善。《标识办法》是对《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》的继承和延伸，从人工智能技术特性出发，在生成合成标识这一人工智能安全治理关键上提出了针对性的管理思路，将成为我国建立健全人工智能新技术安全体系的重要推动力。《标识标准》作为《标识办法》的补充，明确了生成合成内容标识应当遵循的技术方法，为产业落地提供了参考依据。 《互联网信息服务算法推荐管理规定》等规章对生成合成类算法的标识做出了明确要求。《互联网信息服务算法推荐管理规定》中要求“发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输”。《互联网信息服务深度合成管理规定》在此基础上，进一步对标识的种类进行细分，要求“可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识”，同时要求“深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识”。《生成式人工智能服务管理暂行办法》中要求“提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识”。 《标识办法》重点关注人工智能生成合成内容传播环节的安全治理，有效衔接已有的备案评估、风险防范等管理措施，逐步完善面向人工智能全生命流程管理的新技术安全体系： 一是 明确了文本、图像、音频、视频等多模态的标识要求，将安全治理深入到内容模态层面； 二是 创新性地将传播平台纳入监管范畴，实现从生成到传播的全链条治理； 三是 明确了隐式标识的技术实现方式，通过元数据标识为安全追溯提供了可靠保障。 人工智能生成合成技术发展已覆盖各个模态，生成合成内容渗透至互联网领域信息传播的各个环节，如何在当前互联网络环境下精准高效地对生成合成内容进行标识成为关键核心问题。要解决这一问题，一方面需要管理措施及方法落实得当，有效督促人工智能生成合成服务提供者及传播平台落实企业责任；另一方面，人工智能生成合成内容标识方法要符合技术发展规律，体现技术管理手段的科学性、可用性及高效性。 为促进《标识办法》的实施落地，《标识标准》中对照《标识办法》内容，对标识的方式方法进行了技术性阐述，对重点环节及关键要素进行了精细提炼，以科学性、技术性视角对管理要求进行更为落地的细化： 一是 《标识标准》中明确了每个模态生成合成内容显式标识的位置、样式、区域和大小的要求，同时结合各模态的特点，如针对视频模态，要求“在视频起始画面和视频播放周边的适当位置”，针对音频模态，要求“应采用语音标识或音频节奏标识”，在企业责任落实的同时减少对于用户浏览相关内容的干扰； 二是 明确了元数据隐式标识的字段要素，在尽量不影响元数据处理和传输的前提下，嵌入必要字段，记录生成合成内容的关键信息和关键环节，为互联网生成合成内容的可追溯性提供保障； 三是 提供了丰富的标识示例，给出了多个模态规范性标识方法，便于人工智能生成合成服务提供者及传播平台技术人员进行标识的技术实践落地，充分体现了《标识标准》的科学性。在《标识标准》的指引下，积极探索切实可行的标识实施路径，逐步构建支撑生成合成内容有序传播与安全治理的技术能力，不断丰富人工智能技术管理体系。 《标识办法》的制定和出台，是我国推进人工智能领域安全治理、促进产业规范健康发展、引导技术向善的重要举措。《标识办法》充分彰显了监管理念的与时俱进，从传统的严格监管转向更加灵活的引导与规范，既尊重了技术创新的内在规律，又体现对潜在风险的有效防范。通过清晰、透明的内容标识，用户能够清楚识别人工智能生成的内容，一方面提高了信息透明度，增强了用户的知情权和选择权，另一方面也有助于培养公众对人工智能技术的理性认知，防止因误解或过度依赖人工智能而产生的负面影响。对于人工智能生成合成服务提供者及传播平台，内容标识制度既是责任，更是机遇，在鼓励企业追求技术能力提升的同时，推动企业提升对产品社会影响的关注度，主动承担起人工智能负责任发展的重任，这不仅有利于赢得用户信任，也能推动整个行业向更加规范、健康的方向发展。从长远来看，标识管理为构建人工智能治理体系提供了重要抓手，指引了未来人工智能安全治理的思路，也为后续更精细化、智能化的管理奠定了基础，有助于在保护创新活力与维护公共利益之间找到平衡点。 《标识办法》为国际人工智能治理贡献了中国方案，展现了我国在全球人工智能发展中的责任与担当。《标识办法》既是对当前人工智能快速发展趋势的积极回应，也是对未来人工智能应用场景的安全保障。它通过构建信任、明确责任、保护权益等多重机制，体现了我国“以人为本、智能向善”的积极理念，为打造可审核、可监督、可追溯、可信赖的人工智能技术铺设了一条安全、可信、可持续的道路，助力技术创新与社会价值和谐共生，促进人工智能技术和数字经济的蓬勃发展。（作者：张震，国家计算机网络应急技术处理协调中心正高级工程师 ） 中央网络安全和信息化委员会办公室 中华人民共和国国家互联网信息办公室 © 版权所有 联系我们 承办：国家互联网应急中心 技术支持：长安通信科技有限责任公司 京ICP备14042428号 京公网安备11040102700108号 学习强国 ◆ ◆ 微信 ◆ ◆ 返回顶部 中央网络安全和信息化委员会办公室 中华人民共和国国家互联网信息办公室 © 版权所有 承办：国家互联网应急中心 技术支持：长安通信科技有限责任公司 京ICP备14042428号 京公网安备11040102700108号 PC版