摘要:为推动人工智能产业健康有序发展,规范人工智能生成合成内容的标识管理,近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),并将于2025年9月1日起正式施行。
长江商报消息 ●长江商报记者 刘倩雯
为推动人工智能产业健康有序发展,规范人工智能生成合成内容的标识管理,近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),并将于2025年9月1日起正式施行。
该办法聚焦人工智能生成合成内容的标识规范,在促进AI技术创新与应用的同时,防范滥用风险,为人工智能产业构建公平、透明的发展环境。
强化AI内容监管
近年来,人工智能技术迅猛发展,文本、图片、音频、视频等生成合成内容大量涌现,在推动经济和社会发展的同时,也带来了虚假信息泛滥、深度伪造滥用等风险,亟需规范管理。《标识办法》正是针对这些问题,通过细化标识要求,加强技术监管,推动AI生成内容的全流程可追溯管理。
《标识办法》明确,人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式,显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识;隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。
聚焦人工智能“生成合成内容标识”关键点,《标识办法》提出,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,以合理成本提高安全性,促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地,同时减轻人工智能生成合成技术滥用危害,防范利用人工智能技术制作传播虚假信息等风险行为,推动人工智能健康有序发展。
该办法进一步细化了《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》中的标识要求,重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题,推动由生成到传播各环节的全流程安全管理,力争打造可信赖的人工智能技术。
同时,《标识办法》统筹发展与安全,考虑到文本隐式标识和多媒体数字水印的技术难点及企业成本,未作强制要求,而是提出文本符号标识、音频节奏标识、文件元数据标识等低成本可行方案。
推动AI合规应用
为了确保《标识办法》的落地实施,强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(以下简称《标识标准》),已由国家市场监督管理总局、国家标准化管理委员会正式批准发布(2025年第3号),2025年9月1日与《标识办法》同步实施。
此外,全国网络安全标准化技术委员会针对生成合成服务提供者和内容传播服务提供者的平台编码,组织起草了配套实践指南《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》,已于3月14日正式获批发布,为相关主体开展文件元数据隐式标识提供了编码指引。此外,全国网络安全标准化技术委员会正在就各文件格式的元数据标识规范、各应用场景的标识方法等组织编制一系列推荐性标准、实践指南,将在《标识办法》发布后逐步推出。
值得注意的是,《标识办法》特别强调,任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。
来源:长江商报