摘要：你知道吗，AI技术的进步正以前所未有的方式改变着世界，但当海量携带算法基因的数据涌入我们的视野，我们似乎也陷入了信息合成时代的虚实迷局。当深度伪造内容真假难辨，“数字名人”泛滥成灾，如何能够练就“火眼金睛”，防止被AI欺骗？本期视频，我们一起来聊聊AI内容的“

你知道吗，AI技术的进步正以前所未有的方式改变着世界，但当海量携带算法基因的数据涌入我们的视野，我们似乎也陷入了信息合成时代的虚实迷局。当深度伪造内容真假难辨，“数字名人”泛滥成灾，如何能够练就“火眼金睛”，防止被AI欺骗？本期视频，我们一起来聊聊AI内容的“身份标签”。

小王是某电商平台经营者，这两天，他发现了直播间流量暴涨的“秘密”。他利用AI技术将明星的面部表情嫁接到虚拟形象上，再通过语音合成技术模拟声音，就能让“明星”声情并茂地“表演”直播带货。一时间，直播间流量骤增，大量网友信以为真，纷纷受骗下单。

小王的故事并非个例，近期，伪造专家、明星、网络名人进行“直播”的行为屡见不鲜，造假门槛大幅降低，虚假的产品宣传乃至虚假谣言污染着网络空间。应当明确的是，AI换脸拟声技术的不当滥用，既侵犯了公民的肖像权、声音权等合法权益，也涉嫌构成消费欺诈，严重扰乱市场经济秩序，损害了广大消费者合法权益。

为了推进人工智能领域安全治理、引导技术向善，国家网信办等四部门在今年三月联合发布了《人工智能生成合成内容标识办法》，办法规定了AI生成内容的“双轨标识”制度，用于明确网络上的海量信息“哪些是生成的”“谁生成的”以及“从哪里生成的”。

标识主要包括显式标识和隐式标识两种形式，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

对于用户而言，发布AI生成合成作品时，应当主动声明并使用服务提供者提供的标识功能进行标识，禁止人工修改后伪装原创。

新规将于2025年9月1日起正式实施。今后，在全媒体平台发布AI作品请注意，生成服务提供者、传播平台、用户三方都将被纳入责任网络，利用AI技术传播虚假消息、冒充身份信息、恶意生成内容均要负法律责任。

来源：北京海淀法院