摘要：被AI换脸技术欺骗，有人要贷款200万给网恋男友“靳东”拍戏；AI制作的假图，被用来骗取平台卖家退款……近年来，AI生成的谣言和骗局越来越难防。
川观新闻记者 行晓艺
被AI换脸技术欺骗，有人要贷款200万给网恋男友“靳东”拍戏；AI制作的假图，被用来骗取平台卖家退款……近年来，AI生成的谣言和骗局越来越难防。
9月1日起，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》（以下简称《办法》）正式实施，所有AI生成的文字、图片、视频等内容都要“亮明身份”。
发布AI合成内容时如何标记？这些内容在传播过程中怎么管？对行业、用户和相关技术的发展带来哪些影响？记者亲测并采访了有关部门和专家。
记者亲测：相关平台已上线AI声明和自动标识
《办法》明确，人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。
人工智能生成合成内容标识分“显式标识”和“隐式标识”两种。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。“隐式标识更像指纹，所有生成合成内容需在文件元数据中添加。一旦有问题，技术一查就能找到痕迹。”智能感知与控制四川省重点实验室副主任吴浩说，两种标识形成“显式告知用户、隐式支撑监管”的双重保障体系。
记者发布了AI动图，照片有AI“标签”。
当天，记者进行了实测。11点记者上传一张自己的照片，打开抖音“AI创作”，选择了“3D可爱治愈风格”。一分钟不到，一张AI动图就生成了。到发布环节时，有一个“高级设置”选项，记者点击“发文助手自主声明”后，选择了“内容由AI生成”。发布后，这张照片便有了AI“标签”。同样的，在微信视频号、小红书等平台，均有“内容为AI技术制作，虚构内容请谨慎甄别”“笔记含AI合成内容”的相关声明选项。
小红书平台有“笔记含AI合成内容”的选项。
不过记者发现，这些都需要用户手动选择，那是否有“钻空子”的风险？
“平台在内容上架或上线时会进行审核，对未标识或疑似生成内容添加风险提示，在传播端阻断虚假信息扩散。”吴浩介绍。
如果用户不自主打显式标识，平台在内容上架或上线时会进行审核，对未标识或疑似生成内容添加风险提示。
确如吴浩所说。记者不打“电子身份证”直接上传，小红书和抖音会出现“笔记含AI生成内容”“疑似AI生成”的字样，并显示信息来自平台自动识别。
“这两种标识办法，核心是为了解决三个问题：哪些内容是AI生成、是谁做的、来自哪个渠道。”四川师范大学法学院副教授甘露说，不过，生成合成技术迭代快、系统算法优化不及时等，有些原创内容可能会被误判为AI生成。甘露建议，应建立“技术检测+人工复核”双轨机制和申诉机制，保证监管与创作自由的平衡。
专家解析：推动生成式人工智能的良性发展
《国家信息化发展报告(2024)》显示，截至今年7月，我国已有490余款大模型在国家网信办完成备案。据不完全统计，大模型应用的个人用户注册总数已超过31亿。
《办法》的实施，会对行业、个人用户，以及相关技术发展带来哪些影响？
四川省委网信办相关负责人表示，强制“标识”能在保障安全与促进发展之间取得平衡。压实开发者、提供者和平台的主体责任，通过治理和规范去净化网络空间环境。
该负责人特别提到，强制性国家标准《网络安全技术人工智能生成合成内容标识方法》与《办法》同步施行，让审核、监测、追责建立起闭环机制，为溯源、抗篡改、跨平台互认等留出空间。
对行业而言，《办法》的实施，对人工智能企业选择相应的训练数据能起到很好的指引作用。吴浩解释，有隐式标识后，企业能更便捷地筛选高质量的数据进行模型训练，提升技术可信度，推动生成式人工智能的良性发展。
北京大成（成都）律师事务所律师陶雪汶认为，强制“标识”可有效遏制低质量、重复性生成合成内容的传播，维护平台内容原创性与公平性，为优质内容创作营造良好环境。另外，能减少因AI生成内容引发的侵权、诈骗等问题。
记者用AI生成剪刀瑕疵图，从对话框发给拼多多客服时，商家难辨真假。
不过，AI内容在平台对话框还无法打显式标识。例如，记者用AI生成剪刀瑕疵图，从对话框发给拼多多客服时，不会有明显的AI水印，商家难辨真假。
“针对电商平台的问题，应面向B、C端用户执行《办法》，修改相关协议内容。要求消费者、商家利用AI生成的照片、视频等有显著标识，对拒绝履行标识义务、删除、篡改标识用户进行追责。”陶雪汶说。
值得一提的是，《办法》为影视后期、广告等专业内容生产者，留有一条“绿色通道”。《办法》允许服务提供者和特定用户明确标识义务和使用责任后，可以提供不带显式标识的素材，但同时把对方的信息和相关日志留存不少于六个月。
“这一点，有些AI应用平台和创作者已经在试水了。”吴浩说。
来源：川观新闻