摘要：生成式AI已经逐步融入我们的生活了。但最近国家专门给AI生成的内容“立规矩”，要求必须打标记。为啥要管这么细？当前人工智能生成内容领域的核心矛盾是什么？

获取更多资讯！

近日

多部委联合发布

《人工智能生成合成内容标识办法》

办法聚焦人工智能

“生成合成内容标识”关键点

通过标识提醒用户辨别虚假信息

明确相关服务主体的标识责任义务

规范内容制作、传播各环节标识行为

“育见新闻”邀请

北京交通大学计算机学院副院长

魏云超

与您探讨AIGC为何要标识？

育见新闻：

生成式AI已经逐步融入我们的生活了。但最近国家专门给AI生成的内容“立规矩”，要求必须打标记。为啥要管这么细？当前人工智能生成内容领域的核心矛盾是什么？

魏云超：生成式人工智能的发展有利有弊，其弊端会带来负面影响，此次办法出台旨在遏制这些负面因素。这也是当前生成式人工智能面临的矛盾点：一方面要让生成技术更逼真难辨，另一方面又要有技术能检测出内容是生成的，这如同矛与盾的关系，是其对抗发展的过程，生成式领域早期的生成式对抗网络等技术可解释这一现象，即让生成的内容能骗过模型，双方相互对抗以提升生成结果。这与当下出台的办法不谋而合。

育见新闻：

新规要求AI生成的内容必须“自带身份证”，这种“身份证”会以什么形式呈现？

魏云超：管理办法中所提的包括显式标识和隐式标识两种。普通大众能看到的标识是显式标识，像用豆包、元宝大模型生成图片后会标识“由豆包生成”等。此外还有隐式标识，潜藏于生成文件的格式中，如头文件的语言数据里会记录服务商、生成用户等信息。现在管理办法提及的是显式和隐式双重标识。

育见新闻：

AI服务提供者和分发平台需要做哪些事来满足《标识办法》的要求？实施这些标识要求会带来哪些挑战？

魏云超：主要还是生成式人工智能工具既可以让大家感觉不到，又符合国家的规定，为此要采用相关技术。例如在图像视频上打标签，需考虑打在何处既能达到目的又不影响观看；添加隐式标志时，除了国家给定的往头文件加元数据的方式，还需探索其他形式。已有相关技术的厂商可直接应用到生成内容中，没有的则需着手准备，这包括形式上、内容上、技术上，甚至还包括心理上的准备。

育见新闻：

对我们普通用户又有哪些要求？例如，发朋友圈用AI修图会不会被要求标注？

魏云超：我个人认为，像简单修图让眼睛更美、嘴唇更红，或让家人照片动起来这类操作，加特效等是否有必要因人而异。不过，若将处理后的内容发布带来社会影响的情况，这些操作可能有其必要性。目前普通用户生成此类内容需借助大公司工具，如美图秀秀的P图工具、豆包的生成式功能等，使用这些工具时，所生成的内容会被自动添加进相应隐式标识体系，无论用户是否愿意。

育见新闻：

以前网上出现AI伪造的明星八卦或诈骗视频。随着《标识办法》的出台，是否可以帮助老百姓预防“AI换脸”这一类的骗局？

魏云超：过去，不法分子可借助生成式人工智能算法换脸、伪装声音实施无成本诈骗，但如今使用公共服务厂商提供的生成式人工智能工具实施诈骗会留下信息。公安人员可通过这些信息，包括工具标识及用户信息等进行追溯，反推找出诈骗者。因此，只要教会老年人相关常识，他们看到此类诈骗视频时就不易上当受骗。

育见新闻：

国际上欧盟、美国也在管理AI生成内容，中国的《标识办法》有哪些独门绝招？比如“显式+隐式双标识”这种设计，国外有没有先例？

魏云超：与欧美相比，中国在生成式人工智能治理中建立了特色监管体系，核心要求是将显式和隐式标识信息强制嵌入生成内容的元数据文件头。该技术规范要求所有AI生成内容必须包含可溯源的数字水印，使公安部门能够通过技术手段快速调取内容创作者、生成时间等核心数据。这种基于元数据的双标识系统构建了完整的溯源机制，既实现了技术透明性要求，又为打击AI犯罪提供了关键证据链支持。通过标准化数字标识的存储格式和读取协议，该制度强化了生成内容的可追溯性。

育见新闻：

有人担心管得太严会限制AI公司创新，您认为新规长远来看是给行业“戴紧箍咒”还是“铺快车道”？

魏云超：从短期看，要求生成式人工智能服务方提供信息，可能会让部分不太关注此类信息的服务方需额外投入技术处理，给生成式人工智能提供方带来阻碍；但从长期而言，这一规定能规范市场。技术本身无善恶，但有人会利用技术作恶，该规定可助力打击犯罪，让真正想做好技术的人能更纯粹地发展技术。如同矛与盾，不能过度保守阻碍技术创新发展，同时要了解当下最强技术，将造假技术纳入防御系统，因此这对整个行业生态是有益的。

来源丨育见新闻微信公众号

声明：转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益，请作者持权属证明与我们联系，我们将及时更正、删除，谢谢。

来源：邢邢科技智慧