摘要：今年以来，人工智能（AI）技术在深度伪造领域的应用引发了广泛关注，尤其是AI假冒名人进行直播带货等不法行为频发。近日，一起涉及知名医生张文宏的AI深度伪造事件再度将这一问题推向风口浪尖。据报道，不法分子利用AI技术，伪造了张文宏医生的脸部形象和声音，进行直播带

12月23日，据央视财经频道报道，今年以来，人工智能（AI）技术在深度伪造领域的应用引发了广泛关注，尤其是AI假冒名人进行直播带货等不法行为频发。近日，一起涉及知名医生张文宏的AI深度伪造事件再度将这一问题推向风口浪尖。据报道，不法分子利用AI技术，伪造了张文宏医生的脸部形象和声音，进行直播带货活动，引发了广泛争议。

张文宏医生在接受采访时表示，这一事件已经持续了几个星期，他本人也进行了投诉。他特别指出，对于不熟悉AI技术的年长市民来说，他们很容易受到这种伪造信息的欺骗。这一事件不仅损害了张文宏医生的个人名誉，也引发了公众对AI技术滥用的担忧。

专家指出，AI假冒名人进行带货等商业活动，已经涉嫌违法。根据相关法律法规，一旦消费者因相信这些伪造信息而购买了产品，他们有权要求商家进行退一赔三的赔偿。这一规定旨在保护消费者的合法权益，维护市场秩序。

事实上，用AI技术制作假冒名人欺骗网民的现象并非个例。在国庆期间，就有人利用小米集团创始人雷军的声音和头像制作了众多恶搞视频，给雷军本人带来了不小的困扰。雷军在接受采访时表示，他对这种恶搞行为感到不舒服，但同时也认为AI是一项很好的技术，具有广泛的实用价值。他希望公众能够理性看待AI技术，避免将其用于不法行为。

从国际视角来看，深度伪造在全球范围内产生了诸多严重问题。在金融领域，深度伪造技术可能被用于虚假身份认证，从而实施诈骗、盗刷等犯罪行为，破坏金融秩序稳定；在商业层面，假冒名人的广告、带货等行为不仅损害名人声誉，还会误导消费者做出错误决策，冲击正常的市场交易秩序；在社会层面，深度伪造的不实信息传播可能引发公众恐慌、社会信任危机，甚至影响国际关系与地缘政治稳定。世界经济论坛发布的《2024年全球风险报告》将AI生成的错误信息列为未来两年内最严重的全球风险之一。

为应对深度伪造带来的挑战，各国纷纷出台相关监管措施。例如，美国一些州已开始立法，要求合成媒体内容需明确标注，防止误导公众；欧盟则考虑制定全欧范围的法规，对深度伪造技术的使用进行严格限制，包括对使用深度伪造技术进行诈骗等犯罪行为加大惩处力度；英国也在探讨如何通过修订现有法律，将深度伪造纳入监管框架，规范其在网络空间的传播与使用。

在我国，监管部门也高度重视深度伪造技术带来的风险与挑战。2023年1月，中国国家互联网信息办公室发布了《互联网信息服务深度合成管理规定》，明确要求深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息，并规定了一系列监管制度。此外，中国还通过《互联网信息服务算法推荐管理规定》要求对算法生成合成的信息做显著标识，并要求提供互联网新闻信息服务的算法推荐服务提供者和使用者，不得生成合成虚假新闻信息。

来源：金融界