摘要：12月15日，微信珊瑚安全发布公告，称平台关注到媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。为避免消费者上当受骗，结合用户举报、日常巡查等线索，微信打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。截至

12月15日，微信珊瑚安全发布公告，称平台关注到媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。为避免消费者上当受骗，结合用户举报、日常巡查等线索，微信打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。截至目前，累计处置内容532条，关闭账号209个，并公开了四个典型案例，记者注意到这四个被永久封禁处理的账号中包括了日前引发网络热议的使用AI合成假冒张文宏带货的账号“般***4”。

12月12日，多位网友在社交平台反映，家中老人刷视频号看到医生“张文宏”出镜带货某款蛋白棒，老人信以为真下单购买了不少，在该账号“般***4”中，“张文宏”反复介绍这款产品的功效，相关产品现实已经售出1200多件。虽然声音和脸都是张文宏的，但对AI略有了解的人一看就能发现这个是AI合成的视频，然而对AI合成并不了解的老人信以为真，以为是张文宏在直播带货。13日，张文宏回应该事件，并表示“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪较大的市民，就很容易相信。我看购买量在不同的地方好像都有不少。我在发现这个事情后立即投诉过那个AI合成的视频，但他的账号一直在换，我最后也没有精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。”对此，上海消保委严厉发声，说明了事情的恶劣性和严重性，并表示该行为已经构成对消费者的欺诈，监管部门对于这种恶劣行为应该采取非常严厉的处罚，“这不仅仅是涉及消费者权益，它其实还涉及整个社会的良知跟道德。”

2023年，国家金融监督管理总局就在消费者权益保护风险提示中介绍，利用AI技术实施诈骗主要有“拟声”“换脸”两种手段，即通过模拟他人声音或形象骗取信任，进而诈骗钱财。这一“高仿张文宏”其实仿制得不算高明，属于只能骗一骗对AI知之甚少的较为低端的AI合成视频，但技术进步飞快，深度合成逼真程度提升速度也跟着坐上火箭，去伪存真光靠消费者火眼金睛恐怕不够用。

微信方面表示，将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提升技术治理能力和水平，维护良好生态。同时也倡导广大用户自觉遵守法律法规与平台规则。针对“利用AI合成技术生成违规内容”的行为，平台欢迎广大网友提供更多线索，共同构建清朗有序的网络环境。

扬子晚报|紫牛新闻记者 沈昭

校对 陶善工

来源：紫牛新闻