摘要：AI换脸技术诞生之初，人们将自己的脸“移植”到影视角色、明星身上进行娱乐。如今这一技术却从给大众带来欢乐的娱乐工具，沦为了诈骗、侵权，尤其是直播带货骗局的“新型作案工具”。

齐鲁晚报·齐鲁壹点 刘志坤 岳致呈 实习生 王心铭

AI换脸技术诞生之初，人们将自己的脸“移植”到影视角色、明星身上进行娱乐。如今这一技术却从给大众带来欢乐的娱乐工具，沦为了诈骗、侵权，尤其是直播带货骗局的“新型作案工具”。

“已经跟直接录制人像视频没什么区别了。就是专业的技术人员都认不出来。” 齐鲁壹点大数据中心专家王智直言，目前AI换脸技术已经相当成熟。“尤其是中老年人，他们的分辨能力比较差，而且跟不上AI技术的发展，这方面遇到的问题会更多。”（齐鲁晚报·齐鲁壹点爆料电话：0531-85193656；邮箱：405617016@qq.com）

“AI换脸拟声”失控

名人“被代言” 公众遭欺骗

日前，雷军在全国两会提案中呼吁立法严管“AI换脸拟声”滥用。“去年‘十一’，有网友说过了7天假，被我整整骂了8天。” 雷军说。

雷军的声音、形象被不少网友利用AI技术伪造，用于制作恶搞视频甚至带货。雷军曾在个人社交媒体上公开表示：这种“雷军语音包”让自己非常困扰，带来了不好的影响和感受。

无独有偶，2024年12月，国家传染病医学中心（上海）主任，复旦大学附属华山医院感染科主任张文宏“被带货”，引起广泛关注。在社交平台，张文宏带货蛋白棒的视频疯传，有网友告诉齐鲁晚报·齐鲁壹点记者，“视频的相似度非常高，我没看出来是AI合成的。”

张文宏得知后对此进行公开辟谣：“我已多次向平台投诉，但此类账号屡禁不止，侵犯了不少消费者的合法权益。”

不止是名人，普通民众也深受AI换脸技术的侵害。去年12月，江西65岁老人通过抖音网恋AI“靳东”，欲贷款200万资助对方拍戏，被民警演示AI换脸技术后才意识到自己上当。

1980元一张AI脸

识别难度大大提升

近日，齐鲁晚报·齐鲁壹点记者调查发现，网络上存在一种“AI换脸”的定制服务。这种AI脸可用于各大平台，视频通话和直播都能胜任。

先在平台发帖宣传，再通过平台群聊发布商家个人联络方式，这项服务的交易最终在微信进行沟通，以银行卡转账的方式进行。

“想要的话就发一张正脸照片，五小时之内就能做好。” 一家AI换脸公司的工作人员李立（化名）介绍，“AI换脸”定制服务以“先定金后尾款”的方式进行。

一张AI脸的价格全款1980元，定金500元，已经有成品的名人AI脸则只需980元。支付尾款后卖家还会免费提供安装教学和变声器。

据李立介绍，近期来“画皮”的人很多，公司超负荷运行。“我们这里有七八台设备，每天都要做到凌晨。”

不同于以往的AI换脸，新技术已经实现声音与图像的实时同步克隆，使得伪造视频在视觉和听觉上都达到了近乎完美的程度，识别难度大大提升。新技术通过“绑架”手机摄像头，绕开了平台算法监测。以往通过挥手、大幅遮挡来识别真伪的传统手段，已完全失效。

仔细辨别 提前预防

AI乱象还需加强法律制约

过去人们往往通过挥手来大幅遮挡面部，观察面部图像闪现、抖动等异常来识别对方是否为AI合成的假脸。然而随着技术的进步，这些传统的手段渐渐不再有效。

“分辨的方式主要是观察嘴型跟声音。”王智指出，AI合成的人像嘴型和正常人仍然存在区别，声音往往似像非像。如果视频中的人物一直坐着不动，不进行转身，或者手部动作很少，那么该视频有很大概率是使用了AI技术。

王智建议，在工作或者出门在外的时候，尽量避免让他人获取自己的正面照或者长时间对自己录制视频，否则自己的人脸就有可能被AI深度伪造。

“目前进行追责的难度还是比较大的。”山东新亮律师事务所律师陈正斌指出，AI生成技术作为新兴的事物，很难在初期就得到完善的法律加以规范，只有AI乱象较为典型时才可能上升到专门立法。

“消费者因为AI技术上当受骗，可以利用法律手段去维护自身的权益。”陈正斌说。

“我们对AI的担忧，其实是技术发展进步过程中常有的现象。” 山东大学哲学与社会发展学院硕士生导师王元超解释，AI技术发展本身就会带来一定的问题，但我们需要讨论的不是技术本身，而是社会该如何去引导它的发展。

王元超表示，平台本身也要承担起规范的任务，同时，也应向老年人、接受存在困难的群体进行科普教育，从而减少此类事件的发生。

“这个工具确实很好，我们是不愿意去看到它往走上歧途。”王智说，我们期待伦理和法律追上甚至引领技术的发展，打击技术滥用，更好地保护消费者权益，重塑数字时代的信任基石。

来源：齐鲁壹点