摘要：“AI换脸”，即通过深度学习技术来生成高度逼真的人脸图像或视频，将一张面孔无缝嫁接到另一人身上。其中，最常见的实现方式是Deepfake。随着技术的日渐普及，其“以假乱真”的能力被不法分子利用于电信诈骗等犯罪活动，严重威胁到公众的信息安全与财产安全。

什么？！

“张文宏”“全红婵”

开始直播带货了？

“刘德华”送电影票

支持《哪吒2》？

“靳东”和多位大妈

谈起了恋爱？

......

假的！假的！都是假的

千万不要信！

人们常说“眼见为实”

但在AI时代

眼见也不一定是真相！

上传一张静态照片

即可生成动态视频

只需几秒语音

就能克隆声音……

仅仅依靠一部手机就能轻松

合成一个以假乱真的视频

这不是科幻电影

而是发生在身边的真实事件

场景也不再局限于

剪辑的视频、直播中

“AI换脸”正入侵视频通话

被一些别有用心的不法分子利用

实施诈骗

↓↓↓

“AI换脸”诈骗，随处可见

“AI换脸”，即通过深度学习技术来生成高度逼真的人脸图像或视频，将一张面孔无缝嫁接到另一人身上。其中，最常见的实现方式是Deepfake。随着技术的日渐普及，其“以假乱真”的能力被不法分子利用于电信诈骗等犯罪活动，严重威胁到公众的信息安全与财产安全。

图源：平安陕Star

此前，不少媒体都报道过

关于“AI换脸”诈骗案例

多人视频会议诈骗

2024年，香港一家英国跨国企业的分公司员工接到伪装成总部CFO的视频会议邀请。会议中，CFO及多位高管的形象和声音均由AI技术合成。会后，员工按照指示将2亿港元分15次转入指定账户，事后才发现被骗。

伪装身边的老板、亲朋好友诈骗

李女士是西安一家公司的财务人员。2023年11月，她突然接到了“公司老板”打来的视频电话，视频里面就是她“老板”的模样，要求她立即打一笔货款。李女士当时也没有质疑，按照“老板”给的收款银行账号，给对方转账了186万元。之后她按照公司日常转账规定，给老板打电话进行报备，谁知老板在电话里竟然说根本没让她转款。李女士惊出了一身冷汗，意识到应该是被诈骗了，于是立即打电话报警。

2023年5月，福州市某科技公司法人郭先生接到“好友”视频通话，称需借用公司账户转账430万元。对方通过“AI换脸”技术伪装成好友，并提供伪造的转账截图。郭先生未核实资金到账，便将款项转出，事后发现被骗。

2024年，宁夏固原的马先生在刷视频时，收到“表哥”的好友申请。添加后，“表哥”打来视频电话，以网络不稳定为由，请求马先生帮忙垫付1.5万元合同资金。由于视频中对方确实是“表哥”的脸（实为AI换脸），马先生信以为真，分三次转账。事后马先生跟亲戚核实时才得知被骗，原来视频连线的“表哥”是“冒牌货”。

相较于电信诈骗、网络诈骗

新型“AI换脸”诈骗的

受害者身份更广泛、多元

成功率更高，更难以追踪

据央视新闻报道，2022年至2024年初，中国共发生“AI 换脸”类诈骗案近百起，累计给人民群众造成经济损失高达2亿元。

最近，“新京报有理数”平台抓取103篇主流媒体报道案例（2023年3月1日至2025年3月1日）分析发现，“AI换脸”技术在诈骗案件中的使用率近一半，语音合成技术约四成。在所有AI诈骗案例中，冒充类诈骗占比高达62%，其次是金融类和交易类诈骗。

“AI换脸”真假难辨？

深圳荣耀推出检测“神器”

为应对此类新型诈骗风险，荣耀终端股份有限公司创新推出了业内首个“AI换脸”检测功能，并率先实现商用落地，填补了智能终端在用户视频安全保护领域的技术空白，为推动人工智能“科技向善”提供了样本方案。

荣耀“AI换脸”检测功能界面示意

该功能已在 荣耀Magic系列、数字系列等产品线全面适配，随MagicOS 9.0系统推送自动升级启用，后续荣耀将持续扩大功能适配范围。

央视《朝闻天下》节目对荣耀“AI换脸”检测功能进行报道

除了借助检测工具，鉴别“AI换脸”还可通过以下两种方法：

视频通话时，让对方做出指定动作，比如眨眼3次、摸摸鼻子，或者让对方用手指或其他遮挡物在脸前晃动，如画面出现延迟或者异常扭曲等不自然的微小变化，那对方很可能正在使用“AI换脸”技术。

在与对方的沟通中，也可以问一些只有对方知道的问题，比如生日、电话号码、喜好等，来验证对方身份的真实性。

另外，在日常生活中，尤其是在涉及资金交易等场景下，要时刻保持警惕，增强安全意识。不要轻信陌生电话或视频，不随意透露个人信息或资产情况，不下载未知软件或点击可疑链接，不参与非法活动或违规操作，不贪图小利等。

小福x荣耀

夏日联合福利上线啦

抽一个宝子

送出荣耀300pro一台

颜色：墨岩黑色

版本：5G全网通16GB+512GB

🎁🎁🎁

活动规则如下

▽

活动时间：

2025年5月19日12:00至5月19日18:00

参与方式：

①关注【幸福福田】公众号。

③点击抽奖链接后进行抽奖，并查看中奖结果。

规则说明：

1.每个实名注册账户（相同的证件号码实名注册默认为是同一个账户） 仅限1次抽奖机会（奖品数量有限抽完即止），本次活动仅限手机定位在广东省深圳市年满18周岁的用户参与；

2.中奖后系统自动下发奖品优购码，请务必在5月19日24:00前】-【福田文体通】-【个人中心】-【卡券】-【优购码】点击【去使用】在线提交奖品收件人相关信息，因收件人信息提交不及时或提交的信息有误导致无法顺利领取奖品的责任由用户自行承担。

注：本次活动最终解释权归“幸福福田”所有。

心动不如行动

定好闹钟

5月19日12:00

来抽奖啦

说不定幸运儿就是你！

把链接分享出去

让你身边的亲朋好友

也一起来参与吧~

最后还有一个小预告

▽

5月22日至24日

2025全球人工智能终端展

暨第六届深圳国际人工智能展览会

（GAIE）

将在深圳会展中心（福田）举行

来源：两广大地那些事儿