摘要：可有件事，315没来得及说，却在我们身边悄悄上演，甚至愈演愈烈。

每年315晚会曝光消费陷阱，总能引发全网震动。

可有件事，315没来得及说，却在我们身边悄悄上演，甚至愈演愈烈。

随着AI技术的成熟，那些利用AI换脸技术打造的假“靳东”，正在以更隐蔽、更逼真的方式，把不少奶奶们骗得团团转。

这后果，可能比你想的还要可怕。

今年两会期间，靳东的一番话引发热议：

一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，性质非常恶劣。

事实上，这并非靳东首次关注这一问题，此前他就曾建议通过完善立法等方式，加强对网络乱象的治理 。

毕竟，那些喜爱他影视剧作品的中老年观众，成为了 AI 换脸诈骗的重灾区。

这其中，不乏不少人深陷骗局，损失惨重 ，其性质之恶劣，令人发指。

如果说，过去的假明星诈骗，还停留在“抠图配音”的粗糙阶段，

那么如今的AI换脸技术，已经能让骗子“一键生成”以假乱真的视频和对话。

这种“眼见为实”的欺骗性，让无数人深陷其中，甚至倾家荡产。

2024年，上海静安区法院曾审理一起“假靳东”诈骗案，8名女性冒充靳东身份，骗取多名中老年女性超30万元。

令人震惊的是，这类案件至今屡禁不止。

骗子只需一张照片，就能生成动态视频，甚至实时“换脸”通话。

被AI“换脸”的靳东，其实是一场针对中老年人的“甜蜜围猎”。

在江西，一位六旬阿姨在短视频平台结识了假靳东，用AI合成视频承诺“结婚拍戏”。

没过多久，对方的甜言蜜语和深情表白，让老人深信自己找到了真爱 。

当假靳东称拍戏急需资金，向老人提出借款 200 万时，老人竟毫不犹豫地前往银行。

要不是银行工作人员发现异常，老人恐怕早已陷入万劫不复的深渊。

无独有偶，上海一位八旬老太，终日沉迷“假靳东”直播间，瞒着子女扫大街、捡垃圾，3年刷光3万元养老金。

而且，当她看到假靳东在视频中说，要在北京参加活动，竟独自一人连夜乘飞机从上海飞往北京，一心只为见偶像一面。

到达机场后，老人面对陌生的环境不知所措，只能向民警求助。

幸好民警及时联系到她的家人，才避免了更严重的后果。

为什么老人能被“轻易”骗倒？

因为在家庭中，这些老人都是长期缺乏情感交流，他们内心孤独空虚。就如同那位六旬阿姨一样。

“从没有经历过爱情”

而这些假靳东视频背后的骗子，却能精准捕捉中老年人的情感需求。

他们借助靳东明星的光环，用甜言蜜语，配上AI合成的语音、视频，轻易就让这些中老年人深信不疑。

在她们心中，明星是高高在上、值得信赖的存在，因此即使身边的人提醒，也难以动摇她们的信念。

试问，他们怎么能想到，顶着“靳东”脸庞的，竟然是个AI人呢？

其实，不仅是中老年群体，哪怕是年轻人，也都有可能被轻易蒙骗。

比如雷军“被骂”事件。

2024年国庆期间，短视频平台上出现大量 “雷军 AI 配音” 的恶搞视频。

其中，一段AI合成的“雷军骂人”视频，播放量破亿。

有网友调侃：国庆上网，被雷军骂了整整 7 天。

但这件事，却给雷军造成了极大的困扰。

10 月 7 日晚，针对网友 “为何骂人” 的询问，雷军在微博回复了三个愤怒的表情。

10 月 9 日，小米公关部行动。

先是公布雷军 “金光闪闪名场面” 的完整视频，澄清 “被目前网络中断章取义的五个字给误导了”，并且表示：

已将 “雷军 AI 语音骂人” 一事转给小米法务部。

雷军说，刚开始，觉得是网民拿自己开涮，也能接受，但随着这类内容爆发式增长，且几乎都是质量低劣的起哄时，事情变了味。

越来越多的网友信以为真，纷纷投诉。

当他自己想诉诸法律时，却发现对此没有专门的立法。

“在网上被骂 8 天，损失根本没法量化。”

而技术门槛的降低，让普通人的脸，也可能被恶意盗用。

甚至，仅需一张照片，即可生成实时换脸视频，甚至同步表情变化。

AI技术“失控”背后，是部分AI换脸服务价格低廉，导致技术滥用屡禁不止。

短视频平台的算法推荐机制，更是成了骗子的“精准投放工具”。

例如，“假靳东”账号，一般都是通过发布花草视频搭配明星头像，吸引目标人群关注，但平台，却未能有效识别并拦截。

还是那句话，技术向善，不能只靠“良心”。

AI换脸技术本可用于影视创作、虚拟社交等创新场景，但若缺乏规则约束，便会沦为诈骗工具。

从两会代表的呼声到司法案例的警示，我们亟需一场关于“技术+法律+伦理”的规则制度的协同进化。

正如靳东所言：“技术创新需在法治轨道上奔跑。”

唯有如此，才能让AI真正服务于人，而非成为刺向弱者的刀。

来源：橘子情感夜话