摘要：在科技飞速发展的今天，AI技术的广泛应用在带来便利的同时，也引发了一系列令人担忧的问题。AI不仅能替人上学、写作业，甚至还能骗取政府的助学补贴，而这只是AI侵蚀现实世界的冰山一角，一场前所未有的信任危机正悄然降临。

AI诈骗：技术与人性的严峻考验

在科技飞速发展的今天，AI技术的广泛应用在带来便利的同时，也引发了一系列令人担忧的问题。AI不仅能替人上学、写作业，甚至还能骗取政府的助学补贴，而这只是AI侵蚀现实世界的冰山一角，一场前所未有的信任危机正悄然降临。

AI学霸攻陷社区大学

在美国社区大学，一场由诈骗集团主导的闹剧正在上演。他们利用ChatGPT等AI工具批量生成学生身份，专门盗取联邦和州政府的助学补贴。

这些“赛博学生”堪称“完美”，比人类更擅长“卖惨”，常以无家可归学生和寄养青年的身份伪装，从而更快通过申请。在课堂表现上，他们更是模范，不仅能抢课占位，出勤率比真学霸还高，还能准时交作业。

然而，“赛博学生”的伪装并非毫无破绽。2023年，伯克利市立学院的图书馆员道奇在批改作业时发现，有4名学生提交的是类似ChatGPT生成的泛泛文字。

她开始怀疑这些学生的身份，于是要求进行Zoom会议。结果，两人没回应，一名学生称摄影机和麦克风无法使用，另一名学生几乎不会说英语，每次都用手机翻译。

此外，还出现了大量回复内容明显不合常理、几乎不可能是人类所写的账户，比如自我介绍中出现程序模板语句或使用学生通常不用的文法。

这些“赛博学生”的目标是社区大学的助学金。美国社区大学作为两年制公立大学，学费相对较低，州和联邦政府会提供助学金支持。

而且，加州法律要求社区大学接受所有合法学生，且长期致力于降低注册门槛，许多大学不会独立核实学生身份，部分学院对无家可归或曾寄养青年的申请者较为宽松，这一漏洞被诈骗者利用。

他们注册课程并保持足够长的注册时间，提交AI生成的作业以维持在校身份，等助学金发放后便退课获取资金。

教师们在甄别真假学生时面临巨大挑战。Southwestern College教授伊丽莎白·史密斯原本课程注册的104人中，仅确认15人为真实学生。

为了侦破骗局，学校不得不借助专业技术手段，为此支付不菲费用。洛杉矶社区学院副校长洛佩兹表示，去年因欺诈行为，学区删除约四分之一课程注册，学校向身份验证公司Socure支付超过25万美元协助侦测欺诈。

AI骗局随处可见

AI诈骗的触角早已突破校园围墙，在社会各个角落肆意蔓延。在国内，自带光环的公众人物成为首批大规模受害者。

社交平台上，出现多个账号使用AI合成的全红婵爸爸、哥哥声音，介绍家里要盖新房，以此博取流量，视频中还携带有商品链接，不少消费者被骗下单购买到三无产品后投诉无门。此前，张馨予、刘晓庆、雷军等明星也都遭遇过AI伪造视频或声音的情况。

“假靳东”诈骗老年人、“国庆7天AI雷军骂了8天”、“张文宏”深夜带货等AI假冒名人的新闻频频登上热搜，引起两会代表委员的高度关注，呼吁通过法律手段加强对AI诈骗的管理和约束。

与此同时，AI诈骗也渗透至社交陷阱、消费欺诈和信息泄露等生活高频场景。AI假孙子的视频让不少老年人深陷其中，假“靳东”诈骗案中，60岁阿姨向假靳东转账近20万元。

年轻人在面对AI诈骗时也同样没有招架之力，利用换脸和换声技术，AI化身“虚拟恋人”进行网络交友诈骗的案例屡见不鲜。

宝妈王枚在境外求学期间，就被伪装成房东的男性网友利用AI换脸换声技术诱骗，最终抵押房产、网贷累计损失约200万元。

AI黑产已成产业链

AI骗局的背后，是一个庞大且复杂的AI黑产产业链。在电影《孤注一掷》中，大型诈骗集团分工明确。如今，AI技术普及让诈骗门槛大幅降低，一两名诈骗分子就可以借助AI技术展开个人作案。

几年前“假靳东”进行情感诈骗还需要真人扮演，现在AI生成的虚拟人物不仅更逼真，而且更懂老年人的需求。

AI黑产由来已久。2017年，“deepfakes”在社交网站上发布女演员换脸视频，使得“Deepfake”成为“AI换脸”的代名词。

随后，网络上出现大量使用Deepfake合成的色情视频，给女星们造成恶劣影响。尽管相关论坛被封禁，但由于技术源代码免费开放，一系列AI换脸软件在国内兴起，如ZAO等，但很快因霸王条款和隐私泄露等问题遭到质疑。

随着ChatGPT的火热，AI换脸、语音和视频等技术再次回到人们的视野，且变得更加逼真、低门槛。更令人担忧的是，AI诈骗已经形成了“生成 - 传播 - 洗钱”的完整产业链。

上游技术提供者通过暗网兜售“AI换脸套餐”，中游推广者利用非法获取的个人信息库精准投放诈骗信息，下游洗钱者通过虚拟货币、跑分平台等渠道转移资金。

AI的进化史，也是一块人性的试金石。当“赛博学生”以公益之名掠夺教育资源，当“虚拟恋人”以温情为饵榨干受害者积蓄，技术的双刃性从未如此锋利。

在这场AI技术与人类的认知攻防战中，我们必须高度警惕，加强监管，完善法律，以应对这场前所未有的信任危机。

来源：比七