摘要：据新京报调查，随着AI的迅猛发展，各类与之相关的骗局也随之出现。如，有的AI数字人批量上线围猎老年人，通过养生直播引流，诱导老人高价买“神药”；有的AI篡改短视频，克隆名人声音带货，“移花接木”设置消费陷阱；有的通过“AI荐号”围猎彩民，骗取彩民“注资”。这些

▲新京报刊发报道揭露AI滥用乱象。新京报资料图

据新京报调查，随着AI的迅猛发展，各类与之相关的骗局也随之出现。如，有的AI数字人批量上线围猎老年人，通过养生直播引流，诱导老人高价买“神药”；有的AI篡改短视频，克隆名人声音带货，“移花接木”设置消费陷阱；有的通过“AI荐号”围猎彩民，骗取彩民“注资”。这些乱象引发广泛关注。

各类AI应用正在加速进入人们的日常生活，这让很多事情变得更加便利，同时也让一些心术不正者看到了机会。总体而言，无论是批量化的AI数字人围猎老人，还是利用AI克隆名人声音带货，抑或是衍生出如“AI荐号”等新骗术，都提醒着AI技术被滥用带来的现实风险。

对此，首先全社会还是要从意识上对于AI技术被滥用的程度建立客观认知。一个值得注意的现象是，今年全国两会上，呼吁规范AI应用已成为代表委员们的热点议题。

如“靳东两会建议AI换脸立法”登上热搜，雷军接受采访时表示，“我本人也是主要的受害者，呼吁尽快立法重点整治”，并提交关于加强“AI换脸拟声”等违法侵权重灾区治理的建议。这一幕在过去是没有的。而其也真实地表明，AI滥用的风险已到了必须正视的地步，并且蔓延速度非常快，针对性的治理和监管迫在眉睫。

认识到了问题所在，下一步就是要对症施策。其实，相关的制度建设和规则引导早就在进行之中。如2022年，相关部门发布的《互联网信息服务深度合成管理规定》就明确，深度合成服务提供者提供的深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

但从现实来看，该规定显然并没有得到足够执行。究其原因，到底是平台重视不足，还是技术条件限制，或是规则本身的效力和位阶不足，抑或是兼而有之，相关部门有必要牵头做好综合性调查评估。并在此基础上，给予精准“补缺”。

一个积极信号是，今年的全国人大常委会工作报告已提出，将围绕AI等新兴领域加强立法研究。最高人民法院工作报告也指出，要依法妥善审理涉AI纠纷案件，既要支持AI技术的合法应用，又要惩治利用AI实施的侵权行为。

规则完善之外，有效遏制AI技术滥用风险，也应重视“以魔法打败魔法”，跳出传统思维和技术限制，积极用好AI技术在防范技术滥用上的优势。

如对平台来说，针对一些未标注AI提示信息的合成内容，以及篡改的短视频，是否可以建立新的AI模型来提升检测识别能力，以实施精准监测和干预？这方面，政策上也不妨鼓励和引导更多用于互联网治理的AI技术创新，用AI来倒逼AI向善。

还要注意的一点是，大量与AI相关的骗局，不少只是一些传统骗局的“变种”。如AI数字人向老年人兜售声称可以治糖尿病的“神药”，早就因为无效、虚假宣传被投诉；而借数字人直播引流的同时，“通过给老人科普养生常识、送土特产、电话推销等方式进行洗脑式营销”，也是早就有之的老套路。

可以说，AI技术只是给这些骗局提供了帮助，但“病灶”并不是AI本身。对此，继续加大一些非技术性乱象的综合治理，才能真正对一些领域AI滥用风险釜底抽薪。如那些靠生产效果存疑的“神药”发家的企业却能长期存在，就需要有其他层面的治理强化。

说到底，遏制AI技术滥用风险，是一道综合考题。既要适时填补法律规则漏洞，也要压实平台责任，既要协同推进一些“传统”灰色地带的治理，也离不开AI时代相关公众教育的跟进，以提升全民对AI滥用风险的警惕性和鉴别力。

撰稿 / 吴振（媒体人）

编辑 / 马小龙

校对 / 李立军

来源：新京报