摘要：前不久有网友发现，疑似知名医生张文宏疑似化身“带货主播”，在网络平台售卖产品。然而，这个“张文宏”却是AI合成的。对此，张文宏回应称，这样的卖货账号不止一个，且一直在变，他多次向平台投诉但屡禁不绝。
前不久有网友发现，疑似知名医生张文宏疑似化身“带货主播”，在网络平台售卖产品。然而，这个“张文宏”却是AI合成的。对此，张文宏回应称，这样的卖货账号不止一个，且一直在变，他多次向平台投诉但屡禁不绝。
其实，“躺枪”的不只是张文宏。随着AI技术的发展，AI合成技术愈发被滥用，形形色色的AI数字人，不仅给公众人物造成严重困扰，也使得虚假信息满天飞；不仅让大量网友上当受骗、蒙受损失，也严重污染网络环境，破坏网络公共秩序。
▲AI技术让张文宏成为“带货主播”。/重庆瞭望截图
人工智能为社会生活带来了很多便利，但它的滥用，也造成了许多不好的后果。
数字人作恶，让无辜者“躺枪”。“雷总，最近你怎么在骂人？”10月7日，有网友在雷军微博下面这样评论。原来，在今年国庆期间，有人用雷军的声音和头像，生成了许多恶搞视频。视频里，“雷军”频爆粗口，锐评了堵车等多个话题，让不少不明就里的网友信以为真，也给雷军本人带来了不小困扰。
除了张文宏和雷军，黄晓明、于东来乃至一些普通人都曾被人用AI仿冒。这种仿冒不仅侵害当事人的肖像权、名誉权、隐私权等权利，也很“搞”人的心态。数字人打着真人的旗号，招摇过市、肆意妄为，对那些被仿冒的人来说，这完全是“人在家中坐，锅从天上来”。
数字人作恶，让人防不胜防。一些人为了牟利，大肆利用AI合成音视频。今年9月，宁夏固原一市民报案称，自己被在非洲务工的“表哥”骗了15000元。原来，骗子通过AI换脸和拟声技术冒充其表哥，佯装亲戚对其实施诈骗。11月，江西一位65岁老人到银行办理业务，声称要贷款200万元给男朋友“靳东”拍戏，不用说，老人手机里的“靳东”视频同样是AI合成的。
不论是仿冒知名人物的直播带货，还是冒充亲朋好友的网络诈骗，各种由AI合成技术衍生出的新招式、新骗术层出不穷，而且越来越精准、越来越逼真。面对这种情况，普通人的确有些无力。
数字人作恶，让环境遭殃。如今，信息获取渠道已非常畅通，AI技术可以轻易制作出大量鱼目混珠的图片视频，这些繁杂纷乱、泛滥成灾的虚假信息，很容易被算法推送给我们。虚假信息泛滥，污染的是网络大环境，冲击的是社会信用体系，侵蚀的是社会信用根基。长此以往，人们或困在虚假信息的“信息茧房”，或为了甄别信息付出大量时间成本，信任危机之下，甚至会影响经济社会发展。
▲市民了解AI产品。张端 摄/《瞭望》新闻周刊
数字人就这么难“捉”吗？就目前来看，确实是这样。不过俗话说得好，知己知彼，百战不殆。搞清楚数字人泛滥的原因，找准数字人无法无天的倚仗，我们方能更好地对症下药。
一“高”一“低”，使数字人有恃无恐。技术门槛低、维权成本高，这是AI合成技术泛滥的一个重要原因。如今，AI早已不是少数人的专利，哪怕你完全不懂AI技术，随便登录个网站、或是下个APP，也能体会到AI的乐趣。技术门槛不断降低虽然带来便利，但也使得维权成本变高，张文宏“多次向平台投诉但屡禁不绝”就能说明这一点。
一“明”一“暗”，让数字人肆无忌惮。受害者在明处，仿冒者在暗处，这是许多不法分子在AI合成上肆无忌惮的另一个重要原因。互联网的开放性和匿名性，使得溯源工作存在困难。网络生活中，不论是盗取音视频资料，还是实施带货诈骗，不法分子往往躲在暗处，套着重重马甲，且频频转移阵地。
如此一来，受害者即便发觉被骗，也很难找到当事人。像那家模拟张文宏带货的店铺，事发之后便不见了踪迹。这种“事了拂身去”，的确让人恨得牙根痒痒。
一“快”一“慢”，令数字人有机可乘。技术迭代快、监管提速慢，这让许多不法分子能钻空子。AI是新鲜事物，在其发展初期，法律法规存在不少空白和模糊地带，这也让许多不法分子产生了侥幸心理。当前，AI数字人带来的负面效应越来越多，相关部门要加强监管，不断通过立法堵住法律漏洞。
▲谨防“AI换脸”诈骗。曹一 作/新华社
技术无善恶，关键在于怎么使用。对于人工智能，我们无需太过担忧，只要做好引导，就能使技术发挥最大的正向功效。
以技术制约技术，用AI制约数字人。古人云，以子之矛，攻子之盾。AI带来的问题，或许可以通过AI来解。比如，通过AI提升监管效率，以AI来治理AI，这对AI发展也是一个新的机遇。当前，已有不少相关产品投入到具体应用中，它们有的以AI提升审核效率，确保内容安全；有的以AI监测侵权事件，赋能版权保护。
其实，以技术制约技术，不是某一家科技公司的事，各方需形成合力，引导数字人向善。比如，平台需肩负起主体责任，不能为了流量而蓄意纵容换脸、拟声等乱象的发生。相关部门也要通过先进技术，实现管理的提质升级，用好技术的百宝箱，学会用“魔法”打败“魔法”，AI才能更好更快发展。
以规则扫清盲区，将数字人关进“笼子”。要避免新兴事物野蛮生长，监管就不能存在盲区，只有不断提高立法的前瞻性，方能为新兴事物创造良好的成长环境。
近年来，我国相继颁布了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规，就目前来看，这显然不够，仍需进一步完善细化。厘清各方边界，才能为人工智能发展营造良好空间。
如今，生成式人工智能应用范围越来越广，比如媒体有AI主播，电商有AI客服，影视有AI短剧，可以说，数字人与我们的生活越来越紧密。但要让数字人健康成长，关键是“不逾矩”，要将其置于阳光之下，置于约束之下，先进技术才能更好向善，更好为高质量发展注入动力。
PS：建议征集
2024年即将结束，这一年你最满意的政府工作是什么？哪项政策举措让你最有获得感？重庆哪方面的变化让你印象最深刻……
2025年即将到来，新一年你有什么期待？你对重庆超大城市治理有什么好的建议？你觉得政府部门还需要在哪些方面去努力改变……
现代化新重庆建设，离不开每一位市民的意见建议。重庆瞭望诚挚邀请你为今年各级党委政府工作“打分”，为新一年各地各部门的工作“出题”。
你的每一句评价，每一点期待，都是各级党委政府校正工作方向的民情民意，能够帮助各级领导干部走好新时代网上群众路线。
欢迎在重庆瞭望文章评论区留言，或私信发送你的评价及建议，我们将选取刊登。
来源：重庆瞭望一点号
