摘要：一个名不见经传的视频号，竟然得到刘德华的亲力“支持”，视频里刘德华说：请大家多多关注，他是我私下里很好的一个小兄弟……

一个名不见经传的视频号，竟然得到刘德华的亲力“支持”，视频里刘德华说：请大家多多关注，他是我私下里很好的一个小兄弟……

而这只不过是AI合成的声音！

这样的例子不胜枚举，前段时间爆火的雷军语音包更是引起了全网骂战。

央视报道登热搜

在对AI滥用的当下，央视对相关事件进行了报道，并登上热搜榜~

报道称，甚至有人利用AI技术深度伪造了张文宏医生的脸部和声音进行直播带货，商品中的蛋白棒产品已经售卖了1200多件。

目前，AI模仿技术愈发成熟，克隆人脸和声音更是非常轻松。

专家表示，AI假冒名人进行带货的行为涉嫌违法，一旦消费者信以为真购买了产品，可以要求商家退一赔三。未经授权使用他人形象的行为，均属于违法行为，短视频平台也应该担负主体责任。

也许部分人会认为AI二创恶搞仅仅是娱乐，但不可否认的是，滥用AI技术制作不实内容确实会引发众多法律问题，特别是对于他人形象的损坏，甚至因使用不当造成更大的经济损失。

广电总局发文

除央视报道外，广电总局网络视听司也在12月7日发布文件《管理提示（AI魔改）》。

文件称，AI“魔改”视频以假乱真、“魔改”经典现象频发。如《甄嬛传》变身“枪战片”，《红楼梦》改成“武打戏”，孙悟空骑着摩托车扬长而去等。这些视频为博流量，毫无边界亵渎经典IP，冲击传统文化认知，与原著精神内核相悖，且涉嫌构成侵权行为。

对此，要求各相关省局督促辖区内短视频平台排查清理AI“魔改”影视剧的短视频，严格落实生成式人工智能内容审核要求，举一反三，对各自平台开发的大模型或AI特效功能等进行自查，对在平台上使用、传播的各类相关技术产品严格准入和监看，对AI生成内容做出显著提示。

元力点评

针对AI的过度滥用，需要从法律、技术、个人防范意识等多个层面进行应对。

首先，应该完善相关法律法规，明确AI技术在人脸和语音合成方面的使用边界，对违法行为进行严厉打击。并加强执法部门查处力度，确保法律法规得到有效执行。

技术层面，应提升技术防护能力，PC、移动端APP等平台要提升人脸检测程序的安全性，防止AI变脸攻击。相关部门及企业应开发针对AI生成内容的审查算法，对相关内容进行筛查和审核。并建立信息标识制度，对图片、视频等生成内容进行标识，提高识别能力。

在个人防范意识层面，公众在使用互联网时，要提高警惕，包括信息来源等，不轻信未经核实的信息。并加强信息安全保护，谨慎分享个人信息等。

最后，还需要社会协作，比如政府、学校、媒体等加强宣传教育，提高公众对AI技术的认识和了解，建立举报机制，形成全社会共同监督的氛围。

AI同众多技术相似，都有双刃剑的特性，发展的问题还需要在发展中不断解决。

对于大众来说，应主动防范，在受到利益侵害时积极维权，更应主动学习，借AI技术之力为提升自身生活工作效率。

来源：元力社