摘要：两会期间，雷军在谈到人工智能时表示，这两年人工智能技术快速突破以后，出现了很多老百姓喜闻乐见的应用，比如AI换脸、拟声等，但任何一个人的脸和声音都能轻松被用来做各种视频，成了新的违法重灾区。

两会期间，雷军在谈到人工智能时表示，这两年人工智能技术快速突破以后，出现了很多老百姓喜闻乐见的应用，比如AI换脸、拟声等，但任何一个人的脸和声音都能轻松被用来做各种视频，成了新的违法重灾区。

雷军结合自身经历说：“去年‘十一’有网友说过了7天假，被我整整骂了8天，刚开始我觉得网民拿我开涮我也能接受。但这类内容增多且质量低劣后，防不胜防，网友也纷纷投诉。”

全国人大代表 雷军

据媒体报道，2024年陕西西安的一起案件中，财务人员张女士因“老板”的AI换脸视频被骗转账186万元；香港某跨国公司更因一场全员AI伪造的“视频会议”损失2亿港元。

这类案件揭示了一个残酷现实：AI技术滥用已从娱乐恶搞升级为高智商犯罪工具。全国人大代表雷军谈及的“AI雷军”在去年国庆期间，利用雷军的形象和声音生成大量低俗内容，播放量据统计超1.2亿次。

雷军坦言，面对AI侵权，现有法律显得力不从心。例如，小米曾因造谣股价暴跌8%，却因损失难以量化而无法追责；AI换脸视频的受害者需通过肖像权、名誉权等间接途径维权，但“被骂8天的损失如何计算？”。

目前，我国虽出台《深度合成管理规定》，要求AI生成内容标识来源，但刑事立案仍面临高门槛：诽谤罪需直接经济损失超50万元，非法经营罪需证明违法所得5万元以上。法律专家指出，现行法规对“数字人”侵权的针对性不足，亟需单独立法划定红线。

1. 立法先行，严惩技术滥用

雷军建议推出人工智能单行法，明确“AI换脸拟声”的应用边界，降低刑事立案门槛，并加大对违法者的处罚力度。全国政协委员靳东也呼吁完善AI换脸诈骗的专门条款，强化平台连带责任。

2. 技术赋能：平台需筑牢防线

平台应开发AI内容识别工具，对深度合成内容添加不可篡改的“AI生成”水印，并优化审核机制，第一时间拦截问题视频。例如，部分社交软件已试行“挥手验证”功能，通过实时动作干扰识破AI伪造视频。

3. 公众防护：警惕“眼见未必为实”

专家建议，涉及转账或敏感操作时，应通过二次确认（如询问私密问题）核实对方身份；同时避免随意上传照片、声音至不明平台，防止生物信息被盗。

AI技术本身无罪，关键在于如何规范。雷军强调，需构建“以人为本、智能向善”的生态，例如在中小学教材中加入AI伦理课程，提升全民鉴别力。技术开发者、立法者、平台和公众需形成合力，既释放AI的创造力，又守住安全底线。

当AI能“复刻”雷军的声音，也能伪造任何人的面孔，我们不仅要问：下一个受害者会是谁？唯有法律严管、技术阻截与公众警觉三箭齐发，才能让“数字人”真正服务社会，而非沦为犯罪帮凶。

来源：杏林末学