摘要："妈妈，我急需5万块钱！"视频里"女儿"带着哭腔哀求，背景音还能听到医院仪器的滴答声。李女士颤抖着转账后才发现，这个会说话、会眨眼的"女儿"，竟是用AI合成的假货。

"妈妈，我急需5万块钱！"视频里"女儿"带着哭腔哀求，背景音还能听到医院仪器的滴答声。李女士颤抖着转账后才发现，这个会说话、会眨眼的"女儿"，竟是用AI合成的假货。

【案情回顾】

2023年8月，上海某科技公司高管张某利用开源AI工具，将网红林某的面部信息移植到色情视频中，并以每条2000元的价格在黑市出售。当林某在粉丝私信中看到"自己"的不雅视频时，点击量已超50万次。

警方调查发现更惊人的产业链：

数据采集：张某通过林某直播间的打赏记录，获取了其不同角度的面部表情素材

模型训练：使用某境外AI平台，仅需3小时就能生成以假乱真的动态视频

诈骗应用：有团伙专门购买"换脸模型"，用于伪造亲人视频实施诈骗

林某起诉后，案件却陷入法律僵局：

现行《民法典》第1019条虽规定"不得利用信息技术伪造他人肖像"，但未明确"AI合成"是否属于"伪造"

平台辩称"工具无罪"，用户协议第7.3条写明"禁止非法使用"

精神损害赔偿难以量化，林某要求的200万赔偿缺乏判例支持

【法律分析】

这起"数字身份盗窃"案暴露出AI时代的立法滞后：

1. 肖像权认定的边界模糊 传统法律中"肖像"指自然人的外部形象，但AI生成的虚拟形象是否属于肖像？2024年1月公布的《生成式AI服务管理办法》首次将"深度伪造"纳入监管，要求添加显著标识（如数字水印），但本案发生时该法规尚未生效。

2. 平台责任难以界定 提供AI工具的科技公司是否担责？参考美国《深度伪造责任法案》经验，若平台：

明知使用者用于违法目的

未采取基本审核措施（如实名认证） 则可能承担连带责任。本案中，涉事平台服务器设在境外，增大了追责难度。

3. 电子证据认定困境 AI合成视频的鉴定成本高达2万元/分钟，且需专业机构出具报告。现行《电子签名法》尚未将"深度伪造检测报告"列为法定证据形式。

维权建议：

立即公证保全证据（费用约500-1000元）

同时起诉平台和侵权人

主张适用《网络安全法》第12条关于"禁止传播违法信息"的规定

【案件看法】

当技术跑得比法律还快，"我的脸"可能成为犯罪分子最危险的武器。如果有一天AI能完美复制你的声音、表情和习惯，我们该如何证明"我是我"？

（灵魂拷问） 你手机里的人脸识别数据，真的比保险箱里的房产证更安全吗？

来源：亿渊拆解事