摘要:88元就能买教程,4.99元就能克隆明星声音,甚至还有人提供“代克隆”服务!
难以置信!全红婵、孙颖莎、王楚钦等奥运冠军,竟然同时在短视频平台“卖起了土鸡蛋”?
声音逼真、情感到位,连粉丝都纷纷下单支持……
可这一切,竟然是AI克隆声音造的假!
全红婵哥哥全进华不得不在直播中辟谣:“我妹妹在训练基地,她怎么卖鸡蛋?那是AI声音!”
他甚至无奈表示:“之前卖蜂蜜的都还在告,现在告都告不过来。”
而这背后,是一条已经成熟的AI“盗声”黑产——
4.88元就能买教程,4.99元就能克隆明星声音,甚至还有人提供“代克隆”服务!
一、AI“盗声”有多疯狂?从奥运冠军到明星,全员“中招”!
最近,短视频平台涌现大量“名人带货”视频:
· 全红婵“求助卖鸡蛋”:“婵妹想帮助妈妈,让家里过得好一点……”
· 孙颖莎“代言”:“我是莎莎,我为婵宝家农家土鸡蛋代言!”
· 王楚钦“支援”:“昨天收到婵妹私信,说他们家土鸡蛋大丰收!”
这些视频画面多为采访片段拼接,但声音高度相似,甚至附带商品链接——
某土鸡蛋链接已售出超2.1万单!
有消费者留言:“拍了,婵宝我支持你!”“刚下完一单,谢谢为国争光。”
除了奥运冠军,刘涛、舒淇、张柏芝等明星也被AI“盗声”用于面膜广告……
网友调侃:“AI再这么搞下去,明星都不用亲自拍广告了!”
二、黑产揭秘:4.99元就能克隆明星声音?教程竟在网上公开卖!
AI“盗声”为何如此泛滥?
记者调查发现,电商平台上有大量AI声音克隆教程售卖,价格从0.5元到400元不等。
一份标价4.88元的教程声称:
“只需上传声音素材+输入模拟文本+选择模型,1分钟就能克隆完美声音!”
更有人直接提供“明星声音代克隆服务”:
“发给我明星姓名和文案,100字以内4.99元,什么内容都可以做!”
技术门槛低到令人发指——
AI通过深度学习提取声音频率、音色、声调等特征,再合成任意内容。
配上视频画面,就能“移花接木”,真假难辨!
⚖️ 三、9月1日起!国家出手:所有AI生成内容必须打标!
面对AI技术滥用,国家终于出重拳了!
9月1日,《人工智能生成合成内容标识办法》正式施行。
《办法》明确要求:
· ✅ 所有AI生成的内容(文本、图片、音频、视频等)必须添加“电子水印”;
· ✅ 包括“显式标识”(用户可见)和“隐式标识”(文件元数据内);
· ✅ 任何组织和个人不得恶意删除、篡改、伪造标识。
这意味着:
以后刷到AI生成的内容,一眼就能认出!
没有标识的?可以直接举报!
四、AI“盗声”背后:谁是责任人?平台该做什么?
业内专家指出,治理AI滥用需多方协同:
· 内容发布者:第一责任人,仿冒名人既侵犯名誉权,又构成欺诈;
· AI服务提供商:必须提供生成内容标识功能;
· 内容平台:应审核可疑视频,提升鉴伪能力。
技术公司也在行动——
蚂蚁集团与上海交大联合研发的AIGC检测技术已达“国际领先水平”,能精准识别AI生成内容。
五、普通人如何防范?记住这几点!
1. 警惕过于逼真的带货视频——尤其是名人突然推荐陌生商品;
2. 查看标识:9月1日后,认准“AI生成”标签;
3. 录屏举报:遇到可疑内容,立即录屏并@平台客服;
4. 勿轻信AI音视频:尤其是涉及金钱、隐私的内容。
结语:技术无罪,滥用有责!
AI本应服务人类,而非成为诈骗工具。
从“换脸”到“盗声”,一次次技术滥用都在提醒我们:
监管必须跑在风险前面!
9月新规只是开始——
未来,仍需法律、技术、平台、用户四方合力,才能守住网络空间的真实与信任。
你遇到过AI“盗声”视频吗?
评论区聊聊你的经历!
来源:抹茶卉卉