摘要：近日，名为“婵宝小助理”“全妹福利号”等多个账号，使用全红婵赛后接受采访和家人直播的画面，用Ai合成相应的声音，在社交平台发布视频。以“全红婵家建别墅”“全红婵为观众送上福利”等话题吸引观众，博取流量。

近日，名为“婵宝小助理”“全妹福利号”等多个账号，使用全红婵赛后接受采访和家人直播的画面，用Ai合成相应的声音，在社交平台发布视频。以“全红婵家建别墅”“全红婵为观众送上福利”等话题吸引观众，博取流量。

视频里呈现全红婵受访的画面，内容却被AI篡改为介绍土蜂蜜、骆驼奶粉、洗衣净等商品，并推荐观看者点击商品链接购买。评论区有用户被合成视频欺骗，表示“支持全红婵，值得购买。”

▲社交媒体上的合成视频带货截图

4月29日，全红婵父亲告诉记者，有人用AI伪造一家人声音卖蜂蜜，他们也没有办法。“帮我辟谣一下，我没有卖这东西，什么蜂蜜才十几块钱一斤，拿糖来搞都搞不到。”

据悉，全红婵的父母长期靠种植水果维持生计，全红婵的大哥全进华是一名三农主播，带货湛江本地的特产水果，全红婵的母亲也时常入镜，全家人直播带货曾引发不少网友的质疑。

对此，全进华在采访中表示：“我现在在自媒体上发发视频，主要是想带动‘三农’产品进行销售。为什么做这个呢？一是我妈妈身体不好，做这个比较自由，可以兼顾照顾长辈。二是我们这边种有很多水果，特别是菠萝，每隔几年就会出现滞销。因为种得太多，行情波动较大，没人来收的话，水果就烂在地里，所以我想帮一下他们。”

他说：“虽然我还不是个（流量）很大的博主，也不一定能卖出很多东西，但我希望尽自己能力帮助家人、村里乃至湛江以及其他地方的农产品进行销售。”

━━━━━

此前曾有多位明星被AI侵权

2024年4月，北京互联网法院宣判全国首例“AI声音侵权案”，明确认定在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。法院认为，未经权利人许可，擅自使用或许可他人使用录音制品中的声音构成侵权。

今年两会期间，全国人大代表、小米集团创始人雷军建议“加强‘AI换脸拟声’违法侵权治理”，并表示他本人也曾是“AI换脸拟声”的“受害者”。

早前短视频平台上曾出现大量“雷军AI配音”的恶搞视频，涉及堵车、调休、游戏等热门话题，雷军两会期间回应，“一开始我还觉得这是网民喜闻乐见的一种方式，但是随着内容越来越多，网友们也都在投诉。”为此，他呼吁尽快出台相关治理措施。

同样，全国政协委员靳东也回应了AI换脸导致的诈骗问题，并表示“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣，希望能建立更好的规则。”

此前，有网友向演员刘晓庆反馈有人在视频号AI生成视频假冒她。刘晓庆转发并配文：“天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！”

4月18日，张馨予发文表示：“近期发现有品牌AI复制我的声音，未经授权编造剪辑广告视频，还有减肥药广告，我觉得这样的行为很恶劣。在此说明我从来没有推荐过任何减肥药，有商家利用Ai技术非法剪辑投放广告，我一定追究到底。”

河南泽槿律师事务所主任称，通过AI技术冒用他人声音的行为属于违法行为。根据《中华人民共和国民法典》，对自然人声音的保护参照适用肖像权保护的有关规定。而商家利用AI篡改专家说辞进行直播卖货既侵犯了专家有关声音的人格权益，也可能损害了专家的名誉权以及肖像权。

同时，这种打广告的行为也涉及虚假广告宣传，如果所卖商品没有宣传效果还构成消费者欺诈，违反了《反不正当竞争法》和《消费者权益保护法》有关规定，有可能面临罚款、吊销营业执照等行政责任以及相应的民事赔偿责任，情节严重的还涉及刑事犯罪。

“平台有权依据《互联网信息服务管理办法》《电子商务法》以及平台规则履行监管义务，对违法商家采取封禁账号、限流等处理措施。如果未及时采取合理措施导致损害扩大的，对扩大部分与不法商家承担连带责任。”付建表示。

据网信办新规，AI合成内容需有明显标识，生产者和平台均明确责任和义务，该新规自2025年9月1日起施行。

来源：第一现场视频