209个账号关闭!永久封禁!微信最新公告→

摘要:公告称,近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。为守护用户权益,避免消费者上当受骗,结合用户举报、日常巡查等线索,微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为,并针对相关情况开展专项治理。截至目前,累计处

12月15日

微信珊瑚安全公众号发布

《关于打击利用AI仿冒知名人士

进行营销宣传的公告》

公告称,近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。为守护用户权益,避免消费者上当受骗,结合用户举报、日常巡查等线索,微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为,并针对相关情况开展专项治理。截至目前,累计处置内容532条,关闭账号209个。

典型案例如下

下一步,微信将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度,进一步提升技术治理能力和水平,维护良好生态。同时也倡导广大用户自觉遵守法律法规与平台规则。

针对“利用AI合成技术生成违规内容”的行为,平台欢迎广大网友提供更多线索,共同构建清朗有序的网络环境。

竟然还有假拜登、假马克龙

这两年,名人被AI已成常态。“假靳东”迷倒一众大妈,“假雷军”辣评世间百态,种种乱象轻则为当事人带来困扰,重则催生诈骗案件。AI造假的人物也突破文娱、商业等领域,甚至波及了政要群体。“假拜登”公然宣布第三次世界大战开始,“假马克龙”直播回答“政府聘用灭霸”,“假岸田文雄”召开线上发布会等案例都曾令世界一片哗然。虽然声讨反思不断,但并未阻止AI造假的步伐,纯粹恶搞还是用以犯罪几乎都在失控状态。

最近,有网友发消息称,“张文宏是不是带货了?”视频中,张文宏在卖一种蛋白棒,家里的老人信以为真,已经开始下单了。

但仔细辨认可以发现,带货视频为AI合成。目前,这段视频已在该账号内不可见,但商品橱窗内显示这款蛋白棒已售出千余单。

张文宏医生表示:“这样的卖货账号不止一个,且一直在变,我多次向平台投诉但屡禁不绝。我在发现这个事情后立即投诉过那个AI合成的视频,但他的账号一直在换,我最后也没有精力了。这些假的AI合成信息就像蝗灾一样,一次又一次发生,像漫天飞过来的蝗虫一样害人。”

不能放任AI为所欲为一骗再骗

业界人士认为,当前AI技术发展来到螺旋式上升的拐点,未来几年技术迭代将会按月计算。合成技术门槛持续降低,逐渐向低算力、小样本学习方向演进,利用手机终端即可完成。同时,随着AI技术加持,正逐步由面部合成向全身、3D合成发展,效果更加逼真。

也就是说,今后依靠一部手机,就能轻松合成一个覆盖全身的假视频,迷惑指数直线上升。2024人工智能安全报告显示,2023年基于AI的深度伪造欺诈增长了3000%,若不能有效打击,这个数字必然会继续飙升。

近两年,我国已相继出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等规定,让刚性治理有了更多抓手。当务之急是有法必依、执法必严,广而告之典型案例,提高震慑力度。广大平台更要守土尽责,强化AI标识提示,对越界视频及时下架、违法账号及时封禁。

“有图有视频,就是没有真相”,这将成为信息传播的灾难。如果与AI共存将是未来生活的常态,那么有效治理、打击犯罪必须大幅加码,不能放任AI为所欲为、一骗再骗。

来源:澎湃新闻客户端一点号

相关推荐