南方网评:利用AI生成傍名人,以假乱真坑了谁?

360影视 日韩动漫 2025-06-03 12:12 3

摘要:5月31日,河南睢县长岗镇政府视频号发布AI合成视频,假冒著名学者王立群推销健身方法并宣称“端午60年一遇大吉”。视频中人物口型、声音失真明显,却未标注AI生成标识,误导大量网友留言致谢,获赞过千。王立群本人公开谴责此举“严重损害学术清誉”,要求公开道歉并保留

5月31日,河南睢县长岗镇政府视频号发布AI合成视频,假冒著名学者王立群推销健身方法并宣称“端午60年一遇大吉”。视频中人物口型、声音失真明显,却未标注AI生成标识,误导大量网友留言致谢,获赞过千。王立群本人公开谴责此举“严重损害学术清誉”,要求公开道歉并保留追责权利。

图源:红星新闻

涉事单位一位负责人接受采访时表示,发布视频的账号是该镇政府的视频号,已严厉批评了管理账号的工作人员。一位与镇政府合作运营该视频号的受访者称,此番操作是为了“助农”,通过视频引流,然后发布镇里的农业产业信息。惠农助农之说,也得到前述镇政府负责人的证实。

正当的目的,必须辅之以正确的手段,方能产生良好的效果。这类用歪招开路打天下的套路,需要格外注意规避。

2023年8月15日开始实施的《生成式人工智能服务管理暂行办法》明确规定,提供和使用生成式人工智能服务,应当尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。办法还明确提出,提供者应当按照《互联网信息服务深度合成管理规定》,对图片、视频等生成内容进行标识。

AI克隆行为,不仅违规,也违法。我国民法典规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。未经当事人许可,利用AI生成其音视频的行为,侵犯了其肖像权和声音权,明显涉嫌违法。不按规矩行事,轻则赔礼道歉,重则遭封号、吃官司,往往最终蛋打鸡飞,得不偿失。

在短视频成为网络热门产品的当下,其治理和规范尤为重要。除了强化运营者守规矩的自觉,提升其内在约束力,更重要的是监管不缺位,各方都善尽职责。作为平台,应严把关口,以积极的态度落实生成式内容传播的监管责任,对疑似AI生成视频进行显著标识并提示用户注意。同时,强化对涉嫌侵权内容的甄别,发现或接到相关举报及时采取阻断措施,避免负面影响扩大。

人工智能的大门要打开,潘多拉魔盒要封死。扬利抑弊,向善而行,人工智能才能成为给人类造福的利器。

撰稿 张全林

来源:南方网评一点号

相关推荐