摘要：5月18日，某歌手“因新冠并发症去世”的消息引发大量关注。在歌手方辟谣后，仍有不少粉丝表示担心。5月19日晚，歌手也于个人社交媒体上线报平安。

近日

某歌手“因新冠并发症去世”的消息

在社交媒体疯狂传播

追溯信息源头

发现是一个自媒体账号

利用“拼接旧照片+粤语AI配音”造的谣

此账号还陆续发过

多名明星去世的消息

同样均为谣言。

AI造谣，

不仅限于“蹭”明星流量

此前还有人“蹭”地震等灾情热度

甚至，大量“无中生有”新闻事件

那么，AI造谣需要担责吗？

利用AI技术生成的图片、视频？

AI造谣行为可能涉嫌寻衅滋事罪

5月18日，某歌手“因新冠并发症去世”的消息引发大量关注。在歌手方辟谣后，仍有不少粉丝表示担心。5月19日晚，歌手也于个人社交媒体上线报平安。

近年来，利用AI技术造谣的情况并不少见。这类谣言往往会对公众造成误导，也可能对事件当事人造成伤害。

2024年9月，一段合肥三只羊网络科技有限公司创始人卢某某的录音在网络上传播开来。录音中，卢某某不仅对其公司多位女主播进行人身攻击，还对某短视频平台的主播和用户进行贬低。

然而，此段录音也被查证为利用AI技术合成的虚假录音。2024年9月16日，安徽省合肥市公安局高新分局发布警情通报称，现已查明，王某某利用从互联网下载的音视频资料，杜撰卢某某酒后言论脚本，使用AI工具训练生成假冒卢某某的音频，并通过网络发布，形成谣言大量传播。

北京周泰律师事务所律师张子航表示：“在一些社会热点事件中，当公众还没有获得完整信息的时候，一些不法分子以猎奇或者煽情等形式，利用AI技术生成事件相关人物的音频、视频等，博取公众的信任，进而达到传播虚假信息、引流的目的。”

“对于这种针对特定客体的造谣行为，造谣者可能需要承担民事责任。”张子航表示，根据民法典第1024条规定，民事主体享有名誉权，任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。编造者、传播者需要承担的侵权责任，包括停止侵害、恢复名誉、消除影响、赔礼道歉及赔偿损失等。

此外，张子航认为，此类做法也可能涉嫌犯罪。“如果造谣者发布的内容有捏造事实诽谤他人的性质，且情节严重，达到了刑事立案的标准，那么造谣者可能面临诽谤罪的指控。而如果不法分子的行为造成了社会秩序的混乱，或者对事件相关人物的生活、工作等造成了严重影响，可能构成寻衅滋事罪。按照最高人民法院、最高人民检察院《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第5条之规定，利用信息网络辱骂、恐吓他人，情节恶劣，破坏社会秩序的，依照刑法第293条第1款第2项的规定，以寻衅滋事罪定罪处罚。”

利用AI技术造谣的信息为何容易在互联网上引起广泛关注？《方圆》记者调查发现，这与其技术成本低、产量大的特点息息相关。

2023年12月19日，有网民在今日头条平台发布“广州即将成为全国首个限制外卖配送的城市”，该条信息迅速引发网民关注，并形成网络热搜。经查实，该条信息是广东江门网民叶某某等人员，使用AI工具生成的虚假信息。

而值得一提的是，这条谣言的火爆并非偶然。根据公安部发布的消息，叶某某等不法分子利用AI技术大量、快速地改写热门文章，批量发布虚假消息，累计发布引流图文信息50余万条，此条信息才最终“脱颖而出”，为其赚取了网络平台的流量和收益。

生成虚假的图片、视频是不法分子利用AI技术进行造谣的常用手段。在公安部发布的打击整治“网络水军”违法犯罪典型案例中，有这样一起案子。山东枣庄公安机关网安部门查明，某传媒公司购买了大量已实名登记的自媒体账号，利用AI工具编造谣言信息并批量发布，累计发布视频、图文300余万条。而不法分子利用AI技术造谣的目的，也同样是为了吸引粉丝、获得流量。

“内容由AI生成”的声明不能成为“挡箭牌”

2025年年初，西藏自治区日喀则市定日县发生6.8级地震。一张图片在社交媒体平台广泛传播。这张图里，一个身穿彩色毛衣、头戴彩色毛线帽的男孩几乎全身都被压在废墟之下，他艰难地探出头，显得十分可怜、无助。在某短视频平台上，至少有10个以上的账号发布了此图片，并将此图和西藏定日县地震关联。然而，经查证，此图片是由AI工具合成。

《方圆》记者调查发现，一些自媒体博主在发布这张AI生成“埋在废墟下的男孩”图片时，会在作品下方标注“内容由AI生成”的作者声明。那么，这样的“作者声明”真能为其免责吗？

对此，张子航表示，在此情况下，内容发布者仍然需要为AI生成的图片造成的风险和问题承担法律责任。“地震灾情信息的发布，由国家统一部署，由国务院归口管理、统一发布。自媒体博主根本没有发布地震信息的权利，因此，不能因为其声明此图片由AI制作，即可免责。”

“同时，不光内容发布者不能因简单的作者声明免责，作为信息载体的社交平台如果未能尽到合理的审核和监管义务，导致虚假AI图片广泛传播，并造成严重的负面影响，监管部门有权对发布平台作出罚款、责令整改等形式的处罚。”张子航说。

擦亮双眼，辨别AI谣言中的漏洞

在AI技术的影响下，如今“眼见”“耳听”也未必“为实”了。那么，人们在上网时应该如何分辨由AI生成的谣言呢？

对此，张子航认为：“首先，我们在上网获取新闻消息时，要着重关注信息源是什么，尽量从权威的信息源处获取消息。同时，也不要依赖单一的信息来源，最好从多个权威渠道获取信息。”

同时，张子航表示：“在AI技术快速发展的环境下，我们要有对AI作品进行初步分辨、鉴别的能力。许多AI生成的图片、视频中，可能存在人物表情僵硬、边缘模糊、光线阴影不自然、手指等细节数量异常或扭曲等。例如，‘埋在废墟下的男孩’这张图片就有一个很明显的漏洞，这个男孩的一只手上长了6根手指，这就提醒我们此图片是有问题的，不能轻易相信。”

“网民在上网时也要保持警惕，仔细分析信息的逻辑性，若信息存在明显漏洞、矛盾或与常理不符的地方，很可能是虚假信息。在确定信息真实可靠之前，不要随意转发，以免无意中成为谣言传播的推手。同时，提醒大家在上网时也要注意保护个人隐私，不随意泄露个人信息如个人照片、声音等给不可信的网站或应用程序，防止个人信息被用于生成虚假的内容。”张子航说。

那么，作为信息载体的社交媒体平台，应该如何规范用户行为，避免利用AI技术制造的谣言广泛传播呢？

对此，张子航提出了建议：“各个社交媒体平台可以在用户注册时，重点提示发布作品需要注意的事项，例如不得编造虚假信息对公共事件进行误导，或者对具体的法人、自然人进行人身攻击。如有违反，平台有权注销其账号；信息发布后，平台还有监管和审核义务，在造成严重负面影响之前，应及时删除虚假信息，正确引导用户；最后，一旦有用户涉嫌侵权或者犯罪，平台应当第一时间提供发布者的注册信息，便于被侵权人维权或者公安机关开展调查。”

同时，张子航表示：“目前看来，AI造谣仅是网络谣言的一种类别。看似新奇，实则并无现行法律法规无可奈何之处。针对AI造谣行为，相关部门可以通过司法解释，明确现行刑法里面的构罪标准，以此达到震慑效果，净化网络空间，为网民打造绿色、健康的网络环境。”

来源：方圆杂志

来源：金陵长安