摘要：1月7日，西藏日喀则市定日县发生6.8级地震，牵动着许多网友的心。但与此同时，一些网友为了流量，利用AI技术生成灾区群众被埋、房屋坍塌等虚假照片，并配以“日喀则地震”等关键词后发布。

1月7日，西藏日喀则市定日县发生6.8级地震，牵动着许多网友的心。但与此同时，一些网友为了流量，利用AI技术生成灾区群众被埋、房屋坍塌等虚假照片，并配以“日喀则地震”等关键词后发布。

其中，一张“被压废墟下的小男孩”的图片引发广泛关注。画面中，一个戴帽子的小孩被压在倒塌的建筑物下，满脸灰尘，眼神中透露出无助与恐惧。这张图片在某短视频平台被多个账户转发，配文均与日喀则地震相关，有账户因此获得上万转发和评赞。然而，随着图片的传播范围越来越广，一些细心网友发现了端倪，比如图中小孩左手竟然有六根手指，废墟的细节也显得有些不自然。最终经过多方调查发现，这竟是一张由AI技术生成的假图，这一反转让不少网友感到震惊和愤怒。

被广泛传播的AI图片。

不可否认，AI技术的应用确实为信息传播带来了前所未有的便捷，但当这一技术被用于欺骗与误导时，其破坏力同样不容小觑。比如，地震发生后，人们高度关注灾区情况，而虚假灾情图片在社交媒体广泛传播，误导公众出现认知偏差，甚至影响救灾资源的分配；针对公众基于虚假图片形成的错误认知，当地政府、媒体等舆论引导主体需花费精力去辟谣、纠正不实信息，进而影响到救灾工作；大量虚假信息的传播会破坏网络信任环境，这对社会的危害不言而喻。由此可见，利用AI生成并传播有关灾情的虚假信息，不仅是在给救灾添乱，更有扰乱社会秩序之嫌。

事实上，AI造谣并非新鲜事。此前，“西安突发爆炸”“济南一高层住宅楼起火，多人跳楼逃生”等耸人听闻的“新闻”，事后均被查证为AI炮制的谣言。究其原因，一方面，部分互联网平台奉行“流量至上”，放任假新闻、“标题党”、争议性话题传播，为滋生谣言提供了不良土壤。另一方面，目前多数AI软件生成图片、视频无风险提示，比如在某AI应用中输入“日喀则地震婴儿被埋”的关键词，软件在未给予任何侵权、违规、虚假信息等干预提示的情况下，自动生成了多张相关图片。

网络平台不是法外之地。根据刑法相关规定，发布者编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。网络平台应履行好主体责任，加强内容审核，利用技术手段尽可能识别出由AI生成的虚假内容，一旦发现可疑图片，应及时进行标记或者删除，压缩别有用心者生产谣言的牟利空间。相关部门也要依法亮剑，严厉打击制造虚假信息的个人和机构，在网络空间架起禁止造谣的高压线。

每一次“信息事故”都是一次提醒。在不断迭代的生成式AI技术面前，“眼见为实”“有图有真相”正在被挑战，谣言迷惑性极强。在网络时代，人人都是信息传播者。广大网民应擦亮双眼，自觉抵制不良信息，不造谣、不传谣、不信谣，共同维护清朗的网络空间。

撰文 陈长

来源：南方网评