摘要：近日，某社交平台“每20个‘80后’中就有1人去世”的统计引发热议，广州“L3级自动驾驶首例判决”的细节讨论登上热搜，四川凉山“山体滑坡致多人失联”的灾情牵动人心。当这些看似真实的信息被证实为AI生成的虚假内容时，公众在震惊之余也感到担忧，不禁思考：如何避免A

近日，某社交平台“每20个‘80后’中就有1人去世”的统计引发热议，广州“L3级自动驾驶首例判决”的细节讨论登上热搜，四川凉山“山体滑坡致多人失联”的灾情牵动人心。当这些看似真实的信息被证实为AI生成的虚假内容时，公众在震惊之余也感到担忧，不禁思考：如何避免AI造谣，维护清朗的网络空间？

近年来，利用AI编造和传播谣言的案例屡见不鲜，一方面，AI强大的算力使其能快速炮制出符合大众心理、易于传播的谣言，另一方面，造谣的黑色产业能够带来巨大收益，一些别有用心之人为了利益不惜铤而走险。如“中山公园地铁站捅人事件”“大妈摆摊卖水果被罚16万，监管局回应不交就罚145万”“西藏日喀则地震被压在废墟下的小男孩”等。不同于传统谣言，这些内容往往植根真实事件框架，通过深度学习百万量级新闻语料，精准模仿媒体行文风格，甚至在细节处插入真实地名、机构名称增强迷惑性，这些谣言极大地冲击了“眼见为实”的传统认知，具有很强的煽动性。

AI造谣带来的负面影响不容小觑。“广州法院对一起某品牌汽车L3级自动驾驶追尾事故作出首例判决”的网络谣言在网上广泛传播，可能会对该品牌的声誉和销售造成严重打击，损害企业利益；四川筠连山体滑坡发生后，多部门协同争分夺秒救援，此时传出“凉山州发生重大山体滑坡灾害”的不实信息，不仅干扰救援节奏，还容易引发当地民众的恐慌，造成社会秩序混乱，此外，当AI生成的虚假信息充斥网络，人们难以辨别真假，对信息的信任度降低，容易产生“狼来了”效应，进而影响社会公信力。

面对AI造谣这一“毒瘤”，必须构建多元共治的治理生态。法律层面，需要进一步完善法律法规，国家针对AI造谣出台一系列法律法规，《生成式人工智能服务管理暂行办法》明确了“不得生成虚假有害信息”的红线。平台层面，要压实主体责任，摒弃“流量至上”的错误理念，加强内容审核机制，对AI生成内容进行标识和提示。监管层面，有关部门要依法亮剑，加大对造谣者的惩处力度，形成强大的法律威慑。技术层面，“用AI打败AI”，即运用AI技术针对利用深度伪造技术合成的图像视频以及生成式文本、视频、图像等进行识别、检测和鉴定，国内已有多个团队正在投入开发AI生成内容检测技术。公众层面，需要提高公众媒介素养与信息辨别能力，通过科普等方式，引导公众掌握从权威渠道获知真实信息的技巧，学会对网络信息进行深入的分析和评估。

科学技术是一把双刃剑，在技术变革的浪潮中，我们既要警惕“狼来了”的寓言重演，也要避免因噎废食阻碍创新。通过构建法律规范、行业自律、行政监管、公众参与的多元治理体系，让技术在正确的轨道上运行，真正服务于社会大众。（文/黄启红）

闪电评论，欢迎投稿！

投稿邮箱：qilushiping@iqilu.com

来源：理响中国