摘要:时下,AI技术正在逐渐改变人们的生活方式,为解决许多问题提供途径,但也有造谣者借助AI工具,生产仿真度高的虚假信息。公安部网安局今天公布相关案件,提示要警惕AI被用来“造谣”。网警还提供“识别AI谣言秘籍”,请大家争做“谣言粉碎者”,共同抵制AI谣言。
时下,AI技术正在逐渐改变人们的生活方式,为解决许多问题提供途径,但也有造谣者借助AI工具,生产仿真度高的虚假信息。公安部网安局今天公布相关案件,提示要警惕AI被用来“造谣”。网警还提供“识别AI谣言秘籍”,请大家争做“谣言粉碎者”,共同抵制AI谣言。
近日,西安公安网安部门经工作查明,一网民利用AI生成软件,将一起多年前发生于外地的旧闻进行重新编辑,通过输入指令制作文案,将其包装成本地近期发生的事件。文案多处通过添油加醋的笔法虚构事实真相,以达到博取流量的目的,造成谣言传播扩散。目前,属地公安机关已依法给予该网民行政处罚。
警惕AI被用来“造谣”。网警列举,典型AI谣言场景包括:
伪造热点事件,用AI生成“某地重大事故”图文或视频,配煽动性标题博流量;
捏造名人言论,篡改语音、合成视频,假借权威人士发布虚假政策解读;
炮制伪科普,利用AI生成“科学数据”,兜售伪劣产品,如“AI检测抗癌神药”等;
嫁接虚假证据,将无关图片通过AI换脸、换背景,捏造“维权证据”“聊天记录”。
那么,如何识别AI谣言?
一是查源头。警惕无明确作者、无正规信源的内容,AI生成信息常伪装成“网友投稿”“内部消息”。
二是看细节。对于AI图像,观察手指数量异常、光影不自然等; 对于AI视频,注意口型与声音不同步、背景模糊扭曲。
三是验逻辑。AI生成谣言常出现地名错误、时间矛盾等,比如“2024年政策”引用2025年数据。
在此,网警提示大家:要严守法律红线,不利用AI伪造公文、证件,不生成谣言、暴力等违法信息。抵制AI谣言,遇所谓“爆炸性新闻”做到“三不”:不轻信、不转发、不扩散。通过官方平台验证信息,发现AI谣言立即举报,保存证据协助溯源。 不当“受害者”更别当“帮凶”,共担监督责任,主动标注AI生成内容,人人争做“谣言粉碎者”,共同维护清朗网络空间。
记者:林靖
来源:子清视界