摘要：公安网安部门查明，网民徐某强（男，36岁）为博取流量、谋取非法利益，于2025年3月10日10时，使用软件“某书”中AI智慧生成功能，输入社会热点词制作了标题为“顶流明星被曝境外豪赌输光十亿身价引发舆论海啸”的谣言信息，并通过互联网平台对外发布，造成谣言迅速传
3月10日以来
一则“有顶流明星
在澳门输了10亿”的信息
在互联网平台传播
引发网民热议和各种猜测
相关话题频繁登上
社交媒体热搜热榜
艺人周杰伦、黄晓明
都就此做出否认回应
3月14日上午
公安部网络安全保卫局
作出情况通报
公安网安部门查明，网民徐某强（男，36岁）为博取流量、谋取非法利益，于2025年3月10日10时，使用软件“某书”中AI智慧生成功能，输入社会热点词制作了标题为“顶流明星被曝境外豪赌输光十亿身价引发舆论海啸”的谣言信息，并通过互联网平台对外发布，造成谣言迅速传播扩散，引发大量网民议论，诱发相关谣言、话题等频繁登上热搜热榜，严重扰乱公共秩序。
公安机关根据相关法律法规，对徐某强处以行政拘留8日处罚。
随后#造谣顶流明星
输10亿的男子被拘留#
相关话题冲上热搜第一
↓↓
对此网友纷纷表示
"网络非法外之地，严惩！"
↓↓
AI谣言泛滥！
多家平台开始应对
未标出AI内容最严可被封号 >>
《哪吒2》员工愿意996是因为公司在成都分房子、梁文峰在知乎上首次回应DeepSeek走红、80后死亡率突破5.2%……
类似上述的信息正在占领互联网。它们看起来有各种细节描述，但没有信息来源，仔细搜索后还有明显事实错误。不少此类内容，被指出由AI生成。
针对未标识的“AI谣言”，3月11日微博宣布启动治理。微博社区治理官方账号发文称，治理的重点领域是社会民生、突发事件、科普医疗和个人权益，会对不同情况予以处置。
具体而言，如果账号的单条内容由AI生成且未主动标识，微博称会主动打标，提示“疑似由AI生成”；如果账号有多条AI内容都未标识，会限制流量分发；如果这些内容造成了恶劣影响，则会被禁言乃至封号。
AI谣言泛滥的问题
不止微博一家碰到
抖音、快手、微信
小红书、哔哩哔哩等多家
国内日活量最大的社交平台
都已要求用户
在上传内容时
声明是否由AI生成
“AI内容农场”
产业链曝光
近一年里
已经有不少
“AI内容农场”
产业链曝光
↓↓
2024年4月，陕西西安警方公布了一起AI造谣案件：涉案人员通过“翠绿笔墨”AI写作软件，将热门社会新闻重新拼凑、替换同义词，并批量生成内容，日均产量高达19万篇，流向6000多个自媒体账号，以获取平台流量分成。
2024年1月，南昌一家MCN机构因编造“西安爆炸”事件遭到警方调查。警方评估显示，负责人一共经营了5家MCN机构，运营账号842个，一天能AI生成4000-7000篇文章，全程基本不需要人工参与。经初步的估算，每天的收入在1万元以上。
为AI内容加标识
是目前解决“深度伪造”
“信息污染”等问题的
主要措施之一
也是国内监管机构
着力推进的方向
☞ 2023年8月开始实施的《生成式人工智能服务管理暂行办法》要求，AI服务提供者对图片、视频等内容进行标识。
☞ 2024年9月，《人工智能生成合成内容标识办法(征求意见稿)》进一步要求，不仅是AI提供者，社交传播平台也需要添加明显的AI标识，区别AI内容和真实内容。
☞ 2025年2月，中央网信办发布2025年“清朗”系列专项行动通知，指出今年的重点会是整治AI技术滥用乱象，强化生成合成内容标识，打击借AI技术生成发布虚假信息、实施网络水军行为等问题。
AI换脸、拟声成违法重灾区
雷军呼吁立法
3月4日，小米集团创始人、董事长兼CEO雷军公开了今年两会的5条建议，其中“加强‘AI换脸拟声’违法侵权重灾区治理”尤为引人关注。
他表示，他本人就是AI换脸拟声的“受害者”。
同在3月，演员刘晓庆在看到某视频号利用AI生成假冒自己的视频后，不禁惊呼“天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？”
警方提醒
互联网并非法外之地
使用AI工具造谣，成本低、影响大，公安机关将继续保持对该类谣言的严打态势。同时，警方也希望大家保持理性思考，提高防范意识，积极抵制网络谣言，做到“不造谣、不信谣、不传谣”，携手共建文明有序的清朗网络空间。
来源：幸福福田