摘要：公安网安部门查明，网民徐某强（男，36岁）为博取流量、谋取非法利益，于2025年3月10日10时，使用软件“某书”中AI智慧生成功能，输入社会热点词制作了标题为“顶流明星被曝境外豪赌输光十亿身价引发舆论海啸”的谣言信息，并对外发布，严重扰乱公共秩序。公安机关根

▲类似谣言接二连三出现，无比迫切地说明，在生成式人工智能时代，我们面临更为严峻更为复杂的谣言治理挑战。图/IC photo

所谓“超一线男星澳门赌博输10亿”的传言被辟谣了。

据央视新闻报道，公安网安部门查明，网民徐某强（男，36岁）为博取流量、谋取非法利益，于2025年3月10日10时，使用软件“某书”中AI智慧生成功能，输入社会热点词制作了标题为“顶流明星被曝境外豪赌输光十亿身价引发舆论海啸”的谣言信息，并对外发布，严重扰乱公共秩序。公安机关根据相关法律法规，对徐某强处以行政拘留8日的处罚。

所谓的“惊天大瓜”，不过是又一个拙劣的谣言。徐某强“喜提”8日行拘，也算是“求仁得仁，又何怨乎”了。

回过头来看这则谣言，又是“超一线男星”，又是“澳门赌博”，加上惊悚的“输掉10个亿”这样的“炸裂”情节，妥妥的爆款话题。但其又不指名道姓，在“似与非似”之间让网民“猜猜猜”。

被对号入座的周杰伦、黄晓明纷纷无奈辟谣，可谁又在意“六子到底吃了几碗粉”？造谣者要的是制造话题中心的爽感与流量，“吃瓜群众”满足了窥私欲，得到了社交谈资，谣言注定一发不可收拾地铺满了全网。

这则谣言，让人想起前段时间那条骇人听闻的“80后死亡率”传言。有消息言之凿凿称，“80后死亡率突破5.2%，相当于每20个80后中就有1人已经去世”，配上所谓第七次全国人口普查的“权威数据”，一下子就收割了大批信以为真的群众。只是，这则传言最终同样被证实为“AI造”。

类似谣言接二连三出现，无比迫切地表明，在生成式人工智能时代，我们面临更为严峻更为复杂的谣言治理挑战。AI加持之下，只要给大模型软件提供一个清晰指令，它就能快速生成一个有鼻子有眼的谣言，造谣的难度与成本大大降低。与此同时，因为这类谣言借助了丰富的大模型语料库，生成的谣言足够以假乱真，这又进一步提高了谣言的辨识与溯源难度，辟起谣来也就更加困难。

谣言的生成与治理，归根结底还是一个AI技术伦理的问题。应该清醒地认识到，目前能被公开辟谣的AI谣言只是极少数，因为谣言只有进入公共视野，才有机会得到有效介入。还有大量的AI谣言混杂在海量互联网信息中，逐个儿辟谣如大海捞针，几乎不可能。眼下最务实的办法，可能还是从技术源头入手，堵住AI谣言的制造与传播路径。

两会期间，就有人大代表提出，有必要对AI生成的内容进行强制标识，并明确对人工智能深度合成服务商未履行标识义务的惩罚制度。这一建议得到很多网友的附议。大家相信，只要做到“所见即所得”，谣言就会被轻易识破。

事实上，对AI生成内容强制标识，已经被写进了《生成式人工智能服务管理暂行办法》与《互联网信息服务深度合成管理规定》两部部委规章。譬如后者就明确规定：深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。《办法》也做了类似要求。

这表明，AI生成内容强制标识在政策层面已经达成了共识，并被纳入了治理轨道。但现在，仍有一些大模型工具与平台，没有做好衔接与落地。人们经常看到，在一些短视频平台上，AI生成的内容会被打上明显标识，但在图文类平台上，这种标识似乎依然少见。

当然，政策层只是提出了一个笼统要求，执行层面如何标识，还需要各大模型公司在实践中不断摸索。譬如，怎样标识才能让人看出“一眼假”？如何平衡内容安全与创作自由的关系？如果有人在传播过程中将标识刻意剪掉又该如何预防与处理？这些问题都需要在实际场景中一一对应破解。

AI势必会给人类生活带来巨大改变，AI造假也是新技术兴起之时难以避免的衍生问题。我们不能奢望AI时代是个一尘不染的美丽新世界，但尽可能地为新技术套上道德伦理笼头，让虚假信息远离我们的生活，值得所有人为之努力。在此过程中，互联网技术平台需秉持技术向善，网民需要提高AI素养，监管和法律也必须及时跟上技术进步，确保用户权益不被AI侵犯。

撰稿 / 新京报评论员 王言虎

编辑 / 迟道华

校对 / 赵琳

来源：新京报