比明星塌房更可怕的事:AI造谣进入“1分钱流水线”时代

360影视 动漫周边 2025-03-14 19:08 3

摘要:“有顶流明星在澳门输了10亿”这条消息相信很多人都看到了,相关话题在热搜上挂了两天。今天,结果出来了,是有人通过AI生成的谣言,涉事的徐某强已经喜提银手镯。

“有顶流明星在澳门输了10亿”这条消息相信很多人都看到了,相关话题在热搜上挂了两天。今天,结果出来了,是有人通过AI生成的谣言,涉事的徐某强已经喜提银手镯。

虽然人抓到了,事情也澄清了,但在这里我要说,以后这种事情会越来越多。理由也很简单,造谣的内容、成本和方式越来越多,越来越方便,收益越来越高。

根据科技自媒体博主阮一峰的核算,使用某国产大模型API批量生成文章的成本,一篇AI文章的成本是人民币0.00138元,一分钱可以生成七篇文章。就是这种文章,却能在几小时内刷屏热搜,甚至让明星、企业、公众付出非常大的代价。

任何技术都是一把双刃剑,AI技术也不例外。现在有了AI技术的加持,谣言生产都可以进入流水线作业。

1、传统谣言的“生产模式”彻底颠覆了

上游:技术赋能的“造谣神器”

国产大模型API的普及让造谣变得前所未有的简单。一些中小型AI公司打着“智能创作助手”的旗号,开放了几乎无限制的内容生成接口。输入几个关键词,比如“明星出轨”“某地灾难”,几秒钟就能生成一篇千字长文。

更夸张的是,有人甚至在暗网上卖起了“谣言生成器”,内置模板涵盖“明星绯闻”“社会恐慌”等热门题材,连伪造的政府红头文件都能一键生成。这种技术工具就像“军火商”,为下游黑产提供了源源不断的弹药。

中游:批量生产的“谣言洪流”

有了低成本的AI工具,黑产团队开始大规模“开厂”。比如西安有个团伙,利用3000个自媒体账号,每天靠AI生成19万篇内容,标题五花八门:“某明星私生子曝光”“某地爆发未知病毒”。

这些文章专门研究平台的推荐算法,塞满“突发”“内幕”这样的高频词,轻松触发流量池推送。更狠的是,他们还会在文章里加伪造的数据图表,比如“80后死亡率90%”,让算法误以为是“高价值内容”,优先推送给用户。

下游:流量变现的“金矿”

低成本的投入,最终换来的是动辄百万的收益。怎么赚?一是靠平台广告分成,一篇10万阅读量的文章就能拿500到2000元的补贴,月入50万的账号比比皆是。二是“黑五类”带货,比如编个“某院士推荐抗癌秘方”的谣言,引流到私域卖三无保健品,单日销售额能破百万。还有更黑的玩法——敲诈勒索,编造“某企业产品致癌”的谣言,再收“删帖费”。2024年广东有个团伙就靠这招赚了2000多万,撬动了整个“数字黑市”的暴利链条。

2、技术与人性的“失衡游戏”

最先进的技术,往往最先击中的是人性中最软弱的地方。

传统造谣需要写手、图片、传播团队,成本少说几百块。现在呢?0.00138元一篇,边际成本几乎为零,一个人就能干翻过去整个团队。司法数据显示,2024年网络造谣案平均量刑才6个月,可一条爆款谣言就能赚百万,违法的“性价比”高得离谱。这种失衡让更多人铤而走险,把AI当成了“印钞机”。

*平台的“流量纵容”

平台的算法也不是无辜的。为了留住用户,它们更喜欢推送“情绪化”内容。测试表明,带“震惊”“速看”字眼的AI谣言,点击率比普通新闻高300%。虽然抖音、微博要求AI内容标注来源,但黑产早就学会了绕路,比如加乱码、改语序,骗过机器审核。某平台测试发现,AI伪造的“某市地震预警”通知,过审率居然高达72%。0.00138元的谣言,靠着平台的“推波助澜”,变成了全民狂欢。

*人性的“猎奇软肋”

用户也有责任。信息过载的时代,大家刷手机快得像闪电,平均3秒划一次屏,根本没时间分辨真假。调查显示,65%的人转发谣言前没查过出处。加上年轻人对传统媒体的不信任,AI生成的“内部文件流出”式谣言特别容易火。比如“某疫苗致死率数据”,转发量硬是比官媒辟谣高10倍。0.00138元的谣言,戳中了人性好奇又懒惰的弱点。

3、唯一出路:用AI打AI

对付AI谣言,最好的武器还是AI。腾讯的“灵鲲”系统能通过瞳孔反光、像素噪点识别伪造图片,准确率98%。阿里以前也搞过一个AI谣言粉碎机,用哈希值比对全网内容,30秒就能揪出同源谣言账号。

此外,法律也要加码,让造谣者赔不起

光抓“徐某强”这样的小鱼小虾不够,得打整条链条。杭州互联网法院2024年的判例开了先河:AI工具商如果明知用户造谣还不拦,得多赔30%的责任。网信办还打算出新规,按传播量罚——10万次转发就判3年,彻底打破“法不责众”的幻想。0.00138元的成本,得配上百万级的罚款才公平。

平台也可以试试“流量税”,对没标注的AI内容收50%广告费,拿去研发反谣技术。学校也得动起来,开“信息素养课”,教大家“三看识谣”:看信源是不是官方,看数据能不能查证,看文章是不是故意煽情。只要公众不轻信,0.00138元的谣言就没市场。

AI时代最严峻的挑战之一,就是技术跑得太快,人性和监管还没跟上。

这条AI造谣产业链,就像一场流量狂欢下的“数字黑市”,靠着低成本和高收益疯狂生长。要终结它,不能只靠技术或法律,得让造谣者赚不到钱,让平台不敢纵容,让每个人都学会怀疑。“数字时代,真实是底线的底线。”

谣言越廉价,信任才越可贵。

来源:元代码世界

相关推荐