AI打败AI,还不够?

360影视 国产动漫 2025-03-25 19:29 3

摘要:幽默是一门艺术,能巧妙的化解争议,知名演员黄晓明是这方面的高手,触动人心的落日美景,再加上一句“十亿欢乐豆”的随性调侃,将轩然大波的澳门赌债传闻化作段子,藏着四两拨千斤的机智。

幽默是一门艺术,能巧妙的化解争议,知名演员黄晓明是这方面的高手,触动人心的落日美景,再加上一句“十亿欢乐豆”的随性调侃,将轩然大波的澳门赌债传闻化作段子,藏着四两拨千斤的机智。

一线明星澳门赌博输10亿的传言让黄晓明、周杰伦无奈中枪,事后查明这是一起为博取流量而制造的虚假信息,纯粹是“无中生有”,网民徐某强受到了行政拘留8日的处罚。

虽然谣言使用了AI智慧生成功能,但谣言制造者无疑掌握了流量密码,“一线明星”“澳门赌博”“输10亿”三个关键词,自带“天赋异禀”的传播要素,“似与非似”的模糊性增加了悬疑成分,“让你猜猜猜”让话题传播更具“炸裂度”,一场流量的狂欢让谣言迅速传遍全网。

细思极恐!理论上,“流量密码+AI生成”一天能够产生的谣言可以达到上千条,有人预测过最终的结果:人类不再说话,机器成为人类的代言者。

自生成式AI介入信息秩序以来,人类社会就开始从戴维.温伯格所总结的经典时期、数据事实时期、网络化事实时期进入第四个历史时期——无事实时期,也就是虚假新闻充斥下的“后真相时代”。

高歌猛进的人工智能呈现了一柄双刃剑——深度伪造,互联网时代的“有图有真相”也将苍白无力,消解秩序与信任,带来的是混乱与无序,严重程度不亚于一场战争,有人称之为“信息战”。

AI时代的谣言治理已经到了刻不容缓的地步。今年年初,世界经济论坛发布的《2025年全球风险报告》,其中列举的五大风险中就包括虚假信息,可见虚假信息已经成为人类社会的一大公害,冲击正常社会秩序,迫切需要改变。

两会期间,就有人大代表指出,AI技术带来了新的治理挑战,有必要对AI生成的内容进行强制标识,并明确对人工智能深度合成服务商未履行标识义务的惩罚制度,也就是让AI内容“穿衣戴帽”。

“AI的归AI”,对AI生成内容强制标识,已经纳入治理轨道,写进《生成式人工智能服务管理暂行办法》与《互联网信息服务深度合成管理规定》两部部委规章,它的核心逻辑是通过技术标识串联生成、传播、监管全链条责任,为监管溯源提供底层支撑,同时构建了责任闭环,从源头到终端的全流程管理,打破了事后追责的单一模式,折射出AI时代治理逻辑的升级迭代,从被动堵漏到主动设防,从单一监管到多元共治,从规则跟随到标准输出,向善的价值标准约束AI技术与内容。

“AI的归AI”,站在传统的视角,就是划行归市的治理办法,如果有人刻意不标注AI标识,又如何防范?虚假新闻制造者,往往浑水摸鱼,掺杂其中,AI是技术、是工具,给它发出指令的是人。

AI谣言治理的核心是人性的约束,技术向善首先是人性向善,管住了人就管住了AI,需要构建“技术+法律+公众”三位一体的共治体系,道魔力量才会是此消彼长的不对称博弈。

用AI打败AI是关键手段,西湖大学研发出了一套无监督检测系统,对于AI生成文字的判断准确率高达95%以上,头条的识别率98.6%,技术并非万能,AI不能100%消除虚假内容,但AI是第一道护城河,是构筑数字文明底座的坚强基石。

十亿赌债的谣言刚平息,一则“成都艾滋病17万人”的谣言出现某平台,转发五千余次,导致部分网民产生恐慌情绪,公安部门查证是唐某为泄私愤,故意编造的不实言论。

为什么谣言会接踵而至?这揭示了目前制度设计方面的治理困境,对于网络谣言是效果追责,而不是行为追责,要从制度设计上形成“信息不虚假,虚假不信息”,一旦查实发布虚假信息,就禁入网络,相当于酒驾吊销驾照,对网络谣言零容忍,只有利剑高悬,才能威慑恶意霄小之人,给人性拴上一根良善的红丝带。

徐某强案又一次给信息安全敲响了警钟,谣言止于技术突破与制度设计的合围,让人性与技术服务于真实,信息技术的光芒照亮前行道路,美丽新世界的场景将更令人向往!

来源:有人说骏策论

相关推荐