【打击整治网络谣言】你听说过AI造谣吗?

摘要:借助AI技术手段制造不实信息,已成为当下信息传播领域面临的一大新挑战,其特点鲜明且危害突出,不仅侵蚀了信息的真实性,平生事端形成舆情,扰乱了社会秩序与公众认知。眼见不为实,真假难分辨,生成举手间,查处更困难。

【打击整治网络谣言】

你听说过AI造谣吗?

借助AI技术手段制造不实信息,已成为当下信息传播领域面临的一大新挑战,其特点鲜明且危害突出,不仅侵蚀了信息的真实性,平生事端形成舆情,扰乱了社会秩序与公众认知。眼见不为实,真假难分辨,生成举手间,查处更困难。

【AI制作不实信息具有以下特点】

迷惑性强。AI技术的高度发展使得谣言制造者能够精准模仿真实人物的声音、外貌乃至行为模式和语言逻辑,使得谣言内容在感官上极具欺骗性。普通民众往往难以分辨真伪,极易被误导,极易信以为真。

刺激度高。为了吸引眼球、吸引流量,或以此获利,或制造话题谈资,或炫耀技术。AI生成谣言的制作者,往往围绕热点事件或敏感话题来做文章,通过虚构事实,或编造耸人听闻的情节,或以当事人的口吻发表夸张言论,或制造新的矛盾冲突点,或提供更“生动”的细节,以此激发公众的好奇心与情绪反应,从而达到让事件关注度、影响力升级的目的。

传播力广。借助AI发布的音视频,做为某起特定事件的新鲜素材,往往依托社交媒体、短视频平台等新媒体渠道,能够以病毒式速度扩散,迅速覆盖大量用户,又因为音视频本身的易二次加工属性,不断变种迭代,这让不实信息跑得更快更广,特别是被媒体账号做为信源引用报道后,就又借助了媒体的影响力和公信度,继续提速传播。

伤害力大。做为被假借身份的事件当事人,会因为这种“本人言论”,而迅速成为被关注、被指责、被情绪攻击的对象,仅澄清辟谣往往百口莫辩。自己说不是,但网民就不信。特别是当这类AI谣言以“偷拍偷录、知情人透露、设备丢失或维修无意流出”等方式包装时,更会让公众产生信源可靠的印象。同时,作为事件矛盾的另一方,往往则会因为这一“挑衅言论”的出现,选择回击回应,于是事件冲突更加激烈。

查处较难。AI谣言查处至少面临三个困难,第一虽有辟谣但举证难,被假冒人难以自证不是自己所为;第二信源模糊,造谣者为自我掩饰,可能会采取据传,大家来判断等话术,不点明音视频来源,若是只想添柴挑事的,可能会把素材提供给某些领域的自媒体,本人并不直接发,这让查询源头更困难;第三就是技术鉴定,官方调查要有规范的流程和明确的依据,来证实真假,而AI技术本身的匿名性和隐蔽性使得谣言的源头追踪就十分困难。同时,由于AI生成的方式方法具有多样性和复杂性,包括使用工具的差异,专业机构鉴定需要花费大量时间和资源,这无疑增加了查处的难度和成本。

【AI类谣言信息的危害】

一旦AI谣言进入公众视线,由于其高度的真实感和刺激性,“眼见为实铁证凿凿”,往往能迅速获得关注并被广泛转发,直接推高舆情热度。而辟谣和处理谣言又需要一定的时间过程,在信息空窗期内,公众的心理和看法都会受到这种AI谣言的直接影响,形成对某起事件的情绪态度,即使后续反转,但前期对于涉事方的伤害已经造成。哪怕是在证实为谣言,处理AI制谣者后,也让公众对于网络信息的真实性、AI的可怕性造成心理阴影,从先入为主看了就信向对啥都不信转化。

【AI谣言的应对查处】

查处AI谣言,要采取法律加技术,管理加防御的组合拳。

从法律上,要对法律法规不断完善,明确AI谣言的法律责任,提高违法成本,同时建立健全跨部门协作机制,提升谣言监测、处置、打击的效率。

从技术上,要以魔法打败魔法,用更先进的AI识别技术手段,来更快更准地发现识别过滤虚假信息。

从管理上,则还是要强化平台责任,对于有明确辟谣,信源存疑,主责部门已介入调查的内容有一定的先期限制措施或标识说明,至少让公众看到时,知道这一信息存在争议及不确定性。

从心理防御上,则是让公众对于AI技术的能力和使用界线,形成符合社会主流价值观的认知,技术本无错,但无规则乱用就是问题,就需要有针对性的解决办法,加以监督限定。

网警提醒

网络绝非法外之地,更不是谣言滋生的摇篮,请广大网民坚决做到不信谣、不传谣,不造谣。面对网络谣言的“炮制者”,必须果断抵制、积极举报,让我们携手共建清朗有序的网络空间。

来源:西宁城北公安一点号

相关推荐