北师大法学院教授梁迎修:AI在网络辟谣中展现强大应用潜力

摘要:2024年是中国全功能接入国际互联网30周年,也是中国网络法治建设起步30周年。南方都市报聚焦中国网络法治建设成效,结合网络法治发展方向等热点问题进行深入讨论,邀请网络法律专家,开展“网络经纬·e法同行”系列专家访谈报道。

2024年是中国全功能接入国际互联网30周年,也是中国网络法治建设起步30周年。南方都市报聚焦中国网络法治建设成效,结合网络法治发展方向等热点问题进行深入讨论,邀请网络法律专家,开展“网络经纬·e法同行”系列专家访谈报道。

第三期,一起关注网络谣言治理。

编造传播虚假信息“造热点”“蹭热点”“带节奏”, 炒作热点事件进行引流牟利……网上虚假信息和谣言,严重扰乱社会秩序和网络空间秩序,危害广大网民合法权益。

开展网络辟谣,治理谣言乱象,是网络生态治理的重要内容。北京师范大学法学院院长、教授梁迎修在接受南都专访时表示,近年来,国家高度重视网络谣言问题,多措并举,综合治理,不断取得成效。他指出,随着AI技术发展,AI生成虚假信息对网络谣言治理带来了新的挑战,但同时,AI技术在网络辟谣工作中展现了强大的应用潜力,为网络谣言治理提供了新思路和新工具。

我国已构建多部门协作的网络谣言治理体系

南都:目前,我国在网络谣言治理方面采取了哪些举措、取得哪些成效?

梁迎修:首先是在网络谣言治理方面建立了多层次的法律法规体系,为治理网络谣言提供了法律依据。《宪法》明确禁止诽谤和诬告陷害行为;《刑法》规定了编造、故意传播虚假信息罪、诽谤罪等罪名;《民法典》禁止以侮辱、诽谤等方式损害公民的名誉权,规定了网络服务提供者对于谣言的合理注意义务和管理义务;《治安管理处罚法》规定对散布谣言扰乱公共秩序行为可以施以行政处罚。《网络安全法》《互联网新闻信息服务管理规定》《网络信息内容生态治理规定》等网络领域专门法律又进一步细化了网络谣言治理的具体要求。

其次,我国针对网络谣言开展了一系列专项行动,依法打击造谣传谣行为,建立联合辟谣平台,持续开展辟谣宣传和普法教育,提高了公众识谣、辨谣、防谣能力。

总体而言,我国已构建了较为完善的多部门协作的网络谣言治理体系。通过对虚假信息的源头追踪和快速辟谣,网络谣言传播得到有效遏制;对于编造和传播重大谣言行为,有关部门能够及时采取法律措施予以处罚;公众的网络素养逐步提升,越来越多的人能够识别并抵制虚假信息。

AI技术为网络谣言治理提供新思路新工具

南都:人工智能技术的发展,给网络谣言发现、查证工作带来怎样的挑战?

梁迎修:第一,增加了网络谣言的欺骗性。AI生成的虚假信息具有高拟真性,包含新闻要素,甚至配有图像和视频,增加了谣言的迷惑性,使得公众难以辨别真伪。

第二,提高了网络谣言的核验难度。由于AI生成的虚假信息高度逼真且多变,传统的人工核验手段难以快速有效识别。AI生成的谣言查处面临举证难、信息源模糊等困难,需要投入更多时间成本进行核验。

第三,加快了网络谣言的传播速度。AI技术的普及降低了制造和传播虚假信息的成本,使得虚假信息的制造者更容易利用AI技术进行造谣、欺诈甚至操纵舆论。

此外,AI生成内容的匿名性和快速传播特性使得追踪和问责变得更加困难,这对网络谣言治理能力提出了更高要求。

南都:人工智能技术在网络辟谣中应用场景、功能优势有哪些?如何健全法治引领科技向善?

梁迎修:AI技术在网络辟谣工作中展现了强大的应用潜力,拥有谣言内容识别、谣言路径追踪、自动化辟谣、谣言预防教育等多方面应用场景,为网络谣言治理提供了新思路和新工具。

第一,在谣言内容识别方面,AI技术可以通过大数据和机器学习算法,对网络上的文本、图片、视频等多媒体内容进行快速分析,甚至可以识别文本关键词,鉴别其是否为伪造或篡改的内容。

第二,在谣言路径追踪方面,AI技术有助于对谣言的源头进行快速追溯,找出谣言的最初发布者或传播者。AI还可以追踪谣言在网络上的传播路径,分析谣言的传播速度和范围,这种预测能力有助于防止谣言进一步扩散。

第三,在自动化辟谣方面,AI技术可以根据谣言的具体内容和形式,自动生成辟谣文字、图片或视频等。还可以根据目标受众的认知偏好和背景信息,生成个性化的辟谣解释,增强辟谣的可接受性和有效性,使受众更容易理解和接受辟谣信息。

第四,在谣言预防教育方面,运用AI技术构建谣言预警系统,能够有效地对网络上的信息进行实时监测和分析,及时发现并预警潜在谣言,干预和制止谣言扩散。AI技术还可以通过生成、传播有关识别和防范谣言的教育内容,提高公众的媒介素养和谣言防范能力。

“科技向善”理念明确了科技发展的伦理导向和价值取向。法治是保障科技向善的重要途径。首先,通过立法将科技向善确立为一项法律原则,并以此原则为指引来设计与科技研发应用相关法律制度。其次,在法律实施过程中严格执行,有效防范科技滥用的风险。

出品:南都大数据研究院

采写:南都记者 唐静怡 袁炯贤

来源:南方都市报一点号

相关推荐