理论周刊|面对“AI说谎”,网络治理如何跟上?

360影视 2025-01-14 06:03 2

摘要:■ChatGPT生成式人工智能技术代表着信息技术发展的前沿方向,却隐含着数据垄断、文化软性渗透、意识形态偏见等,或将引发内容失实、防线失守、监管失灵等问题,冲击网络空间的价值认同,给智能传播带来诸多不确定性

■ChatGPT生成式人工智能技术代表着信息技术发展的前沿方向,却隐含着数据垄断、文化软性渗透、意识形态偏见等,或将引发内容失实、防线失守、监管失灵等问题,冲击网络空间的价值认同,给智能传播带来诸多不确定性

■网络综合治理涉及多头多部门,部门间统筹机制还不够畅通,导致在监督管理中出现“部门壁垒”“政策壁垒”“信息壁垒”,阻滞了网络综合治理体系协同效能的发挥

新挑战下如何推进网络综合治理

□ 冀翠萍

网络文明是新形势下社会文明的重要内容。截至2024年6月,我国网民规模近11亿人(10.9967亿人),互联网普及率达78.0%。庞大的网络用户规模、蓬勃发展的互联网新技术新业态深刻改变了我们的生活方式,但与此同时,网络暴力、低俗摆拍、算法杀熟、AI欺诈等乱象也随之而来,对网络综合治理提出迫切要求。

党的二十届三中全会审议通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》明确提出,健全网络综合治理体系,并将其作为深化文化体制机制改革的重要内容之一,这体现了党中央对互联网这一最大变量的高度重视,体现了对互联网治理的规律性认识。必须深刻领会党中央改革部署的重要意义,准确把握新形势新技术给互联网治理带来的风险挑战,不断健全网络综合治理体系,推动形成良好网络生态,更好服务和保障新时代新征程强国建设、民族复兴伟业。

智能传播新技术成为影响治理效能的关键变量

当今世界,世界各大国均把信息化作为国家战略重点和优先发展方向,围绕网络空间发展主导权、制网权的争夺日趋激烈,世界权力图谱因信息化而被重新绘制,互联网成为影响世界的重要力量。

我国全功能接入国际互联网30多年来,不断加强和完善党对互联网的领导,建立健全网络综合治理体系,动员党委政府、社会组织、平台机构和社会公众等多元力量,构建以网络安全法为核心的安全法律法规和政策体系,网络不法行为、网络乱象得到有效整治,切实维护了人民群众合法权益,保障了意识形态安全和政治安全。

尽管我们在网络综合治理方面取得了突出成效,但也要看到,网络空间治理仍然面临不少困难挑战,特别是新技术新应用迭代过程中不断产生新问题,新技术新发展也会与老问题交织叠加,放大老问题的同时形成新形态新格局,共同加大问题解决的难度。

智能传播新技术成为影响治理效能的关键变量。大数据、元宇宙、算法推荐等新技术方兴未艾,短视频、直播、生成式人工智能等新应用加速迭代,网络广告、直播电商、大模型等新业态层出不穷,新技术新应用新业态全面渗透到信息传播过程并作用于社会系统,改写或重塑人类的认知模式及行为方式,各种“黑天鹅”“灰犀牛”事件随时可能发生,给舆论生态、网络安全、数据安全等带来风险挑战。以算法推荐为代表的数字技术,披着“技术中立”的外衣,深度嵌入信息生产、分发、反馈各环节,开启了以精准性为主要特征的智能传播,一定程度上掌握着信息的可见性,也掌控着用户的注意力资源分配,成为网络社会动员的潜在力量。ChatGPT生成式人工智能技术代表着信息技术发展的前沿方向,却隐含着数据垄断、文化软性渗透、意识形态偏见等,或将引发内容失实、防线失守、监管失灵等问题,冲击网络空间的价值认同,给智能传播带来诸多不确定性。各类风起云涌的AI大模型,存在个人信息、敏感数据泄露的风险,甚至以低成本低门槛制造逼真、欺骗性的虚假信息,教导人们如何传播歧视性思想,给人民群众生产生活带来严重负面影响。

面对不断革新的智能技术,面对不断变化的样态格局,互联网管理体制机制一定程度上还存在不相适应的问题。网络综合治理涉及多头多部门,部门间统筹机制还不够畅通,导致在监督管理中出现“部门壁垒”“政策壁垒”“信息壁垒”,阻滞了网络综合治理体系协同效能的发挥。实现强国建设、民族复兴伟业,推进中国式现代化,迫切需要用改革的思维,探索适应网络空间特点和规律,适应新技术新形态发展需求的治理机制,持续深化健全网络综合治理系统的改革,保障互联网始终沿着正确的轨道健康发展。

由事后管理向过程治理转变、由多头管理向协同治理转变

网络空间作为一个开放的复杂系统,健全网络综合治理体系需要摒弃传统条块分割的治理思维,坚持整体性、系统性、一体化的思维方式,坚持正能量是总要求、管得住是硬道理、用得好是真本事,把促进网络健康发展作为出发点和落脚点,持续深化互联网领导管理、正能量传播、内容管控、协同治网、依法治网、技术治网体系建设,着力推动网络空间治理由事后管理向过程治理转变、由多头管理向协同治理转变,实现网上网下一体化治理。

强化组织引领,深化网络管理体制改革。坚持和加强党对网络综合治理的全面领导,加强完善跨部门协同联动格局,发挥网信部门统筹协调作用,加强网信部门与管网治网各部门的沟通协调。压实网络平台的主体责任,增强头部平台的社会责任意识,明确MCN机构在网络空间治理中应该承担的主体责任。通过明确职责、界定边界,调动政府部门、行业协会、第三方平台、MCN机构、社会公众等共同参与,形成网络空间治理的强大合力。整合网络内容建设和管理职能,推进新闻宣传和网络舆论一体化管理。既要加强网上舆论引导机制,加强网络内容建设,做强网上正面宣传,做好党的创新理论和路线方针政策的网络宣讲,引导各级政务新媒体账号围绕人民群众关心的热点问题主动发声、积极引导,巩固壮大主流思想舆论;又要健全网上舆情风险防范机制,加强舆情风险监测预警,注重对舆情的分析研判,及时揭露澄清谣言,有力批驳错误思潮,坚决清理有害信息,坚持解决问题与舆情处置两条线并重,加强网上网下联动处理机制。

强化技术治网,规范生成式人工智能发展和管理机制。生成式人工智能作为引领和驱动未来颠覆性技术发展的新兴技术样态,在赋能经济社会发展方面表现出强劲动能,同时也给技术规范、数据安全、伦理道德等带来挑战。要坚持高质量发展和高水平安全互动,寻求发展与安全的平衡,既推动这一领域的技术进步与产业发展,抢占国际制高点,也做到这一领域的风险防范与安全保障,引导技术向善向上。一方面,着力推动生成式人工智能赋能行业发展。坚持自主可控,鼓励生成式人工智能算力芯片、算法框架等领域的自主创新,推进人工智能基础能力建设,加强人工智能基础大规模研究和应用场景创新,持续激发大模型领域企业创新活力,促进大模型技术在各行业各领域落地应用。另一方面,着力防范生成式人工智能衍生滥用风险。坚持底线管控,《生成式人工智能服务管理暂行办法》划出个人信息泄露、虚假内容生成、知识产权侵权等方面的底线,在此基础上,按照分类分级监管的思路,探索建立生成式人工智能风险等级测试评估体系,常态化开展大模型备案和发展合规指导,不断完善与创新发展相适应的监管方式。

强化依法治网,健全网络生态治理长效机制。新时代新征程,着力把依法治网作为基础性手段,着力把加强网络空间法治建设作为健全网络综合治理体系的关键手段,着力把健全网络生态治理长效机制作为实施网络强国战略的必然要求,着力从完善基础规则、优化监管方式上推进依法治网创新。进一步完善网络空间治理法律体系,立足信息技术发展的趋势与特征,提高立法的及时性与针对性,确保有效回应依法治网现实需求。不断创新互联网监管方法手段,除了网络法治等制度化建设之外,为了打击网络乱象、保障治理时效,采取专项治理、专项行动等策略性手段方法,近年来推进的“护苗”“净网”“剑网”等专项整治行动,为管网治网长效机制建设积累丰富经验,也为构建清朗网络空间打下坚实基础,在此基础上,继续统筹执法管理、行业自律、网民举报等,健全网络生态治理长效机制,确保互联网始终在法治轨道上健康运行。

来源:大众日报

相关推荐