江小涓:数智时代的秩序重构与治理合作:合理合意双重目标

360影视 欧美动漫 2025-05-09 19:01 1

摘要:所有社会都需要秩序,有秩序才会有稳定预期、降低不确定性,为个体与集体决策提供可信依据。社会秩序受到技术性或社会性冲击出现紊乱并且无法自我调节和恢复时,新旧秩序替代过程必然出现。当下,数字技术和人工智能技术在经济社会各个领域广泛深度应用,在创造新产品新服务、提高

所有社会都需要秩序,有秩序才会有稳定预期、降低不确定性,为个体与集体决策提供可信依据。社会秩序受到技术性或社会性冲击出现紊乱并且无法自我调节和恢复时,新旧秩序替代过程必然出现。当下,数字技术和人工智能技术在经济社会各个领域广泛深度应用,在创造新产品新服务、提高生产效率与消费者福利的同时,对传统经济社会秩序带来显著冲击,秩序重构已是进行时。

较长时期以来,各方面对数智时代技术规则和经济社会秩序相关问题的讨论,大多集中在道德层面、理念层面和意愿层面。例如,对数字技术发展方向的讨论中,技术向善、以人为本、普惠共享等是高频词语;再如,对人工智能规则与伦理问题的讨论中,尊重人、服务于人、透明、责任、向善、开放、包容等是主流表达。这些原则性表达无疑是正当、有共识和令人向往的,业界和社会认同度较高。虽然多年来这些原则被反复陈述讨论,但落地实践推进缓慢,缺乏可计算、可测度和可比较的维度或指标,因而在相当程度上无法判断各种技术和应用是否匹配上述理念,也无法测度优劣或差异,并进行选择和优化,更无法权衡相互冲突的因素和提出明确具体的治理路线和治理手段。导致这种状况的一个重要原因是社会科学各个领域和学科未能将这个问题与本学科的理论逻辑相结合,将其置于学术体系框架中进行讨论和深化,从而无法进入以理论推进共识、以共识推动实践落地的进路中。

本文希望在上述理念和原则的指引下,将问题引入社会科学特别是经济学和社会学体系中,寻求定义更加明确具体的评价体系、核心维度和收敛方向,辨析已有的秩序规则及其导向,明确未来秩序重构的着力点和动力源。就此本文提出以下3个核心观点。第一,强调合理性与合意性。经济社会秩序优劣之根本,在于是否有利于经济发展和社会和谐。中国共产党将经济快速发展和社会长期稳定作为执政的主要目标,国内外社会科学界也将这两个目标置于评判经济社会制度优劣的顶层位置。由此出发,本文使用“合理性”与“合意性”作为评估新秩序的两个核心维度:从经济学角度,将“社会资源配置效率提高和发展成果相对公平分配”定义为合理;从社会学的角度,将“具有最大公约数的社会共识和社会稳定”定义为合意,向这两个维度趋近和收敛,就是效率较高、相对公平、共识度高的社会秩序。第二,强调弱秩序(自发秩序)与强秩序(制度秩序)并重。新的社会秩序涉及多方利益关系调整,需要各方充分博弈互动。因此,市场和社会各方自发合作形成的“弱秩序”与公权力介入形成的“强秩序”将长期并存。第三,强调社会科学的重要性。合理性与合意性成为核心维度,多方治理合作成为重要路径,这表明人文社会科学在新秩序构建中要发挥重要作用,这既是人文社会科学界应尽的社会责任,也是推动学科发展的时代机遇。

一、经济社会秩序:两组分类及其作用机理

(一)自发秩序与制度秩序

市场或社会有效运转都需要秩序。本文强调秩序有关阐释中的这层涵义:秩序规定个体之间、组织之间以及个体和组织、政府及社会之间稳定、可预期的交易和交往规则。马克思就曾经指出,秩序是一定的物质的、精神的生产方式和生活方式的社会固定形式,因而使它们相对摆脱了单纯偶然性和任意性的形式(马克思、恩格斯,1974;马克思,2018),众多学者也都有过经典表述。构成秩序的要件是规则,包括多种形态的道德规范、默认交往方式、法律条文和行政命令等,它们构成社会各个方面处理相互关系的行为准则(诺斯, 1992)。秩序之所以重要,是因为事关“交易”“交往”和“预期”,对即时交易者而言,需要有规则来防止和处置各种不履约和欺诈行为;对长期投资者而言,需要有规则来保护产权和执行远期合同和跨期交易;对创新者而言,需要有规则来分散风险并为成功者提供高回报。否则,分工与交易中的各种避险行为会降低社会资源配置的总体效率(理查德·斯威德伯格,2007;威廉姆森,2018)。

秩序可以内生于市场和社会,即自发秩序;也可以外生于公权力,即制度秩序,制度秩序主要有3种:行政监管秩序、法律秩序和管制秩序(哈耶克,1973)。自发秩序是社会新秩序生成中首先出现和始终存在的重要部分,自发秩序主要内生于大量重复的市场交易和社会交往之中,是解决经济社会秩序问题的基础(詹姆斯·M.布坎南,1988)。各方博弈后的共识、社会公德良俗的约束、个人和组织对自身信誉的珍视、人类内心“善”引发的自我约束等都能推动自发秩序的形成。许多经济社会中的规则,如交易自愿、讨价还价、履行合同、诚实守诺、村民公约、社区守则、团体规则等,都是在市场和社会发展中自发形成且有效运转的。只要是交易交往的群体有共识、能选择、可预知和能遵守,就能保障市场和社会的有序运转。自发秩序和制度秩序都可能带来社会福利的损益,每个时代都是几种秩序不同权重的组合。不同发展阶段、文化特征、价值取向和科技水平等决定着不同国家秩序形成的特点和各种组合(江小涓、黄颖轩,2021)。

虽然自发秩序广泛而有效,但制度秩序必不可少,因为自发秩序时常会受到干扰,并不能一直有效维护市场和社会秩序的合理与合意。挑战主要来自市场与社会中强势者和搅局者的失范行为,比如具有市场控制力的企业的垄断行为、有强权的组织与个人欺行霸市和为所欲为、有信息控制力的一方传递虚假信息、市场竞争失利者不守规则或孤注一掷等。这些都挑战了“共同遵守规则”这个自发秩序有效运转的底线,使自发规则体系不能有效运作,并由此生发了对制度秩序的诉求。

制度秩序是指公权力部门的强制性制度安排所形成的秩序,主要有行政监管秩序和法律秩序两种秩序,还有较少适用的管制秩序。监管秩序是公共机构对那些社会群体重视的活动进行持续集中的控制,监管核心含义在于调整行为活动,以实现公共政策目标(王俊豪,2021;李昌庚,2013;江小涓、黄颖轩,2021)。法律秩序是在尊重市场自发秩序和行政监管秩序的基础上,对已经相对稳定成熟且得到多数认可的关系和规则,由国家制定并强制执行而产生的秩序(科林·斯科特,2018)。上述两种秩序之外,还有一种国家管制秩序,指在战争、重大灾害和其他特定的危急时刻,国家极大缩减经济社会自发秩序并由国家规定经济社会运转规则的秩序。总之,制度秩序具有公权力赋予的强制力。

制度秩序也有内在缺陷。自发秩序有广泛的互利基础和简单的损益计算,个人能力差异和资源条件差别形成的每组交易关系千差万别,当事人才有具体信息做出正确判断。行政和法律部门无法有如此颗粒化认识,公权力部门的工作人员也没有足够的激励与约束机制,容易有意无意误判误断,甚至带来大量不当行为,产生寻租行为,增加社会交易交往成本。此时的秩序既不合理也不合意。因此制度秩序必须有边界,主要处理存在明显外部性、市场失灵和社会失序等问题。

适宜的治理架构是一个公权力与社会各方面合作推进的过程。2009年诺贝尔经济学奖得主奥斯特罗姆提出了多中心治理原则,即公民、社会与政府的治理合作。当社区成员能够建立信任、沟通机制和惩罚规则时,社区可以通过自主治理(Self-governance)有效管理公共资源。但这种自主治理需要社区、区域和国家的协同,即所谓的多层次嵌套制度(埃莉诺·奥斯特罗姆,2000)。合作治理的理想目标是尽可能使“自发秩序”和“制度秩序”带来的两种社会福利损失的净值最小,使社会秩序的合理性和合意性向最大可能趋近。图1(参见正文)展示各种秩序的收益成本和各种组合情况。

(二)弱秩序与强秩序

这里用“强秩序”和“弱秩序”作为另一种分类进行分析。弱秩序主要是指不能运用公权力保障实施的市场与社会自发秩序,强秩序主要是指使用公权力保障实施的制度秩序(朱明婷、徐崇利,2023)。采用这个分类是因为在数智时代自发秩序和制度秩序在“弱”与“强”方面与以往时期相比存在一些显著差别和突出特点,而这些差别和特点在后面的分析中是主线。

数智时代有一些特有或特别重要的自发秩序(弱秩序)。第一是开源社区,从软件到网络到硬件到大模型,各类开源社区依赖于社区成员的自愿贡献和合作,而非严格的合同或规则。第二是技术社群,为技术发展制定非强制性规则。例如,国际电气与电子工程师协会所构建的算法安全印章、算法标识和算法伦理认证制度,推动了社团共同遵守规则的实施(张欣,2025)。第三是各种非政府机构以及国际组织和政府间会议通过的声明、决议、宣言、指南等非条约式成果。这类秩序在以往也存在并发挥作用,但在数智时代的地位和作用特别突出。由于这些特点,本文后面更多地使用“弱秩序”这个概念。

“弱秩序”和过往的“自发秩序”还有一个显著区别,过往的自发秩序多数是普适性的秩序,但数智时代的弱秩序有很强的社群属性和局部控制者,原因是数智技术发展快,应用方式和经济社会影响极为复杂,形成普适性的共识困难,因此往往从有共识的群体开始起步。与普遍适应的自发秩序无具体控制者相比,社群秩序的约束力更强,多数存在着局部“控制者”或“管理者”,而不仅仅是竞争和博弈中各方平衡的自发产物。

综上所述,自发秩序(弱秩序)和制度秩序(强秩序)两者共同发挥作用,使工业革命以来的经济和社会秩序总体上向合理合意的方向演进和收敛。然而这些秩序受到数智技术的明显冲击,失序问题与秩序重构问题紧迫而重要。本文在第二部分先分析数智技术带来的两类冲击,在第三部分回到自发秩序(弱秩序)和制度秩序(强秩序)的框架中,再分析数智时代的秩序重构问题。

二、传统秩序失衡与数智原生秩序:两类冲击及挑战

数智技术的发展带来许多方面的益处:产品与服务极速创新,生产生活便利化程度极大提升,媒体类型与渠道极大扩充以传播海量信息,文化产品极大丰富,人类对自然界和自身的认识水平极大扩展(江小涓,2021;江小涓等,2024)。对这些益处人们已有高度共识,本文不再赘述。本文重点关注数智技术对经济社会秩序的冲击及其影响。技术进步不断提升全社会财富创造能力和生活水平,但同时带来对原有秩序的显著冲击。冲击并不是平均分布在社会各个方面,而是有多有少、有赢家和输家。在以往较长时期内,市场竞争和社会博弈会带来多轮资源再配置和财富再分配过程,分流赢家所得和输家所失,弱化由此产生的经济社会风险。而在数智时代,技术对秩序的持续冲击在广度和深度上远超以往,失序程度和秩序重构更加复杂和充满不确定性。

我们将数智技术对社会秩序的冲击分为两类:一是数智技术对传统经济社会秩序的冲击;二是数智原生秩序形成的新秩序冲击。

(一)对传统经济社会秩序的冲击:干扰平衡关系与演进模式

1.对市场秩序的冲击

市场是各种经济资源的配置机制,经过长期自发竞争和监管纠偏,不同国家形成了相对稳定的市场秩序。在数智时代,相关技术能力极大影响着各方长期形成的损益平衡关系,个体之间、主体之间、市场与政府之间的关系面临着多方面改变。一是在各类市场主体中大型企业地位加强。对数据、算力和算法的掌控能力,使得大型企业和大型组织具有了更强竞争能力和市场权力,作为产业链中的头部或枢纽,其市场支配地位更加突出,而中小企业、中小投资者地位更加被动和弱化。二是资源配置中“算法”这个新因素的影响日益增强。大数据可以通过多元异构数据和特定算法嵌入传统资源配置决策程序。例如,谁可以以什么条件获得贷款及其他资源。从效率角度看这可以产生积极作用,那些信用打分较高的主体可以得到更高赋信从而获得更多资源。但从公平角度看就会有消极影响,那些处境困难者的数据表现不佳,获得资源将更加困难。三是在各种资源持有者中对劳动力产生特别冲击。技术进步对劳动者的冲击时日已久,计算机革命就一定程度上造成中等收入岗位的空洞化(弗雷、奥斯本,2017)。当下人工智能技术发展对就业的影响更加突出并表现为两点。第一,替代的岗位类型更多。各种人工智能不仅能够从事重复性、预测性的知识性工作,大模型也更具智慧性、自主性,能够执行重复任务,对于需要较高技能的职业产生较大程度的替代,对更多就业岗位产生冲击。第二,由于原先分工关系被打乱,许多“对子”或“搭子”中的一方在新的分工链条中失去位置,而且很可能再也无法寻到与自己技术相匹配的合作方。目前还看不到数智技术新创就业超过替代岗位的趋势。如此下去,技术垄断力量带来的经济租金无法在技术资本持有者与劳动者之间共享,导致经济发展的包容性较差,影响对技术进步价值形成社会共识。

2.对社会秩序的冲击

一是对社会个体和不同社群信息与机会公平的冲击。数智化探测和匹配技术,决定着不同社会主体的可知不可知、可得不可得及可为不可为,从而改变社会资源的配置。例如,针对个人偏好的新闻推送和广告投放,既能为消费者提供更合意更有个性的产品和服务,也很可能产生“信息茧房”效应,那些主动寻求多元信息能力较差的“文化弱者”受到的影响更大。二是对某些个体群体带来歧视性标准。算法为个体“精准”画像,成为他们在求学、求职、岗位匹配和升迁等过程中可以被他人知晓的重要参考。这有一定的积极作用,用人机构能够更全面地了解求职者特点,但同时也会对具有某些特征的人造成歧视。例如,探知女性求职者的婚姻生育情况和意愿,甚至将个人信仰、肤色、种族、婚姻状况、性别等因素纳入判别标准中,成为是否能入职的决定因素。三是对社会舆情和社会共识的冲击。掌握数据挖掘分析和传输技术的主体,有可能有意以偏颇信息乃至谣言影响社会公平与稳定。公民在网络空间的言论自由、契约便利和民主参与等方面的权力获得极大拓展,但由于数字身份的多元性、可伪性、超域性、流动性和可变性,隐私泄露、虚假信息、网络暴力等会加剧社会共识分裂并影响社会和谐稳定(董军、程昊,2018)。

3.对经济社会演进模式的冲击

现在,“大数据+”成为公共部门决策的一种趋势,数据被加载到公共部门的价值判断与决策过程。一方面,算法汇聚海量数据并依据预设的逻辑计算,不会受人类主观性的影响。另一方面,算法会将过往决策结果固化为“样本”,无法体现诸多需要“酌情”的情景和需要与时俱进的改变。例如,当执法者处理具体案件时,可以通过智能辅助办案系统查看过往判案数据库,对标类似案件判决结果的“平均数”并作为依据,从而规避人性局限和排除人为因素的影响,达到“同案同判”。然而,这种做法引起争论已久。2019年3月法国出台2019-222号法律,禁止多种大数据在司法领域的应用,其中之一就是我们上面所讲的“一致性分析”:将特定法官的办案数据与其他法官办理类似案件的大数据进行对比。禁用所涉及的理念很重要:“一致性分析”会使所有判决向平均结果靠拢。当每个法官独立判案时,其后呈现的“平均数”如果总体上向“趋重”或“趋轻”方向变化时,很可能表明社会对某种行为价值判断改变,司法体系和社会规则或许应该随之改变,这是人类社会进步的重要方式。当所有法官都依据由大数据给出的“平均数”来判案时,这种演进过程就会中止。

(二)数智原生秩序:标准缺失与监管失能

数智技术直接产生出若干新的秩序类型,我们称之为数智原生秩序。这些秩序在原有的经济社会秩序中并不存在或者不是主流,导致问题判断和行动方向都缺少标准,监管方也力不从心。

1.大型平台:数智时代的市场新秩序

平台企业与传统公司的最大不同在于他们既经营产品与服务,也创造和运营市场,兼具企业和市场两种属性。从市场网络看,市场规模愈大,对参与方的价值就越大,因此大型平台在资源配置上可能更有效率。从企业角度看,平台主要提供可复用、可复刻的数字化服务,边际成本递减甚至几乎为零,因此大型平台企业具有显著规模经济特征。由此,平台既作为市场又作为企业,带来双重规模效应,成为市场与社会秩序的重要塑造者。

平台秩序之所以是挑战,根本原因是其规模、复杂嵌套的结构以及作为市场运营者的地位是传统市场主体所无法比拟的。大平台上交易的密度、深度和广度前所未有,交易形态和交易内容的复杂程度前所未有,商业模式和交易规则的快速变化调整前所未有,从而使得市场各相关方感知运行规则、判断自身损益并通过竞争推动各方利益平衡的能力相对欠缺,也使监管方因技术变化快、模式翻新快和创新内容多,难以有效迅速地形成制度秩序(江小涓、黄颖轩,2021)。大平台监管是世界难题,近年来在美国和欧盟,各方关于“资本力量过于强大”“科技公司垄断市场”的质疑不断,监管部门也不断出台监管政策,但几个大平台的市值反而呈现快速上升趋势(参见正文图2)。各方面对于大平台创新能力和垄断能力之间的平衡不断摇摆,可见数智时代平台监管的难度之大。

2.网络空间:数智时代的社会新秩序

网络空间已经成为社会最重要的信息基础设施,构建了新的社会知识体系,塑造了人们对经济社会问题新的理解和认识,并持续改变着人们的生产行为与生活方式。网络文学、数字音乐、在线游戏、自媒体新闻等网站是信息生成与传播的主要渠道,海量数字化内容源源不断流向社会,成为数字时代经济和社会信息交互的主渠道。这个空间的规则制定者是各种社交类媒体平台,它们有自己的价值观、商业模式和生态系统,集制定平台参与规则和执行规则于一身,在特定网络空间中掌握着塑造与维护秩序的权利。例如,超级平台的传播能力可以渗透到社会各个角落,决定谁有资格和谁能优先获得知情权和行动能力,决定为哪部网剧哪种观点投放流量、哪个应用程序排序在前优先下载或得到热捧、哪些应用程序用什么方式可以成为默认出厂设置等等。网络空间还成为某些社会热点话题与极端观点相互冲突的主要场所,有意无意地带来立场极化的效应。它们还有能力通过掌握的海量数据和自身引导能力,侵犯个人隐私、违背社会公平、塑造不恰当的价值观等。以谷歌公司为例,欧盟反垄断当局认为,它并非市场中的一个竞争者,而是为他人设置竞争条款的权力核心和“造王者”(king-maker)(阿里尔·扎拉奇、莫里斯·E.斯图克,2018;尼克·库尔德利、安德烈亚斯·赫普,2023)。

3.人工智能:数智时代的算法新秩序

人工智能大模型的发展日新月异,全面展现出汇聚全网数据、生成和提供海量信息、改变资源配置逻辑、重塑经济社会关系的颠覆性创新能力。人工智能大模型正在加速度叠加扩展,相关弱秩序如何演进和强秩序如何构建,都处于理念困惑与操作困难之中。

对市场而言,人工智能大模型对市场竞争带来新挑战。大企业利用竞争优势造成垄断问题,但在实体产业中,当企业规模超过了一个临界点时,有可能出现边际报酬递减,同时公共部门也可视情况进行反垄断监管,因此垄断不是一个突出和普遍问题。数字企业、智能企业有可能边际报酬递增,对市场竞争带来更大挑战。借用深度学习领域的一个重要概念“Scaling Law”(本文译为规模法则),这个概念描述了模型性能与模型规模(如参数数量、数据规模和计算资源)之间的关系,随着模型规模的增加,模型的性能也会提升。当规模超过一个阈值后,就会涌现出后来者无法企及的全新能力,这些是小模型完全没有的,已经不是“你多我少”“我先你后”,而是“我有你无”的碾压式能力。但是长期以来人们认为,大企业和大模型有更强的创新能力,使得垄断监管有些不知所措。迄今为止,大模型原生秩序无法纳入现有监管框架,它们在不受约束的情况下日新月异地发展。业内人士、社会名人甚至国际组织和论坛等多次呼吁暂停或暂缓,但未见任何效果,弱秩序和强秩序似乎都失去了力度。

对社会而言,机器生成的信息快捷增加,内容庞杂且真伪难辨,人类为高效处理数据和高效沟通而发明的机器,其产出的信息已经远超人类理解自然界和人类社会所需的范畴。由于合成信息大量加入和大模型产出的不可检验,主观有意和客观无能导致的“真—假—虚—实”内容交相纠缠在一起,当出现偏颇或虚假画像时,人类可能无法知晓问题出在何方。从人类利益而言,我们需要的不是海量信息,而是能够真实、正确地表征世界的信息,以及能够被人类接受、消化和理解的知识。这个时代的信息数量和信息内容变化的速度与程度,对人类社会信息的生成与传播构成了巨大的挑战。

综上所述,相对于传统秩序受到的挑战,数字原发秩序带来的挑战更为错综复杂、利弊共生,什么是合理又合意的标准和方向,尚无评判标准和共识。

三、合理与合意:寻求数智时代秩序演进的方向、目标和路径

数智时代社会秩序优劣之根本,依然是是否有利于经济发展与社会和谐。因此,合理性与合意性依然是重要目标:社会资源高效配置、提升人类福利总量,并尽可能地公平分配社会财富,社会共识最大化、形成和保持社会和谐稳定。这两个标准都是质性要求,也能匹配定量指标,达到定性与定量相统一。关于如何衡量资源配置效率,如何衡量财富公平分配,如何衡量社会共识与社会和谐,社会科学都做出过卓越贡献。今后,从数智时代秩序合理合意的要求出发,社会科学各领域还需要做更多更深入的研究,为秩序重构提供目标方向、评估标准和清晰进路。

这个时代的秩序重构更加需要多方治理合作。由于技术的快速演进及其带来的冲击很可能超出了监管能力的适应和提升速度,使得制度性强秩序难以快速全面形成,市场与社会中多种形态的弱秩序持续存在并不断迭代将发挥重要作用。同时,强秩序必须发挥重要作用,并引导弱秩序较快较好地向合理合意的方向演进。

(一)“弱秩序”具有向合理与合意方向趋近的内在驱动力,将长期存在并迭代演进

在数智时代,技术发展及其对经济社会的影响变化太快,何为合理合意的秩序难以及时判断,“强秩序”难以及时成为经济社会秩序的主要部分,弱秩序将发挥更加广泛而重要的作用。弱秩序的范围可大可小,在不同场景下有不同形态,能探索如何平衡各方利益,也能及时调整方向和重点。弱秩序不会是理想的合理合意秩序,也不可能是各方都满意的秩序,但有望在波动中向合理合意方向趋近。

1.内部外部竞争压力推动平台构建商业生态弱秩序

平台无疑能提高供需匹配效率和生产交易各个环节的效率。从各方利益平衡和公平性看,平台是一个局部市场,必须提供交易规则来规范相关主体的行为。平台从自身利益出发,制定的规则必须最大限度关注相关各方面诉求,兼顾各方利益,力争使更多商户和消费者接受,平台才能够有效运转和持续发展。因此,平台会努力使其规则的合意性最大化。同时,平台之间存在竞争,即使是最大的平台,仍然处于可竞争的市场环境中,潜在竞争者始终存在(鲍莫尔等,1982)。而且平台在线运营是全球性的,这种可竞争性不局限于本地,而是扩展到网络可以触达之处。同时,消费者转换平台的沉没成本几乎为零,只需手指点击几下即可转到另一个平台;平台上的商户也是多栖性的,时时刻刻比较不同平台的优劣。因此,平台要力争使自己的管理规则最有竞争力,并且不能因为自身与平台上各个主体体量悬殊而一味欺客。如此种种,平台必须提供使各方都能有效配置资源(上平台者增加收益)的规则和能力,使平台秩序在多方博弈中趋向合理。不过,大平台的确存在制造准入障碍、垄断客户与消费者数据、隐性优待关联企业等不公平竞争行为,尤其在与平台商业生态之外的中小企业竞争中处于强势地位。

2.意见表达、舆情压力推动信息生成传播主体构建网络空间弱秩序

网络空间的意见表达极为便利,不同社会主体的多元化诉求和公众的不同关切能够公开表达,构成激励或约束。有学者论及科技相关伦理问题时指出,科技干预的对象从物到人的演变带来新的挑战,当科学家们试图改变我们人体的全部或部分时,公众有权知情和发表意见。因此,科技伦理要“以价值的共识塑造”为核心,以“集体性的磋商”为基础与原则(李秋甫等,2022)。再以未成年人网络游戏为例,从21世纪初期开始,这个问题在学校和家长中反映强烈,有大量媒体报道了“沉迷网游”问题,舆情压力很大,国家新闻出版署等监管部门也多次发布相关通知和要求。来自公众、媒体和监管部门的多重压力,推动游戏平台投入相当多资源开发未成年人保护系统。这些兼顾游戏爱好者、企业和公众利益的行业规则,虽然仍有诸多问题,但各方都感到向认同度较高的合意方向趋近。再如,内容审核是平台保障内容合规合意的重要自治手段,其中监管方要求、用户反馈和公众舆论的权重较高,仅仅出于对声誉的考虑,企业就有意愿回应各方关切,形成合意社会形象。

3.软件、网络和模型开放开源构成技术社区弱秩序

开源技术源于软件,指的是向社会大众开放源代码的软件技术。软件开源社区能够获得海量数据、软件资源、项目开发轨迹和实时交互的场景反馈。随着互联网的发展,基于网络的更多软硬件开放社区快速发展,产业互联网便是其中的一种类型。以平台企业为头部的产业互联网能够广泛连接众多创新主体,构建以其为枢纽的创新生态系统。小米发布的四足仿生机器人 Cyberdog2开放了图形化编程界面,给开发者提供丰富的接口和资源,极大降低了编程技术门槛,加快产品创新迭代。早期的人工智能大模型领先者采用闭源模式较多,如微软的Turing-NLG和OpenAI的GPT-4等,但近期有更多大模型采用开源模式。2025年1月DeepSeek发布了最新版本,在性能和成本之外,其开源模式同样引人注目。该模型采用MIT许可证开源模型权重,产品协议明确支持模型蒸馏,允许任何人自由地使用、修改、分发和商业化该模型。开源加速了分布式协作创新模式的构建,推动了技术社区内部的充分交流与创新协作,促进了社会共创共享文化的繁荣。显然,开源是一种能够提高资源配置效率的合理模式,同时开源社区有共同行为规则,只有认同这些规则才会分享与合作,必然是志同道合者共建的一个合意空间。

4.共享共治数据空间构建数据市场弱秩序

数据的共享和复用会带来极大价值,然而也存在许多难题。一是不敢共享,数据中含有大量与个人信息、商业机密以及与国家安全相关的信息,担心数据可能被滥用、泄露和篡改;二是不愿共享,权属与利益分配不明确,担心正当权益无法保障;三是不能共享,数据定义和模型接口不统一,无法接通和交互。由于数据类型和特征极为多样,由政府出台数据治理的“强秩序”只能针对少数关键数据和重要问题。大部分数据如何流通分享和使用,只能由相关各方共同探索开拓。

从实践来看,诸多数据空间的发展构成重要的数据治理弱秩序。数据空间的基本特征是,基于各方认可的规则,连接多方身份和资质确认后的主体,通过定义开放标准和治理框架,解决专有、不透明、不可互相操作等技术限制,建立安全透明的数据共享生态系统,推动跨组织数据交换与共享。数据空间的类型有许多。一是由政府倡导并与企业合作组建的数据空间,例如“Gaia-X”是一个由欧洲多个国家和公司共同发起的数字基础设施项目,旨在为欧洲创建一个联合数据基础设施,促进数据交换与共享。二是由行业组织牵头的数据空间。Catena-X是为促进汽车价值链整体的数据协作而设立的数据空间,旨在为不同汽车厂商之间沟通数据制定标准,提供统一的数据共享平台,提高效率、透明度和可持续性。目前Catena-X已有成员122家,目标用户1000 个。三是私营企业或民间组织搭建的数据空间。Dawex是一家私营的数据交换平台,数据供应企业和数据需求企业可以通过这一平台进行数据交易,旨在为全球范围内的组织和企业提供数据交易和数据货币化的服务。国内也有许多尝试,2023年5月,四川长虹电子控股集团有限公司与中国信通院、深圳数据交易所、华为、深圳数鑫科技有限公司等单位共同发起成立了可信数据空间创新实验室,该实验室开发了一款名为“虹雁”的可信数据空间产品,旨在实现数据在可信、可控、可追溯的环境中的规模化流通使用,打造制造订单数据与客户安全共享交换的典型应用场景。显然,数据空间是一种能够提高数据资源配置效率的模式,只有认为这些规则合意的主体才会分享与合作。

5.价值“对齐”构建大模型算法弱秩序

人工智能已经广泛嵌入各种经济与决策过程,大模型已不能简单地被视为针对特定任务的解题工具,而是经济与社会秩序的重要塑造工具。人工智能发展和应用中有两类挑战:一是技术原因导致人工智能大模型内部运行和产生结果的不可解释性;二是人为原因导致训练数据和框架的偏向性。业界对此回应的一个重点是“算法对齐”类承诺。在人工智能领域,特别是自然语言处理(NLP)和大模型开发中,“对齐问题”(Alignment Problem)指的是如何确保模型在执行任务时能够遵循人类的意图和价值观(维纳,1960)。大模型具有强大的生成能力,如果有持续偏向会带来巨大负面影响,因此社会各方面对算法“对齐”的呼声较高,监管方也提出严格要求:“在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视”。社会共识驱动大模型公司在对齐问题上采取了一些实际行动。OpenAI在其GPT系列模型中引入了各种安全措施,如内容过滤和用户反馈机制,设立“AI Safety and Alignment Team”,致力于确保人工智能系统符合人类价值观。阿里巴巴达摩院在人工智能伦理和对齐方面也进行了大量研究,并发布了相关报告,推出了“AI+社会责任”计划,旨在通过技术创新促进社会可持续发展。人工智能开发者有力回应社会关切,促进大模型价值对齐,从而提高了人工智能技术发展的合意性。

6.多种承诺与指南构建跨国治理弱秩序

当人工智能治理涉及跨国合作时,弱秩序具有灵活、快速、程序简便、不受国内立法机构授权约束、谈判成本低等诸多优势。因此,政府间国际治理合作主要通过建议、指南、行为准则、最佳实践等方式推进,这些弱秩序虽然不具有强制约束力,却能够将各利益相关方认同的最大公约数显示出来,既有合理性也有合意性。例如,2019年,经济合作与发展组织(OECD)发布《OECD 人工智能原则》;2019年,欧盟(EU)发布《可信赖AI伦理指南》;2021年 11月,联合国教科文组织(UNESCO)发布《人工智能伦理问题建议书》等,在透明度、安全性、问责制、价值对齐、造福公众等诸多方面提出相似要求。各国监管机构发布人工智能合规指南也具有高度的相似性,新加坡的《新一代人工智能治理框架》、美国的《人工智能应用的监管指南》和中国的《新一代人工智能治理原则》等指南类文件,也具有上述共性原则要求。

上述各类秩序的“弱”体现在以下方面。一是协商性,由于不同主体有不同诉求,平台又无政府和法律所具有的强制力量,只能不断听取各方面意见多方协商沟通。二是民主性,平台的规制设计中,每一个客户、每一位消费者都能通过评论、反馈等方式参与平台秩序治理过程中,这种民主化治理对普通消费者来说更为合意,面对数额较小或损害较轻的违法违规行为,公民个体寻求行政和法律保护的成本可能过高,评论等方式对商户和机构等强势对手的约束更简便有效。三是易得性,多数情况下只需要两个基本条件就能大体有效。首先是有效竞争,使供给方不能以信息、资本和权力优势长期获取暴利。其次是重复博弈,网络时代信誉不佳会产生严重影响,每一次交易交往、每一次言论行动对信誉培养都十分重要,激励各类主体和个体加强自我约束。四是有限性,弱秩序的倡议者、搭建者和规则制定者,并无政府的强制力量,也没有法律法规赋予的更多处罚权力。因此以“关闭店铺”“封号”、驱逐出共同体等措施为最高处罚手段。从中国数智化进程实践看,弱秩序虽然不够完善和理想,但可用、有效,与行政监管和法治监管共同发挥作用,保障了大致合理合意的经济交易和社会交往秩序。

(二)正确理解弱秩序的重要性和长期性

第一,“弱秩序”并非“较差的秩序”,也不是要向强秩序转变的“过渡性秩序”。很长时期内,弱秩序并不一定以向强秩序演进为目标,这个判断基于以下3点。一是技术演进速度太快,冲击范围很大,监管能力的适应和提升有较多困难,制度性强秩序难以快速全面形成,弱秩序持续存在并不断迭代将发挥重要作用。速度是一个重要变量,经济学理解的短期和长期并不是指单纯时间概念上的长度,而是指市场供求关系在受到外生变量冲击后恢复到理论均衡关系所需要的时间,短期是指没有充分恢复的时间尺度,长期是指恢复到均衡状况的时间尺度。现在能看到的是,技术速变带来的秩序变化处于快速演进中,在一系列“短期”变化之中灵活快速的弱秩序起重要作用。二是无论哪种制度都不是要完全消灭秩序紊乱给社会带来的损害,这样做的代价难以想象,而是使这种损害不会对经济社会产生严重和系统性的不良后果。例如,基于网络的欺诈行为难以完全消除,大模型的不可解释性也不可能完全消除,如果强行要求,就只能采取严格管制甚至消灭市场的手段,代价极高。监管只能对那些带来严重后果的行为进行惩处。交通事故每年造成数十万甚至更多人的伤亡,但要完全消除汽车对人类的伤害,就只能禁止生产使用汽车或者将速度降至很低。监管实践只对那些恶性撞人事件进行严厉惩罚,而不断提高汽车安全性以及驾驶员技能等弱秩序同样重要。三是弱秩序必然存在缺陷,但这并不一定是强秩序登场的充分理由,有些情形下政府干预成为秩序扭曲的原因,有些情形下政府干预的成本比秩序缺陷的成本更高(江小涓,1993)。当市场和社会秩序出现缺陷时,将不完备、不理想的弱秩序与强秩序的理想模式进行比较,是强调强秩序更佳的一个基本出发点,但这有时会导致误判。

第二,弱秩序并非“虚弱”的秩序。在数智时代,“弱秩序”弱而不虚。由于技术的泛在性、穿透性和可追溯性,使得相当部分弱秩序的基础稳定可靠。例如,区块链技术的透明性和去中心化特性为各种在线弱秩序奠定可靠基础。技术架构的治理功能很强大,软件规定了特定在线环境中的可为和不可为,相比法律法规,规定得更为具体,更重要的是执行无需额外成本。例如,电商支付技术大幅度减少了交易中的欺诈行为;技术规则构成的信息审查和过滤机制能有效保持线上内容产品的知识产权;互联网空间的永久记忆和传播能力使得信誉约束更加有力。

第三,弱秩序并不是局限在本地和本国的秩序,也不是要向普适秩序过渡的秩序。每个平台、网络空间和数据空间特点不同,局部知识的丰富程度和独特性质早已远非彼时可比,因此每个平台和空间的治理都是局部性的,共同规则遵循者进入、违规者逐出。这里的局部并不是地理概念上的本地,许多局部秩序都是全球化的,在各自全球商业版图上适用。例如,亚马逊的电商规则对其全球商业生态体系都适用。在可预期的未来,由于各个局部秩序存在的技术条件、平台特征、数据诉求等差异很大,局部秩序向普适秩序的转变和普适制度失效并生成新的局部秩序,很可能在时间与空间上始终并存。

(三)强秩序必须在场,筑牢合理合意底线并为弱秩序保驾护航

保障经济社会秩序的合理性与合意性,制度性强监管的存在必不可少。一方面,弱秩序时常会受到各种干扰使其不能有效运转;另一方面,有些重要问题,如大平台大模型可能引发的垄断、数据流动交易中的个人隐私保护、技术强势下的基本公平保障、虚假信息对社会团结稳定的干扰等,都不能完全交由市场竞争或社会博弈等弱秩序解决。由此产生了对公权力强秩序的诉求,重点是向下面几类问题发力,一是强制性地规定“必须做”和“不能做”这两种正面和负面清单,使某些行为和决策受到严格的法律、规章制度和规范的约束。二是重点保护弱秩序重构中利益受损一方的基本权益,维护社会基本公平正义。三是发出导向信号,引导弱秩序更快向合理合意的方向演进。

1.明确“必须为”与“不可为”的行为

影响秩序合理性即资源配置效率和财富公平分配的一个最突出问题,是大型平台企业特别是人工智能大模型的垄断可能。监管重点在于确保市场的公平准入和公平竞争。从我国和其他国家做法看,监管要求“必须做”的事情包括:允许第三方在特定情况下与大平台提供的服务进行交互操作;允许用户访问他们在平台上业务运营产生的数据;允许用户在其他平台上推广产品和服务等。特别是一些居于垄断甚至独占地位的平台,它们如果独占平台上的客户数据,就会造成进入和竞争方面的不公平。法国竞争管理局曾经要求法国能源生产商法国燃气苏伊士集团与业内竞争对手共享一份客户名单,其理由是监管当局需要密切关注企业是否控制着独一无二的数据,并利用这些数据将竞争对手拒之门外。2024年10月22日,美国消费者金融保护局(CFPB)宣布,将赋予消费者对其个人财务数据拥有更多权利、隐私和安全。该规则要求金融机构在消费者要求下解锁个人财务数据并将其免费转移给另一家提供商,解决因数据垄断造成的金融市场集中度过高的问题。监管要求“不得做”的事情包括:不得优待平台自身或关联企业提供的服务和产品;不得阻止用户卸载任何预安装的软件或应用程序等。一个新挑战有可能来自大模型的规模法则,当规模越过一个阈值后,就会涌现出后来者无法企及的全新能力,赢者通吃的市场结构更易出现。这种基于技术能力上的新规模经济,值得监管者高度关注。

在合意性方面,最突出的挑战是人为甚至恶性挑战人类价值观、侵害个人隐私和破坏社会团结的问题。因此,各国治理中“不得为”的负面清单包括保护用户隐私,主动审查、处理和及时删除虚假信息、恐怖主义、仇恨言论等非法内容。我国的相关规定包括不得生成危害国家安全和利益等内容;不得存在民族、信仰、国别、地域、性别、年龄、职业、健康等歧视;不得实施垄断和不正当竞争行为;不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益等。国际上,2024年5月21日,欧盟理事会正式批准《人工智能统一规则》法案。该法案采用风险分级的办法处理人工智能系统的风险,其中最高等级风险为不可接受的风险,也是“不得有”的行为,即对人们的安全、权利或自由构成不可接受风险的人工智能系统。例如,操纵人类行为以规避用户自由意志、基于敏感特征的生物识别分类系统、利用人类弱点的人工智能等,或以公共名义进行社会评分并给个人造成不利待遇。

2.明确透明度要求,保障各方知情和有效参与治理

社会公众知情和意见公开表达对弱秩序的发展方向和强秩序的生成非常重要。公共部门需要在允许广泛讨论和表达的基础上才能理解“合意性”的趋近路径和理想位置,恰当匹配各种诉求,与时俱进地引导新秩序形成和完善。现在科技发展从解决已知问题转向探索未知领域,寻求自然界和人类在演进中并不存在的状况,不少探索意在改变人类的“自然状态”和“社会状态”,包括我们的生理、认知和繁衍,以及人类社会信息和权力结构等。此时在科技发展方向上,要防止由少数责任感不足和预见能力不足的科技专家仓促做出影响长远的不当“创新”,公民对这类科技问题应该有平等的知情权和发言权。由于只有开发者真正知道算法如何运行,即使不当也有可能长期不被社会所知晓,政府监管人员要理解技术架构也并非易事,需要动员和依靠社会各方面的力量,因此公开透明是弱秩序和强监管的基本条件。例如,要求电子商务平台向社会说明平台产品推荐机制的公正性,该类说明要足够具体,使监管者、技术专家和社会各方面都能理解。当平台明知存在违背商业规则、国际惯例、社会价值或人类伦理等实际行为,且具备技术能力,却在设计算法和程序时不予关注甚至故意放纵,进而造成严重后果,就应该受到严格监管和查处。当主管部门或者公共监督机构开始监督检查时,算法提供方要对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明,并提供必要的技术、数据等支持和协助。公开还能增强公民对科技发展的感知和共情,消解由于技术门槛所带来的社会信任问题。有研究将“审议”作为政府监管的一种类型,就是指政府为各方参与监管共同治理提供必要的信息和交流平台(托尼·普罗瑟,2020)。

3.推进公共数据开放共享,提高全社会创新能力

数据极具重要性,能够赋能全产业链提高研发效率、生产效率和交易效率,并能够更好地满足消费者需求,数据开放共享能够极大地提高全社会资源配置效率。企业数据有产权归属约束,个人数据有隐私保护约束,政府主要通过创造良好环境和相关法律法规加以推动这些数据共享和复用。公共数据具有非竞争性、非排他性(或者说不应该有排他性),同时又是政府履行公务活动所产生,是典型的公共品,需要且应该通过各种行政性法律性强制规定来开放与共享。《中华人民共和国政府信息公开条例》规定政府信息以公开为常态、不公开为例外,公共数据是政府信息的重要部分,也应以此为原则。公共数据开放问题在国际上是高度关注的话题,重点放在政府透明度、问责制、为公民监督政府赋权等方面(戴维斯、巴瓦,2012)。我国公共部门规模较大,公共数据的绝对体量和相对体量都很大,加快公共数据开放共享和开发利用意义重大。除政府数据外,还有涉及全社会重大利益的数据也需要强制公开与分享。例如,飞行安全问题相关的“黑匣子”数据、流行病的防疫和医疗数据、自动驾驶事故数据等。这类数据的公开与流动涉及科技发展对重大社会问题的回应能力,涉及人类生存发展的重大问题,强制公开与分享有充足理由。

4.数字弱势群体权益保护:公平底线与共识基础

发展成果相对公平分配是合理性的重要内容,技术进步的益处能被社会分享,是合意性的主要诉求。人工智能技术应用冲击资本、技术与劳动之间现有平衡关系,使劳动者处于更加弱势地位,导致失业问题突出。在数智时代,信息平权带来社会成员损益感知能力增强。信息广泛传播、末端渗透与多元化的讨论,使所谓“无知之幕”支撑社会共识形成与理性决策的“无知”不复存在(约翰·罗尔斯,1988)。以正和博弈或者正加总效应来论证技术发展的“利弊”更不易被接受,赢家的“利”不能完全抵消输家的“弊”。公共部门能否及时有效处理这个问题,社会各界特别是数智技术发展的受益方能否理解并共同应对这个问题,关系到全社会对人工智能发展是否合理合意的判断。当下全民基本收入计划(Universal Basic Income,UBI)作为一项可能的制度性安排引起广泛关注。这项政策旨在为所有公民提供定期、无条件的基本收入,确保每个人都能满足基本生活需求,减少贫困和不平等,有效应对数智技术带来的就业和收入挑战(斯坦丁,2017)。这种安排有其内在逻辑,所有的人工智能创新包括完全私人部门的创新,都是建立在全社会大量持续积累的基础上的,仅从创新使用了海量数据这个角度就能理解这个判断。全社会都在为人工智能发展所需要的知识付出,因此理应分享创新产生的收益。

数字赋信导致的“弱者歧视”是另一个重要问题。愈来愈多的工作机会和金融服务都要求为求职者和求贷者进行“信用画像”。那些经营困难、生活困顿的主体或者曾经有过错记录者更可能被评估出低分。在一次信用计算中赋值较低时,算法的自动化流程会不断巩固已有的推断结果,通过因果循环而加强初次判断,使这些生活与生产状况困难的主体陷入“信用评分低—就业困难(贷款困难)—信用评价更低”的负面循环,成为“撕不下的数字标签”,使弱者机会更少从而更加弱势,可称之为“困顿者”数字歧视。这显然违背人类主导场景中特别是公共服务场景中应该更关注弱者的价值观。对此需要通过强制性制度安排,保护那些在赋信数据链条上的弱势群体,使他们不因人工智能数据挖掘而失去平等机会。

5.公权力信号对弱秩序的引导作用

从国内外的经验看,虽然严格意义上的行政和法律强监管往往具有滞后性,但政府以及立法机构对数智技术头部企业行为的持续关注,对严重违规违法案件及时有效的处罚,对一些损害公共利益行为的批评指责,发起相关监管政策和法律制度修改的公共讨论,以及发布建议、指南、行为准则、最佳实践、专业标准等软规则,都对创新方向、技术应用、投资选项以及社会公众心理、社会舆情等有显著的导向作用。现实中,各国政府都使用软硬两种规则引导和监管市场与社会秩序。从“十一五”规划开始,我国的五年发展规划(计划)使用约束性指标和预期性指标两类指标,前者主要应用于公共服务、环境保护、资源节约等市场失灵的领域,是强制规则;后者应用于需要政府和市场共同发挥作用的领域,如经济增长、居民收入等,是导向信号,这些信号对企业和行业自律以及社会共识形成有重要意义。在我国传统社会中,“礼”这类规则虽然属于软秩序,但并非单纯靠言传身教来推行,实际上也是通过一系列有形引导来实施,而且特别需要“官方”和社会的认可,并渗透到教育体系和官员评价体系中(时延安,2010)。国外实践也表明,有效的社区自主治理需要政府和外部组织承认社区自定规则的权利,复杂问题也需要社区、区域和国家的协同,即所谓的多层次嵌套制度(埃莉诺·奥斯特罗姆,2000)。总之,公权力机构软信号的作用也很强大,能为合理合意的弱秩序保驾护航。

公权力机构要意识到发出信号的影响力度,谦逊而有分寸地发声与行动,要在与经济社会各方的充分沟通中把握平衡几个关系。第一是创新与竞争的关系。数智技术特别是人工智能规模经济特别显著,大规模同时带来创新能力强和垄断可能性大,两者之间的平衡要静态选择又要动态调整。第二是效率与公平的关系。技术进步毫无疑问会提高生产效率,但如果创造了集中化的巨大财富却提供了很少就业时,主要的挑战就来自财富分配。对这个问题既要努力增加就业岗位和劳动收入,也要开放地探讨与时代相匹配的新理念。例如,主动选择不从事传统工作并且有一定收入保障,是否能够成为一种体面和受尊敬的正当生存选项?第三是福利与隐私的关系。隐私权源自保护人们在实体空间中的私人领域不受干扰的权利,而网络空间将个人信息从实体空间延展到虚拟场景中,一个重要变化是个人可以出让数据交换相关服务。个性化精准服务需要数据支撑,个人信息让渡现象不可避免,而且数据让渡越多,获得的服务就越精确。“产消合一”(Prosumption)这个概念就是用来阐释这种双面一体现象(瑞泽尔等,2012)。同时未经允许的让渡和使用风险也随之增加,要用适应数智时代的理念和损益计算来处理好这个关系。第四是创新激励与风险约束的关系。对创新者来说,创新行为不经甄别就受到鼓励支持而且无需承担风险,必定会纵容那些不负责任的“创新”行为此起彼伏,损害投资者利益和滥用社会资源。缺乏风险转移也是有害的,约束了创新努力,阻止了创新企业的建立。新的秩序需要在鼓励创新和约束风险之间寻求平衡点。

四、总结

数智技术对现有秩序带来全面冲击,秩序重构不可避免。冲击和重构对人类自身和经济社会带来广泛深刻甚至不可逆的影响,因此不能任由技术逻辑成为这个过程中的主导因素。人文社会科学要承担起责任,走到秩序变迁的前端,点亮人文社会科学的理性之光。要以人文社会科学深厚的学理积淀,明示我们需要的新秩序应该具有合理性与合意性,有利于经济发展、财富公平及社会和谐。要以学术理论对经济社会秩序问题的深刻洞察和前瞻能力,揭示秩序重构这类社会演进问题的复杂性,强调弱秩序与强秩序共同推进演进过程,指出对各种不成熟、局部性甚至碎片化的秩序构建努力持有包容态度,同时强调要守住社会认同的规则底线。为此,社会科学界要与科技专家、产业界、公共部门以及全社会携手努力,推动社会秩序重构既合理又合意,促进人类社会总体福利水平提升和社会公平正义。

来源:经济学Economics

相关推荐