摘要：近期有不少人发现，网上出现很多张文宏、靳东、黄百鸣等名人的AI合成视频，未经本人授权，以「换脸」「换声」的形式卖货牟利，甚至诈骗。张文宏愤怒地将其形容成「蝗灾」，一次又一次发生，连报警也找不到对象。
有的人还没正经用上AI，先被AI给骗了。
近期有不少人发现，网上出现很多张文宏、靳东、黄百鸣等名人的AI合成视频，未经本人授权，以「换脸」「换声」的形式卖货牟利，甚至诈骗。张文宏愤怒地将其形容成「蝗灾」，一次又一次发生，连报警也找不到对象。
事实上，张文宏口中的「蝗灾」只是这一轮技术浪潮带来的小小涟漪。AI的发展速度令人难以置信，在全世界各国「军备竞赛」一般的努力下，每周，有时甚至每天，都会有新的模型和产品问世。
由人工智能和合成生物学所定义的技术浪潮正不断加速，我们可以想象更卓越的医学进步、更好的清洁能源、更多的商业机会，但我们也可能面对AI助力的网络攻击、毁灭性的自动化战争以及人为制造的流行病。个人、企业和国家，都将在浪潮冲刷下发生改变。
获中信出版集团授权，今天和大家分享《浪潮将至》中的部分内容，关于技术浪潮引发的大规模权力再分配所带来的政治影响。 AI时代，我们并不是无能为力的旁观者，了解浪潮如何发生，我们可以针对性提高生存能力，更从容地面对变化。
1.一家公司 → 一个帝国
当代的「东印度公司」 在长达1000多年的时间里，从蒙古帝国到莫卧儿王朝，传统帝国一直是亚洲地区的最强大势力。然而，到19世纪时，情况已发生了变化。一家由少量股东持有的私人公司一跃成为新的支配力量。 在远离英国数千英里的地方，这家公司由一群数量不多且默默无闻的会计师和管理人员运营，他们的办公楼也仅仅是一栋不起眼的普通建筑。 19世纪初，英国东印度公司已控制了印度次大陆的大片领土。它统治的土地面积和人口数量超过了整个欧洲，甚至拥有征税与立法的权力。 该公司拥有一支训练精良、规模达到20万人的常备军，这一数字是英国本土驻军的两倍，它还运营着世界上最大的商船队。其整体军事火力在亚洲范围内超过任何国家。 东印度公司的全球贸易关系对香港受殖民统治和波士顿倾茶事件等多个历史事件产生了重要影响。此外，其关税、税收以及股息对英国经济举足轻重，当时英国至少有一半的对外贸易都通过这家公司进行。 这显然不是一家普通的公司，而更类似于一个帝国。 我们难以用现代的视角去全面理解这样的公司。虽然现代世界中不大可能出现东印度公司的新殖民主义2.0版本，但我们必须正视某些商业董事会拥有巨大的规模和影响力这一事实。这些影响力在潜移默化中塑造着当今的文化和政治格局，更为重要的是，它们将影响未来几十年的发展走向。 从某种意义上说，它们就是一种帝国。随着新技术浪潮的到来，它们的规模、影响力和能力无疑会进一步得到扩大与提升。 知识和影响力高度集中化 人们常喜欢通过对比人工智能和人类在执行特定任务时的表现来衡量人工智能的发展水平。研究者经常讨论人工智能在诸如语言翻译或实际操作任务（如驾驶）等方面超越人类的可能性。 然而，这种做法忽略了一个事实：世界上最强大的力量，其实是那些协调一致、追求共同目标的群体。 组织本身就是一种智能。企业、军队、政府机构，甚至市场，都是人造的智能形式，它们能够汇集和处理大量的数据，围绕特定目标进行自我组织，并建立相应的机制以更有效地达成这些目标。 事实上，机器智能与其说是与人类思维相仿，不如说它更类似于一个庞大的组织机构。 当我们在探讨人工智能对世界的巨大影响时，我们也应该记住，这些传统的人造的智能形式同样具有极其深远的影响力。 当机器能够更高效地完成运营公司或政府部门所要求的大部分工作和任务时，将发生怎样的变化？谁将首先从这些变化中获益？他们可能会如何利用这种新力量？ 我们已经迈入一个新的时代，其中巨型企业的市值高达万亿美元，资产规模甚至超越了一些国家。 以苹果公司为例，该公司推出了人类历史上最精美、最具影响力且使用最广泛的产品之一—iPhone（苹果手机），这无疑是一件杰作。全球有超过12亿人在使用iPhone，为苹果公司带来了丰厚的收益：2022年，该公司市值超过了英国富时100指数所有上市公司的市值总和。苹果在银行拥有近2000亿美元的现金和投资储备，同时其生态系统牢牢吸附了庞大的用户群体。在即将到来的技术浪潮中，苹果公司显然占据了有利地位。 另一个相似的例子是谷歌。谷歌的服务遍布全球各个产业领域，包括但不限于地图与定位、评论与商家信息、广告、视频流媒体、办公工具、日历、电子邮件、照片存储以及视频会议等。所有这些服务都汇集在一家公司之下。 大型科技公司为人们提供了各式各样的工具，从协助组织生日派对到运营数百万美元的业务，无所不包。在这些科技巨头之外，能如此广泛地影响无数人生活的组织，恐怕也只有政府了。这种现象或许可以称为「谷歌化」：通过提供一系列免费或低成本的服务，某些公司在社会经济和人类生活体验中扮演着重要的角色。 要了解这种集中化程度，我们可以注意一个事实： 《财富》全球500强公司的总收入已经占据了全球GDP的44%。这些公司的总利润甚至超过了全球GDP排名前六的国家之外的所有国家的年度GDP总和。 这些公司掌控着庞大的人工智能处理器集群、顶尖的模型、最先进的量子计算机，以及绝大部分的机器人技术和知识产权。与火箭、卫星和互联网技术当时的情况不同，在新的技术浪潮中，引领者主要是企业，而非政府机构或学术实验室。在新一代技术的推动下，企业的进一步集中化似乎是顺理成章的发展趋势。 市场的「超级明星」效应日益凸显并不断增强，行业领军者占据的市场份额持续扩大。全球经济排名前50的城市，虽然其人口仅占全球人口的8%，但集中了巨大的财富和企业力量。它们汇聚了45%的大企业总部，同时这些城市的经济产出占全球GDP的21%。全球排名前10%的企业更是获得了80%的总利润。 可以预见，新技术浪潮将继续催生更加富有、更加成功的「超级明星」——在地区、商业部门、公司和研究团队层面，我们都将看到更多巨头的崛起。 我相信，我们将看到一些私营企业持续壮大，其规模和影响力甚至会超越许多民族国家。 以韩国三星集团为例，这个庞大的企业帝国有着巨大的影响力。三星起初只是一家面条商会，但历经近一个世纪的发展，尤其在朝鲜战争后，它崛起成为一个大型企业集团。在20世纪六七十年代，韩国经济迅猛增长，而三星在这一进程中发挥了核心作用。它不仅仅是一个多元化的制造业巨头，还是推动银行和保险业发展的重要力量。可以说，韩国的经济奇迹离不开三星的助力。三星已成为代表性的财阀，即那些在国家经济中占据主导地位的大型企业。 三星不仅擅长智能手机、半导体和电视领域，其业务还涉及人寿保险、渡轮运营和主题公园等。在三星工作是备受推崇的职业选择。三星集团的收入占韩国经济的20%。对如今的韩国人来说，三星几乎就是一个并行的政府，影响着人们的日常生活。然而，由于错综复杂的利益关系以及不断出现的企业和政府丑闻，韩国与三星集团之间的权力平衡既脆弱又模糊。 或许有人认为三星和韩国的发展轨迹是个特例，但在未来，这样的「特例」有望成为常态。 鉴于技术能力的广泛聚集趋势，新一代企业有望承接一系列原本由政府提供的服务，例如教育、国防，甚至可能包括货币和执法等领域。 以eBay和PayPal的争议解决系统为例，该系统目前每年处理约6000万起争议，处理量是美国整个法律体系的3倍，其中90%的争议是仅通过技术手段得到解决的。未来将有更多类似的转变。 从某种意义上说，科技已经催生了一种新型的现代「帝国」。 即将到来的技术浪潮将让这一趋势提速，为那些创造和控制技术的人带来极大的权力和财富。 在政府资源日益紧张的背景下，新的私人利益团体将填补政府服务的空缺。虽然这一过程不会像历史上的东印度公司那样通过武力手段进行，但它无疑会创造出类似于东印度公司那样的与政府的规模、影响力和权力相当的企业。那些拥有资金、专业知识和分销渠道，并能利用即将到来的技术浪潮大幅提升自身智能和影响力的公司，将获得巨大的收益。 企业之间可能出现「智能鸿沟」 上一次技术浪潮见证了物质向非物质、商品向服务的转变。 目光所及之处，技术皆在推动商品的非物质化转变，并通过提供持续消费服务，而非传统的单次购买产品的交易模式，降低了消费的复杂性。 如今的大型企业，无论是生活服务平台，还是社交媒体平台，它们的发展趋势都已不再是简单地参与市场，而是创造新的市场；它们不再只是生产产品，而是聚焦于服务运营。 现在的问题是，还有哪些元素可以转化为服务，从而孕育出新的大型企业？ 我预测，在未来的几十年里，大多数的实体产品都将以服务的形式呈现，零边际成本的生产与配送模式将使之成为可能。所有一切都将朝着云服务模式发展，而低代码和无代码软件的兴盛、生物制造的崛起以及3D打印技术的蓬勃发展将推动这一趋势。当即将到来的技术浪潮的各个方面融合在一起时——从人工智能的设计、管理和物流能力，到量子计算支持的化学反应建模，再到机器人的高精度组装能力，整个生产领域将迎来一场深刻的变革。 要满足人们对廉价和无缝服务的需求，通常需要达到一定的规模，这就要求在芯片、人力、安全和创新等方面进行大量前期投资，而这将进一步推动企业的集中化发展。 在这样的情景下，几家规模和实力堪比传统国家的行业巨头将会出现。更重要的是，拥有最先进系统的企业可能会形成巨大的竞争优势。我之前提到的那些在即将到来的技术浪潮中抢占先机的大型集中化企业，最终可能会发展得比以往任何企业都更加庞大、富有和稳固。 系统在各行业间越是广泛应用，权力和财富就越是向着系统所有者集中。 那些有足够资源以最快速度发明或采用新技术的企业，例如能通过我提出的现代图灵测试的企业，将获得快速增长的复合回报。 由于其系统拥有更丰富的数据和「现实世界应用经验」，因此性能更优越，可推广性更强，从而能够巩固优势，进一步吸引顶尖人才参与系统建设。这可能会导致企业之间出现难以逾越的「智能鸿沟」。 如果一个企业能取得足够的领先优势，那么它甚至有可能成为一个无与伦比的收入来源和权力中心。如果这种技术优势出现在通用人工智能或量子霸权等领域，那么新进入者甚至政府都将难以对其形成挑战。 无论这一进程的结局如何，可以确定的是，世界正迈向一个全新的格局。前所未见的强大力量和能力将掌握在一些本已强大的企业手中，而这些企业无疑会利用它们来继续扩大自身的影响力，推进自己的议程。 这种集中化发展趋势将推动大型自动化企业将价值重心从依赖人力资本（即人类的工作）转向注重强化原始资本，这一进程所带来的一系列不平等现象将会导致已出现的社会裂痕进一步加深和扩大。 难怪有人开始谈论新封建主义或技术封建主义，这种新的趋势将直接挑战现有的社会秩序，而这一次的挑战建立在比马镫等发明强大得多的技术基础之上。 总之，智能所带来的复合回报将呈现指数级增长。过去我们称之为组织的那些人造智能实体，将在新一轮的能力集中化浪潮中获得巨大利益。这可能是有史以来最大规模的能力聚集现象。把人类成功的精髓提炼出来并重新打造成工具，使之在各种现实环境中广泛应用，这无疑是一项空前的成就。各类企业和官僚机构都将争相追求并掌握这样的工具。如何管理这些组织实体，以及它们将如何与国家产生摩擦、相互影响并重塑国家形态，仍是一个悬而未决的问题。但毋庸置疑的是，它们将给国家带来严峻挑战。 然而，权力的持续集中化所产生的影响，并不仅仅在企业中体现。 与那些「超级明星」企业相比，政府似乎显得行动迟缓、结构臃肿，并且与社会的需求脱节。因此，人们难免会轻视政府，认为它将被历史淘汰。 然而，不容忽视的是，民族国家还有另一种必然的行动趋势，它们会利用新技术浪潮带来的工具来强化自身的权力控制，进一步稳固自身的统治地位。 在20世纪，极权主义政权追求的目标是计划经济、顺从的民众以及严格受控的信息环境。它们渴望全面支配权力，对社会生活的方方面面加以控制，包括制订详尽的发展计划，对从电影数量和内容到特定农田的预计产量等所有细节都做出详细规定。 20世纪的现代主义城市规划者希望打造秩序井然、流动有序的新型城市，而一个始终保持高度戒备且冷酷的安全机构则用于确保整个社会系统的稳定运行。 尽管革命者和官僚竭尽全力，但社会并不能被强制塑造成他们理想中的模样。社会相对于国家而言，始终是一个复杂且难以驾驭的现实存在，它从未完全顺从国家的意愿。人类的多样性和冲动性使得我们无法被简单地框定和限制。过去，极权政府拥有的工具和方法无法满足其控制的需求。因此，这些政府最终都以失败收场，要么未能提升民众的生活质量，要么自身崩溃或被迫进行改革。权力的过度集中不仅是民众所反感的，而且在现实中也是行不通的。 即将到来的技术浪潮带来了一种令人不安的可能性：上述情况或许将不复存在。 相反，新的技术可能会让权力和控制高度集中，从而使国家职能严重偏离其原始设计，演变为一种专制力量。 对威权政权及全球大国竞争格局来说，这些新技术都是强大的助推器。它们使国家能以前所未有的规模和精确度搜集并利用数据，或建立起覆盖大多数地区的监视和控制系统，从而能够实时采取行动。 换言之，将历史上最强大的技术系列集中于一个机构之下，将彻底重塑国家权力的边界，这甚至可能催生出一种全新的权力实体。 清晨，智能音箱将你从梦中唤醒。你随即拿起手机检查电子邮件。智能手表则向你报告了前一晚安稳的睡眠和早晨稳定的心率。从理论上说，这时，某个远程机构可能已获悉你何时醒来、你的健康状态，以及你正关注的信息。 当你踏出家门前往办公室时，手机便悄然记录着你的行动轨迹、短信内容和收听的播客。在通勤途中与整个工作日里，闭路电视监控系统将无数次捕捉到你的身影。毕竟，这座城市遍布摄像头。当你刷卡进入办公室时，系统会自动记录你的进入时间。安装在电脑上的某些软件甚至能通过获取你的眼动数据，追踪你的工作表现。 在回家的路上，你停下来购买晚餐，手机会记录你的购买详情。用餐过后，你沉浸在一部新电视剧中，你的观看习惯也会被细致记录下来。你的每一个眼神、每一条仓促发出的信息、在浏览器中留下的每一条搜索痕迹、穿越繁忙街道的每一个脚步、每一次心跳和每一段不安稳的睡眠，以及每一次的购物或退货，所有这些都被获取、观察和整理成数据。而这些仅仅是每天可能被搜集的数据的冰山一角。这些数据不仅来自工作或手机，还来自医院或健身房。 几乎你生活中的每一个细节，都会被那些有能力处理并利用这些数据的人在某处悄然记录下来。 这并不是什么遥不可及的反乌托邦场景。这描述的正是都市人的日常生活。 西方企业和政府在积极构建和部署监控技术。政府监视和控制其人民并不是什么秘密，这种趋势也出现在西方企业中。在智能仓库里，工人们的每一个细微举动，甚至包括他们的体温和如厕时间，都会被追踪和记录。就连你点的外卖比萨也可能被监视着——达美乐运用人工智能赋能的摄像头来对比萨制作过程进行监督。西方人在日常生活中每天都会产生大量的数据，这些数据被搜集、加工、应用和出售。 在新的技术浪潮出现之前，「高科技全景监控」这一概念还只存在于反乌托邦小说中，如叶甫盖尼·扎米亚京的《我们》和乔治·奥威尔的《1984》。 而如今，全景式监控正逐步成为可能。 数十亿台设备和数万亿个数据点能够同时被实时监控，这些数据不仅可用于目的监视，还可用于趋势预测。 这不仅能够实现对社会动向的精确预估，还可通过潜移默化或公开的方式引导甚至推动某些具体的社会结果，其影响可触及宏观层面（如选举结果），也可微小至个体的消费行为。 这种现状凸显了极权主义复兴的可能性。这种情况不会在全球范围内同时出现，但如果人工智能、生物技术、量子技术、机器人技术等尖端科技同时集中在某一专制国家的手中，那么这将产生我们在历史上从未见过的新的权力实体。3. 即将到来的矛盾浪潮
要洞察未来，我们就必须同时审视那些相互冲突的趋势。 即将到来的技术浪潮会同时带来权力的大规模集中和分散，这两种看似相反的趋势将并行出现。 无论是个人、企业、教堂、非营利组织还是国家，最终都将拥有自己的人工智能系统，甚至在生物和机器人技术方面也会获得相应的能力。每个人工智能系统都将专注于实现其主人的目标，无论这个主人是坐在沙发上的个人，还是全球最大的组织。 这正是理解充满矛盾的即将到来的技术浪潮的关键所在——这是一场充斥着冲突与对立的浪潮。 每一种新兴权力都将带来一种独特的公共产品愿景，或者提供一种全新的产品生产方式，或者传播一套不同的宗教信仰。 人工智能系统已开始在一些具有政治意味的决策中扮演重要的角色，如获得贷款、工作机会、大学入学资格、假释资格和医疗资源。未来10年，人工智能将在很大程度上影响公共资金的分配、军事力量的部署，以及教育内容的选择等诸多方面。这种情况同时以集中和分散的方式出现。 例如，人工智能可以作为一个庞大的、跨区域运营的系统，一个通用的公共管理工具，为数亿人提供服务。同样，即便是一个小村庄，也将拥有量身打造的强大、经济、开源且高度灵活的系统。 多种所有制结构将并存，如开源群体内部实现的技术「民主化」共有、领军企业或初创企业对其产品的所有权，以及政府通过国有化或内部培育所形成的所有权。这些不同的所有制形式将共同存在，共同发展。它们将在各个层面和领域改变、增强、促成甚至破坏权力的流动和权力网络。 这些力量将在何处展现、如何展现，将因为现有社会和政治因素的不同而呈现出巨大的差异。 我们不能将这一局面过度简单化，针对这些力量，会出现许多事先难以预料的抵抗与适应点。一些部门和地区可能会选定某个方向，而另一些则可能选择相反的方向，还有一些则可能游离于两种方向之间。某些权力层级和社会架构将得到巩固，而其他的则可能遭受冲击；一些地区也许会趋于更加平等或更加威权，而其他地区则可能不一样。 总体而言，技术所引入的额外压力、不稳定性、权力放大的不可预测性，以及新兴能力中心所带来的潜在干扰效应，都将进一步对自由民主民族国家的制度基础构成挑战。 如果你仍觉得我所描述的情景听起来离奇、矛盾且难以实现，那么请思考这一点： 即将到来的技术浪潮会进一步加深并全面展现上一次技术浪潮的矛盾趋势。 互联网便是一个完美的例子：技术虽然集中在少数几个地方，但其力量分散到了数十亿人手中，它不仅创造了行业巨头，也为所有人提供了参与机会。 社交媒体不仅成就了几家龙头企业，也催生了无数的社区。人人可以建立网站，但谷歌只有一个；每个人都能销售特色商品，但亚马逊只有一家。 类似的例子不胜枚举。 互联网时代的颠覆性变革，很大程度上源于这种矛盾与张力，正是这种关系孕育了技术的强大而高效的赋能与控制力。 随着这场浪潮的到来，这些力量所影响的将不仅局限于互联网和数字领域，更会深入我们生活的方方面面。的确，我们已见过技术带来的颠覆性变化，但这场浪潮将引发比互联网技术更加深远的变革。具有高度广泛适用性的新一代通用技术不仅会改变我们的社会，也将重新塑造人类自身。 这听起来或许有些夸张，但在未来的10年里，我们必将目睹信息、财富，尤其是权力的巨大流动与重新分配。这将意味着大规模的权力集中和分散。 那么，技术将走向何方？更为重要的是，我们的未来将如何？如果国家不能以平衡的方式管控即将到来的技术浪潮，结果会怎样？ 国家是唯一能够管控这场浪潮的力量，然而，我们已经看到，多重压力与权力的大规模重新分配将共同让国家机制面临严峻挑战，甚至使之面临存在危机。 这个危急时刻已近在咫尺。在技术持续崛起与国家日渐式微的背景下，这场危机将演变为一道关乎人类命运的重大难题，迫使我们面临一系列棘手的选择与取舍，这无疑构成了21世纪人类所面临的最大困境。 如果我们最终陷入别无选择的境地，那将是技术的最大失败。遗憾的是，当前趋势正将我们推向这样的局面。来源：面包财经一点号1
免责声明：本站系转载，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与本站联系，我们将在第一时间删除内容!
