陈行甲x韦青x雨白：AI时代，拥抱不确定性

摘要：中信出版集团邀请到公益人、《别离歌》作者陈行甲、微软（中国）首席技术官韦青共同对谈尤瓦尔·赫拉利新书《智人之上》，并特邀有知有行主编、播客“知行小酒馆”主理人雨白主持。三位嘉宾共同探讨人工智能如何重新定义人类的工作、生活和社会结构，并思考我们应该如何调整心态和

中信出版集团邀请到公益人、《别离歌》作者陈行甲、微软（中国）首席技术官韦青共同对谈尤瓦尔·赫拉利新书《智人之上》，并特邀有知有行主编、播客“知行小酒馆”主理人雨白主持。三位嘉宾共同探讨人工智能如何重新定义人类的工作、生活和社会结构，并思考我们应该如何调整心态和策略，以适应这个充满变数的未来。

以下，是对谈内容的精华摘编。

01 把工具当成神话的人

尚未成为工具的主人

雨白：

过去几十年，信息获取的门槛逐渐降低，但同时也带来了信息的“泥沙俱下”。在快速变化的时代，两位老师如何保持专注，筛选有效信息的？

陈行甲：

现在流行的社交媒体我都在使用，但是我不刷视频，即使百无聊赖，然而最主要的信息我其实并不会错过。

我对纸质书的阅读量是有要求的，即一周至少看一本。我要沉浸式地，从底层逻辑去了解它，去深入地学习，去做笔记。

此外，我很喜欢和年轻人在一起工作，也比较擅长使用智能工具，但我不依恋它，反而会引导它。比如备课、调研过程中，在我确定好思路和角度后，工具会是非常得力的助手，因此我也很提倡年轻的伙伴们多尝试。

韦青：

我非常认同陈老师的观点，我也使用纸质笔记，因为手、眼、耳结合的学习方法充分利用了人类的多种感觉器官，能够最大化发挥人类的认知特长，同时也有助于有节制地避免吸收人类认知能力无法消化的过量信息。

在这种纪律的约束下，我会利用所有有影响力的社交媒体，但不会为其所限。还要时刻提醒自己不要为其所迷，严格控制数字媒体的使用时间，务必保留与大自然的接触。人类是数字化工具的主人，我认为所有神化、妖魔化或拟人化工具的人，距离成为工具的主人尚有很长的路要走。

从农业文明到工业文明进入到信息文明，人类社会在经历了上一世纪影响全球文明进程的两次世界大战之后，已经理解到仅依靠科学与技术的进步，无法解决人类社会发展与文明进步的根本问题。明白这点之后，尤其重要的是在机器能力发展的过程中，保持人性的光辉与温暖，以人为本，机器都是工具。

《指月录》里提到的能所之辨，一个人以手指指月，到底是要月亮还是要手指头？现在机器能够给你做出了一个非常精美的、完全仿真的“手指”，但是人类要时刻清醒认识到你要看的是那个月亮。人需要探究人类的真相，即我是谁，我从哪里来，到哪里去。这样人类就能够脱离开“语言的暴政”、“知识的诅咒”、“信息的陷阱”和“能指”与“所指”的混淆。现在人类社会面临的是一场信息文明的挑战和较量。我们需要提升我们的信息能力、思想境界和文明高度，坚守富强、民主、文明、和谐等等核心价值观，做有思想、包容、友善的自由平等之人。

雨白：

很有启发。另外基于我的生活经验，比如爸妈会提到一些我从来没有听过的耸人听闻的事情，他们也许是刷短视频刷到的，就默认这个东西是真的。然而当我刷到同样的信息，我的第一反应是内容逻辑上的不合理。那么我们到底应该如何甄别信息，做出正确的判断？

韦青：

微软CEO萨蒂亚·纳德拉曾表示，我们做的智能工具是来让人类从信息过载的信息海洋中跳出来。那我们该如何做？

我们可以借鉴网络安全行业的“零信任”原则。在当前这个信息文明社会中，当我们接受以数字媒体方式传播的消息时，可以遵循一种我称之为“数字信息内容零信任”的原则。要注意这种零信任不是不信任，也不是信任，而是与信任无关，也就是当接受到任何数字信息时，这可以是数字化图片、视频、声音或文字等形式，对于其内容，在未经验证之前无信任可言。同样借鉴网络安全零信任原则的核心内容，我建议从以下三点入手，

第一，默认所有数字信息的内容都是由机器生成，都可能是仿造的，都不可以在未经确认前信任和接受。

第二，依据系统工程的双V原则，对所有接收到的数字信息进行验证和确认（即Verification & Validation），这一点实现起来并不容易，人们通常需要经过训练才能养成这种信息能力和消费习惯。具体而言，每个人都要学会主动地利用多种信息渠道交叉验证信息的真、伪、虚、实，这是数字信息时代的“兼听则明”；另外，当一个社会信息文明发展到一定阶段，尤其是当大众与官方都认识到机器生成信息的正反面作用之后，大概就不会像现在这样随意放任机器生成逼真图片、视频和具有影响力的文字。当人们充分意识到混淆“能指”与“所指”对人类文明的冲击作用后，会出现“以子之矛，攻子之盾”的公共信息认证服务，在机器大肆生成拟像与仿真之时，也会有由机器赋能的公共服务帮助人类识别出披着人类画皮的机器产物。这两种验证与确认方式有关信息文明社会的基本运行方式，即分布式的大众内容安全机制和集中式的官方内容安全机制，这是目前是世界各国都在积极探索的新型信息文明社会形态。大概率情况下应该发展成为一种集“分布/大众”和“集中/官方”于一体的数字信息社会验证与确认制度，同时也应该是一种普惠的社会公共服务，为广大民众提供类似于保障食品安全一样的“精神食粮”安全保障机制。

说到这里，在第二点下我还想提议另一个与此相关的建议，我把它称为“自动机第四定律”，具体建议是：“对于所有物理形态与虚拟形态的机器，在未经人类共识许可下，不得赋以人形、人声、人名、人道、人情与人理”。这是对阿西莫夫著名的“机器人三定律”的致敬与延展。我之所以在这里没有用机器人而代之以自动机，是因为我认为把robot翻译为机器人是一种根本性的类别混淆，也无形中在大众传播与群体认知中产生很多误区和偏见。从语言学上来讲，这种翻译方法把自动机器归类为人的类别，“机器”反而成为形容词定义一种人的类别；但是它不是人类，是一种帮助人类承担劳役的机器。至多在文学作品中赋之以类似人的形状和属性，作为方便讲故事的一种权宜之计。即使这样，这种随意为机器赋予人形的想象和后果，早在《聊斋志异》和《西游记》中就有提醒。未经训练的人类，很难辨别画皮、白骨精或者六耳猕猴，在《西游记》的故事里，就算孙悟空能够辨别出白骨精，但碰到六耳猕猴后，几乎自身难保，这与现在不断出现的机器生成能力始作俑者也会被仿真的现象完全雷同。这种因为符号与本体混淆的能所之辨，可能成为二十一世纪的顽疾，不得不给予人类以充分的警示，慎之慎之！

第三个数字信息零信任的原则是数字信息内容的有限量摄取原则。说白了，在信息过载的时代，内容是看不完的，人脑不是电脑。我们需要常常放下手机和电脑，走出户外，增加自己与大自然接触的机会和时间，保持体会野外芬芳的能力。当下人类在大量地消耗思想能力、处理能力和记忆力，我们看到东西不问对错、好坏和能否消化吸收，就拼命往头脑中硬塞，丝毫不顾及大脑的处理极限。在过去食品行业工业化的过程中，人类虽然得到了食物的富足，但是由于人类的身体与认知结构尚未进化至能够应对食物富足的文明形态，产生了食物摄取过量、营养不均等等健康问题。现在，当信息也可以由机器生成时，同样的挑战开始出现在精神食粮的领域，其结果就是未经训练与指导的人类，在信息过载的时代依然如同信息稀缺时代一样消费信息，很快就会出现与过去几十年身体健康问题类似的大脑“肥胖化”、“糖尿病化”和“高血压化”的精神健康问题。

02 人的价值在于提供异常值

韦青：

在尤瓦尔·赫拉利新书《智人之上》提到“参与”很重要，我非常认同。机器通过标识符（token）来学习，而表征人类特点的标识符是由人类产生的，虽以数字化文字、图片、视频、音频形式出现，其本质是由我们的思想、喜好和行动构成。

举机器学习人类饮水为例，如果人类留给世界的形象是拿起罐子仰头往嘴里灌水，机器会把这当作人类饮水的方式；如果我们时常拿着优雅的茶杯浅斟低酌，那么机器就会学到这种人类饮水方式。它不需要、不必要、也没有能力理解这是一种什么样的行为和动机，它只是识别出这种模式。之后无论是机器生成的内容或者表现出的动作，都将取决于机器学习到的以标识符表征的人类习惯。

所以我们为什么要参与？因为在实现了数字化的社会中，我们的一言一行、任何举动都会被记录为我们的数字足迹（digital footprint），从而被机器学到。

陈行甲：

我特别受启发。在我所创建的深圳市恒晖公益基金会的知更鸟公益项目中，我们计划做一款儿童青少年精神健康关怀的AI智能陪伴工具。调研中，我们发现很多企业会借助心理学家设计的一套成体系的问题，利用 ChatGPT 生成数据集，再用数据集训练出模型。

但是我们决定走最笨的路：我们在接触孩子后，基于真实的周延世界，建立问题类别覆盖的基础数据系。也就是说，我们的数据基础一定是真实世界的，是我们身边发生的。

我们人类要参与，而且是基于最底层的参与。我们有高级营养师、心理咨询师，也呼吁大量有公益情怀的志愿者参与进来，反馈真实的困惑、烦恼，这就是真实有效的数据集。

韦青：

从机器能力的角度看，主要包括它学什么，和生成之后怎样被别人去用。首先，它学什么？对于中国来讲，我们需要将中华文明落实成数字足迹，例如您刚刚提到的各类人群的行为。机器学的就是人类的数字足迹，如果你的足迹没进去，或者说带有你的特征的足迹没进去，而机器又不会停止学习，你不把代表自己文明的数据喂给它，它就会学习别人提供给它表征你的文明的数据。长此以往，你的文明在这个机器中可能就会表现为你不希望看到的结果。

所以您刚刚所说的非但不是呼吁，而是必须。一定要拥抱工具，大量的去用，了解它、掌握它，你成为它的主人，而非奴隶。

陈行甲：

是的，我们用真实数据整理生成的东西，可能是更有价值的。就像您说的，这里面有人味，有最基础的东西，AI时代来临，我们不仅是使用，而且在参与性地创造。

韦青：

随着对人工智能研究的深入，我认为不要太早下断言（assertion）。我个人认为我们都是21世纪信息文明时代的“新文盲”，我们的教育都是按照工业文明时代的教育方法去做的，我们在把自己培养成机器：听话、重复、不犯错误，和高超的记忆能力，而这些恰恰是机器最擅长的。

但实际上我们忽略了最根本的一点，我把它称之为“沉默的主角”。“沉默的主角”不是机器，不是人工智能，“沉默的主角”是人。人为什么不去发声？人到底要干什么？人应该完全守规矩吗？

当机器守规矩回到平均值，即回归（regression）时，人的价值在于提供异常值，提供离群值。人类社会永远是在不断地犯错，但永远是在试错中前行，这是真相。只有闭卷考试才有100分，开卷考试永远不会有100分，永远是不断接近真相的。

我们需要引导社会的进步，需要用带有我们习惯的言谈举止优化机器的算法，把机器的知识与行为往我们形成共识的、有人味道的方向引。这靠什么？靠人群特有的差异，而不是靠机器的回归均值。如果我们不敢去犯“错误”，不去出偏的话，那么机器的知识与行为就会越来越固化，人类的下一代大概率会像这类机器学习新的知识，如果我们不为僵化的算法结果提供人类文明与时俱进而不时出现的异常值，那么这种机器能力最终会把人类的认知和知识压缩，严重的话会使整个文明丧失发展的活力和动力。

陈行甲：

“社会并不完美，看清依然热爱，知难仍然行动。”我觉得我丰富了对这句人生格言的认知。过去我们突破无人区，尝试为弱势者建立一个系统化的社会关怀系统，我们知道它很难，但仍然要去行动。现在更深一层地说，只有行动了，才知道自己偏了，才知道知道自己可能会出偏在哪些地方，让他少一点，再少一点儿。

韦青：

在Github上开源的一份GPT-4模型早期常用标识符（token）分析报告中显示，对于简体中文的表征中包含许多垃圾信息，真实的简体中文环境并不是这样。但我们的文明会因为能否在全球互联网上拥有代表我们文明真相的文字、语音、图片和视频而在机器中产生相应的结果。有偏差的数据被遍布全球各地的学习机器学习之后，就会产生具有偏差的文明表征。如果不把我们能够分享的数据和知识分享给全人类，那么当另一个文明的小孩子想学中华文明时，如果他们是利用这种智能机器学习，就会学到有偏差的中华文明。所以信息文明的运作方式，和农业与工业是不一样的，它不仅仅是粮食、土地、人口、煤矿、石油的占有。

雨白：

现在反而是分享。

韦青：

没错。信息文明时代，任何一个文明，一个种族，一个组织，直至一个人类个体，如果不去共享表征自己的数据，不去分享思想，是极其危险的。以前靠书，靠演讲，现在靠全世界的数据。如果我们不给予优质的养料，而放任别人去喂它，那就很麻烦。

因而，数据分享也是一种竞争优势，尤其是信息文明下独特的优势；即让世界跟着你的思想与标准走，但同时需要保留“核心竞争力”。此时的核心竞争力变成两点，一点是值得被分享出去，被别人学的核心竞争力；还有一个是完全为“我”自己保密，让“我”独特的竞争力。而你需要分辨两者，这是难上加难，我把它称为信息文明下“真正的能力”，这是一种智慧，是对于数据、信息与知识运用自如的能力。

参与文末小互动，留下你对AI时代的思考

有机会获得实体书《智人之上》一本

03 “危机”面前

打开新的文明之门

雨白：

趋势以来、浪潮将至，似乎每个人都有一种无力感。我们到底该如何面对人工智能的飞速发展，我们真的能做那么多事情来实现目标吗？

韦青：

所谓的无力感，恰恰是机器生成的信息造成的无力感。香农的信息论，其实只涉及通讯的数学原理，他在这份著名的论文中，一开篇就强调他的信息论不涉及信息的意义。信息包括语法、语义和语用，也可以大致理解为形式、内容和意义。在技术领域通常只关注信息的形式与内容是否能够准确地传播，而一旦谈到意义，人们才会发现，在有人类存在的传播环境中，没有足够新鲜度和惊讶值的信息是不值得被传播的，这就从根本上决定了人类社会对于信息意义的传播是会有偏差的。

例如，张三被一条狗咬了的消息传播力有限，那么什么能够被传播呢？一条信息一旦在人类社会中开始传播，就不完全受原始信息发出方的控制，这种传播中的信息具备模因的属性，其行为更类似于病毒的传播。模因自身会具有生存下去的意愿，在传播过程中为了能够继续传播下去会发生变异。再加上人类本身就具有被称之为“确认偏差”的认知特点，人类其实只想相信想相信的，并不完全在乎相信的是否是真相。模因本身的变异再加上人类的认知特点，就会造成“张三被狗咬了”的消息传播力不强，但它一旦变异为“张三把一条狗给咬了”或者“李四家的一条疯狗把张三给咬死了”，这种消息就会具备比原始消息远大得多的传播力和影响力。

在当下这个信息高度发达与过载、信息高速传播和人人互联的时代，人们已经很难接收到未经变异的消息。这种变异体现在两个方面，第一是消息本身的失真，还有一种是消息分布对应于现实分布的失真。头一种失真是假消息，相对容易识别；后一种失真是偏差消息，指的是人们收到的消息并不能完整表现出社会上真实的现象，这会干扰人们对于社会现状的判断，要么极度乐观，要么极度悲观，而没有认识到这种极度乐观和极度悲观都是人类自己固有的认知偏差与想象。实际上发生的事，有可能像小马过河里说的，既不是那么糟，也不是那么好，太阳底下无新鲜事。

我认为现在只要是数字信息传播的信息，都可以由包含语用分析的传播理论来解释。正常正态分布的信息不可能被传播。比如昨天晚上我吃了个馒头，你不会去看的，昨天我被馒头噎着了，你可能会去看，但是我被馒头噎着概率是1‱，而你对世界的解读却是以表征1‱现象的真信息来解读，所以非但不仅有沉默的主角，还有沉默的真相，也可称为被加了麻辣酱的原味真相。你说的这种无力感，恰恰是对于真相失去感知后的无力感。

雨白：

这让我想起一开始陈老师所说：我不刷视频，但我知道主要信息。这说明什么？说明我们每天关注的热点，并不会给我们的生活造成很大影响。真正重要的事情，你一定会通过各种各样的方式知道的。

韦青：

尤瓦尔曾说，当机器越来越快的时候，人应该做什么？越来越慢。当人类被堵到墙角的时候，非但不是到了绝路，而恰恰是有一道门打开，新的文明之门打开了。我认为这个文明将会解决人类的极大、极小、极远、极近的终极问题。极大指的是宇宙，在机器的帮助下继续探索被称为人类母学的天文学；极小指的是量子，在远比人类精微的机器帮助下继续探索量子世界的奥秘；极远指的是太空旅行，月球远不是人类可及的极限；而极近是我们人类独有的精神家园。有一种说法是人类已经有能力探索太空，结果对于从地面到头骨的部分却一无所知。这也恰恰是东方文明能够在这个文明范式转移的时代可能做出的最大贡献，即反观自身，反省内心，不为纷纷扰扰的能指所迷惑，找到我们最终的安心之所。

陈行甲：

人的一生要走两条路，一条在我们的脚下，穿越高山大海，穿过人山人海。一条在我们自己的内心，回溯生命之说，回望生命之源。

从农业文明、工业文明，到信息文明，面对时代的不确定性，前行路途可能并非清晰，星光并不光亮，你可能深一脚浅一脚，甚至很有可能会绊倒。但那一点点星光却是真实的，只要你能够确定那个光亮是真实的，向着光的方向走去，那人类就有希望。

所以AI时代已经到来，无论你恐惧也好，欢迎也好，它终将到来，终将完全融入和影响我们的生活。与其恐惧，不如拥抱，不如培养AI所不能具有的能力。

比如在我很小的时候，我和母亲一起爬山坡会看到路边的野花，当我的母亲在晚霞时刻采了一束束的野花，让我拿在手上的时候，我会怦然心动。她对我产生的意义AI能取代吗？当然不能。这是一种对世间美好事物的感受能力，是一个能够共情、能够感受的有趣的人。

韦青：

人生本来如此。我觉得人类的意义悠远绵延，我们远未达到祖先们在几千年前就畅想的大同社会。我也坚信人类能够到达的境界远比现在高尚，目前这些大都是有限游戏规则下的种种困境，是人类精神文明未能与时俱进而自我局限的后果。

“勇敢地航向前人所未至的宇宙洪荒”(To boldly go where no one has gone before)，，这是《星际迷航》中最激动人心的台词之一。实际上，人类几千年文字记载的知识与历史和宇宙相比，实在太渺小。

无限游戏追求的是无尽前沿的探索，是人类自身的升华、智慧的跃迁和灵性的超脱，而不是被这些虚幻符号所沉迷和约束。

有些人可能会消亡，但我们要坚信人类不会消亡，人类历史会继续延续，真正的问题是我们能不能成为那个不消亡的人。

转发本篇文章到朋友圈、

点赞、在看，并在评论区分享