摘要：虽然人类掌握了越来越多的信息，却被仇恨、恐惧和贪婪，傲慢的情绪左右，做出了很多自我毁灭的事件。《智人之上》不仅有着宏大的历史观，更能在行动层面指导我们的日常生活。

在当下这个时代，几乎人人都在谈论AI，人工智能已经推动历史进程来到了一个“to be, or not to be”的关键时刻。

未来科技将会如何影响社会以及人类自身？身处时代浪潮中的每个人都应该多花点时间来思考这个问题。

在完成“人类简史三部曲”之后，历史学家尤瓦尔·赫拉利教授沉淀6年时间，推出了他对人类未来命运的最新思考——《智人之上》。

他认为，人工智能可能成为我们物种的救世主，也可能成为我们灭亡的设计者，这取决于我们如何选择将其融入我们存在的结构中。

虽然人类掌握了越来越多的信息，却被仇恨、恐惧和贪婪，傲慢的情绪左右，做出了很多自我毁灭的事件。《智人之上》不仅有着宏大的历史观，更能在行动层面指导我们的日常生活。

在当下，我们如何理解算法对我们产生的影响，如何理解效率与人的发展的关系。近日，中信出版集团邀请历史学家尤瓦尔·赫拉利与作家、媒体人洪晃以《智人之上》破题，进行了一次知识密度极高的对谈。

尤瓦尔·赫拉利（左）与洪晃（右）

整场对谈金句频出，大神一开头就戳穿了真相！

核心观点：

1.金融是人工智能的理想游乐场，因为它是纯粹的信息世界，而人工智能能比人类更好地玩转这场金融游戏。

2.人工智能的最大bug，没有情感，没有意识。生活中真正重要的不是智能，而是意识；不是解决问题的能力，而是情感。

3.人类犯的主要错误是认为意识对于创造力是必不可少的。恰恰相反，人工智能很容易取代医生，却很难取代洗碗工。

4.我们的生活已经被卷进了算法的节奏，慢不下来、24小时待命。要跟上算法的节奏，人最终会走向崩溃。

5.人生来如此，会把所有注意力都集中在危险和恐惧上。为了投其所好，社交媒体上，每时每刻都有“蛇”出没。

6.算法想要创造一个机器人来统治人类，特朗普就是这样一个“机器人”。

7.每个人都需要有一个基本认知：在很多方面人不可能完全独立，请放弃这种完全独立的幻想。只有这样，你才能更好地了解自己。

本次对谈全文整理如下，值得收藏。

1

金融是人工智能的理想游乐场

洪晃：赫拉利教授您好，非常荣幸能够坐在这里和您交谈。

我想从这个问题开启今天的对话。在《智人之上》中，您提到了一个非常重要的概念“主体间现实”，我觉得我们的对话可能会经常提到这个概念，为了不让听众感到困惑，可以先展开谈谈吗？

赫拉利：感谢邀请，我也感到非常荣幸。这个开场的概念解释确实很重要，我很乐意说明。

这个词看上去有点唬人，但其实它的意思很简单。我们大多数人都知道现实有两个层面，即客观现实和主观现实。

客观现实是独立于我们想法的存在，与人类所认为的和相信的无关。比如一颗来自外太空的小行星，不管我知不知道、相不相信它会来，它都在那儿。如果它撞击地球，就会造成巨大的灾难。

我们的信念并不重要，很多自然规律：比如重力，在历史的大部分时间里人们并不知道重力，但它依然在那儿维持着这个世界绕着太阳旋转，尽管人们相信世界是静止不动的，所以这就是客观现实。

主观现实是存在于我们自己头脑中、情感中、信念中的东西，如果我感到疼痛，这就是一种主观现实。世界上没有其他人能感受到这种疼痛，我能感受到，这就是我的主观现实，如果我不再感到疼痛，它就消失了。或者晚上做的梦，只有我能梦到，我在梦里看到一些东西对我来说它是真实的，如果我不再做梦，它就消失了。所以这就是客观和主观。

但在历史上，一些最重要的东西是介于客观现实和主观现实之间，它们是主体间的现实，一个很好的例子就是钱。

让我们来想想钱是什么。钱不像小行星或重力那样是客观的。但是很多人相信它仍然是有价值的。为什么这张纸有价值？钱不是食物，不能用来吃喝，因为它没有客观价值。但是如果我去超市把这张纸给陌生人，他们就会给我一个能吃的苹果。

所以钱不是一种客观现实，但它也不是主观的，因为这不仅仅是我的信念，而是很多人的共识。要让钱起作用需要很多人同时相信它，这就是主体间现实。

不只钱是主体间现实，比赛规则、一个国家的法律、宗教神灵也是如此，它们不像物理定律那样客观，即使人们不相信也起作用，但它们也不是某一个人的梦，需要数百万人相信这些，它们才能起作用，对现实产生很大影响力。

洪晃：所以这种主体间现实确实是由人类创造的，它不存在于其他物种中。

赫拉利：是的。就我们所知，比如黑猩猩或大象，我们认为它们没有钱，不相信神，没有任何关于法律的书，但它们知道客观现实，并且也有感觉。比如大象踩到钉子会感觉到疼痛，它有触觉，如果狮子来了它们会感到害怕，它们也有情感，但我们没有任何证据表明它们有这些主体间现实。

洪晃：在《智人之上》中，您提出人工智能时代的一个主要担忧是计算机间的现实将与人类创造的主体间现实共存，这是怎么做到的呢？

赫拉利：这听起来很复杂，但实际上并非如此。几千年来，我们生活在人类思维创造的现实中。无论是金钱、神，还是任何比赛规则、国家法律，这些都是人类创造的。

我们发明了事物，我们互相交谈，我们写书，写诗，写戏剧，这就是我们创造这种共同的主体间现实的方式。世界上没有别的物种能做到这一点。

我们创造了许多工具和机器，但没有任何机器能够创造新的法律，创造新的神，创造新的货币。比如让我们想想印刷机，它能够印刷书籍，能打印我的想法，但它不能产生新的想法。

而现在，人工智能和计算机是不同的。人工智能是历史上第一个能够真正创造新事物的机器和技术。人工智能可以写一本书，现阶段，这些书也许不是很好，但它创造了一本完全由人工智能写成的新书，而不是人类书籍的副本。

人工智能可以开始创造新的法律，创造新的货币。你知道，理论上到目前为止所有加密货币，比如比特币，都是人类发明的。我不太确定它们在中国有多大影响力，但现在在西方它们变得非常流行。像比特币这样的加密货币的价值取决于人类的想法，这就是为什么它非常受政治事件的影响。

比如，特朗普当选美国总统，比特币会立刻升值，就是因为人类的想法在起作用。人们相信特朗普支持比特币，所以他会放松金融市场对比特币的监管，于是比特币会升值。这些都是人类的想法。

如果现在计算机和人工智能开始发明新的货币类型，那么会发生什么呢？现在世界上大部分的钱在哪里？世界上的钱不再是纸张或硬币，它只是计算机之间传递的数据信息。

金融是人工智能的理想游乐场，因为它是纯粹的信息世界。金融市场上发生的所有事情，货币、债券、股票、证券交易都只有信息，而人工智能能比人类更好地玩转这场金融游戏。

没有人能跟踪金融市场上发生的所有不同的事情，信息太多了，但人工智能可以，所以人工智能很有可能在金融市场中扮演越来越重要的角色。人们将赋予它们权威与权力，去决策，去投资，然后人工智能系统可能会开始创造新的金融工具。

现在我们面临一种情况，数以百万计的计算机，数以百万计的人工智能可能会进行交互、交易，并创造我们所不能创造的新型货币，我们人类甚至无法理解这类货币。这就像马不理解我们的货币一样。千百年来人们一直用钱买卖马匹，但马无法理解发生了什么。

但我们可以采取行动来防止这种情况，世界上没有任何东西能对我们的生活做出决定，无论是印刷机，还是原子弹，所有关于做什么的决定都是由人类做出的。现在人工智能可以对我们的生活做出决定，如果我们不小心，我们就会像那些马一样。

2

人工智能的最大bug
没有道德，没有情感，没有意识

洪晃：这一点的确非常令人担忧。《智人之上》中提到了令人担忧的另一件事，我认为您在采访中和书中都多次强调了这一点，那就是智能和意识之间存在差异，而人类拥有意识。

我们也拥有智能，但在效率方面我们的智能根本无法与计算机相比。所以在这方面，如果计算机、计算机间的现实，正在以我们像马一样无法理解的速度迅速向我们走来，那么我们如何提升意识，以便在没有意识的纯粹智能之上拥有更多优势？

赫拉利：当下我们仍然拥有很多权力，仍然拥有控制权。但是关于智能和意识之间的区别，人们往往会把两者混淆，我想先解释一下。

智能是追求目标的能力，以及在实现目标的过程中解决问题的能力。它可能是一辆汽车需要到达某个目的地，并在路上进行空间导航；它可能是下围棋比赛时的目标是赢得比赛。在此过程中你需要解决许多问题，这就是智能。

而人工智能现在比我们更聪明，至少在下围棋这样的细分领域。早在八年前AlphaGo击败李世石时就很清楚，在围棋世界，人工智能比我们更聪明，它能更好地解决问题。

而意识是另一回事。意识是感受事物的能力，痛苦和快乐是最基本的感受，还有更复杂的感受，比如爱、恨、悲伤等等。人工智能和计算机什么感觉都没有。

当AlphaGo与李世石对战时，它并不对结果感到焦虑；当它赢了比赛时，它并不感到高兴；当它输了比赛时，它只是输了一场比赛，它并不感到悲伤，什么感觉都没有。

人类不仅拥有感受，而且在我们体内，意识和智能是相互交织的。因为我们决定目标的方式以及我们解决问题的方式都基于我们的感受，我们往往会把这两者混淆。

所有的计算机都有智能，但它们没有意识，至少现在没有。而现在的问题是即使它们没有意识，也在越来越多的领域变得比我们更聪明。一开始只是像下围棋这样的小事，但之后可能会是金融系统，甚至有可能蔓延到军事领域。想象一下，如果我们让人工智能控制军队，这太危险了。

巨大的挑战摆在我们面前，如何保持我们的掌控力？

归根结底，生活中真正重要的不是智能，而是意识；不是解决问题的能力，而是情感。为什么人类想要解决所有问题呢？就是因为我们的情感。比如，你想要拯救人类，使其免受疾病的折磨，是因为疾病不仅会让患者痛苦，也会让家人朋友感到悲伤。

所以整个伦理道德领域都是和情感相关的。道德不是要遵守某位神的律法，或者布道，而是要将人们从苦难、痛苦中解放出来。这就是道德的全部意义。

我们如何摆脱苦难？这是道德层面的问题。现在的人工智能系统没有任何道德观念，因为它们不会痛苦，也不会快乐，它们没有情感。通过这种方式，让我们再次思考，意识是什么？意识是一种体验痛苦的能力，但也是从痛苦中解脱出来的能力，这是道德伦理的核心问题。

目前而言，人工智能系统没有情感。也许在未来它们能够发展出情感，然后它们也会有道德观念。而我们正在面临的问题是我们如何保持对人工智能的掌控，以确保它们做出符合伦理的决策。我们不能把伦理问题交给人工智能，再次强调，因为它们没有道德观念，它们没有情感。

3

人工智能很容易取代医生
很难取代洗碗工

洪晃：我记得人工智能第一次成为公众关注的焦点是很多人热火朝天地写书来展望人工智能的未来。就像动画片《杰斐逊一家》中想象的未来世界，是如此的乐观。

人们常说的一句话，在中国尤其流行，那些捡垃圾和打扫街道的脏活累活从现在开始都将由人工智能完成，而人类将会腾出时间去创造美好的事物，比如写作、唱歌、拍电影之类的。

但是实际发生了什么呢？事实并非如此，因为人工智能似乎和人类产生了冲突。人类和人工智能之间的第一次冲突出现在好莱坞的编剧协会，他们因为大公司在使用人工智能而抗议和罢工。

所以那种认为所有的脏活、累活都将由人工智能来完成的轻快感好像是错的。我们不得不面对一个残酷的事实，那就是有创造力的人反而是第一批被人工智能威胁的人。

赫拉利：是的，我认为有两点应该明确。

首先，人工智能仍然有巨大的积极潜力，否则人们不会继续开发它。医疗保健就是最好的例子。

除了发明新药物，一旦你开发出一位人工智能医生，你就可以创造出数百万的人工智能医生，24小时随时待命，它们已经阅读了全部的医疗文献，这是任何人类医生都做不到的，它们可以记住你的全部既往病史，这也是任何人类医生都做不到的，所以那种积极的潜力仍然是巨大的。

但是它也像每一项新技术一样产生威胁，其中最大的威胁之一就在就业市场。很多人认为至少创造性的工作不会受到人工智能的影响，事实证明这是完全错误的。

人工智能很难做洗碗的工作。如果你有一家餐馆，服务员将用过的碗盘拿起来并送去厨房清洗，这个过程很难实现自动化，对人工智能来说是非常困难的。因为要在一个满是人的餐厅里穿行，拿走盘子而不打碎它们，然后把它们拿回去。这个过程需要兼具运动技能和社交技能，才能在复杂的物理环境中进行交互。

相比之下，人工智能在单纯处理信息、不需要与物理世界交互，以及创造大量创意性的作品时表现最佳。

比如，写一本书就是纯粹的信息工作。在这个过程中，你几乎不需要与物理世界互动，大多数时间里你在阅读大量文章，进行思考，然后写一篇文章，这些都只是信息的输入和输出。对于越来越多的这类创造性工作，人工智能实际上可以实现自动化，甚至做得更好。

人类犯的主要错误是认为意识对于创造力是必不可少的，你必须有情感才能有创造力。我们对创造力最普遍的定义是，你能够理解一种模式，然后打破这种模式。

比如在音乐方面，你听过很多以前的音乐，你了解了写音乐的模式，然后你打破模式，改变模式中的某些东西，这就是创造。

人们说人工智能在音乐方面并不是真正具有创造力，它只是把人类的音乐进行组合和改变，因为实际上这个过程正是人类作曲家所做的事。贝多芬、莫扎特、披头士或者其他音乐家，他们都是从零开始的。这就是创造力，而这是人工智能甚至比人类都做得更好的事情。

当AlphaGo在2016年击败李世石时，令人惊奇的不仅仅是人工智能击败了人类世界的围棋冠军，而是它打败李世石的方法。它采用了一种策略，走了一步非常有创意的棋。

AlphaGo在第二局中下的第37步棋完全不同于人类想过的任何下围棋的策略。起初，那些观看比赛的专业围棋棋手都说这是个愚蠢的错误，没人会这样下围棋，结果证明这是一步妙棋。

在过去的8年里，围棋发生的变化比之前800年还要多，因为人工智能发现了人类从未想到的新策略。所以在围棋方面，人工智能比人类更有创造力。在音乐、文学方面情况还不太一样，因为它们更加复杂，但人工智能尚处于人工智能革命的最初阶段，我认为10年或20年后，我们没有理由怀疑人工智能写书或作曲的能力，它们的创造力将与人类相当，甚至更胜一筹。

在这种情况下，我们应该更深入地审视自己，了解什么是真正的本质，作为一个人什么是真正重要的。答案并不是智能，而是意识。

即使音乐或诗歌之类的东西，人工智能可以比你弹得更好，但你没办法把弹钢琴的工作交给人工智能。我的意思是它不能代劳这种快乐，快乐就像人际关系一样，你不能让人工智能取代你与家人和朋友的关系，那是没有意义的。

所以我认为一直以来重要的是人类去探索自己的意识和思维，再一次去理解生活中痛苦和幸福的深层根源，这就是存在的最终意义。至少目前，这是人工智能完全无法做到的，因为它没有意识，没有心灵。

4

我们的生活已经被卷进算法节奏
慢不下来，24小时待命

洪晃：中国的社交媒体与西方相比仿佛处于一个平行宇宙，电子商务正在蓬勃发展。但你经常能在中国的社交媒体上看到的一个争论：吸引人们购买的强大算法，尤其是直播，正在取代许多实体店，所以很多人觉得人工智能和人类的第一场战斗会发生在中国的零售业。由于社交媒体的蓬勃发展，制造商和零售店店主正在被挤出市场。

现在是我们质疑资本主义运作方式的时候了吗？因为一个开放的市场总是倾向于奖励效率最高的人，而算法显然证明了它比实体店、夫妻店或制造商等更有效。

赫拉利：所以关键问题是目标是什么？目的是什么？如果你只想要最高效的服务，那么算法将会越来越多地接管，但在很多领域，体验比效率更重要。

谈到价值，比如说当你想要购书时，也许你在网上买书更容易，但在历史上，书店提供的是一种体验，也许你去书店遇到了其他人，也许邂逅了一本你甚至从未想过要看的书，这比买书的功能重要得多，这是一种实体体验，这无法真正被复制。

我的意思是算法或许可以有办法直接带你去你想去的地方，但最有趣的事情往往是途中意外发生的。所以再次强调，在某些情况下我们只需要效率，比如你生病了，你需要有效的治疗，效率是最重要的，但在另外一些情况下不是。

这与另一个正在发生的重要变化有关，生活节奏。人类和算法之间存在着非常大的差异，人类是有机生命体；算法是无机物。我们按周期工作，白天与黑夜，夏天与冬天，生长与衰败；我们有活动时间、休憩时间和睡眠时间。

我们往往比算法慢得多。算法没有周期，从不休息，比人类快几个数量级。当人类和算法接触时，一个移动得很慢，一个移动得非常快，那么谁去适应谁？

现在世界上正在发生什么？在很多领域，比如商业和社交媒体等领域，人类被迫因为算法的速度而行动得越来越快，因为这是算法的节奏。

洪晃：电子商务是全天候在线的，凌晨3点醒来你就可以浏览和购买，有些人专门在半夜向失眠的人推销。

赫拉利：算法不需要睡觉，它们没有家庭，它们不去度假，所以它们全天候工作。这对银行家、投资者、商业、社交媒体形成的压力就是不要睡觉，不要去度假，全天候工作。但是，这样对人类的幸福和健康是具有破坏性的。

如果你强迫一个生命体、一个动物、一个人一天24小时都保持活跃，最终他们会崩溃和死亡。我们无法跟上算法的节奏，它们非常高效。如果我们需要，我们有必要让它们慢下来，降低效率，因为如果我们被迫像它们那样工作，我们就会崩溃。

洪晃：您的分析可能会给那些在中国经营大型互联网公司的人带来很多思考的养分。他们实际上已经尝试了一段时间去使用可怕的工作时间表，叫做996，也就是每天朝九晚九，每周上班六天。很多人对此持批评态度，但这是由大型互联网公司制定的工作时间表，而且我怀疑这与有机人类试图跟上无机算法的步伐有关。

赫拉利：算法就好比你运营一个平台，这个平台是全天候运行的，你需要工程师全天候待命，以防平台出现故障，或者出现什么情况。但这在以前并非如此。比如你开了一家夫妻店，日落时店铺就可以关门，你就可以去睡觉了，你不需要有人在半夜不睡去照看店铺。

5

在社交媒体上
每时每刻都有“蛇”出没

洪晃：您在《智人之上》中指出社交媒体的另一个问题是，大多数社交媒体公司，无论是在中国还是在西方，他们给算法定下的目标都是流量，算法只需要尽可能地创造和产生流量。不幸的是，人类喜欢负面的、耸人听闻的或糟糕的信息。我认为我们可以讨论为什么会这样，但很显然，算法真的可以学会这么做。

赫拉利：算法基本上破解了人类的思维，就像破解电脑一样，它找到了人类思维代码中最薄弱的环节。破解了人类大脑。

如果你想吸引人们的注意力，让他们留在平台上以产生更多流量，你就给他们展示一些让他们生气或者让他们害怕的东西，那么他们就会紧盯着屏幕，这样流量就会越来越多。

但这会传播愤怒、恐惧和愤慨，导致不仅是个人，而且是整个社会出现精神疾病，就像我们饮食中的垃圾食品。如果你整天吃垃圾食品，你的身体就会生病；如果你整天摄入垃圾信息，你的思维就会生病。

这是有进化方面的原因的。当我们还是大草原上的狩猎采集者时，在觅食的同时，必须时刻注意危险。

如果你穿过一片森林，除了树木还有一条蛇，你必须把注意力集中在蛇身上。如果你不吃树上的果子，你也不会饿死。但是如果你不注意蛇，你就死定了。所以我们生来就是这样，会把所有注意力都集中在危险上。

回到十万年前的热带草原，你穿过森林时并不是每时每刻都有蛇，你可能走几个小时都碰不到蛇。但是一旦有蛇出现，你就会小心起来。而现在在社交媒体上，每时每刻都有“蛇”，就好像他们发现了如果想吸引你的注意力，就需要给你展示“蛇”。每次你看到一条“蛇”就会引起注意，因为这是我们生来就有的反应机制。

于是，他们创造了一个虚拟的、人为的现实，其中充满了恐惧、愤怒和贪婪，不断吸引着我们的注意力。短期内流量的聚集可能对相关公司有好处，但对于个人和社会来说，这是具有破坏性的。

6

特朗普就像算法创造出来
统治人类的“机器人”

洪晃：我觉得《智人之上》有很大一部分是在讨论关于社交媒体、算法、人工智能和政治，以及它们如何影响我们的社会的。这也是我读过的最深刻的读物，又有点像侦探小说，所以读到结语的时候就会明白，在黑暗尽头有光明。

结合近期美国大选情况，您认为算法和人工智能是如何在美国选举中发挥作用的？

赫拉利：我认为影响并不是直接的，而通过营造一种特定的社会心理环境。因为很明显，特朗普是恐惧、愤怒和仇恨的候选人，这是他在竞选活动和演讲中谈论最多的内容。

洪晃：听起来就好像算法想要创造一个机器人来统治人类。

赫拉利：特朗普就是这样的“机器人”。对我来说关键的问题是，哈里斯带着希望和喜悦的信息，特朗普带着愤怒和恐惧的信息，为什么美国人会选择愤怒和恐惧？

当你看美国的时候，它是世界上最强大的国家，在经济方面是最大的经济体，在军事方面仍然是世界第一，在人工智能竞赛中处于领先地位。

那么为什么世界第一的国家会如此愤怒和恐惧？部分原因是算法的存在。

运行社交媒体的算法多年来一直在向数百万人灌输愤怒和恐惧，所以尽管人们知道现实，但并不会对现实做出反应，而是对他们所知道的现实画像做出反应。

现实画像可能与现实完全不同。这就是信息的力量。我们并不是真的生活在现实中，我们生活在一个信息茧房里。传统上这是由人类创造的，现在越来越多地是由算法创造的，并且信息比现实更重要。

洪晃：这就是说我们正在这个茧房里吞噬信息吗？我知道你曾建议信息节食，那应该怎么运作呢？

赫拉利：信息就像食物一样。以前食物不充足，所以人们会吃他们能找到的任何东西，尤其是高糖分、高脂肪、高热量的食物。现在食物很丰富，所以人们意识到吃太多食物对自己不好，尤其是那种人工添加了大量糖和脂肪使其具有成瘾性的垃圾食品，这对我们的身体是有害的，所以人们开始节食，并且会很在意吃多少，以及吃什么。

信息也是如此，过去信息很稀缺，人们会接收他们能找到的任何信息和任何书籍，现在信息超级丰富，我们被太多的信息淹没了，其中很多是垃圾信息，这些垃圾信息是被人为地填充了仇恨、贪婪和恐惧，使其具有成瘾性，这就是算法所做的事情。

所以我们不需要完全避开信息，事实上，我们需要信息。读书、看新闻是有好处的，但对我们来说，少接收点信息也是好事。我们不是需要大量的信息，而是高质量的信息。

实际上我们需要花更多的时间来消化这些一味接收的信息，消化信息比接收信息需要更多时间。所以你需要信息，需要时间来接收信息，之后还需要时间来反思、分析、思考这些信息，这就是一种平衡的信息节食。

7

如果有人说他从不犯错
请永远不要相信他

洪晃：当你说到高质量的信息时，我会想到有一些被人们称为传统媒体的媒体公司。但是就当下而言，媒体的信息传播有了很大的不同。当你进行信息节食时，最好的方法是什么？或者说这意味着什么传统媒体仍然是优质食品？

赫拉利：我认为对我来说，至少有两个问题和要点很关键。

首先，比起短篇我更喜欢长篇。有时候你看信息只看标题，但如果你真的想了解一些事情，读一本400页的书比看很多短视频要好，要想真正深入交流，我们需要一个小时甚至是三个小时的谈话，而不是口号式的短视频，所以如果你真的想深入了解，长篇内容是必不可少的。

其次，你如何判断信息来源是否可信。这么多的新媒体，你怎么知道它是否值得信赖？仅仅因为你看到了，并不意味着它是真的。

这里要问一个问题，自我纠正机制是什么？自我纠正机制是系统内的一种机制，它一直致力于识别和纠正系统本身的错误，而不是其他系统的错误。看到别人的错误很容易，你如何看待自己的错误？

例如在科学中，自我纠正是科学的基础。如果你写了一篇物理方面的文章，只是说爱因斯坦是对的，爱因斯坦是个天才，相对论是正确的。这样的文章没有人会发表它。你发表论文的唯一途径是，你在相对论中发现了一个错误。如果是这样，那么你就可以获得诺贝尔物理学奖。

对我来说，这使得科学出版物非常值得信赖，因为我理解这个系统的自我纠正机制。科学家只有纠正了现有的知识，才能得到晋升和发表论文，他们从来没有因为简单地陈述已知的一切都是正确的而得到奖励。

而社交媒体的算法机制，没有动力去纠正错误。很多社交媒体的动力仅仅是为了获得流量，所以它们有动机说最耸人听闻的、最愤怒的、最可怕的事情来获得更多的流量，没有动力说昨天发布的文章不是真的，所以这些信息渠道不值得信赖。

也许我们真正要问的问题是，你错在哪里？告诉我你以前犯过的错误。如果你问一位科学家、物理学家、生物学家，请告诉我生物学的重大错误，他们可以给你一长串他们过去做错的事情。但如果你问某个机构、某个人，告诉我你过去犯的重大错误。他们说我从不犯错。请永远不要相信。

洪晃：所以你一定有接触到，或者有很多大型人工智能开发者寻求与你的交谈，比如ChatGPT、山姆·奥德曼，他们会向你承认他们的错误吗？或者说这个你们的对话是如何进行的？因为你或多或少谈论起他们。

赫拉利：他们中的一些人非常关心正在发生的事情，他们愿意接受这种对话。但是他们不断地回到一个话题，那就是：技术竞赛。他们说，是的，我们知道我们正在做的事情是危险的，实际上需要放慢速度，关注安全，更加谨慎，但竞争对手不会放慢脚步，所以我们必须快速行动。

每个人都被锁在这种“军备竞赛”的心态中，这很难打破，因为真正缺乏的是人与人之间的信任。当他们无法信任其他人的时候，就在赌他们可以信任人工智能。

不幸的是，在过去的10到15年里，我们看到世界各地信任的崩溃。21世纪初，世界上充满了信任。现在信任正在崩溃，这是一个恶性循环。当信任越少时，人们就变得更有竞争性，更无情，更自私。每个人，每个公司，每个国家都只考虑自己。然后信任就更少了，情况越来越糟。

洪晃：这是一个恶性循环。

8

我们如何重建未来？
一个基本认知：放弃完全独立的幻想

洪晃：我想以一个积极的方式结束这次对话，谈谈你在本书结尾谈到的共生的人际关系。什么是共生关系？我们如何发现共生关系？从历史的角度来看，它似乎比愤怒和仇恨更强大，或者是因为历经数万年人类已经生存下来了，我们如何重新发现那种关系？

赫拉利：尽管和陌生人建立信任很困难，但显然我们可以做到。

在10万年前，人类生活在50或100人的小部落中，他们几乎从不与部落以外的任何人合作。而今天，我们有像中国这样十几亿公民密切合作的国家。

虽然我们通常关注紧张局势和竞争，但是，在经济、科学和医学方面，仍然有很多国际合作。一些有竞争心态的人，幻想着完全独立，不依赖任何人。这是一个纯粹的幻想。

世界上没有什么是完全独立的，我们吃的很多食物都是世界另一端的人种的，拯救我们生命的药物往往是世界另一端的人发明和生产的。如果没有与大量我们从未见过的完全陌生的人合作的能力，就不可能诞生这样的文明。当然，不仅仅是人，如果没有动物、植物、生态系统、太阳，我们就不可能存在。

当你遇到这些争强好胜、冷酷无情的人，他们认为自己变得异常强大，不用再依赖任何人，却只是在四处搞破坏，最终毁灭了自己。

所以每个人都需要有一个基本认知：在很多方面人不可能完全独立，请放弃这种完全独立的幻想。只有这样，你才能更好地了解自己，人不是那种与世界完全隔绝的坚硬的蚌壳，更像一种与外界交互的运动，就像呼吸一样。这是我们和宇宙不断互动的过程。

来源：中信读书