人工智能，最有可能毁灭人类的方式是什么？

摘要：学人简介：吴承瀚，浙江大学医学院附属第二医院神经外科主治医师，特聘研究员，研究生导师，留学生班主任。北京大学医学部临床医学学士，上海交通大学医学院神经外科硕士，比利时鲁汶大学医学院神经科学博士，美国斯坦福大学医学院神经外科博士后。近期翻译出版《照亮破碎之心》（

吴承瀚

学人简介：吴承瀚，浙江大学医学院附属第二医院神经外科主治医师，特聘研究员，研究生导师，留学生班主任。北京大学医学部临床医学学士，上海交通大学医学院神经外科硕士，比利时鲁汶大学医学院神经科学博士，美国斯坦福大学医学院神经外科博士后。近期翻译出版《照亮破碎之心》（湖南文艺出版社2024年）。本文系学人播客专访吴承瀚老师的对话摘录，全文见文末。

作为一名研究人员，我确实想推动相关技术的发展，但作为一个普通人，我对这些技术的未来持谨慎态度。这种矛盾心态与核能的研究类似。早期的核能研究可能会被用于发展原子弹，而今天的AI技术，发展速度极快，但未来如何影响人类社会，我们尚不清楚。

我对于《美丽新世界》或《1984》这样的世界感到非常的恐惧。因为我认为如果我们走到那一天，那就意味着我们作为人类彻底失败了。我们不应该像机器一样活着，生活也不应当仅仅是为了某些极端的情况。如果大部分人最终成为某些既得利益者的工具，他们通过各种科技手段去控制这一群人，那么我们可以反思一下：现在的社会是否已经有了类似的迹象？当然是有的。

正是基于这些原因，一个社会需要不断地去讨论，去公开地讨论现行的体制是否对当前的人类健康以及整个人类未来的发展是有益的。

作为科学家，我很在乎我研究的东西会不会毁灭人类。我在看《奥本海默》的时候，我感到这是一种很发人深省、甚至是很可怕的经历，它让我意识到人类距离自我毁灭有多么接近。

现在，我们似乎又正处在一个临界点。我指的是人工智能这项新技术的存在。我认为人工智能的毁灭可能性是绝对存在的。作为一名科学家，我觉得唯一的解决办法就是持续不断地讨论，把这个问题摆到台面上来，邀请所有关心此问题的人参与讨论。这是人类唯一能够避免自我毁灭的方法。否则，如果某个人、某个机构或团体获得过大的力量，允许他们不加限制地自由发挥，结果可能会非常可怕，任何技术都是如此。

我首先担心的是（人工智能）让人变得愚笨。不是知识量减少，而是让人失去思考的能力。所谓的“人类种族灭亡”可能并不是指物理上的灭绝，而是人性的消失。举个例子，我记得今年年初（2024年），OPEN AI的创始人发表过一些观点，大致是说OPEN AI现在每天生成约1000亿个单词。地球上所有的人每天产生大约100万亿个单词，虽然比人类少，但花费的时间少了大约100倍。

接着，他提出了一个问题：哪一天，机器创造的文字数量会超过人类？对我来说，这比恐怖故事还要可怕，因为一旦这种情况发生，世界会变成什么样呢？而且，说不定现在这一刻，机器创造的文字数量已经接近甚至超过了人类，它们只差了100倍或1000倍，这个差距并不大。

对我而言，可能不是人类作为种族的毁灭，而是当某一天，机器创造的信息数量超过人类时，人们开始相信，甚至过度相信这些信息，将会对社会产生深远影响。我认为，这种“毁灭”将是人类在思想和社会结构上的崩溃。

在小宇宙APP搜索“学人Scholar”，或直接扫码收听全部内容。

[收听指南_时间戳]

00:28 《照亮破碎之心》及光遗传学

13:33 神经网络与深度学习

17:47 社交网络立法与心理学发展

20:40 未成年人使用科技产品的隐患

24:49 脑机接口技术的发展是喜是忧

36:35 国内外精神病患者康复体系的比较与借鉴

39:09 国内心理咨询行业的现状与挑战

51:31 脑机接口技术的应用与前景