摘要：最近，多家世界知名媒体发出震耳发聩的呼声，呼吁人们保持警醒、作好准备，因为即将到来的超级人工智能将彻底颠覆一切。但似乎无论怎么呼吁，大部分人仍然无动于衷。已走过百年历史的著名媒体《纽约客》刚刚又发出专栏长文，称民间社会“似乎没有时间关注即将吞噬我们的技术变革”

最近，多家世界知名媒体发出震耳发聩的呼声，呼吁人们保持警醒、作好准备，因为即将到来的超级人工智能将彻底颠覆一切。但似乎无论怎么呼吁，大部分人仍然无动于衷。已走过百年历史的著名媒体《纽约客》刚刚又发出专栏长文，称民间社会“似乎没有时间关注即将吞噬我们的技术变革”，并说留给人类准备的“时间已经不多了”。本文 5500 多字，事关重大，有必要认真阅读。

我的岳父母拥有一个小型的两卧室海滨平房。这是一个公寓开发项目的一部分，五十年来几乎没有改变过。各单元通过砖铺小路连接，小路穿过棕榈树和小型草棚，通向沙滩。在附近，开发商已经建起了大型酒店和公寓大楼，似乎平房被拆除并替代是不可避免的。但这始终没有发生，可能是因为根据协会的章程，必须有百分之八十的业主同意出售该物业。百分之八十的人很难在任何问题上达成一致。

然而，最近，一家开发商取得了一些进展。它提出以看似较高的价格购买几处单元；在一些业主产生兴趣后，它提出了一个更高的整体报价，超过了任何人的预期。足够多的人对大规模出售持开放态度，突然间，这个想法似乎变得可能了。这个报价好吗？谈判可能会如何进行？业主们不确定，开始互相争论。

为了帮岳母解答这个问题，我向 OpenAI 的 ChatGPT 4.5 求助——这是该公司在“plus”和“pro”版本中提供的人工智能模型，对于某些任务，它比更便宜的免费版本要强大得多。每月收费 200 美元的“pro”版本包括一个叫做“深度研究”的功能，允许人工智能花费较长时间——在某些情况下最多半小时——在线进行研究并分析结果。我请人工智能评估这个报价；三分钟后，它提供了一份详细报告。接下来的几个小时里，我又请它根据我的进一步问题修订了报告几次。

人工智能表示，这个报价太低。它的研究找到了附近一些卖得更贵的房产。有一个案例中，买家在交易后将一处房产的规划改为更高的密度，增加了可以容纳的单元数量；这意味着这处房产的价值比交易金额所能反映的要高。与此同时，谈判会很复杂。我要求人工智能考虑这样一种情况：其中开发商购买了超过一半的单元，从而控制了公寓管理委员会。

它预测，开发商可能会实施苛刻的新规则或评估，从而促使更多原业主出售。然而，人工智能还指出，这也可能是开发商的一个脆弱时刻。“他们将拥有一半无法再开发的公寓大楼——意味着他们的投资处于停滞状态，”它观察到，“为他们收购提供资金的银行将感到紧张。”如果仅有百分之二十一的业主坚持不卖，他们就可以让开发商“血本无归”，并提高他们的报价。

我对此印象非常深刻，并将报告转发给了我的岳母。我想，房地产律师可能会提供更好的分析——但肯定不会在三分钟内，也不会只要 200 美元。（人工智能的分析中确实有一些错误——例如，它最初高估了房产的规模——但当我指出来时，它迅速而彻底地纠正了这些错误。）

当时，我还请 ChatGPT 帮我学习一个我计划写的科学领域；帮助我为六岁的孩子设置一台旧电脑，让他可以用来为他的机器人编程；并且，作为一个实验，请它根据我写的关于“人工智能教父”杰弗里·辛顿的个人资料写同人小说（“记者乔什那天早些时候离开了，在即将离开的船上挥手致意……”）。

但我得到的关于公寓的建议是不同的。人工智能帮助我解决了一个真实的、棘手的、涉及金钱的非假设性问题。也许它甚至已经收回了成本。它展现了一定的实用性——某种程度的街头智慧——我也许天真地将其与人类的直接经验联系起来。多年来，我知道这些系统能够做的远不止房地产研究。然而，这仍然是一个“哦，原来如此！”同时又是一个“呃，糟糕”的时刻。我想，人工智能时代真的来了。

许多人不知道该如何认真看待人工智能。这很难判断，既因为这项技术非常新，又因为炒作影响了人们的判断。抵制推销是明智的，因为未来是不可预测的。但是，反炒作是人们对炒作的一种免疫反应，它不一定能澄清问题。

1879 年，《纽约时报》在头版刊登了一篇关于灯泡的多部分报道，标题为《爱迪生的电灯——关于其实用性的的说法相互矛盾》。在一篇提供“科学观点”的文章中，该报援引了一位杰出的工程师——史蒂文斯理工学院院长的话，他“反对将爱迪生的电灯实验结果吹捧为‘一项了不起的成功’”。他并不是不讲道理：几十年来，发明家们一直没能制造出可用的灯泡。在许多其他情况下，他的反炒作是有根据的。

人工智能的炒作催生了两种反炒作。第一种认为，人工智能技术很快将达到瓶颈：也许人工智能将继续在规划方面遇到困难，或者在逻辑思维而非直觉思维方面遇到瓶颈。根据这一理论，在我们达到所谓的“通用人工智能”（大致相当于人类的智力和独立性水平）之前，还需要更多的突破。

第二种反炒作则认为，世界本身就很难改变：即便人工智能能够帮助我们设计更好的电网等，仍然需要说服人们去建设它。从这个角度来看，进展总是被瓶颈所制约，而这些瓶颈——让一些人松了一口气——将减缓人工智能融入我们社会的进程。

这些观点听起来很有说服力，并激发了一种令人欣慰的观望态度。但你不会在《扩展时代：人工智能口述历史，2019-2025》（The Scaling Era: An Oral History of AI, 2019-2025）中找到这些观点的反映。

这本书是播客主持人德瓦尔克什·帕特尔采访人工智能行业内人士的精彩且内容丰富的汇编。帕特尔，这位24岁的神童采访者，通过问人工智能研究人员一些没人想到或没人知道怎么问的问题，吸引了大量播客听众。（例如，去年三月，他问 DeepMind 的肖尔托·道格拉斯：“当你在链式思维上进行微调时，密钥和值的权重是否发生变化，从而使隐写术能够在 KV 缓存中发生？”）

在《扩展时代》一书中，帕特尔将许多采访内容编织在一起，勾画出人工智能的发展轨迹。（书名指的是“扩展假说”——即通过让人工智能规模变得更大，我们能够迅速让它变得更聪明。看起来这一假设正在奏效。）

在《扩展时代》中接受采访的人中，从马克·扎克伯格这样的大佬到一线工程师和分析师，几乎没有人认为人工智能可能会停滞不前。相反，几乎每个人都指出，人工智能正在以惊人的速度进步：许多人表示，通用人工智能可能会在 2030 年之前到来，甚至更早。而文明的复杂性似乎也未能让他们感到畏惧。

许多研究人员似乎非常确定，下一代人工智能系统——大概将在今年晚些时候或明年初推出——将会是决定性的。它们将推动自动化认知劳动的广泛采用，开启一个技术加速的时代，带来深远的经济和地缘政治影响。

基于语言的人工智能聊天机器人的出现，使人们很容易想象这些系统可能会被用来进行写作、法律事务、教学、客户服务和其他以语言为中心的任务。但人工智能开发者并不一定专注于这些领域。“最早自动化的工作之一将是人工智能研究员或工程师，”前 OpenAI 对齐研究员利奥波德·阿申布伦纳告诉帕特尔。

阿申布伦纳——这位在其网站上提到自己曾在“前世”研究经济增长、2021 年年仅 19 岁便成为哥伦比亚大学毕业生的年轻人——解释说，如果科技公司能组建大规模的人工智能“研究员”团队，而这些研究员能够找到使人工智能更智能的方法，结果可能是一个智能反馈循环。“事情会开始进展得非常快，”阿申布伦纳说。

自动化研究人员可以扩展到机器人等领域；他认为，如果一个国家在这方面领先于其他国家，那么“在军事竞争中可能会起到决定性作用”。他认为，最终我们可能会陷入这样一个局面：政府可能会考虑向数据中心发射导弹，因为这些数据中心似乎即将创造出“超级智能”——一种比人类聪明得多的人工智能。“我们基本上将处于这样一种境地：以核报复的威胁来保护数据中心，”阿申布伦纳总结道。“这听起来可能有点疯狂。”

这是强度最高的情景，但强度较低的情景仍然很强烈。经济学家泰勒·科文持相对渐进的观点：他倾向于“生活复杂”的看法，并认为，世界上可能有许多问题是无法解决的，无论你的计算机有多智能。他指出，全球范围内，研究人员的数量已经在增加——“中国、印度和韩国最近为世界经济带来了科学人才”——但这并没有带来深刻的、科幻级别的技术加速。

相反，他认为，人工智能可能会开启一个创新时期，大致类似于 20 世纪中叶发生的事情，正如帕特尔所说，世界“从 V2 火箭到登月，只用了几十年的时间”。这听起来可能像是一个膨胀的观点——与阿申布伦纳的看法相比，确实是如此。另一方面，想想那几十年给我们带来了什么：核弹、卫星、喷气式飞机旅行、绿色革命、计算机、心脏直视手术、DNA的发现。

伊利亚·苏茨克韦尔——OpenAI 的前首席科学家，他可能是书中最谨慎的声音；当帕特尔问他认为通用人工智能何时会到来时，他说：“我不愿意给你一个数字。”于是，帕特尔采取了不同的方式，问苏茨克韦尔他认为人工智能在实现大规模自动化经济之前，会有多长时间“非常具有经济价值，假设它像飞机一样”。

苏茨克韦尔在科文和阿申布伦纳的看法之间做了一个折中，他推测人工智能“作为飞机”的过渡阶段可能会持续“一段不错的几年时间”，而从回顾的角度来看，“可能会觉得它只是一两年。”这或许就像 2007 年 iPhone 推出到 2013 年左右十亿人拥有智能手机之间的那段时期——只不过，这一次，这种无处不在的新技术将足够智能，可以帮助我们发明更多新技术。

让这些观点存在于自己的空间中是很有诱惑力的，就好像你在看一部你可能不会看的电影的预告片一样。毕竟，没有人真正知道未来会发生什么！但事实上，我们已经知道了很多东西。如今，人工智能已经可以以博士水平讨论和解释许多话题、预测蛋白质将如何折叠、编写计算机程序、炒作一种虚拟货币的价值，等等。

我们还可以肯定，在未来几年里，它将会有显著的进步——而且人们会弄清楚如何使用它来影响我们的生活、工作、发现、建设和创造。关于这项技术能走多远，以及从概念上讲，它是否真的在“思考”，或者是否具有创造力，诸如此类的问题，仍然存在疑问。但在我们脑海中的未来十年或二十年的模型中，重要的是要看到，人工智能不再会变得无关紧要。问题实际上在于技术加速的程度。

“技术加速的程度”听起来像是科学家们会痴迷的事情。但这实际上是一个政治问题。开放慈善组织高级顾问阿杰亚·科特拉阐述了一个“理想世界”场景，其中人工智能的加速过程发生得比较缓慢。在这个世界中，“科学是这样的，它很难从根本上加速智能水平，”她告诉帕特尔。并解释说，如果“人工智能自动化人工智能的循环”发展较晚，“那么社会就有很多机会在形式和文化上规范”人工智能的应用。

当然，科特拉知道这可能不会发生。“我担心很多超级强大的东西会很快到来，”她说。最令人担忧的情景的可能性让人工智能研究人员陷入了尴尬的境地。他们相信这项技术的潜力，不想低估它；他们有理由担心自己会卷入某种版本的人工智能末日；他们也被最具猜测性的可能性所吸引。这种因素的结合使得关于人工智能的辩论趋向极端。（“如果 GPT-5 看起来没有让人们大吃一惊，那么这一切都是空的，”YouTube 频道 Asianometry 的负责人 Jon Y 告诉帕特尔。“我们只是在抽大麻。”）

对于我们这些不是计算机科学家的人来说，这个信息是，我们没有必要参与其中。要么人工智能失败，要么它重塑世界。因此，尽管人工智能已经来到我们面前，但它的影响大多是由技术人员想象出来的。人工智能将影响我们所有人，但它的政治尚未成形。可以理解的是，民间社会完全被各种政治和社会危机所吸引；似乎没有时间关注即将吞噬我们的技术变革。但是，如果我们不关注它，创造这些技术的人将单枪匹马地掌握它如何改变我们的生活。

毫无疑问，这些人很聪明。但是，在不带任何不尊重的情况下，必须说，他们并非典型。他们有特殊的技能和亲和力，也有特定的价值观。在帕特尔的书中，最精彩的部分之一是，他问苏茨克韦尔，在通用人工智能被发明出来后，他打算做什么。他会不会对在后稀缺时代的“养老院”生活感到不满？“在通用人工智能诞生之后，我会做什么或其他人会做什么，这是一个非常棘手的问题，”苏茨克韦尔说。“人们会在哪里找到意义？”他继续说道：

但这是人工智能可以帮助我们解决的问题。我认为，与通用人工智能互动会让我们变得更加开明。它将帮助我们更正确地看待世界，并且通过与它的互动使我们内心变得更好。想象一下与历史上最好的冥想老师交谈。那将是一件很有帮助的事情。

大多数人——那些不是计算机科学家，也没有将自己的一生奉献给人工智能创造的人——会认为他们可以通过与机器交谈来找到生活的意义吗？大多数人会认为机器能让他们“内心变得更好”吗？并不是说这些观点超出了常规。（疯狂的是，它们可能被证明是正确的。）但这并不意味着它们背后的世界观应该成为我们迈向下一个技术时代的北极星。

困难在于，要表达不同的观点——这些观点要有力地解释我们想从人工智能中得到什么，不想得到什么——需要严肃且广泛的人文学术工作，涉及政治、经济、心理学、艺术、宗教等各个领域。而做这些工作的时间已经不多了。

此时此刻，我们——那些不在人工智能领域的人——应该参与到对话中来。我们看重个体和社会的什么？我们希望人工智能在哪些方面帮助我们，什么时候我们希望它保持距离？如果人工智能用屏幕取代了学校，我们会认为它是失败还是成功？如果它取代了长期存在的机构——大学、政府、职业，情况又会如何？如果人工智能成为朋友、知己或爱人，它是否超越了界限，为什么？

也许，人工智能的成功可以通过它在多大程度上恢复了我们的政治平衡和生活的稳定来衡量，或者通过它在多大程度上加强了它可能会削弱的机构来衡量。也许它的失败可以通过它在多大程度上削弱人类智慧和人类自由的价值来衡量。

无论如何，要控制人工智能，我们需要辩论并提出一套新的人类价值观，而在过去，我们不必明确指出这些价值观。否则，我们将把未来交给一群技术狂人——他们只关心他们的技术是否能运作、以及速度有多快。

资料来源："Are We Taking A.I. Seriously Enough?" by Joshua Rothman, Published April 1, 2025 - The New Yorker

翻译和编辑：银河系搭车客

来源：人工智能学家