摘要：我们离 AI 接管世界还剩多长时间？AI 技术正在飞速前进。我们曾经提出过这样一个观点：未来某一天，AI 的能力将足以取代人类，如果它想这么做的话。等到那时，我们最好确保它“没有这个意图”。如果这一切成立，我们还有多少时间？我们如何判断？

我们离 AI 接管世界还剩多长时间？AI 技术正在飞速前进。我们曾经提出过这样一个观点：未来某一天，AI 的能力将足以取代人类，如果它想这么做的话。等到那时，我们最好确保它“没有这个意图”。如果这一切成立，我们还有多少时间？我们如何判断？

AI“接管”很难预测——因为它还从未发生过。但我们可以类比其他历史上的全球性巨变。一个重要类比是人类智能自身的崛起。我们曾经提到过研究者 Ajeya Cotra 的工作，她通过与生物学的类比来预测 AI，包括估算“制造一个人类级 AI 需要多少计算资源”。这个问题的切入口之一，是估算造出你自己的大脑，花了多少计算量。

另一个合适的类比是工业革命。蒸汽动力改变了世界，因为它自动化了大量体力劳动；AI 则可能通过自动化认知劳动，重塑世界。所以我们可以借用经济学中关于自动化的模型，来预测 AI 的发展。

AI 影响研究者 Tom Davidson 在 2023 年 6 月发布了一份报告，采用经济学原理中的数学模型，来估算 AI 何时能够自动化 100% 的人类劳动。如果你想自己玩这个模型，可以访问网站 [takeoffspeeds.com]。

我们来深入看看这个模型试图回答什么问题，它是如何运作的，以及这对 AI 的未来意味着什么。

Davidson 的模型聚焦于两个密切相关的核心概念：AI 的时间线（timelines）与 AI 的加速阶段（takeoff speed）。时间线是指 AI 达到某个关键节点的具体时间——例如，它能自动化多少比例的人类工作。一个“短时间线”意味着这一节点即将到来，“长时间线”则表示它还遥遥无期。而 AI 的加速阶段指的是 AI 从“远逊于人类”进化到“远超人类”的这一跃迁过程。加速速度的时间尺度可能是“快速”（几周或几个月）、“缓慢”（几十年），也可能是“中等速度”（几年）。

理论上，时间线和加速速度可以出现任意组合。例如，如果研究陷入停滞直到 2075 年 4 月 11 日，却突然一夜之间造出了超级智能，那将是“长时间线 + 快速加速”的典型情形。

我们可以通过衡量 AI 从“能做 20% 人类工作”发展到“能做 100% 工作”的所需时间，来量化这个加速阶段。模型中称前者为“20% AI”，后者为“100% AI”。

为估算这一跃迁所需时间，模型分两步进行：第一步，估算从训练 20% AI 到训练 100% AI 需要多少倍的资源提升；第二步，估算这些资源增长的速度。

在模型中，资源主要包括两类：一是“计算量”（compute）——即硬件算力与时间；二是算法的效率提升——即在相同算力下获得更优表现的能力。算法的进步可以减少所需的算力。

从 20% 到 100%，Davidson 估算我们需要提升算力效率的总幅度大约是 10,000 倍。这可以是“计算资源 x1000 + 算法效率 x10”，也可以是“计算资源 x10 + 算法效率 x1000”，或者任意组合。

这个估值极不确定：最低可能只需 10 倍，最高可能要 1 亿倍。这一估值来自多个参照点，例如人脑与动物脑的对比、AI 在特定领域（如博弈类游戏）超过人类的表现等。

当然也可能出现另一种情况：制造超人类 AI 根本不可能靠现有范式，仅靠堆资源无济于事。如果真如此，这整个框架就无法适用。但也有证据显示，目前的范式可能就够用。近年的 AI 突破，很多正是靠“砸算力、喂数据”，而非算法革新。

以 GPT 系列为例：2018 年的 GPT-1 连几句话都难以连贯生成；2023 年的 GPT-4 能写整篇新闻稿。它们背后的算法基本一样，但 GPT-4 所用的算力是 GPT-1 的约一百万倍。

那我们到底需要多少算力来训练一个 100% AI？Davidson 的估计是 10 的 36 次方次浮点运算（FLOPs），基于 2022 年的算法水平，不确定范围为上下千倍。这个量级巨大：哪怕是下限（10 的 34 次方 FLOPs），用 2022 年最强超算来训练，也得从侏罗纪开始运行，才能在今天完成。

显然我们不可能真等它跑那么久。

实际预期是，AI 将通过三个途径前进：一是投资涌入，买更多芯片；二是芯片性能提升；三是软件优化，提高算力使用效率。前两者增加“实际算力”，第三者提高“单位算力的利用率”。模型中，将“有效算力”定义为“硬件算力 × 软件效率因子”。

在了解算力增长逻辑之后，我们可以引入经济学参数。模型中的核心变量，是“AI 对自身研发能力的加速作用”。我们已经看到大模型在帮助写代码、调试程序等方面大显身手，研究者在缺乏 AI 工具的日子甚至会暂停编程工作。这种反馈回路越强，AI 的加速越快。

经济学有一整套工具用于模拟自动化如何影响人类劳动，比如工业化中的模型。Davidson 借用了其中一个叫“CES生产函数”的公式。另一个重要因素是投资反馈：AI 越强，吸引投资越多。模型设定一旦 AI 超过某门槛，投资将指数级加速。

此外，还有参数控制如下内容：AI 研究的自动化难度、后期人类如何提升 AI 使用效能（比如提示工程、筛选多轮答案等），这些都会影响 AI 的最终表现。

模型采用蒙特卡罗方法运行：每次随机抽取输入参数值（在给定区间内），计算一个可能的未来情境。通过成千上万次模拟，我们能描绘出一个完整的概率图景。

来看结论：模型中位数预测为——AI 可在 2043 年 实现 100% 劳动自动化，加速阶段耗时约三年。这意味着 2040 年可达 20%，2043 年可达 100%。

但这是一个中值预测，存在极大不确定性。模型认为有 10% 的概率在 2030 年前达到 100%，也有 10% 的概率要等到 2100 年之后；加速阶段最快可能只需 10 个月，最慢可能超过 12 年。

你可以访问网站，根据自己的设定重跑模型，包括硬件、软件、投资、算法进步、研究自动化难度等因素。

从 Davidson 模型中，我们可以提炼出几个核心结论：

其一，即便没有“奇点爆发”，AI 也可能在数年内迅速超越人类。其二，有多种因素共同加速时间线：持续增加的投资、AI 自我加速的潜力、算法的快速优化、以及训练和运行间巨大算力差异——训练耗费极高，运行几乎不费资源。换句话说，训练一次高质量 AI 意味着它将可以高效部署、广泛使用。

最后一个要点：几乎找不到一个“现实合理”的输入组合，会让 AI 在 2060 年之后才完成对所有认知任务的接管。哪怕整体进度低于预期，哪怕 AI 达到人类水平比想象中难，它的出现几乎已是几十年内的大概率事件。

当然，这一切基于一个假设：即当前技术路径足以构造超人类智能。如果未来出现新范式，也可能更早突破。

正如所有模型一样，这个模型也有局限。任何模型的价值取决于其假设的合理性。而与其拍脑袋给出终极预测，不如一步步建模、量化不确定性——参见我们关于贝叶斯推理和预测市场的视频。

Davidson 在完整报告中详细解释了每个假设的来源，也提到了一些未纳入的变量，比如训练数据量的问题。

更普遍地说，这类模型不是为提供“答案”，而是为我们提供“思维工具”。经济学本身并非预言未来的科学，却是我们理解人类行为与市场机制的关键工具。若我们能用它来思考 AI 的演化，也许能更理性地面对那个越来越临近的世界。

来源：老胡科学一点号