我们的AI近未来

摘要：尽管人工智能（AI）具有为教育、艺术、医学、机器人技术和其他领域带来激动人心的变革的巨大潜力，但它也带来了重大风险，其中大部分尚未得到解决。从政治和其他机构迄今为止的反应来看，我们可以有把握地预计未来许多年都将处于不稳定状态。

人工智能的未来

尽管人工智能（AI）具有为教育、艺术、医学、机器人技术和其他领域带来激动人心的变革的巨大潜力，但它也带来了重大风险，其中大部分尚未得到解决。从政治和其他机构迄今为止的反应来看，我们可以有把握地预计未来许多年都将处于不稳定状态。

作者：查尔斯·弗格森

编辑：阿K

我们正处于一场与第一次工业革命同等重要的变革之中，至今已有两年。但专家对人工智能的影响预测不一，从乐观到悲观都有，我们真的能说清它预示着什么吗？我认为可以。

首先，无论是涅槃还是人类灭绝都不会很快到来。相反，我们可以期待许多年的不稳定。人工智能技术将继续取得快速进展，并具有越来越卓越的能力。我们甚至还没有穷尽当前基于变压器的模型（严重依赖蛮力计算），并且正在付出巨大努力开发更好的模型、半导体技术、处理器架构、算法和训练方法。最终，我们将获得与人类智力相当或超越人类智力的人工通用智能系统。

然而，目前人工智能仍然非常有限。它甚至不能做饭或遛狗，更不用说打仗或管理一个组织。一个恶意的超级智能不会很快接管地球。但是人工智能革命如何发展，以及进步与痛苦的比例，将取决于技术与人造机构之间的一系列竞争。到目前为止，技术正在将人造机构抛在后面。

我非常看好人工智能的潜在优势，在教育、艺术、医学、机器人技术和其他领域看到了令人兴奋和鼓舞的发展。但我同时也看到了风险，其中大部分尚未得到解决。下面我将简要地介绍一下，当然，这只是一个简单介绍。

情况很复杂

正如第一次工业革命时期一样，人工智能对就业和收入的影响将难以预测，而且往往毫无征兆。国民生产总值的总体走势可能看起来非常积极且平稳，但在这条平滑曲线的背后，社会各阶层中相当多的人将承受巨大的痛苦和焦虑，与此同时，许多人将获得新的机遇，一些人将积累巨额财富。

目前，人工智能最适合高度复杂但结构化的活动：在街道上导航、对图像进行分类、下棋、使用语言（包括人类和计算机）。但人工智能对特定人类活动的实际影响取决于三个变量：自动化的速度和程度；与可（不可）自动化的活动相关的人类技能水平；以及至关重要的——廉价人工智能自动化将创造多少额外需求。

这实际上意味着什么可能非常令人惊讶。让我们从语言翻译开始，举几个例子。最近，我先后与两位著名的AI专家进行了交谈。第一位专家认为，人工智能将很快完全取代人类翻译，因为人工智能翻译将在五年内达到完美。但第二位专家认为，我们将比以往任何时候都需要更多的翻译。由于人工智能能够快速、低成本地翻译任何内容，翻译材料将会激增，而人类监督对于训练和改进人工智能系统以及审查和纠正最重要的材料是必不可少的。

经过进一步调查，我认为第二种观点更为准确。需要翻译的内容将会激增（事实上，这种情况已经出现）；对于某些内容，我们仍然需要人工监督。翻译不仅用于天气报告和菜单，还用于FBI、CIA、化学公司、医疗设备制造商、急诊室医生、世界领导人、外科医生、飞机驾驶员、突击队员和自杀预防热线。虽然人工翻译的角色将转向培训、监控和纠正人工智能系统，但在未来很长一段时间内，我们可能仍然需要翻译。

其他领域也出现了类似的问题。许多人认为软件工程师的时代即将终结，因为人工智能已经非常擅长仅凭非技术性的人类指令完成他们的工作。但其他人则认为，这种趋势将导致软件数量和复杂性的大幅增加，需要许多人类专家来构思、组织、验证和监控这些庞大的代码。目前，人工智能对劳动力的影响尚未达成共识。

对于律师来说，未来似乎更加艰难。虽然现在还为时尚早，但我已经听过无数次这样的对话：我们需要一份雇佣/投资/合伙/收购协议，但我们的律师总是迟迟不完成，所以我们请Perplexity（一家人工智能服务公司）来代替他，结果很成功。我们让律师检查了一下，没有问题，所以我们不再需要律师，除非是审查文件。

而且，与语言翻译不同，人工智能似乎不会导致法律工作成倍增加。因此，我预计律师行业确实会面临压力，人类只能处理需要训练有素的专家的复杂案件。相反，在其他一些行业——人们经常提到的会计和审计——人工智能将缓解训练有素的专业人员的严重短缺。

现在来考虑一下驾驶。目前（完全有理由）对自动驾驶汽车的关注掩盖了其他一些事实：人工智能已经使驾驶不再是一项专业。20年前，一名城市出租车司机必须聪明、机警且记忆力超群。但现在，伦敦出租车司机们对“伦敦出租车知识”的传奇掌握已经不再需要了。每部手机上都有人工智能驱动的逐向导航，这使得专业驾驶变成了打车平台上的无脑零工。当自动驾驶足够好时（它已经快到了），这些工作将完全消失。

接下来，让我们来考虑一下机器人技术（自动驾驶汽车只是其中一个例子）。借助生成人工智能，我们正在见证一场革命，这场革命最终将影响从体力劳动到家务劳动再到战争的所有体力活动。今年，风险投资对机器人技术的投资已激增至数十亿美元，这表明风险投资行业正在押注机器人将在未来五年内大规模取代人类。第一批实现完全自动化的活动将在高度结构化、可控的环境中进行——仓库、配送中心、超市、生产线。对于人类附近非结构化的活动（如在家中或路上），实现自动化需要更长的时间，但在这方面也取得了进展。

新的梦游者

人工智能取得惊人进展的另一个领域是武器。在这里，相关的类比不是工业革命，而是第一次世界大战。1914年，双方许多人认为战争将相对轻松，但新技术——机枪、炸药、火炮和化学武器——带来了可怕的大规模屠杀。

我担心目前很少有政治或军事领导人了解人工智能驱动的战争可能有多么致命。人工智能将人类从许多战斗角色中解放出来，但这也意味着任何参与战斗的人类都将被极其高效地杀死。这是否会导致没有人类战斗人员的“净化”战争，还是史无前例的大屠杀？来自乌克兰的早期证据并不乐观。

廉价的人工智能驱动系统还破坏了国家军事力量的来源，使装甲车、舰船和飞机等昂贵的人工控制系统极易受到廉价的人工智能控制武器的攻击。更糟糕的是，这一切都发生在新的冷战开始之际，以及整个西方国内政治动荡加剧的时期。人工智能对枪支管制意味着什么？美国宪法第二修正案是否会被解释为保护人工智能控制的武器，这些武器可以放置在酒店房间的窗户上，并在一周后编程为瞄准下面的每个人或特定的人？

最后一个问题是虚假信息。虽然人工智能已经能够在文本、图像、短视频和音频中产生一些逼真的虚假信息，但许多观察家对人工智能虚假信息迄今为止在选举和新闻媒体中发挥的明显次要作用感到欣慰。但宣布胜利还为时过早。目前，知名新闻机构、大型互联网平台和各国情报部门很容易判断什么是真实的，什么是虚假的。但人工智能技术仍处于起步阶段。十年后（甚至可能更早），当没有人能够确定什么是真实时，会发生什么？

这些问题将在许多领域出现。一个显而易见的后果是，各国需要重塑和加强其社会安全网和教育体系，以应对技能和整个职业将快速且频繁出现和消失的世界。与人工智能可能带来的后果相比，过去30年全球化进程中落后人群的愤怒显得微不足道，除非我们做好准备。同样，我们需要对深度伪造进行极其严格的监管，包括标签要求以及对制作或传播未贴标签的深度伪造的严厉刑事处罚。

欢迎来到未来，我希望我们能做好准备，因为无论我们是否喜欢，未来都会到来。