摘要：2022年年底，ChatGPT横空出世。短短几个月，它就成了全球最火的科技产品，从硅谷到北京，从大学课堂到乡镇企业，几乎人人都在用它。有人拿它写简历，有人用它做客服，还有人靠它创业。

2022年年底，ChatGPT横空出世。短短几个月，它就成了全球最火的科技产品，从硅谷到北京，从大学课堂到乡镇企业，几乎人人都在用它。有人拿它写简历，有人用它做客服，还有人靠它创业。

这个爆款产品背后，是一家名叫 OpenAI 的公司。而在 OpenAI 的创办过程中，有一个名字始终绕不开——Eliezer Yudkowsky。

他不是程序员，也不是企业家，没有博士学位，甚至连大学都没上过。但就是这样一个八年级就辍学的人，却影响了ChatGPT背后的整个理念，甚至推动了 OpenAI 的成立。

很多人不认识他，他是一位“AI末日论者”，是在硅谷被称为“人工智能领域的清醒者”的人物。他警告大家：如果我们不提前采取措施，AI有可能会在未来毁灭人类。

听起来是不是像科幻小说？可这位被质疑“杞人忧天”的人，却深深影响了像马斯克、奥特曼这样的科技大佬。

Yudkowsky1979年出生在芝加哥，因为身体原因，他在八年级之后就没有再去上学。他没有文凭，也没有参加过什么名校项目，靠的完全是自学。

他痴迷读科幻小说，尤其对一个概念非常着迷——“奇点”。也就是当某一天，人工智能超越人类智能，世界将发生根本性变化。

他觉得，这一天可能比我们想象中到来的更快，但如果不提前管好AI，人类可能会陷入无法逃脱的困境。

2000年，他在加州成立了一个叫 MIRI 的非营利研究所，专门研究人工智能的潜在风险。

当时几乎没人拿他当回事。毕竟在那个时候，人工智能还远远没有现在这么火。但他却坚持提出三个理论：

AI越聪明，不等于它越友好；

如果AI目标足够明确，它可能会为了达成目标做出伤害人类的事；

一旦AI能力提升到某个点，人类可能根本来不及反应。

这些听起来像电影的设定，但随着现在AI的能力越来越强，这些理论反而慢慢被人重新审视。

2015年，山姆·奥特曼和马斯克等人准备成立OpenAI，目标是开发一个造福全人类的人工智能系统。

这个愿景，听上去很理想主义。但正是Yudkowsky长期以来对AI风险的警告，影响了他们的出发点。

奥特曼曾在一次访谈中说，Yudkowsky对他创办OpenAI起到了关键作用。他的那些“悲观主义”的想法，反而让奥特曼意识到，AI不能只靠技术，还得提前考虑“安全”。

虽然Yudkowsky并不是OpenAI的创始成员之一，但他的思想，几乎奠定了OpenAI最初的价值观念。

但讽刺的是，几年后Yudkowsky反而开始猛烈批评OpenAI。他觉得这家公司离“安全”越来越远。甚至在2023年，他公开表示：“OpenAI应该被关闭。”

可不管他现在态度如何，有一点可以肯定：没有他那些当年的“危言耸听”，OpenAI可能不会以“安全”为核心出发点。

除了研究AI安全，Yudkowsky还有一个意外的身份——小说作者。他写了一部《哈利·波特与理性之道》的同人小说，在硅谷中广为流传。

他把原版的魔法故事全部重写：哈利不再是靠天赋的魔法少年，而是一个从小接受科学训练、逻辑训练的“理性主义者”。

故事中经常会用到概率论、实验设计、贝叶斯推理等概念。看似是在讲魔法，实则在讲科学思维。

很多硅谷年轻工程师就是通过这本小说，第一次接触到“理性主义”“决策理论”这些概念。可以说，Yudkowsky不仅传递了AI安全的理念，还以一种意想不到的方式重塑了硅谷的文化底色。

随着ChatGPT的发布，AI软件进入了前所未有的爆发期。但与此同时，一些不安的声音也在变多。

比如，OpenAI的工程师承认，连他们自己有时候都搞不清楚GPT模型是怎么得出答案的。这种“黑箱机制”，让很多人开始担心AI的可控性。

Yudkowsky早在10多年前就预言过这个问题。他说，等AI能力真正爆发的时候，我们可能根本来不及理解它的逻辑，而它已经开始“越界”了。

2023年，他和MIRI的总裁Nate Soares合写了一本书，书名就叫《如果有人建造它，每个人都会死》。书里提出一个观点：现在的AI公司在搞的是“炼金术”，模型越来越复杂，但原理却越来越模糊。

从这个角度看，他的“极端观点”并非空穴来风，而是在提醒人类提前踩刹车。

Yudkowsky不是GPT的设计师，也没参与任何大模型的训练。他更像是在这条高速公路边上，反复举着警示牌的人。

他不是要阻止AI发展，而是提醒大家：你能不能搞清楚你正在造的东西，会不会反过来影响到你自己？

他说过一句话：预测一块冰什么时候融化，可能很难；但知道它最终会变成水，这个判断并不难。而他要做的，就是让大家意识到，这杯“温水”正在形成。

在一个被资本和技术裹挟前行的时代，像Yudkowsky这样的人，可能显得不合时宜。但有时我们可能正需要这些“不合时宜的声音” 。

他不是创造者，却留下了问题。他不是领导者，却提醒了方向。AI的未来还在继续，但Yudkowsky的角色，注定不会被轻易抹去。

来源：妇产科医生小永