摘要:2022 年 11 月 30 日,OpenAI 公司的网站流量首次达到峰值——略高于零。没错,对于这样一家体量不大、活跃度有限的初创公司,就连创始人自己都懒得费心跟踪访问浏览。
2022 年 11 月 30 日,OpenAI 公司的网站流量首次达到峰值——略高于零。没错,对于这样一家体量不大、活跃度有限的初创公司,就连创始人自己都懒得费心跟踪访问浏览。
这是普通而平静的一天,也是 OpenAI 迅速蹿红前的最后沉寂。短短两个月内,他们就将迎来超过 1 亿访问者的冲击。人们体验了 ChatGPT,并为其强大的能力而感到兴奋、雀跃乃至恐慌。自那之后,整个世界变了模样,而对此体会最深的无疑是 Sam Altman 自己。
今天,Altman 发布了最新的博客,“这些年是我迄今为止人生中回报最高、最美好、最有趣、最令人筋疲力尽、最压力巨大的时光,而过去两年是最不愉快的。”他说道。他讲述了 OpenAI 的发展历程、一年多前被解雇的经历和对技术和公司的未来展望。
对于公司发展,在过去的两年中,OpenAI 不得不从头开始围绕这项新技术构建一个完整的公司。在如此高的速度且几乎没有相关经验下构建公司,是一个混乱的过程,通常是向前两步、后退一步(有时是向前一步、后退两步)。“在未知中快速前进是一种不可思议的体验,但对所有参与者来说,压力也是极其巨大的。冲突和误解,层出不穷。”除了通过实践来培训人员之外,没有其他方法。
团队变动方面,他认为,初创公司在每个新的重大规模水平上通常都会看到大量人员变动,这是不可避免的。OpenAI 人员变动的数量每隔几个月就会增加几个数量级,OpenAI 的两年是一家普通公司的十年。
对于“逼宫”一事,他认为是包括其在内的善意人士治理的巨大失败。他认识到了拥有多元化观点和丰富经验的董事会非常重要。他“与一年前相比,是一个更好、更有思想的领导者”。其中,Altman 特别感谢了 Ron Conway 和 Brian Chesky,“如果没有他们的帮助,OpenAI 就会崩溃。”
对于未来,OpenAI 开始将目标转向真正意义上的超级智能。他预言到 2025 年,可能会看到第一批 AI 代理“加入劳动力队伍”,并实质性地改变公司的产出。
而就在最近,Sam Altman 在彭博社的最新采访中,更为详细地讲述了那段举世震惊的四日“逼宫”事件、如何运营 OpenAI,此外 Altman 还聊了对于特朗普 - 马斯克新任政府的计划以及他对于 AI 的追求等,我们进行了翻译,以飨读者。
决定性时刻: 和 Ilya 在山景城的小聚Q:您的团队认为,如今正是回顾过往两年、反思一系列事件与决策,并对某些事实作出澄清的好时机。但在开始之前,您能不能再讲讲 OpenAI 创立的故事?随着这个品牌的份量越来越重,整个创立过程的历史价值也在随之提升。
Altman:大家在听故事的时候都希望主线剧情简单一点,最好能有明确的决定性瞬间。但实际上 OpenAI 在整个 2015 年经历了至少 20 个创立的瞬间,如果非要从中挑选一个最具决定性的时刻,那我个人认为应该是我和 Ilya 在山景城的小聚,就我们两个人。
回想起来,我一直对 AI 抱有深厚兴趣。我本科时就研究过这个方向。有段时间我的注意力转向了其他领域,但 2012 年的时候 Ilya 等人开始推进 AlexNet 项目。我一直在关注他们的进展,当时感觉深度学习好像确实有点东西,而且似乎具有扩展潜力。这是件大事,应该把握住机会做点什么。
2014 年的时候,通用人工智能(AGI)还是纯粹的技术幻觉。那时候大家根本不想理我,任何人提到想搞 AGI 都会受到冷落和嘲讽,甚至直接被毁掉职业生涯。但也有人建议我跟 Ilya 认真聊聊。所以我在一次会议上找到了 Ilya,把他带到走廊里攀谈了起来。我把自己的想法说给他听,并约好一起吃晚饭。也就是在席间,他基本勾勒出了 OpenAI 该如何实现 AGI 的战略方针。
Q:您觉得那顿晚饭上的精神财富,在如今的 OpenAI 当中还有保留吗?
Altman:有的,几乎可以说是全盘继承了下来。总之我们相信深度学习的力量,相信这是一种有望实现 AGI 的特定技术方法,也是一种可操作的研究和工程思路。但哪怕是我们这些最坚定的支持者,也没想到其效果会如此之好。其实大多数技术灵感的成效都不会这么突出,其中总会有不少走不通的部分。比如说组织架构之类。但我们仍然坚信 AGI 完全有可能实现,也值得为其奉献和奋斗。如果能成,绝对会给整个人类社会带来翻天覆地的冲击。
Q:OpenAI 团队的早期优势之一体现在招聘上。不知为什么,你们成功垄断了顶尖 AI 研究人才资源,但实际提供的薪酬还要比竞争对手低得多。具体是怎么做到的?
Altman:我们主要宣传公司“要打造 AGI”。而之所以能够成功,也正是因为当时行业对于 AGI 简直是闻之色变、视为异端邪说。因此在过滤掉了那些不相信这个目标的群体之后,余下的 1% 就是真正拥有才华和独创性的思想家。这一点真的很重要。
假设你要做的事情跟其他企业一样,比如再开发一款照片分享应用,那优秀人才就很难提得起兴趣。但对于还没人在做的工作,一小部分真正有才华的人们会主动关注并加入进来,与我们携手并进。所以我们当时这个听起来很大胆、甚至有点可疑的定位,一边在领域内的所有高级专家都排除在外,同时也吸引到了一群刚刚步入职场、但自身能力非常出色的年轻人。
Q:那你们能快速适应新角色吗?
Altman:其实大多数人当时都有全职工作,我自己也在别处上班,所以刚开始我们投入的精力比较少。但随着时间推移,我越来越喜欢这个方向。时间来到 2018 年,项目可以说是正式起飞了。不过确实有段时间,整个 OpenAI 就像个业余兴趣小组,Ilya 和 Greg5 主要负责管理工作,但成员们也都有自己的正业要忙。
Q:看起来最初那几年是段颇具浪漫主义气息的时光。
Altman: 那肯定是 OpenAI 发展历程中最有趣的时光。 我想说的是,现在的 OpenAI 当然也很精彩,但立足于对整个世界的影响,那个时期可以说是有史以来最伟大的科学发现阶段之一。这是段一生难得的经历,好在我和同事们都非常非常幸运。
Q:2019 年您接任了 CEO,为什么做此决定?
Altman:当初我想要同时管理 OpenAI 和 Y Combinator,但这真的很难。而实现 AGI 这个目标太诱人、太有吸引力了。有趣的是,我记得当时自己总感觉 2025 年应该能够做到。别当真,这只是随机选的年份,毕竟距离公司成立正好十年嘛。当时人们常常开玩笑,说我这个 CEO 唯一要做的事就是冲进会议室,大喊着“扩大规模!”当然没这么简单,但扩大规模确实是那时候的核心重点。
突然出名了带来的问题Q:ChatGPT 的正式发布日期是在 2022 年 11 月 30 日。现在您回顾起来是什么感觉,像是很久之前的事了、还是就像在昨天?
Altman:哈哈,我明年就 40 岁了。在 30 岁生日那天,我写下一篇博文,题目是《一天很长,但几十年很短》。今早还有人发邮件对我说,“这是我最喜欢的博文,我每年都会读一读。等你 40 岁了,能不能再写一篇?”我肯定是不会再写了,因为我根本抽不出时间。但如果真要写,标题也会是《一天很长,几十年也很长》。总之,那就像是很久之前的事了。
2023 年 3 月 13 日,OpenAI 高管齐聚旧金山公司总部,从左到右分别为:CEO 山姆·奥特曼、首席技术官 Mira Murati、总裁 Greg Brockman 和首席科学家 Ilya Sutskever。
Q:随着第一批用户的涌入,公司上下肯定非常振奋。您自己有没有那种震撼和惊叹的瞬间?
Altman:那肯定是有的。第一个重要瞬间,就是只有包括我在内的少数人相信 ChatGPT 已经准备好了。公司里很多人都说,“这东西能对外发布吗?肯定要出大事,还没准备好呢。”其实我很少做激进的决策,而这就是少数情况之一。
YC 整理过一份著名的图表,是由公司联合创始人 Paul Graham 绘制的,表现的是潜力曲线。随着新奇感的消退,新技术会迎来很长时间的低谷期,接着才是产品与市场的真正契合并最终起飞。在最初几天里,ChatGPT 白天的使用率很高,但晚间的使用率会大幅下降。团队就说,“看吧,人气越来越低了。”但我在 YC 学到的重要一课,就是只要新的低谷每次都比上一轮波动的峰值还要高,那就肯定没有问题。在 ChatGPT 公布的前五天里就是这种情况,所以我意识到“我们的成果肯定比预期更重要”。
后来事情果然如此,甚至引发了对算力资源的疯狂争夺战——但当时的我们并没准备好,因为我们在刚刚发布时对 ChatGPT 并没有清晰的商业模式设计。我记得在 2022 年 12 月的一次会议上,我曾提到“我会想办法偿付成本投入,但我们真的坚持不了多久了。”当时我们都在挖空心思想怎么赚钱,但始终没有好的方向。所以最后只能是“那先试试订阅,看情况再想办法。”好在公司就这样坚持了下来。我们发布了 GPT-3.5,而 GPT-4 就在紧锣密鼓的筹备当中,总之我们知道这个项目会越来越强大。在跟其他人说起用途时,我也会强调“我们知道自己会做得越来越好。”正是这样的快速改进,让全球媒体意识到转折性的时刻已经到来。
Q:您是那种能够安心享受成功的人吗?您是坦然接受,还是会焦虑于下个阶段该如何持续?
Altman:其实我自己的职业生涯有点“非主流”:正常的成长轨迹应该是,我们先经营起一家体量庞大且足够成功的企业,之后在 50 或者 60 多岁的时候厌倦了以往的工作,转而成为风险投资家。在风险投资的过程中,再找准风口经营一家公司。这样的轨迹虽然也有问题,但至少能让我们先积累下充分的经验,能够大致判断后来会发生什么、应该怎么跟其他人打交道。而我不一样,我就像是突然被绑在一艘宇宙飞船上,然后一路狂奔猛进。我爱人总爱回忆那段时间的趣事,在他看来事业发展顺利肯定是好事,但在我看来这并不好——对我们俩都是,只是他还没意识到。
编者注:奥特曼于 2024 年初与长期伴侣、来自澳大利亚的软件工程师 Oliver Mulherin 结婚,并打算在 2025 年 3 月领养一个孩子。
Q:你在硅谷已经很有名气了,但 GPT 的出现带来新的后果,就是你如同摇滚明星那样一夜爆火。这会不会影响到你对员工的管理能力?
Altman:这对我的生活肯定造成了巨大冲击。但在公司里情况会好很多,毕竟大家各司其职,找我的唯一理由就是申请更多 GPU。突然出名了带来的主要问题,就是总会接触到各种我不熟悉的人。我的社交圈子没办法再局限在自己最亲近的朋友、同事和家人之内了。比如我需要参加某个几乎从未见过的团队组织的会议。但我的大部分时间仍然是跟公司的研究人员待在一起,大家还是像过去那样嘻嘻哈哈、轻松愉快。所以还好。
“完了,我被这帮家伙耍了”Q:坐拥一家具有数十亿美元外部投资的营利性公司,并需要向非营利性董事会报告,这怎么看都是爆发冲突的前兆。您还记得自己意识到这个问题的瞬间吗?
Altman:肯定有很多个这样的瞬间。但从 2022 年 11 月到 2023 年 11 月,那整整一年都太过疯狂和魔幻了,连我自己的记忆都很模糊。感觉就像我们在 12 个月内从零开始建立起一家完整的企业,而且全程都在公众面前直播进行。回想起来,我最大的教训就是每个人都自以为分得清哪些工作重要、哪些工作紧急 9,但事实证明他们不行。而我自己第一次直面冷冰冰的现实,应该就是那次事变——也就是星期五中午 12:05 左右 10。
Q:当初董事会解雇你 CEO 职务的消息传出时,我非常震惊。但您似乎是个情商很高的人。在此之前,您有发现任何紧张的迹象吗?您有意识到这种诡异的氛围在指向自己吗?
Altman:我不觉得自己是那种情商很高的人,但即使像我这样比较木讷的人,也确实察觉到了气氛不太对劲。其实公司内部一直在就安全和功能的问题展开争论,而董事会的作用就是在两端之间寻求平衡。所以我知道氛围比较紧张,但也因为我不是特别敏感,所以没发现背后的矛盾已经酝酿到了这般地步。
那个周末各种爆炸性的消息接踵而来。我不太确定全部细节,但在周五中午解雇了我之后,当天晚上其他不少同事也决定辞职。到了当天深夜,我决定带领这帮老同事投身于新的 AGI 开发工作。之后几位高管成员表示“别急,我们应该能把问题解决好。你先冷静一下,等着我们的消息。”
周六一早,两名董事会成员打来电话,想聊聊我能不能复任。我一开始非常生气,立马拒绝了。之后我心想,其实应该回去的,毕竟我真的很关心 OpenAI。但之后又一转念,觉得整个董事会都得重组,否则我绝不回去。现在想想这个决定有点冲动,但当时我感觉自己的要求很合理,毕竟我跟董事会在很多问题上真的意见不合。于是我们开始就成立新董事会展开了谈判,双方都对彼此的某些想法感到不可理喻,但最终还是总体达成了一致意见。星期天应该是我情绪最暴躁的阶段,一整天都在吵架。他们那边则回复说,“就快好了,我们正在咨询法律建议,总之董事会的同意书已经在起草当中。”我反复强调自己不想拆解 OpenAI,但希望对方能跟自己说实话。那边则保证,“绝对是实话,你肯定能复任,肯定的。”
时间很快来到周日晚上,董事会突然宣布由 Emmett Shear 担任新的 CEO。我当时想,“完了,我被这帮家伙耍了。”于是周一早上,很多同事都威胁要辞职,搞得董事会只能再次调整方针。
2023 年 3 月 10 日,OpenAI 公司旧金山办公室。
Q:记得董事会当时曾说,内部调查发现你在与他们的沟通中“并非始终坦诚”。这是一项非常具体的指控,认为你在撒谎或者刻意隐瞒了某些信息;但同时也很模糊,因为没有说明你具体在哪些方面不够坦诚。您现在有没有搞清楚他们到底是指什么?
Altman:我听过很多不同的版本。有声音认为“奥特曼甚至没有告知董事会公司即将推出 ChatGPT”。但我自己记得的情况可不是这样。总之,我认为董事会那边的很多描述都不太公平,而且我确实曾跟多位董事会成员发生过冲突或者其他意见分歧。他们对我的领导、特别是想把他们赶出董事会的态度不满,我猜主要矛盾来自这里。
Q:那我能说说自己的猜测吗?
当然。
Q:您在某个时刻意识到,OpenAI 的运营结构会扼杀公司的发展。因为一个以使命为导向的非营利组织永远争取不到充足的算力资源,也无法实现能让 OpenAI 蓬勃发展的快速转变。董事会里充斥着一群将纯洁性置于生存之上的理想主义者,所以您决定用某些可能不那么光明正大的方式帮助 OpenAI 参与竞争,而董事会完全不能接受……
Altman:我觉得自己没有什么不够光明正大的行为。在我看来,最核心的矛盾就是董事会没有充分了解很多问题的前因后果。有人说“奥特曼掌握着创业基金,但却没有向董事会公开。”之所以发生这种情况,是因为我们的运营结构很复杂:OpenAI 自身乃至持有 OpenAI 股权的人,都不能直接掌握创业基金。而我恰好没有 OpenAI 的股权,所以在建立成熟的股权转让结构之前,只能让我或者普通合伙人暂时持有。而我个人认为这事没必要向董事会报告,现在我愿意接受人们对此提出的质疑,之后也会以更明确的方式做出说明。但毕竟当时的 OpenAI 正像火箭一般急速攀升,我真的没办法分心去做太多解释。有机会的话,大家也可以跟现任董事会成员们聊聊,看看在他们眼中我到底够不够光明正大——我真的绝对不会有什么鬼祟之举。
我认为上一届董事会对于 AGI 负面影响的坚持和担忧都是真实的。就在发生事变的那个周末,一位董事会成员说过一句引发了广泛讥讽的话,但这其实跟非营利性质的董事会立场保持一致。我认为这代表着信念的勇气,也坚信她是真心实意说出这样的结论。虽然我完全不同意其中的具体观点和行动,但我尊重这份理想和坚持。我认为上一届董事会的行为出自真诚、只是存在偏差的信念,而他们真心相信这一切是对的。毕竟他们认为 AGI 已经触手可及,而自己不能坐视潜在的风险发生。总之,我尊重他们的出发点,但对具体细节完全不能苟同。
Q:很明显,最终是您取得了胜利。但整个过程中,您有没有感到特别恐惧?
Altman:当然有,我都被吓坏了。事变期间肯定是最艰难的时刻,好在公司和广泛社区的支持让我非常明心。可这一点安慰并不足以平息事态,而且情况似乎时刻都在恶化。当时是 12 月份,下午不到 5 点天就黑了,天气又冷又湿、还下着雨。晚上我一个人在家里走来走去,感觉又沮丧又疲惫。我觉得很不公平,觉得自己不该受到这样的对待。可我又不能停下来,因为公司里有各种各样的麻烦需要去处理。
Q:回归公司之后,您会不会担心别人异样的眼光?或者说得更直白一点,您会不会觉得有些人发现你根本不是优秀的领导者,而您需要重建他们的信任?
Altman:实际情况比这还糟。等到一切澄清之后,当然就没问题了,但刚开始几天大家都不了解情况。所以 当我走在办公楼里,大家都会有意避开我的目光 ,就像我被诊断出癌症晚期一样。有人同情、有人惋惜,但大家都不知道该说什么。但我想得很明白,我们有份复杂的工作要做,我一定得坚持下去。
“习惯了在一团乱麻中整理大量数据”Q:您能聊聊自己如何经营企业吗?您的一天是怎么度过的?比如您会跟工程师们一对一交流吗,会不会在办公楼里四处巡视?
Altman:我就说说自己的日程安排吧。我们每周会举行一场三个小时的高管团队会议,昨天和今天我们跟工程师进行了六场一对一的面谈,此外我还得参加研究会议。明天有几场大型合作会议和很多计算科技会议,还有三场关于产品的头脑风暴交流。之后我要跟一位重要的硬件合作伙伴共进晚餐。情况大概就是这样。每周会有几次固定的交流,但大部分都是随情况而定。
Q:您在内部和外部沟通方面会投入多少时间?
Altman:更多是内部沟通。我不是那种擅长写激励邮件的人,但经常会参加一对一或者小组讨论,也会通过 Slack 进行简单交流。
Q:那您有没有身陷泥潭的感觉?
Altman:我是 Slack 的重度用户,已经习惯了在一团乱麻中整理大量数据。虽然跟小型研究团队深入讨论肯定更舒服、效率也更高,但广泛交流也能获取很多宝贵信息。
Q:您之前曾经讨论过 ChatGPT 的产品形态以及预期的用户体验,而且观点非常明确。身为 CEO,您觉得自己在哪些工作中必须直接参与、而不能像教练那样远程指挥?
Altman:对于 OpenAI 这样规模的企业,直接参与的机会已经很少了。昨晚我刚跟 Sora 团队共进晚餐,期间收到了几页相当详细的书面建议。但这种情况非常罕见;包括后来我向研究团队提出了非常具体的建议,包括接下来三个月内涉及大量细节的工作内容,这都是极其特殊的情况。
Q:我们之前谈到过,科学研究有时候会与企业的运营结构发生冲突。您把研究部门放在了跟其他部门相距几英里的单独办公楼里。这背后有什么象征意义吗?
Altman:没有没有,只是出于后勤和空间规划的考量。我们最终会搬往统一的大型园区,但研究部门仍然会有自己的专属空间。总之,保护研究核心对于我们的工作至关重要。
Q:这是要保护研究部门免受什么影响吗?
Altman:硅谷企业的常规实践就是先从做产品起步,在做好了之后规模扩大,收入增长往往也会自然放缓。到特定阶段,CEO 会启动新的研究实验室,提出一系列新想法以推进进一步增长。这种先发展、再研究的方式也有成功的先例,比如贝尔实验室和施乐,但大多数情况下都没法成功,最终导致企业在产品方面很成功、但在研发这边则越来越孱弱。我们很幸运,OpenAI 在很长一段时间里都是有史以来增长速度最快的科技企业,但这也很容易让人们忽视研发的重要性。我不希望发生这样的情况。
我们聚在一起就是为了实现 AGI 和超级智能,甚至超越这些的更加崇高的目标。在此期间,很多情况都可能分散掉我们追求终极理想的注意力。我觉得不忘初心真的很重要,必须在制度层面加以保障。
AGI,即企业雇用 AI 替代优秀工程师Q:作为一家公司,你们已经不再公开讨论 AGI,转而讨论 AI 等级。但好像您个人还是很热衷于 AGI 。
Altman:我觉得 AGI 是个比较模糊的概念。比如我们把 AI 划分成五个等级,但总有人会把每个等级都称为 AGI。之所以要划分等级,是为了更具体地了解我们当前所处的位置和进展情况,而不在于这到底算不算实现了 AGI。
Q:那在您看来,跨过 AGI 这道门槛的标志是什么?
Altman:我其实粗略考虑过这个问题。当一套 AI 系统能够在重要工作中接替熟练的人类从业者时,我觉得这就可以算 AGI。当然这又会带来很多后续问题,比如到底是全面替代、还是替代其中部分环节?难道说计算机程序可以自主选择自己当医生、或者是律师?它要超越所有人类从业者,还是超过 98% 就可以了?它的自主性要达到怎样的程度?关于这些,我都没有足够深入和准确的答案。但如果企业已经能够雇用 AI 以远程方式替代优秀的软件工程师,那我猜很多人会觉得“这肯定就是 AGI”。
但现在我们还得不断调整目标,所以才说 AGI 是个困难的目标,不过我们会坚持下去。至于超级智能,对我来说最关键的就是它能不能显著提高人类社会的科学发现速度。
Q:OpenAI 目前拥有超过 3 亿用户。您从他们身上观察到了哪些改变了自己对 ChatGPT 固有认知的行为?
Altman:跟大家讨论他们用 ChatGPT 做什么、不做什么,对于我们的产品规划帮助很大。以前经常出现的分歧,就是人们总爱用 ChatGPT 进行搜索,但我们最早设计的时候并没想到这种用法,所以效果并不好。但这显然是个重点。老实讲,自从我们在 ChatGPT 中推出搜索功能以来,我几乎不再使用谷歌了。在发布 ChatGPT 之前,也就是我们刚刚开发出内部原型时,我自己完全没有意识到它会取代互联网用户对于谷歌等搜索引擎的依赖。
我们从用户里了解的另一件事,就是人们经常会向 ChatGPT 寻求医疗建议。许多在 OpenAI 工作的人们都会收到非常明心的邮件,用户们说“我被病痛折磨了好几年,没有医生告诉我得了什么病。最后我把所有症状和体检结果输入了 ChatGPT,它报告说我得了某种罕见病。我去看了医生,吃了相应的治疗药物,现在已经完全康复了。”虽然这属于极端案例,但的确时有发生。这让我们意识到自己做的东西很有价值,值得为其继续努力。
Q:你们的产品价格区间很广,从免费到 20 美元、再到 200 美元。之前彭博社还报道说可能考虑推出 2000 美元的订阅套餐。你们是怎么为前所未有的技术定价的?是靠市场研究,还是随机应变?
Altman:我们最早是免费发布 ChatGPT 的,并很快吸引到大量用户,这时候我们就得想办法支撑整个系统的运行成本。当时我们测试了两种价位,20 美元和 42 美元。 用户觉得 42 美元太高了,但 20 美元则完全可以接受。 于是我们选择了 20 美元。当时可能是 2022 年 12 月下旬或者次年 1 月初,总之我们没有做非常严格的定价研究。
我们也考虑过其他方向,比如不少客户表示他们想要基于使用量的定价。比如说“旺季我愿意在服务上花 1000 美元,但淡季的时候一分钱也不想花”之类。但我自己记得当初拨号上网的时候,AOL 就只提供每月 10 个小时或者 5 个小时的上网套餐,那种使用受限的感觉太糟糕了。所以我也在考虑有没有其他更合适、而且同样基于实际用量的定价模式。
如何解决安全问题?Q:你们的安全委员会现在是什么情况?在过去一年或者一年半期间,安全委员会有什么变化吗?
Altman:比较麻烦的一点在于,我们内部有很多不同的安全措施。因此我们设有一支内部安全顾问小组(SAG),负责对系统进行技术研究并提出建议。我们还有安全与保障委员会(SSC),目前隶属于董事会。我们还跟微软设有部署安全委员会(DSB)。在安全方面设立三个独立的组织明显有点复杂了,我们正在努力进行简化。
Q:那您参与了这三个委员会吗?
Altman:问得好。SAG 那边会向我发送报告,但我实际上并不算是正式成员。基本流程是这样:他们整理一份报告,然后发送给我。我会对其中的观点一一做出回应,比如同意或者不同意,再把意见转发给董事会。我没有参加 SSC,但参加了 DSB。现在我们已经对安全流程有了更深的了解,希望找到一种办法来进行简化。
Q:您对实际可能出现的风险是否有了更明确的认识?
Altman:其实对于短期、中期和长期风险的基本认识并没有改变。我仍然认为,需要考虑的严重或者潜在的短期问题主要会出现在网络安全和生物方面。而从长远来看,一旦出现了真正令人难以置信的超级强大的 AI 系统时,则可能引发难以确切想象和建模的更多风险。不过虽然我认为这种风险真实存在,但加以解决的唯一正确方式永远是交付产品并不断学习。
如何解决 AI 发展的三大阻力?Q:谈到短期未来,AI 行业似乎已经就三大潜在阻力达成了共识:模型、芯片稀缺以及电力匮乏。我知道这些问题彼此交织,那您能不能根据自己的关心程度对它们做个排序?
Altman:我们已经建立了相应的计划,针对每种问题都给出了比较令人满意的应对思路。通过模型扩展,我们将继续在技术、能力和安全等方面取得进步。我认为 2025 年将成为创造奇迹的一年。不知道大家有没有听说过 ARC_AGI 挑战赛,五年之前人们认为 AGI 很可能就诞生在这里。他们想要制定一个非常非常困难的基准,而我们刚刚公布的模型成功通过了这个基准,成功攻克了五年来横亘在 AI 行业面前的难关。感兴趣的朋友可以看看其中的具体问题。这项基准将得分高于 85% 视为通过。而我们的系统在开箱即用、未经针对性微调的情况下,得到了 87.5% 的分数。除此之外,我们还有其他极具前途、质量更高的模型在研发当中。
我们一直在努力打造完整的芯片供应链,携手各家合作伙伴。有伙伴在帮助我们建立数据中心、制造芯片,而我们自己也有芯片设计部门。我们与英伟达建立了良好的合作伙伴关系,这是一家极其卓越的技术厂商。新一年中我们会公布更多计划,总之现在的第一要务就是扩大芯片供应规模。
Q:那么电力问题……
Altman:期待可控核聚变吧。
Q:期待可控核聚变,那您觉得还要等多久?
Altman:快了,很快就会有净增益核聚变的演示方案出现。接下来的难题就是建立一套不会中断的系统,再努力扩大规模。再就是在监管部门批准的情况下建造更多核电厂,所以具体要多少年我也说不清。但我希望 Helion 能尽快带来看得见、摸得着的可控核聚变解决方案。
Q:在短期内,有没有在不影响气候改善目标的前提下维持 AI 增长的办法?
Altman:有的,但在我看来,最好的办法仍然是建设可控核聚变反应堆。我认为这才是最值得努力的终极方向,解决之后就万事大吉了。
既不支持特朗普, 也不支持拜登?Q:您刚刚的很多观点都离不开政府的支持。我们即将迎来新一届领导班子,而您个人向就职基金捐赠了 100 万美元。这是为什么?
Altman:因为他是美国总统,我会支持每一位当选总统。
Q:我理解 OpenAI 向当选总统表达善意的出发点,但这毕竟是一笔个人捐款。特朗普之前曾经明确反对您的很多观点。所以在我看来,这笔捐款很大程度上并非出于爱国,而是想要表表忠心,您同意吗?
Altman:我个人既不支持特朗普的所言、所为、所想,也不支持拜登的所言、所为、所想,我唯一支持的就是美利坚合众国。正是出于国家的利益,我才会尽自己所能与每一位总统合作,特别是在那些超越任何政治问题、关乎重大利益的问题上。我认为 AGI 很可能在本届总统任期内得到重大发展,而做好这件事将至关重要。所以捐款本身其实是件小事,我肯定是希望新任总统能够把工作做好、把国家管好。
Q:特朗普明确表示反对《芯片法案》,而你支持《芯片法案》。
Altman:其实我也不支持。我只是觉得有《芯片法案》比没有要好,但在大方向上并不正确。但《芯片法案》能通过,还是为后续一系列更好的行动奠定了基础。总之,我认为《芯片法案》并不像很多人期望中那么有效。
11 月 16 日,特朗普与马斯克在纽约麦迪逊广场花园举行的 UFC 309 拳赛的台边交谈。
Q:马斯克肯定会在本届政府中出任某项职务。而他正在起诉您,跟您展开竞争。但从评论上看,您似乎觉得他不会利用自己的职务之便从事任何与 AI 相关的业务。
Altman:对,我确实觉得他不会。
Q:但过去几年间,他先是收购了 Twitter,之后又想通过起诉放弃 Twitter。他解封了知名阴谋论记者 Alex Jones 的账号,还公开向扎克伯格约架。对于这样一个无所不用其极的人,你真的相信……
Altman:哈哈,我觉得他会做各种古怪的行为,比如继续起诉我们、撤销起诉、发起新的起诉等等。虽然他还没约我去八角笼格斗,但事实证明,他也没真的跟扎克伯格动手。总之 他就是这样一个人,想到什么就说什么、之后再把话收回,跟政府争执并接受政府调查。 这是马斯克的性格,至于他会不会利用自己掌握的政治权力去打压商业竞争对手,也许我是错的,但我觉得他不至于。
Q:你们两个当初也是有机会合作的,那您觉得双方各自发挥的是怎样的作用、扮演怎样的角色?
Altman:我觉得我们两个还是比较互补吧。我不知道具体会怎样、不清楚具体会做什么,也不知道事情会如何进展。但我们当时有共同的信念,这一点非常重要,只要有这个前提其他分歧都能得到纠正和引导。
Q:我很好奇你们当时的工作关系是什么样的。
Altman:其实在马斯克决定退出之前,我不记得跟他有过什么特别严重的争执。而且在此之前,人们盛传的他爱斥责别人、乱发脾气之类,我都没有经历过。
Q:他的 xAI 能筹到那么多钱,您觉得惊讶吗?特别是从中东主权基金那边拿到了巨额资金?
Altman:不意外呀,毕竟中东基金财力雄厚,而马斯克又特别有影响力,结果自然如此。
Q:那假设您是对的,马斯克和新任政府确实想要把事情做好。那您觉得特朗普政府在 2025 年能做点什么来推动 AI 发展?
Altman:为美国建造基础设施吧,造得越多越好。我非常同意总统的观点,那就是现在在美国建设点什么已经越来越困难了,无论是发电厂还是数据中心。我能理解官僚主义是怎样一步步积累形成、直到积重难返,但这对国家肯定不是好事,对于美国继续在 AI 领域引领风潮尤其不是好事。美国真的很需要保持住这份领先地位。
来源:走进科技生活