摘要:Elon Musk与Sam Altman之间的诉讼已经进行了很长一段时间了。在给法庭提交的案件材料中,披露了大量OpenAI早期的电子邮件记录。
麻木尔 霍元甲 发自 AI星舰指挥中心
Elon Musk与Sam Altman之间的诉讼已经进行了很长一段时间了。在给法庭提交的案件材料中,披露了大量OpenAI早期的电子邮件记录。
我们认为这些邮件对于理解顶级AI研究机构的创建过程、发展中的权力斗争、团队管理以及高手们面对分歧的处理方式等方面都具有极高的价值。
尤其是在对垒的双方包括了Elon、Sam Altman、Ilya Sutskever以及Greg Brockman这些超级富豪与顶尖人工智能科学家的情况下,这些邮件的价值更加凸显。
但这些电子邮件记录都散落在繁杂的法庭案件材料中。直到目前,我们还没有找到一个按时间线,以一种易于阅读的方式完整梳理这些资料的中文媒体。因此,我们决定自己制作一份。
以下是按时间线展开的邮件记录,enjoy!
主题:(初始的)问题
Sam Altman 发给 Elon Musk - 2015年5月25日 晚上9:10
我一直在思考,是否有可能阻止人类开发人工智能。
我认为答案几乎肯定是不可能。
如果它最终会发生,那么似乎最好不是由Google率先实现。
你对YC启动人工智能曼哈顿计划的看法如何?
我的感觉是我们可以让顶尖的大约50人参与其中,并通过某种非营利组织结构使技术属于全世界,但参与开发的人如果成功的话,可以获得类似创业公司的报酬。
当然,我们会遵守/积极支持所有的监管政策。
Sam
Elon Musk 发给 Sam Altman - 2015年5月25日 晚上11:09
可能值得讨论一下。
Sam Altman 发给 Elon Musk - 2015年6月24日 上午10:24
任务是创造第一个通用人工智能,并将其用于个人赋权——也就是未来看起来最安全的分布式版本。
更广泛地说,安全性应该是首要要求。
我认为我们最初应该从7-10人的小组开始,然后以此为基础扩张。
我们在Mountain View有一个很好的房子可以用(作办公室)。
治理结构方面,我认为应该从5个人开始,我的提议是你、Bill Gates、Pierre Omidyar、Dustin Moskovitz和我。
技术归基金会所有,并用于“造福世界”,在不明确(如何应用技术成果)的情况下,我们五人将决定如何应用它。
研究人员需要获得不错的报酬,但这份报酬不与他们产出的成果挂钩,这应该能打消一些(研究人员的)顾虑(我们将支付他们有竞争力的工资,以及YC的股权来保障他们的利益)。
我们将讨论哪些工作应该开源,哪些不应该。将来某个时候,我们会聘请一个人来管理团队,但他/她不会进入治理委员会。
除了治理(委员会)之外,你还会以某种方式参与吗?
我认为这将对指引(我们的)工作方向,吸引最优秀的人才加入非常有帮助。
理想情况下,你可以每个月根据需要来与他们讨论进展。
我们在YC通常把以某种有限的方式参与的管理者称为“兼职合伙人”(例如,我们这样称呼Peter Thiel,尽管他现在非常活跃),但我们也可以按照你的意愿来称呼你。
即使你不能投入太多时间,但(如果)可以公开支持(我们),那也将对招募(人才)有很大帮助。
我觉得对于管理条例,可以先等这一切开始运作,然后简单地发布它,并附上一条信息,如“现在我们正在采取行动,我一直在思考世界为安全需要什么样的约束。”我很乐意让你作为签署者。另外,我也怀疑一旦它发布之后,更多人会愿意支持我们。
Sam
Elon Musk 发给 Sam Altman - 2015年6月24日 晚上11:05
完全同意。
主题:通话后的跟进
Greg Brockman 发给 Elon Musk(抄送:Sam Altman)- 2015年11月22日 下午6:11
嘿 Elon,
早前聊得很愉快。
就像我之前在电话中提到的,这是博客文章的最新初稿:(Sam、Ilya和我在思考新的标题,非常希望得到您的意见)。
很显然,还有很多细节需要更改,但我很好奇您对这种信息(传播方式)的看法。
我不想避重就轻,如果合适,我愿意传递更强烈的信息。
(但)我认为,最重要的是我们的信息能吸引研究界(或者至少是我们想雇佣的子集)。
(所以)我希望我们能以中立团体的姿态进入这个领域,(寻求)广泛的合作,并将对话引导向全人类获胜,而不是任何特定群体或公司(我认为这是我们成为领先研究机构的最佳方式)。
我附上了我们的录用信模板,薪水为17.5万美元。这是我们一直在使用的那版:
已附上您的YCR正式录用信,请您方便时签名和日期。还有另外两份文件即将发送:
一份单独的信函,向您提供每一期(您参加的)YC批次0.25%的股份(作为YC顾问的报酬)。在职任免协议、保密信息协议、发明转让协议和仲裁协议。(这是我们第一次正式发放录用信,请原谅沿途可能遇到的不顺利之处,如果有什么地方看起来奇怪,请告诉我!)
我们计划提供以下福利:
医疗、牙科和视力保险不设上限的年假天数,建议每年至少休四周假期带薪产假当您代表YC AI发表演讲或被YC AI要求出席会议时,报销会议出差费用我们也很乐意提供签证支持。
当你准备好讨论签证相关问题时,我很乐意将你介绍给YC的Kirsty。
如果您有任何疑问,请随时告诉我,我随时都可以聊天 :)。期待与您合作!
- gdb
主题:初稿开头段落(的修改)
Elon Musk 发给 Sam Altman - 2015年12月8日 上午9:29
开头摘要部分非常重要,必须做到位。
这是每个人都会阅读的内容,也是大多数媒体引用的地方。
本次发布的主要目的是吸引顶尖人才。我不确定Greg是否完全理解了这一点。
---- OpenAI是一家非营利性的人工智能研究公司,目标是以最有利于人类整体发展的方式推进数字智能,不受财务回报义务的约束。
我们的公司基本理念是尽可能广泛地传播人工智能技术,将其视为所有个体人类意志的延伸,确保在自由的精神下,数字智能的力量不会过度集中,而是朝着人类总体期望的未来进化。
这个项目的结果是未确定的,薪酬相比其他机会也较低,但我们相信目标和结构是正确的。我们希望对这个领域最优秀的人来说,这才是最重要的。
Sam Altman 发给 Elon Musk - 2015年12月8日 上午10:34
这份怎么样?
__
OpenAI是一家非营利的人工智能研究公司,它的目标是推进数字智能的发展,使其能够造福于人类整体,并且不受财务回报义务的约束。
由于我们没有任何财务负担,我们可以专注于实现最大化的积极人类影响,并尽可能广泛地传播人工智能技术。我们相信,人工智能应该是人类意志的延伸,而且,出于自由的精神,不应该被集中在少数人手中。
这个项目的结果是未确定的,薪酬相比其他机会也较低,但我们相信目标和结构是正确的。我们希望对这个领域最优秀的人来说,这才是最重要的。
主题:刚刚得到消息(DeepMind将提供巨额竞争性报价)
Sam Altman 发给 Elon Musk - 2015年12月11日 上午11:30
据说DeepMind明天将给OpenAI所有人提出巨额的竞争性报价,试图摧毁OpenAI。
你是否反对我主动将每个人的年薪增加10万至20万美金?
我认为他们都被这里的使命所激励,但这将是一个很好的信号,表明我们愿意在未来(也)照顾好他们。
听起来DeepMind似乎要为此展开激烈竞争,他们甚至在NIPS上直接拦人谈话。
Elon Musk 发给 Sam Altman - 2015年12月11日
Ilya是否已经给出了肯定答复?
如果任何人有任何疑虑,我很乐意亲自致电他们。
我已经告诉艾玛,这是我的绝对首要任务,24小时不间断。
Sam Altman 发给 Elon Musk - 2015年12月11日 下午12:15
是的,已经承诺。
Elon Musk 发给 Sam Altman - 2015年12月11日 下午12:32
太棒了!
Sam Altman 发给 Elon Musk - 2015年12月11日 下午12:35
大家都感觉棒极了,纷纷表示“让DeepMind的录用信来吧,可惜他们没有站在‘做正确的事’的一边。”
主题:OpenAI公司
Elon Musk 发给:Ilya Sutskever, Pamela Vagata, Vicki Cheung, Diederik Kingma, Andrej Karpathy, John D. Schulman, Trevor Blackwell, Greg Brockman(抄送:Sam Altman)- 2015年12月11日 下午4:11
祝贺你们有一个伟大的开始!
我们的人数和武器与你们熟知的组织相比,差距非常悬殊,但我们有正义站在我们这边,这点非常重要。我喜欢这样的局面。
我们最首要的考虑是招募最优秀的人才。任何公司的产出都是其内部人员的矢量和。
如果我们能够吸引最有才华的人才,并且我们的方向是正确的,那么OpenAI一定会取得成功。
为此,请认真考虑谁应该加入。如果我可以在招聘或其他方面提供帮助,我随时待命。
我建议密切关注那些尚未完成研究生或本科生涯,但显然才华横溢的人。在他们取得重大突破之前(招募他们)加入会更好。
期待与你们共同工作,
Elon
主题:薪酬体系
Greg Brockman 发给 Elon Musk(抄送:Sam Altman)- 2016年2月21日 上午11:34
大家好,
我们目前正在进行公司成立后的第一次全职员工录用。显然,这些决定非常重要,因为它们的影响是非常长远的。我还不敢独自做出决定,希望得到大家的指导。
这是我们目前所做的:
创始团队:年薪27.5万美元 +YC 股份的2.5%
- 同时,也可以选择永久切换到每年12.5万美元的奖金或等额的YC/SpaceX股票。不确定是否有人会选择这个选项。
新录用员工的待遇:年薪17.5万美元 + 年终奖12.5万美元(或YC或SpaceX股票等值)。年终奖将根据绩效评估而定,可能为0%或大大高于100%。
特殊:gdb + Ilya + Trevor
计划是保持基本工资大致不变,通过奖金倍数来奖励表现突出的员工。
一些注意事项:
我们使用 20%的年化折现率来计算股票成为流通股的 8 年期间,12.5 万美元的奖金相当于 YC 的 12 个基点。因此,最终价值更像是 75 万美元。这个数字听起来要令人印象深刻得多,尽管显然很难精确估价。创始团队最初被提供了每人17.5万美元的待遇。在实验室推出后的第二天,我们主动将每个人的工资提高了10万美元,并向他们承诺,我们将在实验室取得成功时,全力支持他们,并要求他们做出个人承诺,忽略所有其他竞争公司的录用邀请,并相信我们会为他们提供最好的待遇。我们现在正在面试Brain的Ian Goodfellow,他是该领域排名前两位的科学家之一(另一位是 Alex Graves,但他是DeepMind的忠实成员)。他是Brain中最好的人,因此Google会为了他而竞争。我们正在讨论将他纳入创始团队中。一些薪酬数据点:
John在DeepMind收到了250万美元的年薪待遇,认为可以轻松谈判到300万美元。Wojciech口头收到了FAIR约125万美元/年的录用邀请(但还没拿到录用信)。Andrew Tulloch在FB的年薪为80万美元(其中大部分是股票,正在逐步解锁)。Ian Goodfellow目前在谷歌的年薪为16.5万美元现金 + 60万美元股票。苹果有点急切,提供给员工55万美元现金(可能还有)。我不认为任何好人才会接受这个offer。我目前在考虑的两个具体候选人:
Andrew非常接近接受我们的offer。但是,他很担心自己会遭受如此巨大工资减少(的影响)。Ian已经表明他主要的关注点不是金钱,但是湾区的生活成本很高,他希望能够买得起房子。我不知道如果Google开始抛出像对ilya那样的大数字时会发生什么。我的即刻(需要解答的)问题:
我预计Andrew会试图谈判提高工资。是否应该坚持他的offer,并告诉他,如果他(对我们的愿景)足够兴奋,就应该接受这种工资减少(并且其他人已经放弃更多的工资)?伊恩将在周三进行面试和(我确信)收到offer。我们应该将他的offer视为最终决定,还是根据Google提供的offer情况灵活应对?根据1和2的答案,我在想这是否是一个合理的策略。如果我们保持这种策略,我觉得我们必须说服候选人们接受奖金倍数。也许一个选项是使用签约金来吸引候选人们签约?非常次要,但我们的实习生工资也低于市场:每月9千美元(FB提供9千美元+免费住宿,谷歌提供每月1.1万美元)。对于实习生来说,工资比全职人员的工资重要性要低,因为经验是主要的。但我认为我们可能已经失去了一个因为工资而犹豫不决的候选人。考虑到每小时的工资比全职人员的工资要低很多,我们是否应该考虑提高实习生的工资?随时讨论和交流。
- gdb
Elon Musk 发给 Greg Brockman(抄送:Sam Altman)- 2016年2月22日 凌晨12:09
我们需要做出必要的努力来吸引顶尖人才。让我们再提高一些(薪酬待遇)。如果在某个时候,我们需要重新审视现有员工的薪酬,那也可以。
我们要么得到全球最好的人才,要么就被DeepMind击败。
无论采取什么手段,只要能吸引顶尖人才,对我来说都可以接受。
DeepMind给我带来了极大的心理压力。如果他们获胜,考虑到他们一统天下的哲学,这将是非常坏的消息。
他们显然取得了重大进展,这也在意料之中,毕竟他们团队的人才水平那么高。
Greg Brockman 发给 Elon Musk(抄送:Sam Altman)- 2016 年2月22日 凌晨 12:21
收到你的消息,听起来像是一个计划。
我打算继续与Sama讨论具体事宜,如果你愿意保持通讯,请告诉我。
- gdb
主题:《连线》杂志文章
Greg Brockman 发给 Elon Musk(抄送:Sam Altman)- 2016年3月21日 凌晨 12:53
我接受了《连线》杂志关于 OpenAI 的一篇文章的采访,事实核查员向我发送了一些问题。
我想就其中两个问题与您同步,以确保它们听起来合理/与您的说法一致:
OpenAI是否会提供其所有研究资料?
在任何时候,我们都会采取最有可能让世界受益的行动。
短期来看,我们认为最佳的方法是免费分享我们的研究成果。
但是,从长远来看,这种方法可能并不理想:例如,在某些情况下,可能不应立即分享潜在危险的技术。
在(除此之外的)所有情况下,我们都会免费分享所有研究成果,并希望这些成果造福整个世界,而不是任何一个机构。
OpenAI 是否相信,将最先进的 AI 分享给尽可能多的人手中,是人类防止私人机构控制过于智能的 AI 并将其用于恶意目的的最佳方案?
我们相信,使用 AI 来扩展个人人类意志是确保 AI 始终对人类有益的最有前景的途径。
这很有吸引力,因为如果有许多具有相似能力的智能体,那么他们就可以相互制衡,防止任何一个恶意行为者肆意妄为。
但是我不会声称我们已经掌握了所有答案:相反,我们正在建立一个能够寻找这些答案,并根据最终答案采取最佳行动的组织。
谢谢!
- gdb
Elon Musk 发给 Greg Brockman(抄送:Sam Altman)- 2016年3月21日 早上6:53
听起来不错。
获取原始文件:
来源:AIStarship