OpenAI 和 Elon Musk [译]
我们一直致力于实现 OpenAI 的使命。
作者
OpenAI 的使命是确保全人类能从人工通用智能 (AGI) 中受益，这不仅意味着我们要构建既安全又有益的 AGI，也意味着我们要努力创造广泛分布的利益。现在，我们将分享我们如何实现这个使命的理解，以及我们与 Elon 的关系的一些事实。我们打算驳回 Elon 的所有主张。
我们意识到，建立 AGI 所需的资源远超我们最初的预想
Elon 建议我们应该对 OpenAI 宣布初始的 10 亿美元资金承诺。到目前为止，这个非营利机构已经从 Elon 那里筹集到不到 4500 万美元，而从其他捐赠者那里筹集到了超过 9000 万美元。
在 2015 年底创立 OpenAI 时，Greg 和 Sam 最初计划筹集 1 亿美元。Elon 在邮件中提出，我们应该增加筹资额度，避免听起来毫无希望，他建议我们应该从 10 亿美元的资金承诺开始，并承诺他将承担任何其他人无法提供的部分。1
我们花了大量时间设想如何实现 AGI。在 2017 年初，我们意识到建立 AGI 将需要大量的计算能力。我们开始计算 AGI 可能需要的计算能力。我们都明白，要实现我们的使命，我们需要更多的资本，每年需要数十亿美元，这远超过我们，尤其是 Elon，认为我们能够通过非营利组织筹集的金额。
我们和 Elon 都认为，为了获取这些资源，需要有盈利的实体。
正如我们曾经讨论过的，为了进一步推进使命，马斯克希望我们能与特斯拉合并，或者他想要拥有全部的控制权。马斯克离开了 OpenAI，他认为需要有一个能与 Google/DeepMind 相匹敌的竞争者，而他打算自己来做。他表示他会支持我们寻找自己的道路。
在 2017 年末，我们和马斯克决定，为了推进使命的下一步，需要创建一个营利性实体。马斯克希望拥有多数股权，初始董事会的控制权，并担任 CEO。在这些讨论的中途，他停止了资金提供。Reid Hoffman 填补了这个资金缺口，以维持工资和运营开销。
我们无法与马斯克就营利性实体达成协议，因为我们认为让任何个人拥有绝对的对 OpenAI 的控制权，这与我们的使命相背离。之后他提议将 OpenAI 合并入特斯拉。2018 年 2 月初，马斯克转发给我们一封邮件，建议 OpenAI 应该“依附于特斯拉作为其利润来源”，并评论说“完全正确……特斯拉是唯一有希望与 Google 相匹敌的途径。即使如此，成为 Google 的反对力量的可能性也很小。至少不是零。” [2]
马斯克很快选择离开 OpenAI，他认为我们成功的可能性是零，并且他计划在特斯拉建立一个通用人工智能的竞争者。当他在 2018 年 2 月底离开时，他对我们的团队表示，他支持我们寻找自己筹集数十亿美元的道路。2018 年 12 月，马斯克给我们发了一封电子邮件，说“即使筹集了几亿也不够。你们需要每年立刻投入数十亿，否则就别想了。” [3]
通过构建广泛可用的有益工具来推进我们的使命
我们正在以各种方式使我们的技术广泛应用，这些方式能够赋予人们力量，改善他们的日常生活，包括我们的开源贡献。
我们为今天最强大的人工智能提供广泛的访问权限，包括每天被数亿人使用的免费版本。例如，阿尔巴尼亚正在利用 OpenAI 的工具，将其加入欧盟的时间提前最多达 5.5 年；Digital Green 正在帮助提高肯尼亚和印度农民的收入，借助 OpenAI，将农业扩展服务的成本降低了 100 倍；罗德岛最大的医疗机构 Lifespan，正在使用 GPT-4 将其手术同意书从大学阅读等级降低到六年级水平；冰岛正在使用 GPT-4 来保护冰岛语。
马斯克明白，实现使命并不意味着要开源通用人工智能。就像伊利亚对马斯克所说：“当我们更接近构建人工智能的时候，减少开放性是有道理的。在 OpenAI 中，Open 的含义是所有人都应当从已经构建好的人工智能的成果中受益，但完全没有必要分享科学知识……”。对此，马斯克回答道：“对。”[4]
我们对此感到非常遗憾，因为发生这种事的人是我们深深敬仰的，他鼓励我们把目标设定得更高，然后告诉我们我们会失败，开创了一个竞争公司，当我们在没有他的情况下，开始在 OpenAI 的使命上取得实质性进展时，他却对我们提起了诉讼。
我们目前正专注于推进我们的使命，前方的道路还很长。随着我们的工具变得越来越好，我们期待着将这些系统投入使用，让每个人都从中受益。
发件人：Elon Musk <
>
收件人：Greg Brockman <>
抄送：Sam Altman <>
日期：2015 年 11 月 22 日，星期日，下午 7:48
主题：电话沟通后的跟进博客听起来不错，前提是我们做一些调整，让其更加中立，而不是过分关注 YC。
我建议我们应该让博客更具吸引力，更能吸引公众的注意--让公众支持我们是有很大价值的--然后我们可以制作一个更长、更详细、更深入的版本以供招聘，我们可以在面向公众的版本的末尾提供链接。
我们需要一个比 100 万美元更大的数字，以避免在谷歌或 Facebook 的投入面前显得无望。我认为我们应该说我们以 10 亿美元的资金承诺作为起点。这是真实的，我会补足任何他人未能提供的部分。
模板看起来还可以，除了需要改为默认的股权现金奖金，该奖金可以选择转为 YC 或者可能的 SpaceX 的股票（我们需要了解这将是多少）。
From: Elon Musk <
>
To: Ilya Sutskever <>, Greg Brockman <>
Date: Thu, Feb 1, 2018 at 3:52 AM
Subject: 转发：当今顶级人工智能机构 说得完全正确。我们或许不希望如此，但在我和的看来，特斯拉是唯一一条有望与谷歌抗衡的道路。即便如此，能成为谷歌的制衡力量的可能性也很小，只是不为零。开始转发的邮件：
发件人：
<>
收件人：Elon Musk <>
日期：January 31, 2018 at 11:54:30 PM PST
标题：Re: 当今顶级人工智能机构在人工智能的前沿工作，不幸的是成本高昂。例如，
除了 DeepMind 之外，谷歌还有 Google Brain、Research 以及 Cloud。他们还拥有 Tensorflow、TPU，并且占据了大约三分之一的研究成果（实际上，他们自己举办人工智能大会）。我还强烈怀疑计算能力将是达到 AGI（通用人工智能）的必要条件（甚至可能是充分条件）。如果历史趋势有任何指示作用的话，那么人工智能的进步主要是由系统驱动的——计算、数据、基础设施。我们今天使用的核心算法与 90 年代大致保持不变。不仅如此，任何发表在论文中的算法进步几乎都可以立即重新实现并纳入。相反，如果没有规模来扩大算法的影响力，算法的进步本身也是惰性的。
在我看来，OpenAI 现在正在烧钱，而它的资金模式无法达到能够与谷歌（一家市值 8000 亿的公司）认真竞争的规模。如果你无法认真竞争却还继续公开研究，实际上你可能是在让事情变得更糟，免费地帮助他们，因为任何进展对他们来说都相当容易复制并立即大规模应用。
向营利性转变可能会随着时间的推移创造更可持续的收入来源，并且有目前的团队，可能会带来大量投资。然而，从头开始构建产品会分散人工智能研究的焦点，而且需要很长时间。目前还不清楚一家公司是否能够“追赶”到谷歌的规模，投资者可能会在错误的方向施加太多压力。我能想到的最有希望的选择，正如我之前提到的，是让 OpenAI 以特斯拉作为它的摇钱树。我相信，与其他大型公司（例如 Apple？Amazon？）合作将由于公司 DNA 不兼容而失败。用火箭的类比来说，特斯拉已经用 Model 3 的整条供应链、它的车载计算机以及持续的网络连接，构建了火箭的“第一级”。“第二级”将是一种基于大规模神经网络训练的全自动驾驶解决方案，OpenAI 的专业知识可以显著帮助加速这一进程。有了可在 2-3 年内运行的全自动驾驶解决方案，我们可以卖掉大量的汽车/卡车。如果我们做得很好，运输业的规模足够大，我们可以将特斯拉的市值增加到 10 万亿左右，并利用这笔收入为人工智能工作提供适当规模的资金。
我看不到任何其他方法有潜力在十年内获得可持续的谷歌级别的资金。
发件人：Elon Musk <
>
收件人：Ilya Sutskever <>, Greg Brockman <>
抄送：Sam Altman <>, <>
日期：2018 年 12 月 26 日星期三下午 12:07
主题：我觉得我应该再次强调我对 OpenAI 如果不进行巨大的改变和增加资源，就能保持与 DeepMind/Google 相关的可能性的评估是 0%。并不是 1%。我真希望事情并非如此。
即便能筹集到几亿资金，也远远不够。这需要我们每年立即投入数十亿美元，否则还是算了吧。
不幸的是，人类的未来现在掌握在
的手中。他们所做的远超过此。
我真心希望我是错的。
Elon
转发：猎鹰 9 号发射成功的祝贺
3 条消息
发件人：Elon Musk <
>
收件人：Sam Altman <>, Ilya Sutskever <>, Greg Brockman <>
日期：2016 年 1 月 2 日，星期六，上午 8:18
主题：转发：对猎鹰 9 号的祝贺开始转发消息：
发件人：
<>收件人：Elon Musk <>
日期：2016 年 1 月 2 日，上午 10:12:32 CST
主题：对猎鹰 9 号的祝贺嗨，Elon
给你，
新年快乐！猎鹰 9 号的成功着陆，真是了不起的成就。现在是时候扩大舰队了！
我注意到你（以及 Sam 和其他 OpenAI 的人）最近做了很多访谈，大力赞扬了开源 AI 的优点，但我想你应该很清楚，这并不是一个神奇的解决方案，能够轻松解决 AI 的安全问题吧？有很多有力的论点认为你们现在采取的方式其实非常危险，甚至可能增大全球的风险。这篇博客文章中阐述了一些更明显的观点，我相信你应该已经看过了，但还有一些其他重要的考虑因素：http://slatestarcodex.com/2015/12/17/should-ai-be-open
我很想听听你对这些观点的反驳。
祝好
发件人：Ilya Sutskever <
>
收件人：Elon Musk <>, Sam Altman <>, Greg Brockman <>
日期：2016 年 1 月 2 日，星期六上午 9:06
主题：转发：对 Falcon 9 的祝贺文章关注了一个 AI 快速突破的情境：如果 AI 快速突破实现，并且安全的 AI 比非安全的 AI 更难构建，那么通过开源所有事物，我们就让那些心怀不轨并能接触到大量硬件资源的人能轻易地构建出一个非安全的 AI，这将导致 AI 快速取得突破。
随着我们离构建 AI 的步伐越来越近，逐渐减少开放将变得更为合理。OpenAI 中的 Open 意味着每个人都应该从已经构建的 AI 成果中受益，但是完全没有必要分享科研进程（尽管在短期乃至可能的中期，为了招聘的目的，分享所有事物无疑是最正确的策略）。
发件人：Elon Musk <
>
收件人：Ilya Sutskever <>
日期：2016 年 1 月 2 日，星期六上午 9:11
主题：转发：对 Falcon 9 的祝贺嗯