Sam Altman 在斯坦福创业者思维领导研讨会上的对话 [译]
Chapter 1: 对于 19 岁和 39 岁的 Sam Altman 的感受
Ravi: 你现在已经 39 岁，在斯坦福的 ETL，如果我没有借此时刻进行一些反思，我会觉得有些遗漏。我很好奇，当你回想起你年轻的一半，即在 ETL 的 19 岁时期。如果用三个词来描述你在斯坦福本科生时期的感受，那会是什么呢？
Sam: 这些问题总是难以回答。"兴奋"、"乐观"和"好奇心"。
Ravi: 那你现在想说的三个词是什么？
Sam: 我想还是一样。
Ravi: 这真的太棒了。即便世界已经发生了改变，但总有一些东西始终如一。过去的 19 年我们经历了很多变化，但这些都将在未来 19 年面临的变化面前显得微不足道。
Sam: 是的。
Chapter 2: 如果 Sam Altman 重返 19 岁，会如何选择
Ravi: 所以，我想请教你，如果你现在是斯坦福的一名本科生，你会怎么做？就像电影《怪异星期五》中的情景，如果你明天醒来，发现自己又回到了 19 岁的斯坦福本科生的生活，但你依然拥有现在的所有知识和经验。你会做什么？你会选择退学吗？
Sam: 我会非常开心。我会感到自己正处于几个世纪以来最幸运的时代。我认为世界正在经历空前的变化，而有机会参与并影响这个变化，无论是创办一家公司，还是从事 AI 研究，这都是非常了不起的事情。我认为现在可能是最好的时机去开始…是的，我想说，我认为现在可能是自互联网问世以来，甚至可能是科技历史上最好的创业时机，你能利用 AI 做的事情将会越来越惊人，最伟大的公司和最具影响力的新产品都是在这样的时期产生的，所以我会感到无比幸运，并决心充分利用这个机会，我会寻找我想要贡献的领域，并全力以赴。
Ravi: 你倾向于在哪里发挥你的作用？你想继续做学生吗？如果是的话，你会选择什么专业呢，考虑到变化的速度？
Sam: 可能我不会继续做学生，只是因为我没有这样做过，我认为人们可能会再次做出他们以前做过的决定。我觉得继续做学生是完全可以的。但这可能不是我会选择的。
Ravi: 这是关于你，就好像你经历了一个疯狂的星期五，重新以 19 岁的身份出生。Ed，你会这样做吗？
Sam: 是的。我想我会去做我觉得这并不奇怪，因为人们总是会做他们想做的事情。我会去做人工智能研究...
Ravi: 你可能会在哪里从事这个工作，Sam？
Sam: 我的意思是，显然我更喜欢 OpenAI，但只要我能做有意义的人工智能研究，我都会非常高兴。
Ravi: 所以你对于是在学术界还是私人产业工作并无偏好？
Sam: 带着遗憾，我觉得我可能会选择工业界。我认为你需要在一个拥有大量计算能力的地方工作。
Ravi: 如果你加入了研究领域，你会选择加入已经存在的公司吗？就像我们上周邀请的 Kazler，他非常支持加入现有公司而不是自己创业，以获取实战经验。对于那些正在犹豫的学生，我现在 19、20 岁，应该立刻创业吗？还是加入其他的创业研究实验室或公司？你会给他们什么建议呢？
Sam: 嗯，既然他建议加入公司，我就给出另一种建议，我觉得创立一家公司可以让你学到很多。如果你想在将来的某个时候做这个，Paul Graham 曾说过一句话，我觉得非常有道理： "创业没有预备阶段，就像医学没有预科一样，你只能通过亲自创业，才能学会如何经营一家创业公司。如果你确定这就是你想做的，那你最好现在就开始尝试。"
Ravi: 那么，如果有人想创业，并且他们想投身于人工智能工业界，你认为在人工智能领域面临的最大的近期挑战是什么，哪些方面最适合创业公司去做呢？为了具体化这个问题，我想问的是，你认为 OpenAI 最需要解决但在未来三年内可能无法解决的问题是什么？
Sam: 嗯。我觉得这是一个非常合理的问题，但我不打算回答，因为我觉得你永远不应该接受任何人对于应该创立什么样公司的建议。我认为，当有些事情变得足够明显，以至于我或者其他人会坐在这里说出来的时候，那可能就不是一个很好的创业点子了。我完全能理解这种想要创业的冲动。我记得我曾经也问别人，我应该创办什么样的创业公司？但我认为，如果想要有一份产生深远影响的职业生涯，你必须自己规划自己的道路。如果你正在考虑的事情是别人肯定会去做的，或者更可能的是很多人都会去做的事情，那么你应对此持怀疑态度。我认为需要锻炼的一个重要能力就是提出那些并非人们常说的观点。所以我不知道现在我还没想到的重要的想法是什么，但我非常确定这个房间里的某个人知道答案是什么。我认为，学会相信自己，提出自己的想法，并去做一些非常独特，甚至可能被人们认为是非主流的事情，比如当我们创办 OpenAI 时，那在当时是一件非常独特的事情。而现在这已经变成是一件显而易见的事情。现在我只有显而易见的想法，因为我就困在这样一个思维框架里，但我相信你们都有其他的想法。
Chapter 3: 如何构建真正的大型计算机
Ravi: 那么我可以换种方式问，我不知道这样问是否公平，你正在思考的问题是什么，而这个问题又是没有人在谈论的？
Sam: 如何构建真正的大型计算机。我个人认为，虽然其他人也在讨论这个问题，但我们可能正在以一种别人从未想象过的方式来看待这个问题。我们正在努力解决的问题是，如何不仅制造出小学或中学水平的智能，而是博士水平甚至更高的智能，并以最佳的方式将其融入产品，以最佳的方式对社会和人们的生活产生积极影响，但我们还没有找到答案。我认为这是一个非常重要的问题需要解决。
Ravi: 那我们能否继续探讨这个关于如何构建真正的大型计算机的话题，如果这是你正在思考的问题。我知道有很多猜测，可能也有很多道听途说 据说你们正在着手半导体代工业务。你能分享一下你的愿景吗？这与其他的半导体工厂有什么不同？
Sam: 这并不仅仅是工厂，尽管工厂是其中一部分。如果你相信，如同我们现在越来越相信的那样，AI 基础设施将会成为未来最重要的输入之一，这是每个人都将需要的一种资源。这就包括能源，数据中心，芯片，芯片设计，新型网络等等。这涉及到我们如何看待这个整体生态系统，以及我们如何创造更多的这样的资源。我并不认为只关注其中一部分或另一部分就可以，我们必须全面考虑。
Ravi: 好的，所以有很多大的问题需要我们去解决。
Sam: 是的，我觉得这就是人类科技历史的进程我们正在构建越来越大、越来越复杂的系统。
Ravi: 从计算成本来看，如果我没记错的话，我听说 ChatGPT-3 的开发成本是一亿美元参数有 1750 亿。而 GPT-4 的开发成本是四亿美元，参数是前者的 10 倍。也就是说，成本增加了近 4 倍，但参数却增加了 10 倍。如果我有误，请纠正我。你知道的。
Sam: 我知道，但我不打算纠正你。
Ravi: 噢，你可以纠正我的。你有权纠正我。这里是斯坦福，Sam。好的。但即便你不想纠正实际的数字，如果这个趋势是对的，那么你认为成本会随着每次升级而增长吗？而且，它会成倍增长吗？
Sam: 可能。
Ravi: 那么问题来了，如何利用这一点？
Sam: 我认为给人们提供真正强大的工具让他们自己去发掘如何利用它们去创造未来这是一件极好的事情也极具价值。我非常愿意相信你们以及世界上其他所有人的聪明才智能够找出应对这个问题的方法。所以，在 OpenAI 中可能有比我更关心商业的人他们可能会担心我们的开支，但我并不担心。
Ravi: 这不会困扰它。OpenAI 非常出色。ChatGPT 也非常出色。所有其他模型都非常出色。你们去年赚了 5.2 亿美元的现金。这关于思考经济模型，你们该如何获得收入，这并不让你感到担忧吗？
Sam: 首先，听你这么说很高兴，但事实上，ChatGPT 的表现并不算出色。实际上，ChatGPT 有时甚至会显得有些尴尬。GPT-4 可能是你们使用过的最不理想的模型，远不如之前的版本。但我们认为频繁且尽早发布产品是至关重要的，我们坚信迭代开发的策略。如果我们单独在某个地下室里开发 AGI，而外面的世界则像是蒙上眼睛在无知中前行，这样我们并不能成为一个负责任的团体。我认为对于我们相信即将发生的事情，表达我们的看法是非常重要的。但更为重要的是，我们需要将产品交到人们手中。让社会和科技共同进化。让社会告诉我们他们从科技中希望得到什么，如何将这种科技产品化以便是有用的，模型在哪些方面运行良好，在哪些方面效果不佳。给我们的领导者和机构反应的时间。给人们时间去理解如何将这个工具融入他们的生活，学习如何使用这个工具。我敢肯定你们中的一些人用它作弊做作业，但也有些人可能用它做了非常了不起的事情。随着每一代的发展，我认为这种情况会扩大，这意味着我们可能会发布不完美的产品，但我们有一个非常严密的反馈环节，我们会从中学习，我们会变得更好。把你觉得尴尬的产品推向市场确实有点糟糕，但这比其他选择要好得多，特别是在这种情况下，我认为我们真的有责任逐步部署到社会上。我们学到的一件事是，AI 和惊喜并不搭配。人们不希望被突然的变化吓到。人们希望这些系统能够渐进式的推出，也希望能对这些系统产生影响。这就是我们想要实施的方式。虽然在未来可能有一些变化，可能会让我们觉得渐进式部署并不再是最佳策略，但是目前来看，这还是我们认为最好的方法，而且我觉得我们已经从中受益颇多，希望整个世界也能从这种方式中受益。无论我们一年需要花费多少资金，无论是 5 亿美元，还是 50 亿，甚至 500 亿美元，我并不关心。我真的不在乎。只要我们能够保持在这样一个发展轨道上，最终我们为社会创造的价值能够远超这些花费，只要我们能找到支付这些费用的方式，我们就会继续推进通用人工智能的发展。这肯定会是一笔巨大的投资。但这绝对值得。
Chapter 4: 对 OpenAI 未来发展的预期
Ravi: 如果到了 2030 年，我问你："Sam，你做得很成功。" 那么在你看来，世界会是什么样子呢？
Sam: 你知道吗，可能在一些关键的方面，世界并不会有太大的变化。可能我们还会回到这里。这里也许会有一批新的学生。我们还会在讨论创业公司的重要性。科技仍然会让人感觉很酷。我们将会拥有这个全新的，伟大的工具。如果我们能够突然穿越到六年后那会感觉非常美妙，拥有一个工具在许多领域比人类都更聪明，能为我们完成复杂任务。就好像我们可以编写复杂的程序，进行复杂的研究，或者开启新的业务。太阳依然如常升起，人们还是在各自的小世界里上演着或喜或悲的戏码，生活仍然会继续。这样的世界，在某种意义上是翻天覆地的变化，我们随手可得的智慧之光灿烂夺目；但在另一种意义上，它又与今天无异。
Ravi: 好的。你提到了通用人工智能，AGI，通用人工智能。在之前的一个采访中，你把它定义为能模仿一个普通人完成任务的软件。如果让你来猜测，你认为这种情况会在何时发生？
Sam: 我认为我们需要对 AGI 有一个更精确的定义，才能针对这个问题给出时间预测。因为到目前为止，即使是你刚才提到的那个定义，虽然合理，但还是有点...
Ravi: 我在重述你在那次采访中的话。
Sam: 好的，因为我要开始自我反思了。
Ravi: OK。
Sam: 这个定义太过宽泛。这给误解留下了太多的空间，我认为这样的定义并不实用，也不能真正满足人们的要求。我觉得，当人们询问 AGI 何时可期时，他们真正想知道的是：世界何时会变得截然不同？变化的速度何时会极速加快？经济运行方式何时会有大的变动？我的生活何时会被改变？而实际上，由于很多原因，这些可能会与我们的预期大相径庭。我完全可以想象，我们在各个领域都建造出博士级的智能，使得研究人员的工作效率得到大幅提升。也许我们甚至可以进行一些自主研究。从某种意义上来说，这似乎应该极大地改变世界。我可以想象，即便我们做到了这一点，多年后全球 GDP 的增长仍旧没有任何变化，这真是难以置信。这并不符合我最初对事态发展的预感。因此，我无法准确预测达到人们所关注的重要里程碑的具体时间。但当我们开发出的系统能力远超目前时，从那一年开始，此后每年都将如此。这我认为是非常重要的一点。所以我已经放弃了预测通用人工智能的时间线，但我认为在接下来的每一年，我们的系统将变得越来越强大。
Ravi: 我想讨论一下通用人工智能的危险性。大家，我知道你们有很多问题要问 Sam。不久之后，我将让你们提问。所以请开始思考你们的问题吧。目前，斯坦福大学非常注重伦理学。我们能否谈谈你是如何看待通用人工智能的危险性？具体来说，你觉得通用人工智能带来的最大危险，是不是那种会登上新闻头条的灾难性事件？或者，其危险性是否更加隐蔽而深远，类似于当前许多人因频繁使用 TikTok 而表现出的注意力缺失症状？你是否更加关注这些潜在的微妙风险，还是那些灾难性的大风险？亦或是两者都不担心？
Sam: 我个人更加关注那些微妙的风险，因为这些风险更容易被我们忽视。关于灾难性的风险，已经有很多人在讨论和思考了。我并不是要轻视这些风险，我认为这些风险非常严重，确实存在。但至少我们知道需要警惕，会付出很大的努力去防范。例如，你提到的因使用 TikTok 而普遍出现的注意力缺失，我认为我们之前并未意识到需要防范。这确实很难应对，那些未知的风险（未知的未知）尤其难以处理，因此我对这些更为担忧，尽管我对两种风险都感到忧虑。
Ravi: 关于你问的那些未知的未知，你能具体指出哪些你特别担心的吗？
Sam: 如果我能具体指出，那它们就不再是未知的未知了。我担心的是，尽管我认为短期内事物变化不如我们想象的那么剧烈，但正如其他重大技术变革一样，长期来看，变化可能会超出我们的预期。我担心社会适应这样新颖事物的速度，以及我们确定新的社会契约所需的时间，与我们实际拥有的时间相比，会是怎样的。这是我所担忧的。
Ravi: 我想问你一个问题，关于一件关键的事情，我们正努力将其融入课程中。随着事物变化的加速，那就是韧性。
Sam: 这真的很好。
Ravi: 而韧性的基本要素是自我认知。我想知道，在你开始这段旅程时，是否对自己的驱动力有深入的理解。
Sam: 首先，我认为韧性是可以教授的。我认为它一直是最重要的生活技能之一。在未来，我认为在未来几十年内，韧性和适应性将会变得比很长时间以来更加重要。所以我觉得这真的很棒。关于自我认知，我认为我具有自我认知，但我认为每个人都认为他们具有自我认知，至于我是否真的具有，从自己的角度来看，实在是很难判断。
Ravi: 我能向你提出一些问题吗这些问题是我们在自我认知的入门课程中经常询问的
Sam: 当然可以。
Ravi: 这就像彼得·德鲁克的框架，那么，Sam，你认为你的最大优点是什么？
Sam: 我认为我在许多事情上并不擅长，但我在很多事情上做得还不错，我觉得世界上已经低估了广泛的知识或技能。每个人都变得过度专门化，所以如果你在很多事情上都做得好，你就能在它们之间发现联系。我认为你就能想出与众不同，或者与某一领域的专家不同的想法。
Ravi: 你最大的弱点是什么？
Sam: 最大的，这是一个有趣的提法。我倾向于过于亲技术，只是因为我好奇，我想看看它会走向哪里，我相信科技整体上是一件好事，但我认为这种世界观总体上对我和其他人有所帮助，并因此得到了大量的积极反馈，但并非总是如此，当它不是这样的时候，对许多人造成了相当大的负面影响。
Ravi: 然后哈佛心理学家大卫·麦克莱兰提出了这样一个框架，所有的领导者都是由三个基本需求之一驱动的。一种是亲和需求，也就是渴望被喜欢。一种是成就需求，还有一种是权力需求。如果你需要对这些进行排序，你会怎样排序？
Sam: 我觉得在我职业生涯的不同阶段，我都关注过这些因素，我认为人们都会经历这样的阶段。不过，我确实经历过追求金钱、权力和地位的阶段。现在，我觉得我更倾向于做一些有用的事情且有趣的事情。
Ravi: 那么，你最后一次觉得自己处在最佳状态是在哪个时刻？
Sam: 我一直觉得不错。
Ravi: 接下来是我的最后一个问题，关于即将发布的 chat GPT-5，有什么让你特别兴奋的地方吗？有些什么是我们都将看到，而人们可能还没有意识到的？
Sam: 我还不确定。这可能听起来有些回避问题，但我认为关于 GPT-5，或者不管我们怎么称呼它，最重要的就是它将变得更为智能。这种说法似乎也在回避问题，但实际上，这是人类历史上极为重要的事实之一。我们可以肯定地说，基于当前的科学研究，GPT-5 将明显优于 GPT-4，而 GPT-6 又将超越 GPT-5。我们尚未达到技术的巅峰，但我们对未来的方向有了清晰的认识。这种进步不仅局限于某个特定领域。也并不是说我们要，你知道，它不仅仅是在某项评估、某个学科或某种模式上越来越好。而是在更广泛的层面上，智能化的程度在全面提升。我认为，这一点的重要性至今仍被低估了。
Chapter 5: 如何判断一个创业点子是否够格"非主流"
Student: 嘿，Sam。我的问题是面向在座的很多创始人的。我会提一个问题，然后解释为什么我认为这个问题很复杂。我想问的是，你是如何判断一个想法是非主流的？我之所以觉得这个问题复杂，是因为人们很容易过度思考。我觉得现在，甚至你自己也说，AI 是创业的一个好领域。这个想法应该是被大家认同的。也许这是理所当然的。这是一个转折点。我觉得要判断一个想法是否是非主流的，取决于你所在的群体。普通大众对科技的看法，与科技圈子里的人的看法是不同的，甚至科技精英们的观点也与科技圈子里的人不同。所以，我想知道你是如何确认你的想法足够的非主流，值得去追求的？
Sam: 我的意思是，你真正想要的应该是正确。即使你的观点与众不同，但如果错了，那就是错的。如果你在过去的两次衰退中预测了 17 次，那么你可能在正确的两次中持了与众不同的观点。也许，甚至并不一定。你之前的 15 次尝试都错了。因此，我觉得过于沉迷于反对传统很容易让人激动过头。我再次强调，最重要的是你的看法要正确。一般来说，大多数人的看法是正确的。然而，当你的观点与众不同并且正确时，这就是最有价值的。这并不总是绝对的对或错。比如，房间里的每个人都认同 AI 是创立公司的好起点。如果房间里的某个人找到并成功创立了正确的公司，尽管其他人认为这并非最好的选择，这就是最重要的。因此，当传统的观点正确时，你完全可以遵循，然后在你具有独特见解的领域中寻找机会。关于如何做到这一点，我认为找到正确的伙伴群体非常重要，找到原创的思考者也非常重要。但是，你也需要独自去做一部分，或者至少你需要独自完成部分工作，或者和几个可能成为你的联合创始人的人一起。我认为，当你过于关注如何找到正确的伙伴群体时，你可能已经陷入了错误的思维模式。所以，学会相信自己，相信你的直觉，相信你自己的思考过程，这会随着时间的推移变得越来越容易。无论他们说什么，我认为任何人在开始的时候都不可能真正擅长这一点。是的，因为你们可能还没有培养出这种能力，而你们所面临的社交压力和进化压力都在阻止你们做这件事。这是一种你会随着时间的推移慢慢提高的能力，并且不要在初期就对自己的标准设定得过高。
Chapter 6: 能源需求的未来预测
Student: 你好，Sam。我很想知道你对未来几十年能源需求变化的预测，以及我们如何才能实现每千瓦时可再生能源成本为一美分的目标。
Sam: 我的意思是，能源需求肯定会增加。虽然不完全确定。你可以设想许多稀奇古怪的场景，例如我们面临的各种消极的未来，这些未来中能源需求可能不会增加。我希望能源需求能大幅增长。我希望我们能设定一个足够高的标准，让能源需求增长。我忘记了现在全球的电力产能是多少，但假设是大约 3000 到 4000 千兆瓦。即使我们为 AI 增加了 100 千兆瓦的电力需求，对总体情况的影响并不大，但这的确是个变化，如果我们有一天需要为 AI 提供 1000 千兆瓦的电力，那就是个重大的变化。但是我们还有很多其他的事情要做，能源需求似乎与我们能为人们提供的生活质量有很大的关系。我猜核聚变最终会成为地球上主要的电力生成方式。我认为它应该是最便宜、最丰富、最可靠、密度最大的能源。当然，我可能会错，也可能最后是太阳能加储能。大概率上，会有 80-20 的比例，也就是说，有些情况下，其中一种能源会比另一种更优。但我认为这两种能源才是对全球规模的主要选择，每千瓦时一美分能源。
Student: 谢谢。
Chapter 7: OpenAI 的组织结构背后的原则
Ravi: 我想问你一个问题，关于一件关键的事情，我们正努力将其融入课程中。随着事物变化的加速，那就是韧性。
Sam: 这真的很好。
Ravi: 而韧性的基本要素是自我认知。我想知道，在你开始这段旅程时，是否对自己的驱动力有深入的理解。
Sam: 首先，我认为韧性是可以教授的。我认为它一直是最重要的生活技能之一。在未来，我认为在未来几十年内，韧性和适应性将会变得比很长时间以来更加重要。所以我觉得这真的很棒。关于自我认知，我认为我具有自我认知，但我认为每个人都认为他们具有自我认知，至于我是否真的具有，从自己的角度来看，实在是很难判断。
Ravi: 我能向你提出一些问题吗这些问题是我们在自我认知的入门课程中经常询问的
Sam: 当然可以。
Ravi: 这就像彼得·德鲁克的框架，那么，Sam，你认为你的最大优点是什么？
Sam: 我认为我在许多事情上并不擅长，但我在很多事情上做得还不错，我觉得世界上已经低估了广泛的知识或技能。每个人都变得过度专门化，所以如果你在很多事情上都做得好，你就能在它们之间发现联系。我认为你就能想出与众不同，或者与某一领域的专家不同的想法。
Ravi: 你最大的弱点是什么？
Sam: 最大的，这是一个有趣的提法。我倾向于过于亲技术，只是因为我好奇，我想看看它会走向哪里，我相信科技整体上是一件好事，但我认为这种世界观总体上对我和其他人有所帮助，并因此得到了大量的积极反馈，但并非总是如此，当它不是这样的时候，对许多人造成了相当大的负面影响。
Ravi: 然后哈佛心理学家大卫·麦克莱兰提出了这样一个框架，所有的领导者都是由三个基本需求之一驱动的。一种是亲和需求，也就是渴望被喜欢。一种是成就需求，还有一种是权力需求。如果你需要对这些进行排序，你会怎样排序？
Ravi: 我觉得在我职业生涯的不同阶段，我都关注过这些因素，我认为人们都会经历这样的阶段。不过，我确实经历过追求金钱、权力和地位的阶段。现在，我觉得我更倾向于做一些有用的事情且有趣的事情。
Ravi: 那么，你最后一次觉得自己处在最佳状态是在哪个时刻？
Sam: 我一直觉得不错。
Ravi: 接下来是我的最后一个问题，关于即将发布的 chat GPT-5，有什么让你特别兴奋的地方吗？有些什么是我们都将看到，而人们可能还没有意识到的？
Sam: 我还不确定。这可能听起来有些回避问题，但我认为关于 GPT-5，或者不管我们怎么称呼它，最重要的就是它将变得更为智能。这种说法似乎也在回避问题，但实际上，这是人类历史上极为重要的事实之一。我们可以肯定地说，基于当前的科学研究，GPT-5 将明显优于 GPT-4，而 GPT-6 又将超越 GPT-5。我们尚未达到技术的巅峰，但我们对未来的方向有了清晰的认识。这种进步不仅局限于某个特定领域。也并不是说我们要，你知道，它不仅仅是在某项评估、某个学科或某种模式上越来越好。而是在更广泛的层面上，智能化的程度在全面提升。我认为，这一点的重要性至今仍被低估了。
Ravi: Sam 真的在这里为你服务。他想回答你的问题。所以我们现在开始接受大家的提问。
Student: 你好，非常感谢你们能参与我们的活动。我是斯坦福的一名大三学生。我想和你们讨论一下通用人工智能的负责任部署。随着你们不断接近实现通用人工智能的目标，你们如何计划在 OpenAI 进行负责任的部署，以防止抑制人类的创新，同时继续推动创新呢？
Sam: 实际上，我一点也不担心会抑制人类的创新。我深信人们会用更好的工具给我们带来惊喜。历史一直告诉我们，如果你给人们更多的杠杆，他们就会做出更多惊人的事情。这就像是我们都能从中受益。这真的很棒。我们确实做了很多像红队测试和外部审计这样的事情，我认为这些都很好。但我认为随着模型的能力越来越强，我们需要更迭代地部署，对模型的使用情况进行更紧密的反馈，观察它们在哪些地方能够正常工作，哪些地方有问题。在过去，我们可能每隔几年才会发布一次主要的模型更新，但现在我们可能需要找到方法提高更新的频率，并比过去更迭代地进行部署。我们现在还不太清楚如何做到这一点，但我认为这将是负责任部署的关键。此外，我们如何让所有利益相关者协商 AI 需要遵循的规则，这个问题随着时间的推移也会变得越来越复杂。
Student: 谢谢你。
Ravi: 下一个问题在这里。
Student: 你之前提到，对于更大、更快的计算机的需求正在增长。然而，世界上许多地方没有建设这些数据中心或大型计算机的基础设施。你认为这将如何影响全球的创新？
Sam: 对于这个问题，我有两点想法。首先，无论计算机在哪里建造，我认为全球公平地使用计算机进行训练和推理非常重要。我们的核心使命之一是让尽可能多的人免费使用 ChatGPT，除非是在一些我们无法或不希望运营的国家。我们如何让全世界更多地接触到用于训练的计算资源，这将越来越重要。我认为我们会走向一个世界，在这个世界中，我们将把获得一定量计算资源视为人权，我们需要弄清楚如何将这些资源分配给全世界的人们。此外，我认为各国将越来越意识到建设自己的人工智能基础设施的重要性，我们正在寻找方法，并且现在花很多时间在世界各地推动这一进程，帮助愿意建设这些设施的国家，希望我们能在这方面发挥作用。
Student: 非常感谢你的回复。
Student: 我的问题是，你认为 AI 在未来的太空探索或者殖民化中会扮演什么角色？
Sam: 我认为，太空对于生物生命来说并不是一个友好的环境，这点是显而易见的。如果我们可以派遣机器人去太空，那会更简单。
Chapter 8: OpenAI 内部的团队文化
Student: 嘿，Sam。我有一个问题。是关于 OpenAI"宫斗剧"的。去年发生了什么？那么，你从中学到了什么教训呢？因为你提到了韧性。那么，你从离开那家公司再到现在回来，学到了什么教训？是什么让你回来的？因为微软也给你提供了 Offer。你能分享更多的情况吗？
Sam: 我学到的最好的教训就是我们拥有一个令人难以置信的团队，即使没有我，他们也能完全独立运营公司，实际上他们就这么做了几天。而且，这个团队非常有韧性。我们明白，我们会遇到各种意想不到的挑战，在达到通用人工智能（AGI）的道路上，随着世界各地对此反应越来越激烈，挑战只会越来越大。我一直相信团队能在巨大压力下表现出色，但真正的测试是通过实践来验证的。这次经历让我确信，团队不仅有韧性，而且完全有能力接手公司的管理工作。至于我为什么回来，起初，董事会在第二天早上打电话给我，问我是否考虑回归，我当时拒绝了，我很生气。但后来我想了想，我意识到我多么热爱 OpenAI，我多么热爱我们建立的这支团队、这个文化和我们的使命，我其实就想一次性把所有的事情都做完。
Ravi: 你的话触动了我的情感，我想说这确实是一个非常敏感的问题。是其中之一，但我想应该也还好，那么，我们可以讨论一下 OpenAI 的结构吗？这种结构就像俄罗斯套娃，你知道的，一个非盈利机构拥有一个盈利公司。我们试图在这里教授的是原则驱动的创业精神。
Sam: 我们的这种结构是逐步形成的。如果可以重来，我可能不会选择现在这种方式。我们刚开始的时候并没有考虑做产品这件事。我们只想成为一个 AI 研究实验室。这些都还不清楚。我们对大语言模型、API 或 ChatGPT 一无所知。因此，如果你想创办一家公司，你必须有一种理念，那就是你总有一天会推出一个产品。但我们并没有这样的想法。我们没有想到我们会需要大量的计算资源。我们也没预料到我们能有这么好的商业机会。
Ravi: 那你创建它的初衷是什么？我们只是想推动 AI 研究的发展。
Ravi: 我知道这又回到了动机问题，但这就是最纯粹的动机。并没有包含赚钱或者掌握权力的动机。
Sam: 我必须强调，这个概念对我来说是多么的陌生……
Ravi: 我是说，这对你个人而言，而不是 OpenAI，你并不缺钱。
Sam: 嗯，我已经赚了很多钱，所以这对我来说并不重要...我不是要声称自己有何道德优越性。这只是，这就是我的生活方式。这并不是我的驱动力。
Ravi: 我问这个问题的原因是当我们在这里讲解以原则为驱动的创业时，你可以理解组织结构背后的原则。当美国成立的时候，治理的架构就是宪法。它设立了三个政府部门，实行三权分立。你可以总结出一些原则例如对集中权力持有怀疑事情发展会相对缓慢。要实现变革很困难，但这会让组织更加稳定。并非要模仿 Billie Eilish，但当你审视 OpenAI 的结构，你会思考，这是为了什么而建立的？你们的估值近千亿美元，同时拥有一个非常有限的非盈利机构董事会，它的责任是服务于社区。
Sam: 再次强调，如果我们当初就知道现在的这些情况，可能会选择不同的方式，但人生不能倒着来。我们必须去适应。我们有一个我们深感重要的使命。我们认为 AI 将会产生重要影响。我们认为我们的算法可以学习。我们知道随着规模的扩大，它的表现会变得更好。但我们不知道随着规模的扩大，它的表现会如何变得更好。我们决定去推动这个。我们认为这将是人类历史上非常重要的一件事。我们并没有在每件事上都做得对，但在重大问题上我们是正确的，我们的使命依然如初。我们在发展过程中对组织结构进行了调整，未来还会进一步调整。但你要明白，生活并不像是一套问题集。你不能一次性完美解决所有问题。实际的情况并不像在课堂上解决问题那样。我的建议是，相信自己可以在前进的过程中适应。可能会有些混乱，但你可以胜任。
Ravi: 我之所以提这个问题，是因为 OpenAI 的重要性。你们有一个董事会，所有成员都应在经济上独立，这样他们作为非盈利机构才能做出这些决策，他们要考虑的利益相关者并不是股东，而是全人类。每个人都是独立的。董事会上的任何人，包括你，在 OpenAI 都没有经济利益。
Sam: 哦，Greg 是，好吧，首先，我认为赚钱是好事。我认为资本主义是好事。董事会上的联合创始人有经济利益，但我从未看到他们不严肃对待我们的使命。但是，我们已经制定了一个我们认为能够让激励和目标保持一致的机制，我确实相信激励措施是超级强大的。但我相信随着时间的推移，我们的结构还会进一步演进，我认为这种变化是好的，而不是坏的。
Ravi: 通过你资助的 Open AI，你本人并不会从中获得任何直接经济回报，也不会对这些公司进行后续的投资。好的，感谢你，
Sam: 我们可以继续讨论这个问题。
Ravi: 不过，现在让我们继续回答学生提问。
Chapter 9: 对 AI 潜在风险和滥用的看法
Student: 你期望通用人工智能会如何改变地缘政治和世界权力平衡？
Sam: 可能它的影响比任何其他技术都要深远。我对此思考很多，但很难说出它究竟会带来什么变化。或者更准确地说，我很难界定它不会带来什么变化。我们之前讨论过它可能不会改变的方面，可能它不会太改变我们的日常生活。但是对于世界权力平衡，我觉得它势必会产生重大影响。但我无法详细说明具体会如何改变。
Student: 非常感谢。我在想，在部署通用智能和负责任的 AI 时，AI 系统多大程度上需要能够识别自己的不确定性或缺点，并能够向外界明确表达这些问题？
Sam: 我总是担心过度人格化 AI 因为我认为这可能导致一些奇怪的疏忽。但如果我们问 AI 能否识别自己的缺陷我认为这是非常重要的能力。能否识别推理的错误有一些像自我反思的能力我认为这是非常值得我们去追求的。
Student: 目前，人们对于短期内 AI 是否会被滥用非常关注。以及全球冲突和即将到来的选举等问题。你认为现在工业界内的人、政府可以做些什么？还有像我们这样的人，以及那些拥有强大开源模型的人？
Sam: 我认为，一件很重要的事情是，我们不能假装这种技术或者其他任何技术都是完全好的。我相信 AI 将会带来极大的益处。但我也认为，就像任何其他工具一样，它有被滥用的可能，你可以用锤子做伟大的事情，你也可以用锤子去伤害人。我不认为这就意味着我们，或者你们，或者社会应该逃避尽可能减轻不良影响的责任，并最大化好处。但是我确实认为，我们需要意识到，任何足够强大的工具都会把权力交给使用者，或者我们需要做出一些决定，对社会中人们的行为做出限制。我认为我们在这方面可以发表意见。你们也可以在这方面发表意见。我认为政府和我们选举出来的代表，以及民主进程在这个问题上有最大的发言权。但我们不可能做到完全正确。我们这个社会，也不可能做到完全正确。我认为，紧密的反馈循环是我们可以采取的最好方法，让我们尽可能接近正确的方向。那种在安全与自由和自主之间寻求平衡的方式我觉得值得我们借鉴过去的技术并尽我们所能去做到我们，作为社会的一部分，会尽我们所能
Ravi: 实际上，我必须在此结束对不起我只是想尽量把握好时间我知道大家对 Sam 的兴趣远超过我们的时间对 Sam 的喜爱我知道今天是你的生日不知道你是否可以稍微纵容一下我们因为我知道大家都很喜欢你所以我在想我们是否可以一起为你唱一首生日快乐歌
Sam: 不
Ravi: 我们想让你感到有些尴尬
Sam: 你可以再快速提一个问题
Chapter 10: AI 发展给人类社会带来的变化
Student: 嗨我想问，创造出比任何人都要聪明的东西的可能性让我感到恐惧。
Sam: 当然会我觉得如果我不害怕，那就太奇怪了，也是不好的预兆人类随着时间的推移变得越来越聪明，能力也越来越强你远比你的曾曾祖父母要更有能力在那段时间里，人类基本没有生物学上的改变当然，你的饮食和医疗条件可能会有所改善也可能会变得更糟，我不确定但这并不是你能力更强的主要原因你之所以更有能力，是因为社会基础设施的智慧和能力远远超过了任何个体通过这种方式，你、社会、你的前辈，以及互联网、iPhone 等，使你手指尖有了大量的知识，能做出你的前辈肯定会觉得惊人的事情。现在的社会比你更智慧。就你所知，社会就如同一个通用人工智能。这并不是因为任何个体的大脑，而是我们所有人之间的连接，我们逐步建立并贡献的社会基础设施。然后我们为后来人攀登到更高的高度做出贡献。比我们更智慧的事物也会对这个基础设施做出贡献。你的孩子会有你没有的工具。这个基础设施将被建设得更高更大。这总是有点儿让人恐惧。但我认为，这主要是带来好处，而不是坏处。人们将做出更好的事情，解决更多的问题。未来的人们将能够使用这些新工具，以及这些新工具所增强的新基础设施。如果你想象一个世界，其中 AI 进行了大量的科学发现，那么这种科学进步就会被添加到这个基础设施中，然后你的孩子，或者十年后的你，可以利用它开展全新的探索。但这种变化给人的感觉，并不是因为存在某个智力超群的实体。我们在某种意义上比我们的高祖更加聪明，更有能力。关键在于，每个人都能做更多事情。
Ravi: 好了，我们今天的讨论就到此为止。让我们为 Sam 鼓掌吧。谢谢观看！