被仁慈所爱的机器——人工智能如何让世界变得更美好[译]

我经常思考并谈论强大人工智能的风险。我所任职的公司 Anthropic 在如何降低这些风险方面做了很多研究。也正因为如此，人们有时会得出结论，认为我是一名悲观主义者或“末日论者”，觉得我认为人工智能大多是负面或危险的。其实我并不这么想。事实上，我之所以如此关注风险，其中一个主要原因是：在我看来，风险是我们与一个根本上正面的未来之间唯一的障碍。我同样认为，大多数人都低估了人工智能可能带来的极大利好，就像我认为大多数人也低估了它可能带来的极端负面风险一样。

在这篇文章中，我想试着勾勒一下这种“极大利好”可能是什么样子——即，如果一切顺利，拥有强大人工智能的世界会如何。当然，没人能够以绝对确定或精确的方式预知未来，而强大人工智能的影响可能比过去的技术变革更难以预测，因此以下内容不可避免地是一些猜测。但我希望至少能给出有依据、有用的猜测——能抓住未来可能发生的“风格”，即使其中大多数细节最终错了。我之所以会包含许多细节，主要是因为我认为，比起高度保留、抽象的陈述，一个相对具象、具体的未来愿景更有助于推动讨论。

不过首先，我想简要说明一下为什么我和 Anthropic 一直并没有过多讨论强大人工智能可能带来的好处，以及为什么我们总体上可能仍会更多地强调风险。尤其是，我做出这一选择主要基于以下考虑：

最大化影响力（Maximize leverage）。
人工智能技术的基本发展以及它能带来的许多（并非全部）好处似乎是必然的（除非风险会让一切脱轨），而且这些发展在根本上是由强大的市场力量推动的。另一方面，风险并非板上钉钉；我们的行动能够显著地改变其发生的可能性。
避免被视作宣传。
当人工智能公司大谈特谈 AI 的种种美好益处时，很容易被当作宣传机器，或是被认为在转移公众对负面方面的注意力。同时，我也觉得，出于原则，人若花太多时间“自吹自擂”，其实对自身心灵也有不良影响。
避免过度自大。
我常常对许多公众场合谈论 AI 风险的人（更不必说那些 AI 公司的领导者）所描绘的“后 AGI 世界”的方式感到反感，他们往往以“先知”自居，仿佛要单枪匹马地带领人类迈向终极救赎。我认为，这种把公司视为能够单方面塑造世界的行为是危险的，把技术目标置于类似宗教般的境地也是危险的。
避免“科幻”式的外壳。
虽然我认为大多数人低估了强大人工智能带来的正面潜能，但那一小群会讨论“激进 AI 未来”的人，往往会带有过分的“科幻”色彩（比如上传意识、太空探索或赛博朋克的各种元素）。我觉得这样会让人们对这些主张的真实性和现实性打折扣，也把它们笼罩在虚幻的氛围里。需要澄清的是，我并不是否认上述技术的可能性或概率（主文会在细节层面进行讨论）；而是说，这种“氛围”会在暗中夹带一系列文化偏见及未表明的假设——关于什么样的未来才算理想，以及社会问题将如何演变等。结果往往是写出来像是一个小圈子的幻想，却让更多人觉得不舒服或感到疏离。

尽管有上述这些顾虑，我仍然认为，讨论一个拥有强大人工智能、充满美好愿景的世界会是什么样子极其重要，并且我们需要尽量避免以上那些弊端。实际上，我相信有一幅真正能够启发人心的未来蓝图至关重要，而不仅仅是“灭火救急”的应对方案。虽然强大人工智能会带来不少对抗性和危险的影响，但到最后，总得有一个我们想去争取的目标——一个正和博弈的好结果，能让所有人都过得更好，可以召唤人们放下争端、齐心协力应对未来挑战。恐惧固然能激发部分动力，但远远不够：我们同样需要希望。

强大人工智能可能的正面应用清单非常之长（包括机器人、制造业、能源等等），但我想专注于那些对人类生活质量有最大直接提升潜力的领域。我个人最兴奋的五大类别是：

生物学与身体健康
神经科学与心理健康
经济发展与贫困问题
和平与治理
工作与意义

从大多数人（不包括那些科幻“奇点”爱好者²）的角度来看，我所给出的预测已经相当“激进”，但我完全是认真的。当然，再次强调，这些预测可能极易出错（和前文相同的观点），但我至少尝试基于对各领域可能进展速度以及可能实际意义所做的半分析性评估。本人有幸在生物学和神经科学领域都具备一定的专业背景，对于经济发展也有所涉猎，不过我当然无法保证万无一失。写这篇文章的过程中，我越来越觉得，把各领域专家（生物学、经济学、国际关系等）召集起来，写一份更完善、更专业的版本，会是件有价值的事。希望我在这里的努力能成为这样一份文稿的起点。

基本前提与思路

为了让整篇文章更具可操作性和客观性，最好先明确指出我们所说的“强大人工智能”到底指什么（也就是从它出现开始算 5-10 年的倒计时），以及当它出现后，我们用什么框架去理解它将产生的影响。

强大人工智能（我其实不喜欢“AGI”³ 这个词）会是什么样子、何时出现、或者是否真的会出现，这其实本身就是个巨大话题。
我曾在公开场合谈过这些，也可能会在之后另外写篇文章做详细讨论。很显然，许多人会怀疑强大人工智能是否会很快到来，也有人认为它永远都不会到来。我个人认为最早可能在 2026 年就会出现，但也有各种理由认为可能会更晚。不过，为了这篇文章的目的，我希望先放下这些争议，假设它会在不远的将来出现，然后重点探讨它出现后 5-10 年的情景。我同时也会给出一个我心中对这类系统的定义，包括它的能力边界以及它是如何互动的——尽管当然会有人对此持不同意见。

当我说“强大人工智能”时，我心目中的 AI 模型（很可能与当下的 LLM 类似，但也可能基于其他架构、由多个交互的模型组成、使用不同的训练方式等）需要具备以下特征：

“纯粹智力”层面⁴ 超越了绝大多数最顶尖人类专家
——在包括生物学、编程、数学、工程、写作等大部分相关领域都比诺贝尔奖获得者更胜一筹。也就是说，它可以证明尚未解决的数学定理、写出优秀的小说、从零开始编写极其复杂的代码库等等。
拥有“接口”可执行任何虚拟领域的工作
——不仅仅像一个“聪明的聊天对象”，它还能使用文本、音频、视频、鼠标键盘控制、网络访问等所有人类办公常用的渠道进行操作；它能在这些渠道上进行任何可行的行动、沟通或远程操作，包括上网、向人类下达指令、采购材料、指导实验、观看或制作视频，等等。对于所有这些任务，它的能力同样超越世界上最顶尖的专家。
它不仅被动答疑，而是可被赋予长时间、自动执行的任务
——类似一个聪明的雇员，会在需要时向雇主确认和沟通，但能够独立执行耗时数小时、数天甚至数周的复杂工作。
它没有实体形态，但可以远程操控物理工具、机器人或实验设备
——只要通过电脑端就可以；理论上它甚至能自行设计或改造机器人或设备，用以执行更多工作。
可以运行数百万个拷贝，并以比人类快 10-100 倍的速度吸收信息和产出行动⁵
——训练模型所用的那些硬件资源，在 2027 年左右即可转而用于部署许多拷贝，且这些模型的执行速度会比人类更快，但也可能仍受物理世界或其他软件响应速度的限制。
这些拷贝可独立执行不同任务，也可像人类一样协作
——在必要的时候，它们可分工或对某些能力进行微调，就像拥有不同专长的人类团队共事。

用一句话概括，这就像是“数据中心里的一整个天才国度”。

很显然，这样的实体能够极快地解决非常艰难的问题，但究竟“快到什么程度”并不容易判断。有两种“极端”观点，我觉得都不正确。其一，你也许认为整个世界会在数秒或数天内被瞬间改变（所谓“奇点”），因为超级智能会快速进行自我迭代，一下子就解决了所有科学、工程与实践难题。这种说法的问题在于，世界毕竟存在物理和实际限制，比如硬件制造、生物实验都有周期。即便是再强大的“天才国度”，也会被这些限制所牵制。智力很强，但不等于“魔法粉尘”。

另一个极端观点则相反：或有人觉得科技进步已经停滞，或者科研完全受限于真实世界的数据或社会因素，再智能也改变不了什么⁶。我也同样觉得这并不可信。现实中有无数科学或社会难题，如果有一大群非常聪明的人投入进去并能把想法付诸行动（正如我们的“天才国度”所能做到的），进度就会显著加快。

我认为事实可能介于这两种极端之间，并且因领域、任务而异，会非常微妙。我们确实需要新的分析框架来理解这些细节。

经济学中常谈到“生产要素”，比如劳动力、土地和资本；也常谈到某种要素在边际上能否成为瓶颈的问题，比如空军既需要飞机也需要飞行员，如果没有足够飞机，单纯增加飞行员并无多大帮助。进入 AI 时代之后，我们应该开始谈论“智力的边际回报”⁷，并思考还有哪些要素与“智力”相互补充，当“智力”非常充足时，其他要素会不会成为瓶颈。我们以前并不习惯这样思考——并不会刻意问“对于这项任务，更高智力能带来多大帮助、需要多长时间才见效？”——但在一个强大 AI 的世界中，这似乎才是正确的思路。

我猜想，对于“智力”的提升而言，会出现以下几种限制或互补要素：

外部世界的速度
——智能体在实际完成任务时，需要在现实世界中交互、实验或操作，而世界本身是有速度上限的。细胞、动物的生理过程是恒定的，化学反应也往往需要一定的时间；一连串依赖前序结果的实验也可能需要逐次进行。比如研发癌症新药，需要一次又一次的实验验证，无法一蹴而就。所以即使拥有超强智力，某些项目还是可能需要以天、周、月为单位的物理时间。
数据的需求
——有时我们缺乏原始数据，在这种情况下，智力再强也无济于事。比如粒子物理学家已经提出许多理论，但缺乏大型加速器所提供的数据来验证和区分它们。即便 AI 超级聪明，也不可能从无到有“推演”出缺失的数据。
内在复杂度
——有些事情本质上就很复杂或混沌，即便强大的 AI 也无法实质性提升预测或分析的上限。例如混沌系统（比如三体问题）在一般情况下可预测的时长非常有限，算力提升也只能略微延长预测时间。
人类带来的约束
——很多事情要想实现，需要遵守法律或社会规范；一个对齐（aligned）的 AI 不会做出违法或伤害人类的行为。而许多人类社会的结构并不高效，或者甚至有害，但要在尊重法律、文化、政治及公众意愿的前提下去改变它们并不容易。像核能、超音速飞行、甚至电梯技术等，都曾因为监管或公众恐惧而发展受限。
物理定律
——这是最根本的限制。比如不能超光速旅行，搅匀的布丁不会自行分层复原，芯片每平方厘米可容纳的晶体管数量有上限，等等。进行计算也需要消耗一定的能量。

需要再区分一下时间尺度：某些在短期内无法轻易突破的障碍，从长期看也许可以被更高层次的智力绕过。例如，AI 或许可以开发新的实验范式，让我们无需在活体动物身上进行繁琐的序列实验，也能快速获得同等信息；或者它可以帮助我们建造更大的粒子加速器，或者（在合理的伦理框架内）想办法减轻临床试验中繁琐的审批流程。

因此，我们可以想象这样一幅图景起初，智力会被其他生产要素限制，但随着时间推移，智力本身会不断想办法绕过那些限制，即使不可能彻底消除它们（有些，比如物理定律，肯定无法消除）。关键是进展速度如何以及采取怎样的次序。

基于以上框架，我接下来会针对前文提到的五大领域，尝试回答“要在多长时间、以怎样的方式带来变革”的问题。

1. 生物学与健康

生物学或许是能最直接、最大幅度提升人类生活质量的科学领域。在过去一个世纪，我们最终消灭了天花等一些困扰人类数千年的疾病，但仍有很多疾病尚未被攻克。如果有办法攻克它们，这将是极大的福音。再往前想一步，如果能直接提升人类对自身生理过程的掌控，那对人类生活质量的改善就更为深远。

从上一节的“限制要素”角度来看，直接在生物学领域应用 AI 面临的主要挑战包括：数据、物理实验速度、以及生物系统内在的复杂度（当然，人类社会法规层面也有一定影响）。让我们依次看看它们。

实验速度限制：在细胞、动物，甚至化学流程中的许多实验都需要数天乃至数周，例如等待细胞培养或化学反应结束；而动物试验可能需要数月，人类试验往往要持续数年甚至数十年（比如长期随访）。
数据不足：更确切地说，缺乏高质量、可精确区分研究对象影响且具有因果性的实验数据。大量分子层面的数据（如我曾做过质谱实验收集的蛋白质组学数据）往往噪音很大，且诸多维度缺失（比如蛋白所在细胞类型、细胞所处亚细胞结构，处于细胞周期的哪个阶段等等）。
内在复杂度：如果你看过人体代谢示意图，就会知道要在这样一个错综复杂的体系里孤立某个部件的作用并加以干预，并非易事。
临床试验及社会法规层面的掣肘：后续在人类临床阶段，更是会面临种种程序和审批障碍，在我看来许多流程并不尽合理，造成了过度的时间延迟。

很多生物学家一直对“人工智能和生物大数据”相对保持谨慎。一方面，数学家、计算机科学家、物理学家在过去几十年中也曾成功地推动了生物学不少进展，但离“革命性变革”仍有距离；在很多人眼里，AI 只能改进数据分析过程，解决不了“数据本身不足”的根本问题——他们常说“垃圾进，垃圾出”。

但我认为，这种对 AI 的怀疑是基于一个错误的视角如果我们对 AI 的未来走向判断正确，那么它不仅仅是一个分析数据的工具，而是一个能做完整研究流程的“虚拟生物学家”。它会像一个真正的 PI（课题负责人）或实验室团队一样，自己设计并运行真实世界的实验（可通过实验室机器人或与人类协作），可以发明新的测量或干预手段，等等。只有当 AI 覆盖整个研究闭环时，它对生物学的加速作用才会真正显现。

更具体一点看，生物学进展里有相当大的一部分来自极少数重大突破，尤其是那些能测量、操纵生物系统的新技术或新方法⁸。这些突破的频率非常低：也许每年才能出现一项，但贡献却可能占了整体生物学进展的 50% 以上。它们如此重要，是因为它们能绕过生物系统的复杂度和数据不足，直接提升我们对系统的理解和控制。实际上，人类对生物科学的认识和诸多重磅疗法，很大程度上都源于过去几十年少数几项关键技术的出现。

举些例子：

CRISPR：可在活体中对任意基因进行编辑的技术（将基因序列替换为任意目标序列），不断演进中，正在提高靶向性、减少脱靶。
各类显微技术：先进的光学显微镜、电子显微镜、原子力显微镜等，可在极其精细的尺度上观察生物过程。
基因测序与合成：成本在过去二十年里下降了几个数量级。
光遗传学（Optogenetics）：通过光照诱导神经元放电。
mRNA 疫苗：理论上可以针对任何病原体快速设计并迭代更新（在新冠期间名声大噪）。
CAR-T 等细胞疗法：让免疫细胞从体内取出后重新“编程”，再回输人体，从而攻击特定病变或目标。
一些基础概念性认识：例如疾病的病原学说、免疫系统与癌症的关联等等⁹。

我要强调的关键论点是如果研究人员更聪明、更善于融会贯通，发现此类“通用性颠覆技术”的速度绝对可以提高 10 倍或以上。因为根据一些现象：

这些重大突破往往是一小撮人做出来的，有时甚至是同一个人或团队多次突破，说明“个体能力”而非大规模资源投入起了主要作用。
它们常常“原本几年前就能实现”但被耽误了，比如 CRISPR 相关机理在上世纪 80 年代已知，但直到 2012 年左右才有人意识到它能被改造成万能基因编辑；mRNA 疫苗的发明人在早期也吃了不少闭门羹。
它们很多并非大型资金砸出来的项目，而是一些“辛勤又聪明的”团队坚持下来的结果，也说明并不是只有资源集中才能推动这种突破。
有些突破确实具有连续依赖性（先有 A 才能发明 B），但也有许多是相对独立的，说明我们可以并行展开多个方向的研究。

所有这些迹象都让我相信，现在（人类）研究人员缺乏的正是“更多天才和创意”，而不是“更长时间”或“更大设备”。AlphaFold/AlphaProteo 的成功就是一个范例——物理建模耗费几十年也做不到，它却一下子解决了结构预测的大难题。这虽然是个较为狭窄的领域，但也足以证明 AI 超越人类在生物学上取得突破的“可行性”。

因此，我认为，一旦拥有强大人工智能，我们对这类关键性的生物学突破的发现速度能提升至少 10 倍，也就是把本该人类在未来 50~~100 年才能做出的生物学进展，压缩到 5~~10 年之内完成。¹⁰ 为何不是 100 倍？或许也有可能，但此时就需要考虑串行依赖和实验周期等实际限制——想在 1 年里完成“100 年的进步”恐怕不现实，因为每一次试验或硬件设计都需要一定的迭代。如果要实现“在 5~10 年里完成 1000 年的进步”，我不会立刻斥之为荒诞，但我对“在 1 年内完成 100 年的进步”极度怀疑。换言之，实验和硬件迭代存在一个“不可缩减”的延迟周期，但在此基础上，海量并行还是可能实现的。¹¹

那么，临床试验怎么办？我们知道生物医学领域的许多进展，都需要耗时漫长、流程复杂的试验来验证。这确实有官僚流程阻碍的一面，但很多时候也是因为疗效本身并不显著，必须大规模招募受试者才能观察细微变化，同时副作用也需要仔细评估。当疗效非常明显时，审批其实会快很多，比如新冠疫苗的获批就花了 9 个月左右（虽然我个人觉得依然可以更快）。但 1 年左右的周期，再加上大规模并行和几次尝试，其实跟我所说的“在 5~10 年内获得所有重大生物进步”并不矛盾。再乐观一些，如果有 AI 辅助，我们也许还能研发更好的模型（细胞模型、计算机模拟等），不必总是花费漫长的时间来做人体试验，这对研发抗衰老疗法尤为关键，因为衰老试验往往时间跨度极大。

还应注意的是，有别于其他某些新技术在社会环境下面临的种种制约，生物医药却常常能相对顺利地在社会中落地——从过去百年发展过程看，政府和社会并不会像对待核能那样，对新药一刀切地反对。¹² 一旦临床试验证明某种药物或疗法确实有效，大多数社会对它的普及是相对支持的。这样就大大提升了生物学成果的应用前景。

综上所述，我的核心观点是，AI 将使本世纪本应在生物与医学领域才能取得的所有重大进展，在 5~10 年内得以浓缩完成。我把这称为“浓缩的 21 世纪”：即强大人工智能出现之后，在短短几年间，我们就获得了本世纪原本需要几十年才能达成的生物医学成果。

虽然预测强大 AI 在几年内能做到什么极具不确定性，但拿“如果没有 AI，人类在未来 100 年能做些什么”作类比，还是有一定参考价值的。毕竟我们可以回顾过去一百年的成就，或简单线性外推 21 世纪前二十年的趋势，或设想再来 10 个 CRISPR、50 个 CAR-T，会把人类医疗带到何种程度，这些都能让我们对“5~10 年后的某种情景”有更直观的理解。

下面列出一些“浓缩 21 世纪”的可能成就。这不是基于严格模型推导，而是为帮助大家理解我认为有多“激进”：

几乎彻底预防和治疗所有自然传染病¹³
20 世纪我们已经在消灭许多传染病方面成果显著，对一些顽疾的攻关也已经有了明确方向。mRNA 疫苗之类技术已经表明“为任何病原体研制疫苗”并非难以想象。能否实现全球范围的彻底根除，还要看各国贫富差距问题（第三部分会谈到）。
大部分癌症的消除
人类癌症死亡率过去几十年以每年 2% 的速度稳步下降。有些癌症已几乎被根治（如部分白血病的 CAR-T 疗法）。我对“早期预测+阻断”同样抱有期待，这些能在癌症初期就扼杀它的发展。再加上 AI 还能帮助我们量身定制治疗方案，基于肿瘤基因组做最精准的用药。也许 95% 以上的发病率和死亡率可以被消除。虽然癌症类型多变，永远可能存在少量罕见且顽固的类型，但也将极大改善人类健康。
有效预防并治愈遗传性疾病
——通过改进的胚胎筛选技术，可以预防大多数严重遗传病；对已出生个体，也可以通过更安全、更精确的 CRISPR 后续技术来进行基因修复。只不过全身性、影响很多细胞的遗传病可能会更难彻底纠正。
预防阿尔茨海默病
目前对阿尔茨海默病的病理机理仍不清晰，虽然和 β-淀粉样蛋白有关，但细节非常复杂。而这正是 AI 擅长的，通过新的实验手段去揭示复杂过程、找到可能的核心机理。最终，我们或许可以用相对简单的干预就能预防阿尔茨海默病。不过，已经造成的神经损伤恐怕不好逆转。
显著改善大多数其他疾病
——糖尿病、肥胖、心脏病、自身免疫疾病等等，很可能都取得突破性进展。有些已经在大幅下降，比如心脏病死亡率过往几十年已下降超过 50%，降糖药（如 GLP-1 受体激动剂）大幅改善了肥胖与糖尿病。
“生物自由”
——过去 70 年我们已经在生育控制、提高生育能力、控制体重等方面取得显著进步。AI 推动的生物学突破，可能让人们对身体外观、繁殖及其他生物过程拥有更大程度的自由与控制。如何确保全球人人都享有这些权利和技术，则是第三部分要讨论的问题。
人类寿命翻倍¹⁴
——听起来很激进，但从 20 世纪初的 40 岁左右到如今 75 岁左右，已经接近翻倍了。因此在“浓缩的 21 世纪”再翻一番到 150 岁，并不是完全天方夜谭。当然，延缓衰老需要跟 20 世纪那种主要降低早期死亡率的方式不一样；但例如，有些药物已在鼠类实验中能延长 25~50% 的寿命，而某些龟类可活到 200 岁，说明人类并没有达到硬性极限。我猜想关键可能在于能否发现“不跑偏”的人体衰老标记物，以便快速试验和迭代。一旦健康寿命拉长到 150 岁，那么我们也许可以“慢慢达成逃逸速度”，使很多目前还活着的人可以长生不老——尽管无法保证生物上一定可行。

可以想象，如果在强大 AI 出现后 7~12 年间完成了上述所有变革，会有多么震撼。这对人道主义而言无疑是前所未有的巨大胜利：我们同时消除折磨人类数千年的疾病与苦痛，让人人都能享受更好的身体健康。对于我身边那些正在养育孩子的朋友，我真心希望他们的孩子长大后，对“疾病”这个概念的印象就像我们现在听到坏血病、天花或黑死病一样——古代故事里才有的东西。他们还可能享有更广阔的生理选择与自我表达，甚至可能有机会无限延长生命。

从社会层面看，若这一切真的能在十年内实现，后果也会极其震撼。成千上万的经济学家、政策制定者还在为如何维持社保和医保体系而发愁，尤其是如何应对人口老龄化带来的负担，一旦老年人的健康状况和工作能力都大幅提升，这些争论将显得过时。虽然随之会有新的挑战（如确保新技术的普及、可及性），但单就生物学领域的进展，已经能让世界天翻地覆。

2. 神经科学与心灵

上一节主要讨论了物理疾病和生物学大方向，但还没提到神经科学或心理健康。作为生物学的一个分支，神经科学的重要性不言而喻，而心理健康对人类幸福的影响往往比身体健康更直接。全球有数亿人正饱受精神疾病折磨，比如成瘾、抑郁症、精神分裂症、自闭症、创伤后应激障碍（PTSD）、反社会型人格障碍（俗称“精神病态”）或智力障碍等。更不用说，还有数十亿人虽未达到临床水平，但在日常情绪、心理功能方面都有不同程度的问题。如果我们能越过“治病”，直接改善人类认知与精神状态，让人们处于更健康、更积极的心理层面，那对个人和社会都会是极大的福祉。

总体而言，用上一节介绍的框架来看神经科学也相当合适。它同样需要关键测量技术或干预手段⁸，而且它面对的内在复杂度更高。不过我仍然认为，在一个有强大 AI 的世界，神经科学的进步速度也会加快一个数量级以上，和生物学一样实现“100 年进步压缩到 510 年”。20 世纪的神经科学其实已经从零起步到建立不少基础认知，比如 1950 年代才第一次比较清楚地理解神经元是如何放电的；因此如果未来的 100 年也能取得与过去类似的量级突破，那么在 AI 的帮助下把这压缩到 510 年也不算夸张。

此外，与生物学不同的是，过去几年 AI 自身的研究也在帮助我们理解“大规模分布式神经网络”究竟如何工作，比如可解释性（interpretability）研究对理解人脑可能有一定参考价值。尽管生物神经元与人工神经元的底层机制很不相同（如生物神经元有脉冲、时间维度、神经递质等复杂因素），但两个系统都是依靠大量简单单元经过训练后涌现出复杂功能，因此在计算框架层面有相似之处。事实上一些 AI 中发现的计算结构，后来也有人在小鼠大脑中找到了对应或相似的机制。

更进一步地，AI 的快速发展给了我们一个新的启示：大规模的模型、简单的优化目标，加上海量训练数据，可能就能涌现出极其复杂和强大的智能——这就是所谓的“规模假设”或“苦难教训”（the bitter lesson）。⁶ 这在一定程度上解释了“大脑为何能那么轻易地进化出智慧”，也提示我们把注意力更多放在大脑的高层结构和学习目标上，而非纠结于神经元的底层细节。我不确定神经科学界目前对这一点接受度有多高，但我相信，一旦 AI 在这方面提供更多工具和成果，这一思路将更好地融入神经科学，使我们重新审视大脑中的许多谜题。

我猜想，AI 将会以四条路径来加速神经科学，最终解决心理疾病并增强人类心智：

传统的分子生物学、化学与遗传学路线
——与上一节介绍的普通生物学思路相同，AI 将加速研制更多调节神经递质的药物、研究各种与神经功能相关的基因突变等。
更精确的神经测量与干预
——比如光遗传学、神经探针等能在活体中高精度测量和调控神经活动的技术，未来可能有更新、更高级的方法，比如分子刻度尺（分子记录带）之类的设想。能够读取并干预更大规模、更精细的神经元网络活动，对理解和治疗重大精神疾病将有巨大帮助。
先进的计算神经科学
——把我们在 AI 中学到的东西真正融入大脑研究，尤其是对精神疾患（如情感障碍、精神病性障碍等）的成因与机理进行全新建模。大脑是个复杂系统，需要更高水平的“系统神经科学”模型才能破题。
行为干预
——其实精神病学和心理学在 20 世纪就已经发展了一系列干预手段，AI 也能加速它们的迭代升级，并帮助患者更好地执行。在更广阔的层面，“AI 教练”可以成为每个人的私人心理助理，帮助我们形成更积极的行为习惯并克服各种日常困难。

我认为，这四个方向相互配合，原本就能在 21 世纪的大部分时间里，让我们逐步攻克或预防绝大多数精神疾病，若有 AI 介入加速，那么在 5~10 年内实现也许并非空谈。具体来说，我的猜想是：

大多数精神疾病都能找到治愈方案
——例如 PTSD、抑郁症、精神分裂、成瘾等，我相信这背后都有极其复杂但终究可解的生物或神经机理，或者可以通过一些系统神经科学的手段来“重构或重塑”大脑网络。再加上行为干预的辅助，应该有机会得到完整治疗。
“结构性”问题会更难，但未必无解
——比如有研究表明精神病态（psychopathy）可能与大脑中部分结构发育不足相关，而这是先天性的；某些智力障碍也可能是神经元层面的结构异常。这种“重新塑造大脑结构”听起来难度很大，但也许 AI 能想到某些行之有效的方法，比如诱导成人大脑进入幼年期的高可塑性状态。尽管不确定能否实现，但我个人持乐观态度。
通过基因层面的预防
——很多精神疾病存在一定的遗传度，随着基因组关联研究（GWAS）不断进展，我们或可通过胚胎筛选避免这些问题。但这也涉及伦理问题，因为精神疾病往往是多基因的，担心在筛选时不经意地把一些正面特质也筛掉了。不过 AI 也许能帮我们更好地区分这些基因影响。争议在所难免，但对于重大精神疾病，我相信大多数人还是支持筛选或治疗的。
我们现今并不认为是“病”的日常心理问题也会被解决
——比如易怒、注意力涣散、白天嗜睡、焦虑、畏惧改变等等；其实各种调控情绪或提升专注力的药物已经存在（咖啡因、莫达非尼、利他林等），未来 AI 可能会帮助我们发现更多药物或新的干预模式（比如光遗传学、磁刺激），让人们更轻松地保持状态。
人类的“基线体验”可能大幅升级
——许多人在一生中都体验过某些瞬间的灵感、启示、沉静、极度愉悦、无私的爱或深刻的冥想状态等，种种美好状态可能在未来更加频繁或更易触发。有些药物也可以带来类似体验，却有副作用。但也说明人类主观体验还有巨大提升空间。我们称之为“认知和精神自由”的拓展——有更好的专注力、创造力、情感深度和幸福感。

科幻作品中常见的“上传意识”我就不展开谈了。从原理上说，把人类大脑的结构和动力学完整测量并复制到计算机中几乎肯定是可能的，但即使有了强大 AI，这项工程涉及诸多技术与社会挑战，感觉不太可能在 5~10 年内完成，它恐怕需要更长远的视角。

总之，借由 AI 加速的神经科学，我们很可能在数年之内治愈大多数精神疾病，并实现前所未有的“认知和精神自由”，让人类的认知能力和情感层次进一步提升。比起身体健康的改善，这场革命也许在外表上不那么直观，但在人类主观体验的世界里却会带来巨大变革，有助于社会更富同理心、幸福感和自我实现。我也相信，心理健康的改善会对很多看似政治或经济领域的社会问题带来正面影响。

3. 经济发展与贫困

前两节谈到怎样通过新科技来治病、提高人们的生活质量，但很明显地，还有个问题：所有人都能享受到这些新科技吗？

单纯发明出一种疾病的治疗方法，和在全世界范围内彻底消灭这种疾病，差距还是很大的。更广而言，许多已有的健康干预手段并未在全球普及，哪怕最基础的生活、生产技术在世界各地的应用也不均衡。全球还有很多地区极度贫困，比如撒哈拉以南非洲，人均 GDP 不到 2000 美元，而美国则约为 75000 美元。如果强大 AI 只提升了发达国家的生活水平，却没帮到这些最需要帮助的地方，那我们对人类所作的贡献就要打很大折扣。

我对“强大 AI 能让发展中国家迅速赶上发达国家”的判断并不如对“AI 能发明更强技术”那么自信，因为经济和社会进程中有太多人为因素、社会因素、文化因素。AI 可能无力撼动某些根深蒂固的体制。也不太可能指望某个 AI 直接解决“社会主义计算问题”¹⁵，我也不认为政府会（或者应该）把经济决策全权交给 AI。另外，人们的行为和观念也很顽固；即便有优秀的技术方案，若民众因为恐惧或缺乏信任不愿采用，也没用。

更何况，许多贫困地区有严重的腐败现象，官僚体系薄弱，如果 AI 给出的经济政策无法落实或被少数利益集团截断，也无法真正施行。在这个问题上，我确实不能百分百乐观，不过我还是能看到一些乐观面：历史上确实有国家摆脱了贫困，确实有疾病在全球被根除，这些依赖的都是人类的聪明决策和努力。既然如此，拥有超越人类的 AI 的帮助，并非毫无希望。这需要发达国家的政策支持，也需要 AI 公司本身的主动努力。

下面是我对“强大 AI 出现后 5~10 年间，欠发达地区可能会出现的一些进程”的猜想：

健康干预的普及：
我最乐观的地方是将生物学上的突破推广到世界各地。历史上，全球已有过大规模消灭疾病的先例，比如天花在 1970 年代被彻底消灭，脊髓灰质炎和几内亚虫病也基本走向灭绝，只剩个位数病例。且在这些运动中，数学建模（流行病学）起到了重要作用，说明“人工智能可以对其进行更优的决策和规划”是合情合理的。物流与分发也能被 AI 优化。
另外，一些先进的生物技术能极大简化防治，如一次性接种即可终身免疫的疫苗，或借助基因驱动灭绝某些传播疾病的蚊子，而无需对数百万人挨个接种。假设一切顺利5~10 年后最贫困国家的人口健康水平可能依然落后于发达国家，但很可能比当今发达国家的水平还要高。要做到这点当然需要全球卫生组织、公益基金、外交和政治等多方努力，AI 公司和政策制定者都应贡献力量。
经济增长：
接下来，发展中国家能不能在 510 年内不仅缩小健康差距，还全面赶上发达国家？历史上东亚一些经济体曾连续几十年保持 10% 左右的 GDP 年增长率，成功赶超发达国家。这些是人类决策者在宏观经济上做出正确选择的结果（比如出口导向的发展模式）。若有“AI 财政部长”“AI 中央行行长”，或许能够在更多国家重现或超过这类奇迹。当然，问题在于要如何说服当地政府采用它，同时还要尊重当地的自主意愿。
另一方面，健康改善本身会给经济增长带来红利；一些其他科技（比如高效能源、运输无人机、自动化农业、新型建材等）也会自然渗透到发展中国家。比如手机就在非洲迅速普及过，与公益努力无关，全靠市场机制。
不过，也要警惕 AI 和自动化可能带来的挑战：那些尚未完成工业化的国家，如果机器能替代低端劳动力，会不会面临“无工业化路径可走”的困境？这就需要经济学家和政策制定者好好思考。但我还是期待一个“梦幻情景”：欠发达地区在 AI 的帮助下能实现 20% 左右的年 GDP 增长，其中 10% 靠更优的经济决策与管理，10% 靠新技术的快速渗透。若能做到，撒哈拉以南非洲在短短 510 年内就能达到如今中国的人均 GDP 水平，其他发展中地区则可快速超越当前的美国。当然，这只是理想蓝图，需要所有人协力推动才有可能。
粮食安全¹⁶：
农业技术在 20 世纪已发生巨变，化肥、农药、机械化和转基因等极大提高了作物产量，挽救了数亿人免于饥饿。如果有了更先进的育种方法、更高效的肥料或病虫害防治，再加上无人机运输等新物流手段，完全可能出现“AI 驱动的第二次绿色革命”，让粮食生产更高效，帮助发展中国家更快缩小与发达国家的差距。
应对气候变化：
气候变化对发展中国家的影响往往更严重，也会拖慢其发展步伐。AI 有望改进清洁能源、碳捕捉、合成肉等技术，从而显著降低应对气候变化的成本。虽然在政治上仍有诸多阻力，但技术一旦成熟，很多反对也就失去基础。这样发展中国家也能更顺利地壮大经济。
国内不平等：
我上面讲的主要是国家间的不平等，当然在每个国家内部也有贫富差距。随着更尖端的医疗和，尤其是极端延长寿命或增强认知能力的技术出现，大家难免会担心“只属于富人享有”。
对此，我对发达国家内部的差距问题相对更乐观：
- 市场在富裕社会中能发挥的作用相对有效，更容易使高价值技术的成本快速下降，并且技术迭代速度快，豪华版和大众版的差距可能不算太大¹⁷。
- 民主政府对全民的呼声更能做出回应，当民众要求普及某种能大幅改善生活质量的技术时，往往会出台全民覆盖的政策。
  当然，这也不完全是板上钉钉——还需要积极推动才能保障公平。至于金钱或财产层面的不平等（而非基本生活资源或生死攸关的治疗机会），会更为棘手，我会在第五部分再谈。
“退出”问题（opt-out problem）：
不管在发达国家还是发展中国家，都可能有人因为各种原因拒绝 AI 带来的新技术（就像有人拒绝疫苗），从而与享受这些技术的人产生更大差距，造成“越落后越不愿接受改变”的恶性循环。甚至有人担心会诞生一个彻底被边缘化的“反科技”阶层，削弱民主根基（下节会讨论更多）。
我不认为可以用强制手段逼人去接种或接受某些心理/身体干预，因为那会有违基本伦理。但可以想办法向他们科普、赢得他们的信任，也许 AI 自身也能帮助这个过程。历史上，民间对新技术的抵制往往会喊得响，但最后大多数人还是会主动采用，至少在与个人决策息息相关的领域是这样；真正被集体政治决策扼杀的往往是核能这类公共性项目，所以我对这一问题保持谨慎乐观。

总之，我对能否快速把生物学突破推广到全球最贫困地区保持相对乐观；对能否同时通过强大 AI 带来全面经济腾飞并缩小差距，我心里没有那么稳，但仍抱有期待。至于在发达国家和欠发达国家中如何处理人们对新技术的抵触情绪，还需要更多社会层面的努力，但我也相信，只要我们积极行动，这种抵制最终会逐渐消散。虽然前路不可能完美，但我们完全有机会在数年内让全球朝好的方向大步迈进。要做到这点，需要每一个人共同努力——也正因为如此，我才说这需要大家奋力争取，而不会自动到来。

4. 和平与治理

即使前面三节都顺利——疾病、贫困、不平等都得到大幅缓解，也并不代表人类就此高枕无忧。毕竟，人和人之间仍存在冲突和对抗。纵观历史，技术进步和经济发展确实与和平、民主有所相关，但这种关联并不牢靠：20 世纪初的人们也以为大规模战争已经是过去式，结果却发生了两次世界大战；三十年前福山的《历史的终结》也没能预言到今天民主世界仍面临威权主义的强力竞争；二十年前美国人相信和中国做生意会让它更民主，事实恰恰相反，我们现在似乎步入了第二次冷战。甚至有理论认为互联网让威权国家更得利。可见，强大 AI 能否帮助世界走向和平民主，并不一定是板上钉钉。

从结构上看，我也找不到类似“AI 天然地支持民主”的理由，就像我认为“AI 天然地支持生物学/医学突破”。冲突是对抗性的，AI 可以帮“好人”，也可以帮“坏人”，看是谁掌控。更麻烦的是，AI 可能让宣传、监控等专制手段更为有效。但这一切并不意味着就要束手就擒：如果我们希望 AI 带来全球范围的自由民主，就需要我们所有人有所行动。我甚至比在第三节谈到全球贫富差距时更强调这一点——民主自由的胜利需要更大的斗争和牺牲。

我把这个问题分两层：国际冲突层面，以及各国内部的体制走向。在国际层面，非常重要的是：当强大 AI 出现时，最好由民主国家占据上风。如果是在威权体系下诞生了这种力量，那么结果不堪设想。所以民主国家必须在这一关键技术上占据优势，既要避免被对手超越，也要避免在对手国内出现严重侵犯人权的情形。

我目前认为最可行的做法，是所谓“协约战略”（entente strategy）¹⁸：让一批民主国家联合起来，共同掌握强大 AI 的研发及供应链，确保自己在芯片、半导体设备等关键资源上的垄断或管控，然后由联盟迅速扩张 AI 能力，并对外封锁或延迟提供关键技术给潜在对手。这样能确保一旦AI 在军事上应用，这个联盟拥有压倒性优势（“大棒”），同时也可以以此为筹码向更多国家提供“AI 红利”（“胡萝卜”），只要这些国家愿意合作并向民主方向演变（有点像当年美国用核技术换友邦支持的“原子能促和平”）。理想情况下，这种联盟会不断吸收更多成员，把最顽固的对手边缘化，最终形成一种优势地位，让对手也不得不改变立场，放弃对抗而享受共同利益。

如果能够实现这点，我们就有机会形成一个由民主国家掌握主动权且经济、军事上都更有实力的格局，也许会延续类似 1991 年苏联解体后的一段时期，实现福山所谓“自由民主终将胜利”的图景。当然，要做到这一步需要民主政府和私营 AI 公司紧密配合，需要非常慎重地平衡军事威慑与利益输出。

即便国际层面做到这一点，也还有各国内部“民主 vs. 专制”的角力。这个就更难预测，但我仍然愿意乐观设想：如果外部大环境是由掌握强大 AI 的民主阵营主导，那么在每个国家内部，AI 也许会逐渐增强民主的力量。比方说，民主国家可以用其高超的 AI 技术来对抗威权宣传和网络审查，并提供全球免费信息渠道或 AI 服务，让专制者无力封锁或监控。只要信息一旦真正流通，很多人相信这必然瓦解独裁。确实会很艰难，但这至少让拥护自由的人有了利器。

此外，当医疗、经济都快速发展，人们的基本需求能更好地得到满足，按照一些社会学理论，人们就会更多追求自我表达，而民主正是自我表达的政治形式。另一方面，威权体制往往依赖让人民处于恐惧或长期的压力之中维系统治，如果AI 能够改善大多数人的心理健康，让大家更平和、乐观，也削弱了对极端政权的需求。这些都给民主带来助力。

再往深里看，如果我们想不仅仅是“捍卫现有民主”，而是“让民主变得更高效和公正”，AI 或许也能帮上忙。比方说：

是否可以让 AI 辅助法律与司法程序？让判决更公平，减少人类法官的偏见与随意性。当然这牵涉“AI 可能带来歧视性判决”的忧虑，所以必须深入研究“AI 系统的可解释性”“训练过程的透明与可审计性”等等。可一旦实现，就可能比人类法官更公正。
在决策民主化上，AI 可以帮助“汇聚公众意见并寻找共识”，在这个方向上已有一些尝试，比如一些“计算机民主”项目。也许未来的某种平台能让市民更容易表达观点并形成可执行的政策建议。
赋能公共服务。大量政府服务（医疗保险、驾照、税务、社会保障、建筑许可等）都被诟病效率低、流程复杂。如果有一个“AI 政府助手”，能帮助每个人顺利获取自己合法应得的福利，也帮他们快速理解遵守各种规则，就能大幅提升对政府的信任并改善社会公平。

以上都只是一些粗略想法，是否现实尚未可知，我也不如在生物学或贫困领域那般确信。但我觉得，有一个积极的社会愿景——借助 AI 加强自由、平等、法治——是值得努力去探索的。我们完全可以设想一个真正现代化、AI 赋能的民主社会，既能保护个人自由和人权，又有效率、有公信力，甚至将其推广到全球。这会是个需要我们努力争取才可能实现的未来。

5. 工作与意义

即便前面四大领域都发展顺利——疾病、贫困、不平等减少，民主和自由普遍扩张，社会运转更高效——还是有一个非常根本的问题：如果 AI 把什么都干了，人类还怎么找到意义？又怎么维持生计？

这个问题比前面几个更难；倒不是说我对其结局更加悲观，而是说它更抽象、更关乎宏观社会组织形态，难以在短期内被个人或少数组织制定的策略直接决定。毕竟，从历史上看，人类已经多次经历了生产方式巨变：从狩猎采集到农耕，从农耕到封建，再从封建到工业化，社会角色与就业的改变都需要时间和自我调适。

先看“意义”层面。我认为，那种“AI 比我更擅长做这件事，所以我做这事就毫无意义了”的想法，很可能是一种误解。毕竟，现在大多数人做的事情，也不是“全世界最好的”；我们依然能从中获得乐趣或满足感。而且很多人从事的爱好（比如打游戏、旅游、与朋友闲聊）对经济产出没有任何贡献，我们照样乐在其中。这说明个人对活动的“意义感”不必来自对全球经济的贡献。

很多人也喜欢挑战自己，比如攀登高峰、钻研某个小众艺术或创业，虽然明知成功概率有限，或者有人能做得更好，但“过程”本身让我们感到充实。同理，即使在 AI 时代，做某项看似 AI 也能做得更好的事，也并不会妨碍我们从中获得成就感或欢乐。当我花数小时试图通关某个游戏副本，我并不会在意“AI 肯定能玩得比我厉害”。意义更多来自于人与人的关系，来自自我挑战，并不一定要体现为“经济效率”。

不过，“经济”这个角度确实更棘手：一旦 AI 的工作效率高、成本低到人类难以比肩，那么人类还能靠什么谋生呢？在这方面，短期内我们有“比较优势”的理论支撑：只要 AI 的部分任务做得更好，但依然需要人类在某些环节配合，就可能产生更多人类的就业机会，并提高我们每小时的产出价值。但随着时间推移，AI 愈发全面和廉价，这个机制可能就失效了；到那时，人类现有的经济结构恐怕会失去意义，社会需要新的制度安排。

这听起来像是未来的“科幻危机”，但其实人类历史上也发生过几次类似的宏大转变：从狩猎到农业、从农业到工业。每一次都伴随巨大阵痛，但也都找到了全新形态的组织方式，最终大多数人都在新的体系下获得了基本的经济保障和社会地位。所以，对“后 AI 时代”的经济形态，我猜想也会出现某种全新的、更奇异的模式，也许有人会提到“全民基本收入（UBI）”，或者“AI 公司的产出分配机制”，又或者完全不同的“声誉积分（Whuffie）”体系。也可能最后发现，人类在某些领域依然保持着特殊的经济价值，超出我们当下的教科书范畴。这些可能性都存在无数技术与道德挑战，需要不断试错和微调，才能确定哪种方案可行。我们也要警惕其中的风险，比如是否会被少数人控制资源变成反乌托邦，同样要积极介入、争取正面结果。这里有很多可以讨论的，我以后希望专门写文章详谈。

回顾与总结

在上述五大领域的探索中，我试着描述了一个未来：如果强大人工智能真正出现且一切向好，它可以让世界变得远远优于现在。这个未来是否现实，我无从确定，但即使它有很大概率需要我们艰苦奋斗才能实现，我仍相信它值得我们去争取。

想象一下，仅在 5~10 年内，我们就实现了：大多数疾病被克服，人体和大脑得到极大自由度的升级，全球数十亿人摆脱贫困并能享用这些新成果，而自由民主也在更强的保护机制和更公平的制度帮助下得到巩固乃至升华……几乎就是人类无数代人以来的梦想一次性集中实现。如果真能见证这个过程，我想很多人都会激动得落泪。

写这篇文章时，我体会到一种微妙的矛盾：一方面，以上描述极其“激进”，很多人会觉得遥不可及，但另一方面，它又有一种“在很多维度上都被指向同一个大方向”的必然感，好像我们只要把各领域都往正面推进，就会自然而然地汇聚到一个大同小异的未来。

作家 Iain M. Banks 在科幻小说《玩家》¹⁹ 中塑造的“文化”社会，宣扬了类似的价值观：一个高水平的文明，重视个体自由、协作和探索，而“玩家”主角到一个专制帝国参加博弈游戏，最终以其文明价值取得胜利。Scott Alexander 也写过一篇网文谈及类似观点：竞争本身会自我瓦解，真正能持久胜出的社会形态其实是互助与仁慈。马丁·路德·金所说的“道德宇宙的弧线倾向于正义”，也是同一种隐喻。

也许“文化”社会之所以是“制胜策略”，是因为它糅合了无数人类在历史上点点滴滴累积的善意与追求；它与我们的公平直觉、同情心、好奇心、个人自主等核心价值观高度一致。这些朴素直觉最终会趋于将所有人团结在一起，而不是彼此对立；一步一步地，社会就走向了尊重人权、民主法治、共同参与的方向。而 AI 的出现，只是让这一过程更加迅捷和明朗。

当然，这仍不等于保证最终结果就一定如此，美好世界也不会自动到来但这幅未来图景的美好足以值得我们全力以赴。对很多人而言，能在其中扮演一小部分角色，已足够珍贵了。

感谢 Kevin Esvelt、Parag Mallick、Stuart Ritchie、Matt Yglesias、Erik Brynjolfsson、Jim McClave、Allan Dafoe，以及 Anthropic 内部很多同事对本文草稿的审阅。

向 2024 年诺贝尔化学奖得主致敬，谢谢你们为我们带路。

注释

专为生物领域打造的 AI 工具，例如比 AlphaFold/AlphaProteo 更高级的结构预测或分子动力学模拟
更精准的 CRISPR 编辑
更强大的细胞疗法
新型材料与器械革命，打造更先进的植入式设备
更好掌握干细胞的分化、反分化机制，进而再生组织器官
精准调控免疫系统，对抗癌症与传染病或平息自身免疫反应

（完）

Footnotes

标题引用自 Richard Brautigan 的诗 All Watched Over By Machines of Loving Grace。 ↩
我预料有少数人会觉得“这还不够激进”，他们可能更倾向“奇点”式的科幻愿景，但我认为以现实社会的角度看，文中描绘的速度和规模已经非常巨大，而且我也担心社会的承受能力。 ↩
我觉得 “AGI” 这个词不够精确，而且充斥科幻色彩。我更倾向用“强大人工智能”或“拥有专家级科学与工程能力的 AI”来表达我要讲的概念。 ↩
本文中提到的“智力”（intelligence）指可在不同领域灵活运用的通用问题求解能力，包括推理、学习、规划和创造力等。学界对“智力”本质尚有争议，有人认为它是多个子能力的集合，也有人支持 g 因素理论。具体讨论超出本文范畴，这里只是用它作便利的简称。 ↩
大约是目前 AI 系统在文本处理时的速度：阅读一页文本只需几秒，生成一页文本几十秒。随着模型规模增大，速度可能变慢，但硬件性能提升则会加快，总体上两方面大致相互抵消。 ↩
有人确实持类似观点，比如 Tyler Cowen、Matt Yglesias 等就曾提出对 AI 的“增速作用”保持疑虑。 ↩ ↩²
经济学界目前类似的研究可能主要集中在“通用目的技术”（GPT）和“无形资本”等概念上。 ↩
正如悉尼·布伦纳所说：“科学的进步取决于新技术、新发现和新思想，通常按这个顺序展开。” ↩ ↩²
感谢 Parag Mallick 提供这一思路。 ↩
不想在正文里列过多猜想，但这里可以补充一些潜在突破灵感： ↩
AI 还能帮助选择最优实验方案，减少不必要的试错轮次。 ↩
感谢 Matthew Yglesias 对此问题的提示。 ↩
一些高变异的病原体或耐多药菌株仍可能顽固难缠，不过总体趋势可期。 ↩
在 5~10 年的时间里实现也许还不能马上确认，因为等证实需要更长随访，但可能“已经做到了”。 ↩
哈耶克曾提出市场的分散决策优势，并用此反驳计划经济；但也有人（如 Erik Brynjolfsson）认为大型公司在大数据时代可能比以往更具集中决策优势，需要重新评估哈耶克观点。 ↩
感谢 Kevin Esvelt 提到粮食安全议题。 ↩
比如手机刚出现时是奢侈品，但现在普通款和顶配款功能差别并不大，而且普及率极高。 ↩
这是 RAND 即将发布的一篇论文的标题，我所描述的基本策略与该文观点类似。 ↩
我原本想尽量避免引用科幻，但这部小说确实影响很大，且内容与本文一些话题高度相关。科幻常是我们想象未来的重要启示，但又经常掺杂特定亚文化的口味。 ↩