2023 年我们为未来而阅读的书籍 [译]

彭博观点的技术专栏作者通过翻阅纸质书籍来更好地理解数字革命的深远影响。

技术界过去 12 个月的发展简直令人目不暇接。尤其是在 2022 年底 ChatGPT 的推出之后，人工智能的发展如同开启了加速模式，引发了无数的专栏文章、小组讨论以及政治辩论。

在这个话题中发声的人更需要深入理解核心议题。但是，随之而来的炒作、新闻报道、恐慌制造和错误信息让人感到迷茫。哪些创新真正重要？哪些后果值得深思？

在这种情况下，最好是退一步，慢慢吸收信息，思考未来可能面临的情况。2024 年之际，我们的技术专栏作者想分享他们在过去一年里阅读或重读的书籍，这些书籍帮助他们构建思考框架。Dave Lee 是彭博在纽约的美国技术专栏作家，而 Parmy Olson 则从伦敦报道人工智能和科技行业。

我看到的世界（The Worlds I See） — 李飞飞
2023

李飞飞，这位 90 年代初来美的年轻中国女性，当时几乎不懂英语，更别提计算机视觉了。她绝不会想到自己的工作将深刻推动我们进入当前的人工智能热潮。她的 ImageNet 项目，至今已标注了超过 1400 万张图片，为训练 AI 算法打下了基础，使得 DeepMind 和 OpenAI 这样的 AI 先锋公司得以崛起。在《我看到的世界》一书中，李飞飞将自己的工作与个人经历紧密结合，讲述了她作为移民的奋斗历程以及成为领域内最受尊敬的人物之一的故事。如今，她是斯坦福大学人本人工智能研究所的联席主任，成为硅谷快速发展中代表人类立场的重要声音。她的故事不仅令人着迷，也让人感到谦逊。在我们寻找值得托付未来人工智能的领袖时，李飞飞的履历给人以极大的鼓舞。Dave Lee

你的脸属于我们（Your Face Belongs to Us） - Kashmir Hill
2023

人类的面容，历来被视为灵魂之窗的浪漫象征，在计算机算法眼中却不过是另一种身份识别的“指纹”。Kashmir Hill 扣人心弦的著作中，详细揭示了一个名为 Clearview AI 的创业公司，如何大胆地从互联网搜集了数十亿人的面部数据，随后与美国多个警察局合作，悄然打造了一种隐蔽的监控工具。Hill 是首位揭露 Clearview 庞大网络的记者，她深入剖析了视频门铃和能识别人脸的安防摄像头急剧增长，如何将我们的生活环境逐渐转变成一个类似监狱的环境，而且这种监控带有明显的种族歧视倾向。她指出，面部识别软件通常无法准确识别黑人面孔，这种偏差导致了一位名为 Robert Julian-Borchak Williams 的人在家人面前被错误逮捕并监禁的惊悚经历，仅仅因为错误的面部识别。即便是像 Clearview 这样准确度极高的算法，也并未考虑到公民自由的重要性。Hill 还揭示了 Clearview 的创始人 Hoan Ton-That 如何长期与极右翼人士合作，他们中的许多人渴望追踪无证移民的面孔。她写道，现在的“外出”意味着的东西正在根本上发生变化，而且这种变化让人感到不安。Parmy Olson

我，机器人（I, Robot） - Isaac Asimov
1950

作为一名三十多岁的科技专栏作家，我不好意思地承认，直到今年我都未曾阅读过艾萨克·阿西莫夫的作品。但在同事的指责和对阿西莫夫机器人三定律可能很快转化为实际政策的担忧下，我觉得迅速了解这些内容很有必要。阿西莫夫在 1950 年出版的短篇小说集《我，机器人》中提出了一些问题，这些问题在今天我们逐渐接近创造所谓的通用人工智能（AGI）时变得尤为现实。阿西莫夫的法则——首先是“机器人不得伤害人类，或者因不作为而导致人类受到伤害”，以及由此衍生的其他法则——虽然看似直截了当，却构成了一系列情节的基础，这些情节提醒我们今天智能机器人或 AI 可能会以我们无法预测的方式发生错误。在这些故事写作的 80 年后，其中的远见仍然显著。例如，如果没人特别告诉你，你可能会以为阿西莫夫自己就是最近关于 ChatGPT 因为学到人类在圣诞节期间减少工作而在十二月变得“懒惰”的讨论的作者。Dave Lee

无限进行（Going Infinite） — 迈克尔·刘易斯
2023

这本书的核心不在于 Sam Bankman-Fried 的衰落故事，而是探讨了一个明显自恋且充满欺骗性的人如何能够吸引顶尖的商业记者。Michael Lewis 因揭露狡猾交易员的故事而出名，但在 Going Infinite 一书中，他却异乎寻常地同情地描绘了 Bankman-Fried，甚至将其在 Zoom 会议中玩电子游戏或对女友无礼的行为视为特质，而非问题。当谈及这位年轻奇才对待投资者的态度时，Lewis 对 Bankman-Fried 的缺陷视而不见，尤其显著。Bankman-Fried 在脚注中（仅仅是脚注！）的惊人坦言是，如果投资者询问他的交易基金核心的风险引擎及他们的资金去向，他会回避问题或“故意含糊其辞”。想要了解像 Mark Zuckerberg 和 Elon Musk 这样的“科技大佬”如何在不良行为下依然保持强大的支持者网络，请阅读这本书。Parmy Olson

机器中的血液（Blood in the Machine） — Brian Merchant
2023

Brian Merchant 在其关于著名反技术运动起源的详尽而引人入胜的著作中指出，Luddites 被误解了。正如他所解释的，他们并非真正反对技术。Luddites 抗议的是剥削，而不是机器本身 —— 破坏设备只是达到目的的手段。Luddites 的成就深远且至今仍有影响：19 世纪在 Nottingham 的游行工人与今日要求电影制作公司承诺不以 AI 替代人类才艺的罢工好莱坞演员并无太大区别。Los Angeles Times 的专栏作家 Merchant 探索了 Luddites 如何提供了我们反抗贪婪和权力的策略和用词。这些明显的相似之处揭示了一个观点：了解英国工人阶级如何被逼至极端举措，是为未来做准备的关键一步。Dave Lee

1984 — George Orwell
1949

乔治·奥威尔的著作虽然诞生于 70 年前，但其中对反乌托邦未来的描绘，却惊人地预见了当代 AI 系统的发展。书中主角温斯顿·史密斯听到一名女子透过窗户唱着一首流行歌曲，这首歌出自一种叫做“verisificator”（verisificator）的机器之手。“这些歌词完全不经人手创作，”奥威尔如是写道。如今，这种 verisificator 已成为现实：AI 创作的音乐比历史上任何时期都要多。温斯顿的爱人朱莉娅，在所谓的真理部（政府的宣传机构）的小说部工作，负责维护小说写作机的电机。“书籍不过是像果酱或鞋带一样的生产品。”今年，书籍真的变成了类似的商品，越来越多的人利用 AI 创作书籍，以至于亚马逊不得不限制作者一天最多只能出版三本书。尽管《1984》通常与监控联系在一起，其核心却在于谁控制了我们对真相的认知。随着 AI 内容不断充斥网络，真相将变得愈发模糊不清，我们需要更加仔细地审视这些内容背后的制作者，无论是科技巨头还是新兴的创新者。奥威尔已为我们描绘了一幅未来可能面临的严峻图景，如果我们不加以留意的话。Parmy Olson

— 由 Elaine He 协助