书评：《无限机器：Demis Hassabis，DeepMind和超级智能之旅》作者：Sebastian Mallaby
在阅读了《幂律》（The Power Law）之后，我认为这是关于风险投资最好的书，我带着非常高的期望来阅读塞巴斯蒂安·马拉比（Sebastian Mallaby）的最新书《无限机器：Demis Hassabis，DeepMind和超级智能之旅》（The Infinity Machine: Demis Hassabis, DeepMind, and the Quest for Superintelligence）。这本书没有让我失望。与《幂律》一样，这本书之所以成功，是因为马拉比理解到变革性的公司不能仅仅通过技术或财务结果来解释。它们必须通过建设它们的人的雄心、个性、竞争和深刻的信念来理解。《无限机器》部分是关于一个企业家创造历史上最重要的人工智能公司的故事。然而，更重要的是，它是关于一个科学家使用创业作为追求科学问题的工具的故事。德米斯·哈萨比斯（Demis Hassabis）并不像是一个为了成为富人、名人或著名的科技创业者而创立DeepMind的人。他更像是一个认定智能是他能解决的最有后果的问题的人，并围绕解决它而构建了他的生活。这就是使这本书如此引人入胜的原因。先是科学家，后是企业家马拉比追溯了哈萨比斯从儿童国际象棋神童和视频游戏设计师到神经科学家、人工智能研究员，最后成为DeepMind的联合创始人的道路。这本书基于与哈萨比斯的30多个小时的对话，以及与100多位同事、竞争对手、批评者和前合作伙伴的访谈。这种访问使马拉比能够将哈萨比斯呈现为不仅仅是Google DeepMind的公众面孔，而是一个拥有持续一致兴趣的人。国际象棋教会他如何提前思考。设计模拟游戏教会他如何从相对简单的规则中产生复杂的世界。神经科学鼓励他询问记忆、想象、规划和智能如何在人类大脑中工作。这些追求并不是他职业生涯中的不同阶段。它们是解决同一个根本问题的不同方法：智能是否可以被理解得足以被重现？哈萨比斯最引人注目的特点是，他倾向于将问题归结为其基础。与其从现有技术可以实现的内容开始，他反复从他认为应该是可能的结果开始，逆向工作。这种第一原则的方法也解释了他异常长的时间范围。哈萨比斯愿意在科学和计算机技术足够先进之前将一个问题放在脑海中多年，甚至几十年。最明显的例子是蛋白质结构预测。种下蛋白质折叠种子的对话在20世纪90年代，哈萨比斯在剑桥大学学习计算机科学时，与生物学学生成为了朋友。其中一个学生对蛋白质折叠问题特别着迷，并解释说，解决这个问题可以改变生物学。哈萨比斯立即认识到这是一个可能有一天可以用人工智能解决的巨大搜索问题。他据报道保留了有关可以最终适合他希望构建的算法的科学问题的笔记。蛋白质折叠在近二十年里一直在他的笔记中。这是书中最令人着迷的部分之一。一段看似平凡的对话让哈萨比斯接触到了一个问题，这个问题将在大学、神经科学研究、创业、DeepMind的创立和学习系统的发展过程中一直留在他的脑海中。要理解接下来发生的事情的重要性，必须欣赏挑战的规模。蛋白质以氨基酸链的形式开始。这些链折叠成复杂的三维结构，所产生的形状在很大程度上决定了蛋白质在活体内可以做什么。因此，了解这种结构对于研究疾病、设计药物和理解许多生物依赖的机制至关重要。困难在于，即使相对较小的蛋白质也可以理论上假设天文数字的可能配置。通过诸如X射线晶体学或冷冻电子显微镜等方法实验确定结构可能需要大量时间、专业知识和资金。大约50年来，科学家们一直难以可靠地从蛋白质的一维氨基酸序列预测其三维结构。这成为计算生物学中最大的未解问题之一。人们常说AlphaFold“解决了蛋白质折叠问题”。从技术上讲，这个描述太过宽泛。 AlphaFold改变了蛋白质结构预测；它并没有解释物理折叠过程、蛋白质运动、错误折叠或分子相互作用的每个阶段。这种限定并没有降低成就的重要性。仅仅预测结构以接近实验的准确性就是一个突破，它改变了整个科学领域。游戏是训练场，而不是目的地DeepMind并没有从生物学开始。它的早期突破来自游戏。游戏为人工智能实验室提供了无价的东西：受控环境，清晰的规则，可衡量的结果和大量可能的决定。一个代理可以在那里实验，失败，接受反馈，并在没有现实世界模糊性和物理风险的情况下改进。DeepMind的深度Q网络证明，一个学习系统可以从屏幕像素和奖励信号中掌握广泛的Atari游戏，而无需特定于游戏的指令。该工作有助于确立深度强化学习作为现代人工智能中最有前途的方法之一。下一个重大测试是围棋。围棋曾经抵制传统的计算方法，因为其可能的棋盘位置数量使穷举搜索变得不可能。成功需要模式识别、战略规划和识别有前途的移动的能力，而无需计算每个可能的结果。2016年3月，AlphaGo击败传奇围棋选手李世石，以四比一获胜。超过2亿人观看了一台机器展示出即使顶级玩家也难以理解的动作。AlphaGo Zero随后消除了对人类游戏记录的依赖。从规则开始，它通过自我对战学习，最终超越了早期的AlphaGo版本。AlphaZero进一步推广了这种方法，通过自我对战掌握了象棋、将棋和围棋，而无需手工制作的策略或人类示例。这些系统并不是AlphaFold的直接原型。联系更多的是哲学和组织上的，而不是架构上的。游戏教会DeepMind如何构建能够在巨大可能性空间中导航的系统。它们证明了神经网络、强化学习、搜索和大量计算可以揭示人类没有明确编程的解决方案。更重要的是，它们让哈萨比斯相信人工智能可以超越分类和模式匹配，产生真正有用的见解。AlphaGo是一项历史性的成就，但它从来不是最终目的地。游戏是DeepMind可以开发思想、人员、基础设施和信心来解决真正的科学问题的实验室。蛋白质结构预测是原始使命最终将被测试的地方。AlphaFold和赢与解决的区别DeepMind正式开始研究蛋白质结构预测于2016年。其首个AlphaFold系统于2018年参加了CASP13蛋白质结构预测竞赛，并在参赛者中取得了最高准确率。对于许多组织来说，赢得比赛就足够了。这将产生头条新闻、学术认可和项目成功的证明。哈萨比斯想要更多。一个在基准测试中排名第一但仍不足以被日常科学工作所依赖的系统，并没有真正解决问题。DeepMind扩大了团队，任命John Jumper为中央研究角色，并大幅重新设计了该系统，而不是简单地改进其最初的方法。结果是AlphaFold2。在2020年的CASP14中，AlphaFold2取得了与实验方法在许多蛋白质目标上相当的准确率。相关研究表明，计算预测可以定期达到原子准确率，包括在没有已知相关结构的情况下。DeepMind和欧洲生物信息学研究所后来发布了预测，涵盖了超过2亿个蛋白质结构——几乎所有科学已知的蛋白质。该数据库已被来自190多个国家的300多万研究人员访问。2024年，哈萨比斯和Jumper分享了诺贝尔化学奖的一半，用于蛋白质结构预测，另一半授予David Baker用于计算蛋白质设计。事件序列捕捉到了我认为哈萨比斯最令人印象深刻的方面。他似乎并不满足于赢得问题的公认衡量标准。他不断问自己，问题的根本是否真正得到解决。这是最纯粹的第一原则思维。基准只是一个代理。目标不是排名第一。目标是创造改变科学家能够做什么的事情。LLM盲点如何帮助OpenAI领先这本书还阐明了最近人工智能历史上最令人困惑的事件之一。谷歌研究人员在2017年的开创性论文《注意力就是你需要的》中引入了变压器架构。变压器成为现代大型语言模型的基础。然而，谷歌并没有将这一领先地位转化为定义生成式人工智能时代的产品。OpenAI发布了ChatGPT，并建立了数百万人首次遇到高级人工智能的接口。Anthropic随后在开发者和企业用户中出现了另一个领先者。故事的常见版本是谷歌发明了变压器，然后简单地未能构建语言模型。那并不是完全准确的。谷歌和DeepMind发表了大量的语言模型研究，包括DeepMind的280亿参数Gopher模型，于2021年发布。失败并不是缺乏研究。它是缺乏战略信念和产品执行力。哈萨比斯最初怀疑语言是否能产生真正的智能。他认为一个智能系统需要通过感知、行动、机器人或模拟环境与世界接触。他的担忧是合理的。机器可以存储重量的定义，但如果它从未举起过东西，它是否真正理解重量？它可以处理重力的描述，但如果它从未掉落过玻璃，它是否理解玻璃会破碎?DeepMind的研究议程因此强调了在游戏和模拟世界中行动的代理。其研究人员甚至构建了旨在将语言与三维环境中的感知和行动相结合的系统。哈萨比斯低估了人类语言中已经编码了多少关于物理和社会世界的信息。大量模型也可以通过与直接体验过世界的人的反馈继承一种接地性。哈萨比斯已经承认这是他误判的地方，称语言模型为“不合理地有效”。这是书中最有价值的部分之一，因为它使谷歌的行为更加可理解。从外部来看，似乎令人难以置信的是，负责变压器的组织竟然让OpenAI定义了LLM时代。从哈萨比斯的知识框架内部来看，这就更有意义了。他正在寻找更深层次的智能形式，并最初认为语言预测是一条不完整的通往它的道路。这种判断可能最终在AGI层面上被证明是正确的。语言模型可能是不够的。但是作为产品和平台的决定，它给了竞争对手一个非凡的机会。在我自己的市场观察中，Gemini已经成为一个强大的系统，并可能在单个评估中超越竞争对手的模型。然而，它仍然感觉像谷歌试图重新定义一个由OpenAI和Anthropic建立的类别。这本书有助于解释为什么拥有最多人工智能人才和基础设施的组织之一会发现自己处于这种地位。为什么将DeepMind卖给谷歌是符合使命的改变我对哈萨比斯理解的另一个事件是DeepMind被谷歌收购。创始人神话倾向于庆祝独立。理想的企业家应该保留控制权，抵制收购，建立一个帝国，并因创造一家主导公司而获得个人认可。哈萨比斯似乎以不同的方式评估了这个决定。在2013年竞购DeepMind的过程中，拉里·佩奇（Larry Page）提出了一个直接符合哈萨比斯优先事项的论点。如果他的真正目标是创建AGI，为什么要花费数年时间重建基础设施、筹集资金和建设一个与谷歌相当的公司，当谷歌的资源已经存在时？对话发生在一个几乎超现实的科技巨头会议系列中，包括马克·扎克伯格（Mark Zuckerberg）、埃隆·马斯克（Elon Musk）和其他科技人物的聚会，甚至包括在纽约为马斯克的生日租了一座城堡的聚会。谷歌可以提供计算基础设施、资本、研究人才和耐心，这些对于独立的DeepMind来说很难复制。谷歌也准备接受DeepMind认为重要的道德条件。 哈萨比斯最终选择了谷歌，尽管据报道他收到了来自Facebook的更大报价。从传统的创业角度来看，DeepMind成立这么早就卖掉公司似乎是一种放弃独立的行为。从哈萨比斯的角度来看，保持独立可能是一种更大的分心。他的目标不是成为下一个谷歌的创始人。它是使用最快的可信路径来构建AGI并将先进的智能应用于科学。谷歌缩短了这条路。收购后产生了真正的紧张局势，涉及独立性、治理、商业化和人工智能的道德界限。该书并没有表明，将DeepMind置于世界上最大的公司之一之内解决了这些问题。在某些方面，它使这些问题更加困难。然而，这个决定揭示了哈萨比斯的重要特征。他似乎对传统的创业地位不那么感兴趣，而是对科学使命感兴趣，这种使命是创业使其成为可能的。一个好人，但不是无懈可击的人哈萨比斯最终显得像人工智能竞赛中的好人。这并不意味着每个决定都是正确的。他的语言模型犹豫不决是有后果的。DeepMind与谷歌的关系涉及妥协。强大的AI系统集中在少数公司内引发了好意无法回答的问题。然而，他的动机似乎异常一致。他想了解智能。他相信先进的AI可以加速科学发现。他反复强调了安全性和考虑日益强大的系统的长期后果的必要性。最重要的是，AlphaFold提供了他将AI视为科学工具的愿景的有形证据。有一个区别，即承诺AI将造福人类和发布数百万研究人员使用的工具来更好地理解生命的机制。AlphaFold让哈萨比斯在AGI竞赛中拥有其他领导人所没有的可信度。最后的思考《无限机器》作为传记、DeepMind的历史和现代人工智能最重要的突破的易懂的描述，取得了成功。它还使我们在实时目睹的事件变得更加连贯，从AlphaGo和AlphaFold到谷歌对ChatGPT的迟缓反应。最有力的教训并不是哈萨比斯异常聪明，尽管他显然是。它是他对选择解决哪些问题投入他的智慧异常有意图。与生物学学生的一次对话让他了解了蛋白质折叠这个问题，几十年后，当人工智能能够解决它时，他又回到了这个问题上。他保留了这个问题，建立了必要的组织和系统，并在技术进步到足够先进时再次解决它。大多数企业家从现有的技术开始，寻找市场。哈萨比斯从他认为可以改变人类的问题开始，努力创造足够强大的技术来回答它们。这就是使《无限机器》如此难忘的书和德米斯·哈萨比斯如此不寻常的人工智能历史人物的原因。
