马修·伊克尔，SingularityNET 首席科学官 – 采访系列

马修·伊克尔 是 SingularityNET 的首席科学官，SingularityNET 是一个以创建一个去中心化、民主、包容和有益的人工通用智能（AGI）为使命的公司。一个不依赖于任何中央实体、对任何人开放、不受单一公司或国家狭隘目标限制的 AGI。

SingularityNET 团队包括经验丰富的工程师、科学家、研究人员、企业家和营销人员。核心平台和 AI 团队得到了专门从事金融、机器人、生物医学 AI、媒体、艺术和娱乐等应用领域的团队的补充。

考虑到您在 SingularityNET 的丰富经验和角色，您有多么信心我们将在 2029 年或更早实现 AGI，就像本·戈尔茨尔博士预测的那样？

我将以一种迂回的方式回答这个问题。2029 年大约是五年后。在很多年前（2010 年代初期），我对 AGI 进展非常乐观。我的乐观主义是基于我当时见到的 AGI 研究中的详细思考和思想的汇聚。虽然我相信那个时代的大部分想法仍然很有前途，但困难之处在于填充这些宏伟构想的细节。

有了这个前提，我现在有来自许多学科的新信息——神经科学、数学、计算机科学、心理学、社会学，你可以想到的。这些信息不仅提供了完成这些细节的机制，还在概念上支持了早期工作的基础。我看到的模式，在非常不同的领域，似乎都以加速的速度汇聚在类似的行为上。在很多方面，这种汇聚让我想起了第一部 iPhone 发布前的时期。用格雷格·梅雷迪思（Greg Meredith）的话来说，他正在为我们的 RhoLang 基础设施开发安全的并发处理，“我看到的模式与起源故事有关——地球上第一生命/细胞是如何开始的？心灵是如何形成的？以及有关相变的问题等等。”

例如，有很多新的实验研究支持了复杂动态系统观点下的思想。例如，人类受试者的 EEG 模式显示出与此类系统动力学相一致的显著行为。这些结果让人联想到早期的意识理论。现在，似乎这些理论思想有了实验支持的开端。

在 SingularityNET，我正在思考生成这些动态的自相似结构。这与 DNN/GPT 社区中正在发生的事情非常不同，尽管有一些更基础的研究人员认识到了这些思想。我会指出 2023 年 8 月由 19 名研究人员发布的论文“人工智能中的意识：来自意识科学的见解”。这些研究人员涵盖了意识研究、AI 安全研究、脑科学、数学、计算机科学、心理学、神经科学和神经成像以及心灵和认知研究等多个学科。这些研究人员共同的特点不仅仅是寻求下一个渐进式的 DNN 架构改进，而是专注于科学地理解支撑人类认知的基本哲学思想，并将这些思想付诸实践以实现真正的 AGI 系统。

您认为实现本十年内 AGI 的最大技术或哲学障碍是什么？

理解和回答大型哲学和科学问题，包括：

• 什么是生命？我们可能认为答案很明显，但生物定义已经证明是有问题的。例如，病毒是“活着”的吗。
• 什么是心灵？
• 什么是智能？
• 生命如何从特定环境条件下的几个基本化学品中出现？我们如何复制这一过程？
• 第一个“心灵”如何出现？什么成分和条件使其成为可能？
• 我们如何实施我们在研究上述五个问题时所学到的知识？
• 我们的当前技术是否能够完成我们的解决方案？如果不能，我们需要发明和开发什么？
• 我们需要多长时间和人员来实施我们的解决方案？

SingularityNET 将神经符号 AI 视为克服当前生成 AI 限制的一种有前途的解决方案。您能解释一下什么是神经符号 AI，以及 SingularityNET 如何利用这种方法来加速 AGI 的开发吗？

历史上，AGI 研究人员主要分为两大阵营，另外还有一个阵营将其他两者的思想融合在一起。有一些研究人员相信仅使用子符号方法。这些天，这主要意味着使用深度神经网络（DNN），如 Transformer 模型，包括当前的大型语言模型（LLM）。由于使用人工神经网络，子符号方法也称为神经方法。在子符号系统中，处理是通过标记和链接（神经元和突触）的相同和未标记的节点运行的。符号支持者使用更高阶的逻辑和符号推理，其中节点和链接带有概念和语义含义。SingularityNET 遵循第三种方法，可以被描述为神经符号混合，利用符号和子符号方法的优势。

然而，这是一种特定的混合方法，主要基于本·戈尔茨尔的思想哲学，并在他的论文《一般智能的总体理论：一种实用主义的模式主义观点》中有详细的阐述。

虽然当前的大部分 DNN 和 LLM 研究都是基于简单的神经模型和算法，使用大量数据集（例如整个互联网），以及正确设置数十亿个参数，以期实现 AGI，但 SingularityNET 的 PRIMUS 战略是基于对多个空间时间尺度上的动态过程的基本理解，以及如何最好地将这些过程与期望的特性对齐以使其在不同尺度上出现。这种理解使我们能够以人类可以理解的方式指导 AGI 研究和开发。

您认为哪些框架对于确保 AGI 的开发能够造福全人类至关重要？像 SingularityNET 这样的去中心化 AI 平台如何促进一个更加公平和透明的过程，与集中式 AI 模型相比？

有很多想法：

透明度 — 虽然没有什么是完美的，但确保决策过程的完全透明度可以帮助所有相关人员（研究人员、开发人员、用户和非用户）对齐、指导、理解和更好地处理 AGI 的开发，以造福人类。这与偏见的问题类似，我将在下面提到。

去中心化 – 去中心化可以帮助确保权力更加分散。它本身并不是万能的，但是一种工具，如果使用正确，可以帮助创造更加公平的过程和结果。

基于共识的决策 – 去中心化和基于共识的决策可以共同用于追求更加公平的过程和结果。同样，它们不能保证公平。还有需要解决的复杂性，例如声誉和专业领域。例如，我们如何在相互冲突的理想特征之间取得最佳平衡？我认为透明度、去中心化和基于共识的决策只是可以用来指导 AGI 开发以造福人类的三种至关重要的工具。

在多个尺度上对涌现现象的空间时间对齐。在开发 AGI 时，我相信不仅要依赖单一的“黑盒”方法，希望一切从一开始就正确。相反，我相信在多个开发阶段和多个尺度上设计 AGI，以基本的理解为指导，不仅可以使实现 AGI 更加可行，还可以更重要地使其开发与人类价值观保持一致。

SingularityNET 是一个去中心化的 AI 平台。你如何看待区块链技术和 AGI 的交叉点，特别是在安全性、治理和去中心化控制方面的演变？

区块链在 AI 控制、安全和治理中肯定有作用。区块链的一个最大优势是其能够促进透明度。偏见的问题是一个很好的例子。我会认为每个人和每个数据集都是有偏见的。我有自己的个人偏见，例如，我认为需要什么才能实现真正安全、有益和仁慈的 AGI。这些偏见是由我的研究和背景形成的，并指导我的工作。

同时，我努力对与我的偏见相冲突的想法保持开放的心态，并愿意根据新的证据调整我的偏见。无论如何，我努力在我的偏见方面保持开放和透明，并根据对这些偏见的自我反思来条件我的想法和决定。这很棘手，很困难，但我相信这比不承认自己的偏见要好。区块链的性质使其能够更好地跟踪、追溯和验证过程和事件。在我之前描述的类似方式中，透明度是安全、治理和去中心化控制的必要但不总是充分的组成部分。

区块链和 AGI 如何共同演化是一个有趣的问题。为了使这两种技术朝着积极的奇点交互演化，似乎很明显，我一直强调的基本特征（透明度、去中心化、共识和价值观对齐）是至关重要的，并且必须在它们的共同演化的所有阶段都牢记在心。

作为同时深入参与 AI 和区块链的领导者，您认为哪些因素对于促进这两个领域之间的合作至关重要？如何推动 AGI 的创新？

我来自 AI/AGI 这一对中的前者。正如通常在整合跨学科思想时，很多事情都归结于语言和沟通的问题。所有团队都需要倾听彼此，以更好地了解这些技术如何相互帮助。在我在 SingularityNET 的工作中，这一直是一个持续的斗争。高端研究人员（这对 SingularityNET 来说简直是轻描淡写），通常对大型思想有清晰的精神构想。当跨学科界限工作时，困难的部分是认识到并不是每个人都“在你的脑海中”。你认为理所当然的事情，对于其他领域的人来说可能并不那么明显。即使共同使用的词语也可能在不同领域中以不同的方式使用。最近，在我们的生物 AI 工作中，有一个生物学家使用一个数学术语，但不是完全按照其数学定义使用。一旦这种情况被清楚地理解，团队就可以以共同的目的继续前进，这样整合真正大于其各部分之和。

您如何看待 AI 和区块链行业朝着更大的多样性和包容性努力而发展？SingularityNET 在促进这些价值观方面扮演什么角色？

AI 和区块链都可以在改善多样性和包容性方面发挥重要作用。虽然我相信无法完全消除偏见——许多偏见仅仅是通过生活经历形成的——但一个人可以对自己的偏见保持开放和透明。这是我在自己的工作中积极努力的东西，它受到我学术背景的偏见的影响，所以我通过复杂系统动力学的视角来看待问题。然而，我仍然努力对来自其他视角的想法和类比保持开放的心态。AI 可以被用来帮助这种自我反思过程，区块链可以帮助透明度。SingularityNET 可以通过托管检测、测量和消除数据集中的偏见的工具来发挥巨大的作用。

SingularityNET 在去中心化 AI 生态系统中的工作如何为解决可持续性、教育和创造就业机会等全球性挑战做出贡献，特别是在您有特殊兴趣的地区，如非洲？

可持续性：

• 将 AI 和系统模型应用于解决大规模复杂的生态系统问题。
• 在大规模上监测这些解决方案。
• 使用区块链来跟踪、追溯和验证这些解决方案。
• 使用 AI、生态系统模型、超本地数据和区块链的组合，我们已经构思出在非洲解决手工采矿和大规模农业碳封存的完整解决方案。

教育：

作为一名前任数学和计算机科学教授，教育对我来说非常重要，尤其是因为它为欠发达的学生群体提供了机会。重要的是：

• 通过开发混合课程来增强可及性，以便能够接触到可能面临地理、财务或时间限制的学生。
• 通过增加 AI、区块链和其他先进技术中欠发达人群的参与度来促进多样性和包容性。
• 通过创建跨学术和职业领域的课程来培养跨学科知识。
• 通过提供直接适用于职场的技能和认证来支持职业发展。

我认为 AGI 和区块链，以及它们的协同作用，在“学徒到精通”风格的项目中发挥着至关重要的作用，这些项目以实践为基础的学习为中心。

作为致力于实现积极奇点的人，您认为在 AI 技术中哪些具体的里程碑或突破对于确保 AGI 以有利于社会的方式发展至关重要？

• 以人类可解释的方式跨多个空间时间尺度对齐涌现现象的能力。
• 更深入地理解支撑“自发”相变概念的基础。
• 克服多个难题以实现通过状态叠加的真正多处理的能力。
• 所有阶段的透明度。
• 基于共识建立的去中心化决策。

感谢这次精彩的采访，希望了解更多的读者可以访问 SingularityNET。