SingularityNET 首席科学官 Matthew Ikle – 采访系列

Matthew Ikle 是 SingularityNET 的首席科学官，SingularityNET 是一个以创建去中心化、民主、包容和有益的人工通用智能（AGI）为使命的公司。一个不依赖于任何中央实体、对任何人开放、不受单一公司或国家狭隘目标限制的 AGI。

SingularityNET 团队包括经验丰富的工程师、科学家、研究人员、企业家和营销人员。核心平台和人工智能团队得到了专注于金融、机器人、生物医学人工智能、媒体、艺术和娱乐等应用领域的专门团队的补充。

考虑到您在 SingularityNET 的丰富经验和角色，您有多么信心我们将在 2029 年或更早实现 AGI，如 Ben Goertzel 博士预测的那样？

我将以一种迂回的方式回答这个问题。2029 年距离现在大约五年。很多年前（2010 年代初期），我对 AGI 进展非常乐观。我的乐观态度当时是基于我在 AGI 研究中看到的详细思想和观念的融合。虽然我认为当时的大多数想法仍然很有前途，但难点在于填充这些宏伟构想的细节。

考虑到这一点，有来自各个学科的新信息——神经科学、数学、计算机科学、心理学、社会学，你可以想到的——不仅提供了完成这些细节的机制，还从概念上支持了早期工作的基础。我看到模式，并且在非常不同的领域中，这些模式似乎都在加速地汇聚到类似的行为。这种汇聚让我想起了 iPhone 发布之前的时期。用 Greg Meredith 的话来说，他正在为我们开发 RhoLang 基础设施以实现安全的并发处理，这些模式与起源故事有关——生命如何在地球上开始？心灵如何形成？以及有关相变的相关问题。

例如，有很多新的实验研究支持复杂动态系统观点。人类受试者的 EEG 模式显示出与此类系统动力学一致的显著行为。这些结果让人联想到早期的意识理论。现在，似乎这些理论的初步实验验证已经出现。

在 SingularityNET，我正在思考自相似结构如何产生这些动态。这与大多数 DNN/GPT 社区中发生的事情不同，尽管有一些更基础的研究人员认识到了这些想法。我会指出 2023 年 8 月由 19 名研究人员发布的论文“人工智能中的意识：来自意识科学的洞察”。这些研究人员来自多个领域，包括意识研究、人工智能安全研究、脑科学、计算机科学、心理学、神经科学和心智与认知研究。他们共同的特征不仅仅是寻求下一个增量式的 DNN 架构改进，而是致力于从科学上理解支撑人类认知的基本哲学思想，并将这些思想应用于实现真正的 AGI 系统。

您认为在本十年内实现 AGI 的最大技术或哲学障碍是什么？

回答大型哲学和科学问题，包括：

• 什么是生命？我们可能认为答案很明确，但生物学定义已经证明是有问题的。例如，病毒是“活着”的吗。
• 什么是心灵？
• 什么是智能？
• 生命如何从少数基本化学物质在特定环境条件下出现？我们如何复制这一过程？
• 第一个“心灵”如何出现？什么成分和条件使其成为可能？
• 我们如何实施我们从上述五个问题中获得的知识？
• 我们的当前技术是否能够实现我们的解决方案？如果不能，我们需要发明和开发什么？
• 我们需要多长时间和多少人员来实施我们的解决方案？

SingularityNET 将神经符号人工智能视为克服当前生成人工智能局限性的有前途的解决方案。您能解释一下什么是神经符号人工智能以及 SingularityNET 如何利用这种方法来加速 AGI 的开发吗？

历史上，AGI 研究人员大致分为两派，另外还有一个派系将两者的想法融合在一起。有一些研究人员坚信仅凭子符号方法。这些天，这主要意味着使用深度神经网络（DNN），例如 Transformer 模型，包括当前的大型语言模型（LLM）。由于使用了人工神经网络，子符号方法也被称为神经方法。在子符号系统中，处理是在未标记的节点（神经元）和链接（突触）上运行的。符号派使用高阶逻辑和符号推理，在这种情况下，节点和链接都带有概念和语义含义。SingularityNET 遵循第三种方法，这种方法可以被描述为神经符号混合体，利用符号和子符号方法的优势。

然而，这是一种特定的混合体，主要基于 Ben Goertzel 的心灵模式主义哲学，并在他的论文《一般智能的普遍理论：一种实用的模式主义观点》中进行了详细阐述。

虽然当前的大多数 DNN 和 LLM 研究都基于简单的神经模型和算法，并使用大量数据集（例如整个互联网），以及正确设置数十亿个参数，以期实现 AGI，但 SingularityNET 的 PRIMUS 战略是基于对多个空间时间尺度上的动态过程的基本理解，以及如何将这些过程与所需属性的出现相一致。这些理解使我们能够以人类可以理解的方式指导 AGI 研究和开发。

您认为哪些框架对于确保 AGI 的开发造福所有人类至关重要？像 SingularityNET 这样的去中心化人工智能平台如何促进更公平和透明的过程，与集中式人工智能模型相比？

各种想法：

透明度 — 虽然没有什么是完美的，但确保决策过程的完全透明度可以帮助所有相关人员（研究人员、开发人员、用户和非用户）对齐、指导、理解和更好地处理 AGI 的开发，以造福人类。这与偏见的问题类似，我稍后会提到。

去中心化 – 去中心化可以帮助确保权力更广泛地分配。它本身并不是万能的，但如果使用正确，可以成为创造更公平过程和结果的工具。

基于共识的决策 – 去中心化和基于共识的决策可以共同促进更公平的过程和结果。再次，这些并不总是保证公平。这里需要解决一些复杂性，例如声誉和专业领域的问题。例如，我们如何在相互冲突的理想特征之间取得平衡？我将透明度、去中心化和基于共识的决策视为指导 AGI 开发以造福人类的三个至关重要的工具。

在开发 AGI 时，我相信不仅要依靠单一的“黑盒”方法，希望一切从一开始就正确，而是要在多个开发阶段和多个尺度上设计 AGI，以基本的理解为指导。这不仅可以使实现 AGI 更加可行，还可以使其开发与人类价值观保持一致。

SingularityNET 是一个去中心化的人工智能平台。您如何设想区块链技术和 AGI 的交叉点，特别是在安全性、治理和去中心化控制方面？

区块链在人工智能控制、安全和治理中确实有一个作用。区块链的一个最大优势是其能够促进透明度。偏见是一个很好的例子。我认为每个人和每个数据集都有偏见。我有自己的个人偏见，例如，当谈到实现真正安全、有益和仁慈的 AGI 时，我认为什么是必要的。这些偏见是由我的研究和背景形成的，并指导我的工作。

与此同时，我试图对与我的偏见相冲突的想法保持开放，并愿意根据新证据调整我的偏见。无论如何，我都尽量对自己的偏见保持开放和透明，并根据对这些偏见的自我反思来条件化我的想法和决定。虽然这很棘手，但我认为这比不承认自己的偏见要好。区块链的性质允许更好地跟踪、追踪和验证过程和事件。在我之前描述的方式中，透明度是安全、治理和去中心化控制的必要但不总是充分的组成部分。

区块链和 AGI 如何共同演化是一个有趣的问题。为了使这两种技术朝着积极的奇点相互作用，似乎很明显，我一直强调的基本特征（透明度、去中心化、共识和价值观一致性）是至关重要的，并且必须在它们的共同演化的所有阶段保持这些特征。

作为同时参与人工智能和区块链的领导者，您认为哪些因素对于促进这两个领域之间的合作至关重要，并且如何推动 AGI 的创新？

我来自人工智能/AGI 的一方。正如通常在整合跨学科思想时，很多事情都与语言和沟通有关。在我的 SingularityNET 工作中，这一直是一个持续的挑战。高端研究人员（可以说 SingularityNET 有很多），通常对大想法有清晰的精神概念。当跨学科边界工作时，困难之处在于意识到并不是每个人都“在你的脑海中”。你认为理所当然的事情，其他领域的人可能不会那么清楚。即使是共同使用的词语，也可能在不同领域中使用方式不同。最近，在我们的生物人工智能工作中，有一个生物学家使用一个数学术语，但不是完全按照数学定义。只要这些情况被清楚地理解，团队就可以继续前进，具有共同的目的，这样整体大于部分的总和。

您如何看待人工智能和区块链行业朝着更大的多样性和包容性努力，以及 SingularityNET 在促进这些价值观方面扮演什么角色？

人工智能和区块链都可以在改善多样性和包容性方面发挥重要作用。虽然我认为不可能完全消除偏见——许多偏见仅仅是通过生活经历形成的——但人们可以对自己的偏见保持开放和透明。这是我在自己的工作中积极努力的东西，这些工作受到我学术背景的影响，这使我通过复杂系统动力学的视角看待问题。然而，我仍然努力对来自其他角度的想法和类比保持开放。人工智能可以被用来帮助这种自我反思过程，区块链可以帮助透明度。SingularityNET 可以通过托管用于检测、测量和去除数据集中的偏见的工具来发挥巨大的作用。

SingularityNET 在去中心化人工智能生态系统中的工作如何为解决可持续性、教育和创造就业机会等全球挑战做出贡献，特别是在您有特殊兴趣的非洲地区？

可持续性：

• 将人工智能和系统模型应用于解决大规模复杂生态系统问题。
• 监测这些解决方案的规模。
• 使用区块链来跟踪、追踪和验证这些解决方案。
• 使用人工智能、生态系统模型、超本地数据和区块链的组合，我们已经构思了针对非洲手工业采矿和大规模农业碳封存的完整解决方案。

教育：

作为一名前任数学和计算机科学教授，教育对我来说非常重要，尤其是为欠发达学生群体提供机会。重要的是：

• 通过开发混合课程来增强可及性，以覆盖那些面临地理、财务或时间限制的学生。
• 通过增加人工智能、区块链和其他高级技术中代表性不足的人群的参与来促进多样性和包容性。
• 通过创建跨学术和职业领域的课程来培养跨学科知识。
• 通过提供直接适用于职场的技能和认证来支持职业发展。

我认为 AGI 和区块链，以及它们的协同作用，在解决上述目标的“学徒制到精通”式项目中发挥着至关重要的作用，重点是基于项目的学习。

创造就业机会：

通过促进上述四个教育目标，似乎 AGI、区块链和其他先进技术，加上教师和学习者之间的积极合作，可以鼓励和产生全新的技术和企业。

作为致力于实现积极奇点的人，您认为在 AGI 技术中哪些具体的里程碑或突破对于确保 AGI 以有益于社会的方式发展至关重要？

• 在多个空间时间尺度上以人类可解释的方式对齐出现的现象的能力。
• 在更深层次上理解支配“自发”相变的概念的能力。
• 克服多个难题的能力，以细节级别实现真正的多处理，通过状态叠加。
• 在所有阶段的透明度。
• 基于共识建设的去中心化决策。

感谢这次精彩的采访，希望了解更多的读者可以访问 SingularityNET。