诺亚·施瓦茨，Quorum AI联合创始人兼CEO – 采访系列

诺亚是一位人工智能系统架构师。在联合创始人Quorum AI之前，诺亚在学术研究中度过了12年，先是在南加州大学，后来在西北大学担任神经生物学助理主席。他的工作重点是大脑中的信息处理，他将自己的研究成果转化为增强现实、脑机接口、计算机视觉和嵌入式机器人控制系统中的产品。

您对人工智能和机器人的兴趣始于小时候。您是如何第一次接触到这些技术的？

最初的火花来自科幻电影和对电子产品的热爱。我记得作为一个8岁的孩子观看了电影《电子梦》，接着是《短路》，《达里尔》，《战争游戏》，等等。虽然它是通过虚构的方式呈现的，但人工智能的想法让我感到惊讶。即使我只有8岁，我也感到了一种立即的联系和对人工智能的强烈吸引力，这种吸引力在这些年里从未减弱过。

您的对人工智能和机器人的热情是如何发展的？

我的对人工智能和机器人的兴趣与对大脑的热情同时发展。我的爸爸是一位生物老师，他教我关于身体的知识，告诉我一切是如何工作的，以及它们如何相互连接。研究人工智能和研究大脑对我来说感觉像是同一个问题——或者至少，它们有相同的最终问题，即“它是如何工作的？”我对两者都感兴趣，但我在学校没有得到太多关于人工智能或机器人的接触。因此，我最初在自己的时间里追求人工智能，并在学校学习生物学和心理学。

当我上大学时，我发现了《并行分布式处理》（PDP）书籍，这对我来说是一个巨大的发现。它们是我第一次接触到真正的人工智能，这让我回到了经典的研究，如《海布》、《罗森布拉特》和《麦卡洛克-皮茨》。我开始根据神经解剖学和生物学、心理学课堂的知识建立神经网络。毕业后，我作为一名计算机网络工程师工作，建立复杂的广域网，并编写软件来自动化和管理这些网络上的流量——有点像建立大脑。这个工作重新点燃了我对人工智能的热情，并激励我去攻读研究生，学习人工智能和神经科学，剩下的就是历史了。

在创立Quorum AI之前，您在学术研究中度过了12年，先是在南加州大学，后来在西北大学担任神经生物学助理主席。您能否带我们了解一些您的研究成果？

从广泛的意义上讲，我的研究试图回答一个问题：“大脑是如何利用它所拥有的东西来完成它所做的事情？”首先，我不认为大脑是一种计算机（在冯·诺伊曼意义上）。我认为它是一种巨大的网络，主要执行刺激-响应和信号编码操作。在这个巨大的网络中，有明显的模式连接在功能上专门的区域。随着我们放大，我们看到神经元不关心它们所携带的信号或它们所在的大脑区域——它们根据非常可预测的规则运作。因此，如果我们想了解这些专门区域的功能，我们需要问几个问题：（1）当输入信号通过网络时，如何与其他输入信号汇聚以产生决策？（2）这些专门区域的结构如何随着经验的积累而形成？（3）它们如何随着我们使用大脑和学习而不断变化？我的研究尝试使用实验研究、信息理论和建模模拟来解决这些问题——这可以使我们建立人工决策系统和人工智能。在神经生物学的术语中，我研究了神经可塑性和视觉皮层等专门区域的微解剖学。

您随后将您的工作转化为增强现实和脑机接口。您曾经参与过哪些产品的开发？

大约在2008年，我正在开发一个项目，我们现在称之为增强现实，但当时它只是一个系统，用于跟踪和预测眼球运动，然后使用这些预测来更新屏幕上的内容。为了使系统能够实时工作，我建立了一个生物启发的模型，能够预测观众将要看向哪里，基于他们的微小眼球运动——在他们移动眼睛之前就会发生的微小眼球运动。使用这个模型，我可以预测观众将要看向哪里，然后在他们的眼睛还在移动时更新图形卡中的帧缓冲区。到他们的眼睛到达新位置时，图像已经更新好了。这个技术在2008年运行在普通的台式电脑上，没有任何延迟。技术很惊人，但项目没有获得下一轮资金，所以它失败了。

2011年，我更专注地进行产品开发，建立了一个可以对流式脑电图（EEG）数据进行特征发现的神经网络，我们从头皮上测量了这些数据。这是大多数脑机接口系统的核心功能。该项目也是一个实验，探索“我们可以将其运行在多小的脚印上？”我们有一个头戴式设备，可以读取几条EEG数据，通过蓝牙发送到安卓手机进行特征发现和分类，然后发送到一个改装成自定义嵌入式硬件的Arduino控制器。当有人戴着EEG头戴式设备时，他们可以通过改变自己的思维，从进行心理数学运算到唱歌，来控制和驾驶汽车。算法在手机上运行，并为每个用户创建一个个性化的“脑指纹”，使他们能够在无需重新训练的情况下在各种机器人设备之间切换。我们的标语是“脑控遇上即插即用”。

2012年，我们扩展了该系统，使其以更分布式的方式在更小的硬件上运行。我们使用它来控制一个多段、多关节的机器人臂，每个段由一个独立的处理器控制，运行嵌入式人工智能。与其使用集中式控制器来操纵机器人臂，我们允许段自组织并以类似群体的方式达到目标。换句话说，像蚂蚁形成蚁桥一样，机器人臂的段会合作以达到空间中的某个目标。

当我们第一次推出Quorum AI（最初称为Quorum Robotics）时，我们意识到该系统之所以出色，是因为算法和架构，而不是硬件。因此，在2014年底，我们完全转向了软件。现在，8年后，Quorum AI正在回到那些机器人根源，通过将我们的框架应用于NASA的太空机器人挑战赛。

辞去教授职位创办初创公司一定是一个艰难的决定。是什么启发了您做出这个决定？

这对我来说是一个巨大的飞跃，但是一旦机会出现，道路变得清晰，这个决定就变得容易了。当你是一名教授时，你会想到多年的时间框架，并且会为很长期的研究目标而努力。创办初创公司则是相反的。然而，学术生活和创业生活有一件事是相同的：两者都需要你不断学习和解决问题。在创业公司中，这可能意味着尝试重新设计解决方案以降低产品开发风险，或者研究一个可能受益于我们的技术的新垂直领域。从事人工智能工作是我曾经感受到的最接近“使命”的事情，所以尽管存在挑战和起伏，我感到非常幸运能够做我正在做的工作。

您随后开发了Quorum AI，该公司开发实时、分布式人工智能，适用于所有设备和平台。您能否详细介绍这个人工智能平台的功能？

该平台称为虚拟代理环境（EVA），它使用户能够使用我们的Engram AI引擎构建、训练和部署模型。Engram是一个灵活且可移植的包装器，我们围绕着自己的无监督学习算法构建。这些算法非常高效，可以实时学习，同时模型正在生成预测。由于算法是任务无关的，因此没有明确的输入或输出到模型，因此可以以贝叶斯方式为任何维度进行预测，而无需重新训练，并且不会受到灾难性遗忘的影响。模型也是透明和可分解的，这意味着它们可以被检查和分解为单个维度，而不会丢失已经学习到的东西。

一旦建立，模型可以通过EVA部署到任何类型的平台，从自定义嵌入式硬件到云端。EVA（和可嵌入的主机软件）还包含几个工具来扩展每个模型的功能。几个快速的例子：模型可以通过发布/订阅系统在系统之间共享，实现分布式系统在时间和空间上实现联邦学习。模型也可以作为自治代理部署，以执行任意任务，并且由于模型是任务无关的，因此可以在运行时更改任务而无需重新训练。每个代理都可以扩展一个私有的“虚拟”EVA，允许代理以无限制的方式模拟其他代理的模型。最后，我们为深度学习和强化学习（基于Keras的）系统创建了包装器，以便这些模型可以与平台上的更灵活的Engram-based系统一起运行。

您之前将Quorum AI算法描述为“数学诗歌”。您是什么意思？

当你建立一个模型时，无论你是在模拟大脑还是模拟企业的销售数据，你首先会对你的数据进行清点，然后尝试使用已知的模型类来近似系统。从本质上讲，你正在创建系统的粗略草图，以查看什么看起来最好。你不期望事情能很好地吻合，但你会尝试不同的假设，测试不同的系统工作方式。随着一点技巧，你可以相当好地捕捉数据。

当我模拟大脑中的神经可塑性时，我从通常的方法开始，绘制所有分子通路、转换状态和动态，我认为这些是重要的。但我发现，当我将系统简化为最基本的组件，并以特定的方式排列这些组件时，模型变得越来越准确，直到它几乎完美地拟合数据。就像每个运算符和变量在方程中都是恰到好处的，没有多余的部分，一切对于拟合数据都是必不可少的。

当我将模型插入更大的模拟中，例如视觉系统的发展或面部识别时，它能够形成非常复杂的连接模式，这与我们在大脑中看到的模式相匹配。由于模型是数学的，这些大脑模式可以通过数学分析来理解，从而对大脑正在学习什么有了新的见解。从那时起，我们已经解决和简化了组成模型的微分方程，提高了计算效率的多个数量级。它可能不是真正的诗歌，但它感觉像诗歌一样!

Quorum AI的平台工具包允许设备相互连接，学习和共享数据，而无需通过基于云的服务器进行通信。这种方法与使用云的优势是什么？

我们为用户提供了将人工智能放在任何他们想要的地方的选项，而不会损害人工智能的功能。人工智能开发的现状是，公司通常被迫在安全性、隐私性或功能性之间做出妥协，因为他们的唯一选择是使用基于云的人工智能服务。如果公司尝试在内部建立自己的人工智能，通常需要大量的钱和时间，而且ROI很少值得冒这个险。如果公司想将人工智能部署到不连接云的单个设备上，项目很快就会变得不可能。因此，人工智能的采用成为一种幻想。

我们的平台使人工智能变得可及和负担得起，为公司提供了一种探索人工智能开发和采用而无需技术或财务开支的方式。另外，我们的平台使用户能够从开发到部署一步到位。

我们的平台还与其他“传统”模型（如深度学习或强化学习）集成，并延长了它们的寿命，帮助公司改造和集成现有的系统到新的应用中。同样，由于我们的算法和架构是独特的，我们的模型不是黑盒子，因此系统学习到的任何东西都可以被人类探索和解释，然后扩展到业务的其他领域。

一些人认为，分布式人工智能（DAI）可能会为人工通用智能（AGI）铺平道路。您是否同意这种理论？

我同意，并不仅仅是因为这就是我们为自己设定的道路！当你看大脑时，它不是一个整体系统。它由单独的分布式系统组成，每个系统都专门从事大脑功能的一个狭窄范围。我们可能不知道特定系统正在做什么，但我们知道它的决策在很大程度上取决于它接收到的信息类型以及这些信息如何随时间变化。（这就是为什么神经科学中的“连接组”等主题如此流行。）

在我看来，如果我们想建立像大脑一样灵活、表现和性能像大脑一样的人工智能，那么考虑分布式架构（如我们在大脑中看到的）是有意义的。有人可能会认为，像多层网络或CNN这样的深度学习架构可以在大脑中找到，这是真的，但这些架构是基于我们50年前对大脑的了解。

分布式人工智能的替代方案是继续迭代单olithic、不灵活的架构，这些架构紧密耦合到单个决策空间中，例如我们在深度学习或强化学习（或任何监督学习方法）中看到的那样。我会建议，这些限制不仅仅是参数调整或添加层或数据条件的问题——这些问题是深度学习和强化学习的基本问题，至少按照今天的定义，这些问题是需要新的方法来继续创新和建立明天的人工智能的必要条件。

您是否认为，使用分布式人工智能实现AGI比使用强化学习和/或深度学习方法（如OpenAI和DeepMind等公司目前正在进行的研究）更有可能实现？

是的，虽然从他们的博客文章来看，我怀疑OpenAI和DeepMind正在使用比他们承认的更分布式的架构。我们开始听到更多关于多系统挑战的内容，例如迁移学习或分布式/联邦学习，以及深度学习和强化学习方法不适用于这些挑战的内容。我们也开始听到来自先驱者如Yoshua Bengio的信息，他认为生物启发的架构可以弥合这一差距！我已经从事生物启发的人工智能研究近20年，所以我对我们在Quorum AI学到的东西以及我们如何利用它来建立我们相信的下一代人工智能来克服这些局限性感到非常好。

您还想分享关于Quorum AI的其他信息吗？

我们将在2020年6月的联邦和分布式机器学习会议上预览我们的新平台，用于分布式和基于代理的人工智能。在演讲中，我计划介绍一些关于几个主题的最新数据，包括作为实现富有同情心的人工智能桥梁的情感分析。

我想特别感谢诺亚的精彩答案，并建议您访问Quorum以了解更多信息。