Nick Romano，Deeplite 联合创始人兼 CEO – 采访系列

Nick Romano 是 Deeplite 的联合创始人兼 CEO，Deeplite 是一个 AI 驱动的优化解决方案，使深度神经网络从云端到边缘计算变得更快、更小、更节能。

Nick 是一位连续创业者和成就卓著的 CEO，过去 20 年来一直为客户带来成功的结果。最近，他联合创立并扩展了一个企业级 SaaS 平台，拥有数百万美元的循环收入和超过 100 名员工。他被麦克马斯特大学工程学院评为前 150 名杰出校友。

您最初是什么时候被吸引到 AI 的？

我已经在科技领域工作了超过 25 年，见证了许多周期和趋势，有些是炒作，有些是真实的。AI 是一个动态和增长的领域，我喜欢它的技术可以真正以许多不同的方式改善人们的生活和工作。我想成为这场运动的一部分。然而，将 AI 应用于现实世界环境存在挑战。使 AI 正常工作需要大量的计算能力和能量 – 它计算密集。这种情况在实验室中是可以接受的，但如果它太大或太慢或占用太多电力，那么将 AI 应用于现实世界场景就很困难。这是我们的使命，也是我真正的吸引力 – 将 AI 引入日常生活。

您能分享一下 Deeplite 的创立故事吗？

Deeplite 的想法始于蒙特利尔的 TandemLaunch 孵化器。戴维·索耶（Davis Sawyer），现在是我们的首席产品官和 AI 领域专家，以及埃桑·萨布里（Ehsan Saboori），现在是我们的首席技术官和我们知识产权的真正策划者，在那里开发了该技术。我于 2019 年加入他们，带来了我多年的技术领导和公司扩张经验，我们于 2019 年中正式将 Deeplite 推出为一家公司。现在，我们拥有超过 20 名员工，在蒙特利尔和多伦多设有办事处，并于 2021 年 4 月宣布了 600 万美元的种子轮融资。

为什么在某些用例中，例如自动驾驶汽车和无人机中，将 AI 处理直接嵌入硬件而不是云端如此重要？

有很多原因说明为什么您希望在数据捕获点运行推理，即 AI 决策过程，而不是在云端。可能最大的原因是在自动驾驶等关键任务应用中，延迟，即 AI 做出决策所需的时间。如果您需要捕获数据，将其发送到云端进行推理，然后返回结果，那显然比在本地实时执行要花费更长的时间。在自动驾驶中，毫秒至关重要。

其他原因包括隐私、在本地保持敏感数据而不是将其发送到云端，以及连接性，在其缺席下，云端推理变得毫无意义。驱动 AI 的复杂深度神经网络需要大量计算能力来运行，使用大量内存，并消耗大量电力，因此 AI 解决方案被迫使用云端。因此，为了摆脱云端并使 AI 在车辆或无人机等边缘设备上本地运行，您需要找到一种方法来减少模型的整体大小和功耗，使其能够直接在设备上运行 – 使用远少于以前的资源。这是我们需要突破的障碍，以将 AI 引入更多为人们服务的设备。这就是 Deeplite 的用途。

您能告诉我们什么是 Deeplite Neutrino？

我们的 Neutrino 平台将 AI，特别是深度神经网络或 DNN，转换为一种新的形式因子，使其比原始形式更小、更快、更节能。使用 Deeplite Neutrino，AI 团队可以专注于训练模型以提高准确率，即决策的正确性，并利用我们的平台优化 AI 模型，以便将其部署到边缘的受限硬件中。Deeplite Neutrino 在不损害原始 AI 准确性的情况下实现这一点。基本上，我们将大型 AI 模型变小、变快、变更节能。最终目标是将 AI 从实验室带到现实世界，并应用于我们每天使用的物品中。

Deeplite Neutrino 如何能够在不损害原始模型准确性的情况下使 AI 更高效、更快、更小、更强大？

我们使用了一种新颖的多目标设计空间探索方法。我们使用原始模型作为“教师”模型，然后探索模型的架构，寻找最好的“学生”模型，以满足由 Deeplite 用户指定的设计约束，从而自动优化 DNN 模型，使其显著加快、变小、更节能，而不会牺牲性能。

使用此类 AI 的一些顶级用例是什么？

虽然我们并不局限于此，但我们的当前重点是计算机视觉和感知型 AI。我们的 AI 技术正在被应用于自动驾驶汽车、无人机、相机、手机、传感器和其他 IoT 设备中。我们还看到新的应用，包括智能牙刷和智能咖啡机。我们甚至与一家领先的国际玩具公司合作，该公司正在使用它进行游戏开发。我们所做的事情令人兴奋和鼓舞的是，我们看到的应用的多样性，它们可以帮助使其成为现实。

您对联邦学习及其对机器学习未来影响的看法是什么？

训练模型需要大量数据和计算能力。用例的多样性越大，所需的数据就越多，训练模型到令人满意的准确性水平所需的计算时间就越长。通过联邦学习，训练是在每个设备的边缘根据本地数据条件进行的。这可以使训练更加高效（为什么要训练阿拉斯加的袋鼠过马路），并且也是对隐私的巨大胜利，因为训练数据 – 例如某人的面部 – 不会被发送到中央服务器。

鉴于我们的优化过程涉及所谓的“训练循环”以保留优化模型的准确性，我们的最终目标将是使我们所做的事情成为初始训练过程的一部分，而不是作为第二步。目前，这是我们的长期目标。

作为一家初创公司，您如何吸引所需的人才和脑力？

吸引合适的 AI 人才是一个巨大的挑战 – 现在有太少的人，招募竞争很激烈。我们的团队很棒。他们自己就是人才的磁铁。我们让潜在的雇员与我们的团队交流和面试。一旦他们看到 Deeplite 的团队水平，他们就会想加入我们。作为一家初创公司，我们提供了很好的文化和机会，让人们能够从事新兴的、可能对许多行业和产品产生颠覆性的工作。我认为这种机会，加上我们的团队，是我们吸引顶级人才的关键。我们还位于蒙特利尔和多伦多两个主要的北美 AI 中心，这有助于我们。作为一家加拿大公司，我们利用政府的全球人才流动计划。我们可以在世界任何地方招募新员工，赞助他们并快速将他们带到加拿大。

您对 AI 领域的其他企业家有何建议？

这超出了 AI 的范畴，但作为一名重复创业者，我已经学会了家庭支持的重要性，因为成为企业家的决定不是一个个人决定 – 它会影响每个人，包括配偶和孩子。每个人都与您一起踏上这段旅程，每个人都做出牺牲。您必须认识到这一点，并对此表示感谢，这就是家庭可以在整个旅程中保持团结的方式。

您是否还有其他关于 Deeplite 的信息想要分享？

Deeplite 的一个独特之处是我们的联合创始人。戴维才二十五六岁，非常聪明和充满活力。他绝对是我们所做事情的领域专家。埃桑是一位伊朗移民，拥有博士学位，如前所述，他是我们知识产权背后的真正策划者。而我是一个五十多岁的资深创业者，之前已经建立过公司。我很感激能有这么好的合作伙伴和这么好的团队。

感谢这次精彩的采访，我期待着关注 Deeplite 的进展，这是一家我将密切关注的公司。希望了解更多的读者可以访问 Deeplite。