Nick Romano，Deeplite联合创始人兼CEO – 采访系列

Nick Romano是Deeplite的联合创始人兼CEO，Deeplite是一种AI驱动的优化解决方案，旨在使深度神经网络更快、更小、更节能，从云计算到边缘计算。

Nick是一位连续创业者和经验丰富的CEO，拥有超过20年的成功经验。最近，他联合创立并扩展了一家企业级SaaS平台，拥有数百万美元的收入和100多名员工。他被麦克马斯特大学工程学院评为前150名杰出校友。

是什么最初吸引你进入AI领域？

我已经在科技领域工作了25多年，见证了许多周期和趋势，有些是炒作，有些是真实的。AI是一个动态和快速发展的领域，我喜欢它的技术可以被用来改善人们的生活和工作方式。我想成为这一运动的一部分。然而，将AI应用于现实世界环境中存在挑战，需要大量的计算能力和能量——它计算密集。这种情况在实验室中是可以接受的，但如果AI太大、太慢或耗费太多能量，就很难将其应用于现实世界。我们的使命和吸引力在于使AI能够应用于日常生活。

能否分享Deeplite的创立故事？

Deeplite的想法起源于蒙特利尔的TandemLaunch孵化器。戴维·索耶（Davis Sawyer），我们的首席产品官和AI领域专家，以及埃桑·萨布里（Ehsan Saboori），我们的CTO和我们IP的真正大脑，在那里开发了该技术。我于2019年加入他们，带来了我多年的技术领导和公司扩张经验，我们正式将Deeplite作为一家公司推出。现在，我们拥有超过20名员工，在蒙特利尔和多伦多设有办事处，并于2021年4月宣布了600万美元的种子轮融资。

为什么在某些用例中（如自动驾驶汽车和无人机）将AI处理直接嵌入硬件而不是云端如此重要？

有很多原因说明为什么你希望在数据采集点运行你的推理（AI决策过程），而不是在云端。可能最大的原因是在像自动驾驶汽车这样的任务关键应用中，所谓的延迟，即AI做出决策需要多长时间。如果你需要捕获数据，将其发送到云端进行推理，然后返回结果，这显然需要比在本地实时执行更长的时间。在自动驾驶中，毫秒至关重要。

其他原因包括隐私、在本地保持敏感数据而不是将其发送到云端，以及连接性——如果连接性缺失，云端推理将变得毫无意义。驱动AI的复杂深度神经网络需要大量计算能力来运行，需要大量内存，并且消耗大量能量，因此AI解决方案被迫使用云端。因此，为了摆脱云端并在边缘（如车辆或无人机中）的设备上运行AI，你需要找到一种方法来减少模型的整体大小和功耗特征，使其能够在设备上运行，使用的资源远少于云端。这是我们需要突破的障碍，以将AI应用于更多为人们服务的设备。这就是Deeplite的用途。

能否具体介绍Deeplite Neutrino是什么？

我们的Neutrino平台将AI（特别是深度神经网络或DNN）转换为一种新的形式因子，使其变得更小、更快、更节能。使用Deeplite Neutrino，AI团队可以专注于训练模型以提高准确性（即决策的正确性），并利用我们的平台来优化AI模型，以便将其部署到边缘的受限硬件中。Deeplite Neutrino在不损害AI原始准确性的情况下完成这一过程。简而言之，我们将大型AI模型变成更小、更快、更节能的模型。最终目标是将AI从实验室带到现实世界，应用于我们日常使用的设备中。

Deeplite Neutrino如何能够在不损害原始模型准确性的情况下使AI变得更高效、更快、更小、更强大？

我们使用了一种新颖的多目标设计空间探索方法。我们使用原始模型作为“教师”模型，然后探索模型的架构，寻找最好的“学生”模型，以满足Deeplite用户指定的设计约束，从而自动优化DNN模型，使其变得显著更快、更小、更节能，而不会牺牲性能。

使用此类AI的主要用例有哪些？

虽然我们并不局限于此，但我们的当前重点是计算机视觉和感知AI。我们的AI技术被应用于自动驾驶汽车、无人机、摄像头、手机、传感器和其他IoT设备中。我们还看到新的应用，包括智能牙刷和智能咖啡机。我们甚至与一家领先的国际玩具公司合作，他们使用我们的技术进行游戏开发。我们所做的事情令人兴奋和有回报的是，我们看到的应用的多样性，它们可以使其变得生动。

您对联邦学习及其对机器学习未来的影响有何看法？

训练模型需要大量数据和计算能力。用例的多样性越大，所需的数据量就越大，训练模型到满意的准确性水平所需的计算时间也就越长。通过联邦学习，训练是在每个设备的边缘基于本地数据条件进行的。这可以使训练更加高效（为什么要在阿拉斯加训练袋鼠过马路），并且也是对隐私的重大胜利，因为训练数据（例如某人的面部）不会被发送到中央服务器。

鉴于我们的优化过程涉及所谓的“训练循环”，以保留优化模型的准确性，我们的最终目标将是使我们正在做的事情成为初始训练过程的一部分，而不是作为第二步。目前，这是一个志向，但这是我们的长期目标。

作为一家初创公司，您如何吸引所需的人才和脑力？

吸引合适的AI人才是一个巨大的挑战——现在有太少的人，招募竞争很激烈。我们的团队很棒，他们本身就是人才的磁铁。我们让潜在的雇员与我们的团队交谈和面试。一旦他们看到Deeplite的团队水平，他们就会想要加入我们。作为一家初创公司，我们提供了很好的文化和机会，让人们能够从事新兴的、可能成为各个行业和产品的游戏规则改变者的工作。我认为这种机会，加上我们的团队，是我们吸引顶级人才的关键。我们还战略性地位于蒙特利尔和多伦多两个北美主要的AI中心，这有助于我们。作为一家加拿大公司，我们利用政府的全球人才流动计划，我们可以从世界任何地方招募新员工，并加快他们进入加拿大的速度。

您对AI领域的其他创业者有何建议？

这不仅仅局限于AI，但作为一位连续创业者，我已经学会了家庭支持的重要性，因为成为创业者的决定不仅仅是个人决定——它会影响每个人，包括配偶和孩子。每个人都与你一起踏上这段旅程，每个人都会做出牺牲。你必须认识到并感激这一点，这也是家庭可以在旅途中保持团结的方式。

您是否还有其他关于Deeplite的信息想要分享？

Deeplite的一个独特方面是我们的联合创始人。戴维二十五六岁，非常聪明和精力充沛，他绝对是我们所做事情的领域专家。埃桑是一位伊朗移民，拥有博士学位，如前所述，他是我们IP的真正大脑。而我是一位五十多岁的资深创业者，之前已经建立过公司。我们三人是一个有趣的组合，带来了不同的优势和经验。我非常感激能有这么好的合作伙伴和这么好的团队。

感谢这次精彩的采访，我期待着Deeplite的进展，这是一家会一直在我关注范围内的公司。希望了解更多的读者可以访问Deeplite。