Ник Романо, сооснователь и CEO Deeplite – Интервью-серия

Ник Романо – сооснователь и CEO Deeplite, решения для оптимизации на основе ИИ, которое делает глубокие нейронные сети быстрее, меньше и более энергоэффективными от облачных вычислений до вычислений на краю сети.

Ник – серийный предприниматель и опытный CEO, который достигает успешных результатов более 20 лет. Недавно он стал сооснователем и руководителем предприятия SaaS-платформы с многомиллионными долларовыми ежемесячными доходами и более 100 сотрудников. Он был отмечен Университетом Макмастера как один из лучших 150 выпускников.

Что изначально привлекло вас к ИИ?

Я работаю в технологической сфере более 25 лет и видел много циклов и тенденций, некоторые из которых были просто модой, а некоторые – реальными. ИИ – это динамично развивающаяся область, и то, что мне нравится в нем, – это то, как эта технология может быть использована во многих разных способах для улучшения жизни и работы людей. Я хотел быть частью этого движения. Однако есть проблемы с применением ИИ в реальных условиях. Для этого требуется много вычислительных ресурсов и энергии, чтобы ИИ работал правильно – это вычислительно интенсивно. Это нормально в лаборатории, но если это слишком большое или слишком медленное, или требует слишком много энергии, то трудно применить ИИ в реальных сценариях. Это наша миссия и真正ая привлекательность для меня – сделать ИИ доступным для повседневной жизни.

Можете ли вы рассказать историю создания Deeplite?

Идея Deeplite возникла в инкубаторе TandemLaunch в Монреале. Дэвис Сойер, который сейчас является нашим главным директором по продукту и экспертом в области ИИ, и Эхсан Сабури, который сейчас является нашим техническим директором и фактически является мозгом нашей интеллектуальной собственности, начали разрабатывать технологию там. Я присоединился к ним в 2019 году, привнеся свой опыт руководства технологическими компаниями и масштабирования бизнеса, и мы официально запустили Deeplite как компанию в середине 2019 года. Теперь у нас более 20 сотрудников с офисами в Монреале и Торонто, и мы объявили о привлечении 6 миллионов долларов в рамках раунда серии Seed в апреле 2021 года.

Почему так важно встраивать обработку ИИ непосредственно в аппаратное обеспечение, а не в облако, в определенных случаях, таких как автономные транспортные средства и беспилотники?

Есть много причин, почему вы хотите запускать процесс принятия решений ИИ, называемый выводом, в точке сбора данных, а не в облаке. Одна из главных причин в критических приложениях, таких как автономные транспортные средства, – это задержка, которая означает, сколько времени занимает процесс принятия решений ИИ. Если вам нужно собрать данные, отправить их в облако для вывода, а затем вернуть результаты, это, очевидно, займет гораздо больше времени, чем делать это локально в реальном времени. В автономном вождении миллисекунды имеют большое значение.

Другие причины включают конфиденциальность, сохранение конфиденциальных данных локально, а не отправку их в облако, и, конечно же, связь, которая в случае ее отсутствия делает вывод в облаке невозможным. Сложные глубокие нейронные сети, которые управляют ИИ, требуют много вычислительных ресурсов для работы, они используют много памяти и потребляют много энергии, поэтому решения ИИ были вынуждены использовать облако. Чтобы выйти из облака и запустить ИИ локально на краю сети в транспортном средстве или беспилотнике, например, необходимо найти способ уменьшить общий размер и энергопотребление модели, чтобы она могла работать напрямую на устройстве с гораздо меньшими ресурсами. Это важно, чтобы преодолеть этот барьер и принести ИИ в гораздо больше устройств, которые служат людям каждый день. Вот где на сцену выходит Deeplite.

Можете ли вы рассказать нам, что такое Deeplite Neutrino?

Наша платформа Neutrino преобразует ИИ, в частности, глубокие нейронные сети или DNN, в новый формат, который меньше, быстрее и менее энергозатратен, чем его исходный формат. С помощью Deeplite Neutrino команды ИИ могут сосредоточиться на обучении своих моделей для точности, то есть на частоте правильных решений, и использовать нашу платформу для оптимизации модели ИИ, чтобы она могла быть развернута в ограниченном аппаратном обеспечении на краю сети. Deeplite Neutrino делает это без ущерба для исходной точности ИИ. По сути, мы берем большие модели ИИ и делаем их меньше, быстрее и более энергоэффективными. Конечная цель – вывести ИИ из лаборатории и в реальный мир в вещах, которые мы используем каждый день.

Как Deeplite Neutrino может сделать ИИ более эффективным, быстрым, меньшим и более мощным, не жертвуя точностью исходной модели?

Мы используем новый подход к многокритериальному исследованию пространства проектирования. Мы используем исходную модель как своего рода “учительскую” модель и затем исследуем архитектуру модели, чтобы найти лучшую “ученическую” модель, которая удовлетворяет ограничениям, заданным пользователем Deeplite, чтобы автоматически оптимизировать модели DNN и сделать их значительно быстрее, меньшими и более энергоэффективными без ущерба для производительности.

Какие из основных случаев использования этого типа ИИ?

Хотя мы не ограничены этим, наш текущий фокус – компьютерное зрение и восприятие на основе ИИ. Наша технология ИИ используется в автономных транспортных средствах, беспилотниках, камерах, мобильных телефонах, датчиках и других устройствах Интернета вещей. Мы также видим новые применения для него, включая умную зубную щетку и умную кофеварку. Мы даже работаем с ведущей международной компанией по производству игрушек, которая использует его для разработки игр. То, что невероятно интересно и полезно в том, что мы делаем, – это разнообразие применений, которые мы видим на рынке, где мы можем помочь им оживить.

Каково ваше мнение о федеративном обучении и как оно повлияет на будущее машинного обучения?

Обучение моделей требует много данных и вычислительных ресурсов. Чем больше разнообразие случаев использования, тем больше данных требуется, и тем больше времени необходимо для обучения модели до удовлетворительного уровня точности. С федеративным обучением обучение организовано на краю сети в каждом устройстве на основе местных условий. Это может сделать обучение более эффективным (почему обучать на примере пересечения дороги кенгуру в Аляске) и также является большой победой для конфиденциальности, поскольку обучающие данные – например, лицо человека – не отправляются на центральный сервер.

Учитывая, что наш процесс оптимизации включает в себя то, что мы называем “тренировочным циклом”, чтобы сохранить точность оптимизированной модели, нашей конечной целью было бы сделать то, что мы делаем, частью начального процесса обучения, а не вторым проходом. Сейчас это амбициозная цель, но это часть нашей долгосрочной цели.

Как стартапу привлечь таланты и интеллектуальный потенциал, который необходим?

Это большая проблема – привлечь правильный талант ИИ сегодня – там слишком мало людей, и конкуренция за набор персонала высока. Наша команда отличная. Они сами являются магнитом для талантов. Мы приглашаем потенциальных кандидатов общаться и интервьюироваться с нашей командой. Как только они видят уровень людей в Deeplite, они хотят быть здесь. Как стартап, мы предлагаем отличную культуру и возможность работать над чем-то новым и перспективным, что может стать игроком в многих отраслях и продуктах. Я думаю, что эта возможность, вместе с командой, является ключом к привлечению лучших талантов. Мы также стратегически расположены в двух крупных североамериканских хабах ИИ, Монреале и Торонто, что помогает. Как канадская компания, мы используем программу Global Talent Stream правительства, чтобы привлечь таланты из любой точки мира, спонсировать новых сотрудников и быстро переводить их в Канаду.

У вас есть какие-либо советы для других предпринимателей в области ИИ?

Это выходит за рамки ИИ, но как повторяющийся предприниматель, я узнал, насколько важно иметь поддержку семьи, потому что решение стать предпринимателем не является индивидуальным – оно влияет на всех – супругов и детей включительно. Все являются частью этого пути с вами, и все делают жертвы. Вы должны признать и оценить это, и это то, как семьи могут оставаться вместе на протяжении всего пути.

Есть ли что-то еще, что вы хотели бы поделиться о Deeplite?

Одним из уникальных аспектов Deeplite является наша команда сооснователей. Дэвис в середине 20-х, и он невероятно умный и энергичный. Он определенно эксперт в области, в которой мы работаем. Эхсан – иранский иммигрант с докторской степенью, и, как упоминалось ранее, он фактически является мозгом нашей интеллектуальной собственности. А я – предприниматель 50+, который построил компании раньше. Мы трио – интересная комбинация, которая приносит разные сильные стороны и опыт в компанию. Я очень благодарен, что у меня есть такие отличные партнеры и окружен такой отличной командой.

Спасибо за отличное интервью, я с нетерпением жду возможности следить за прогрессом Deeplite и это компания, которая будет на моем радаре. Читателям, которые хотят узнать больше, следует посетить Deeplite.