Ник Романо, сооснователь и CEO Deeplite – Интервью-серия

Ник Романо является сооснователем и CEO Deeplite, решения на основе ИИ для оптимизации глубоких нейронных сетей, чтобы сделать их быстрее, меньше и более энергоэффективными от облачных вычислений до вычислений на краю сети.

Ник – серийный предприниматель и опытный CEO, который более 20 лет обеспечивает успешные результаты. Недавно он стал сооснователем и расширил платформу企业 SaaS с многомиллионными повторяющимися доходами и более 100 сотрудниками. Он был отмечен Университетом Макмастера в качестве одного из лучших 150 выпускников факультета инженерии.

Что изначально привлекло вас к ИИ?

Я уже более 25 лет работаю в технологической сфере и видел много циклов и тенденций, некоторые из которых были просто шумом, а некоторые действительно реальными. ИИ – это динамично развивающаяся область, и то, что мне нравится в ней, – это то, как эта технология может быть真正 использована во многих разных способах для улучшения жизни и работы людей. Я хотел быть частью этого движения. Однако есть проблемы с применением ИИ в реальных условиях. Для того, чтобы ИИ работал правильно, требуется много вычислительной мощности и энергии – это вычислительно интенсивно. Это нормально в лаборатории, но если это слишком большое или слишком медленное, или если это потребляет слишком много энергии, то это трудно применить ИИ в реальных сценариях. Это наша миссия и真正ое привлечение для меня – сделать ИИ доступным для повседневной жизни.

Можете ли вы рассказать историю создания Deeplite?

Идея Deeplite возникла в инкубаторе TandemLaunch в Монреале. Дэвис Сойер, который сейчас является нашим главным директором по продукту и экспертом в области ИИ, и Эхсан Сабoorи, который сейчас является нашим техническим директором и真正 мозгом за нашей интеллектуальной собственностью, начали разрабатывать технологию там. Я присоединился к ним в 2019 году, привнеся свои многие годы лидерства в технологиях и опыта в масштабировании компаний, и мы официально запустили Deeplite как компанию в середине 2019 года. Теперь у нас более 20 сотрудников с офисами в Монреале и Торонто, и мы объявили о $6 миллионах серии Seed в апреле 2021 года.

Почему встраивание обработки ИИ непосредственно в аппаратное обеспечение, а не в облако, так важно в определенных случаях, таких как автономные транспортные средства и беспилотники?

Есть много причин, почему вы хотите запускать свой вывод, процесс принятия решений ИИ, в точке сбора данных, а не в облаке. Вероятно, самой большой причиной в критических приложениях, таких как автономные транспортные средства, является то, что называется задержкой, которая означает, сколько времени занимает ИИ для принятия решения. Если вам нужно захватить данные, отправить их в облако для вывода, а затем вернуть результаты, это, очевидно, займет гораздо больше времени, чем сделать это локально в реальном времени. В автономном вождении миллисекунды имеют большое значение.

Другие причины включают конфиденциальность, сохранение конфиденциальных данных локально, а не отправку их в облако, и, конечно же, связь, которая в отсутствие делает вывод в облаке бесполезным. Сложные глубокие нейронные сети, которые управляют ИИ, требуют много вычислительной мощности для запуска, они используют много памяти и потребляют много энергии, поэтому решения ИИ были вынуждены использовать облако. Чтобы выйти из облака и сделать ИИ запускаемым локально на краю в транспортном средстве или беспилотнике, например, вам нужно найти способ уменьшить общий размер и профиль мощности модели, позволяя ей запускаться直接 на аппаратном обеспечении – устройстве – с гораздо меньшими ресурсами. Это важно, чтобы преодолеть этот барьер и принести ИИ на гораздо больше устройств, которые служат людям каждый день. Вот где Deeplite приходит на помощь.

Можете ли вы рассказать нам, что такое Deeplite Neutrino?

Наша платформа Neutrino преобразует ИИ, в частности, глубокие нейронные сети или DNN, в новый формат, который меньше, быстрее и менее энергопотребляющий, чем его исходная форма. С помощью платформы Deeplite Neutrino команды ИИ могут сосредоточиться на обучении своих моделей для точности, насколько часто решение правильное, и использовать нашу платформу для оптимизации модели ИИ, чтобы она могла быть разployed в ограниченном аппаратном обеспечении на краю. Deeplite Neutrino делает это без компрометации исходной точности ИИ. По сути, мы берем большие модели ИИ и делаем их меньше, быстрее и более энергоэффективными. Конечная цель – вывести ИИ из лаборатории и в реальный мир в вещах, которые мы используем каждый день.

Как Deeplite Neutrino может сделать ИИ более эффективным, быстрее, меньше и более мощным, не компрометируя точность исходной модели?

Мы используем новый подход к многокритериальному исследованию пространства проектирования. Мы используем исходную модель как своего рода “учительскую” модель, а затем исследуем архитектуру модели, чтобы найти лучшую “ученическую” модель, которая удовлетворяет ограничениям проектирования, указанным пользователем Deeplite, для автоматической оптимизации моделей DNN и сделать их значительно быстрее, меньше и более энергоэффективными без ущерба для производительности.

Какие из наиболее важных случаев использования этого типа ИИ?

Хотя мы не ограничены этим, наш текущий фокус – компьютерное зрение и восприятие на основе ИИ. Наша технология ИИ используется в автономных транспортных средствах, беспилотниках, камерах, телефонах, датчиках и других устройствах IoT. Мы также видим новые применения для него в последнее время, включая умную зубную щетку и умую кофеварку. Мы даже работаем с ведущей международной компанией по производству игрушек, которая использует его для разработки игр. То, что невероятно интересно и полезно в том, что мы делаем, – это разнообразие применений, которые мы видим на рынке, где мы можем помочь им оживить.

Каково ваше мнение о федеративном обучении и как оно повлияет на будущее машинного обучения?

Обучение моделей требует много данных и много вычислительной мощности. Чем больше разнообразие случаев использования, тем больше данных требуется, и тем больше времени вычисления необходимо для обучения модели до удовлетворительного уровня точности. С федеративным обучением обучение координируется на краю в каждом устройстве на основе местных условий. Это может сделать обучение более эффективным (зачем обучать для того, чтобы кенгуру переходил дорогу в Аляске) и также является большим преимуществом для конфиденциальности, поскольку обучающие данные – например, чье-то лицо – не отправляются на центральный сервер.

Учитывая, что наш процесс оптимизации включает то, что мы называем “циклом обучения”, чтобы сохранить точность оптимизированной модели, нашей конечной целью будет сделать то, что мы делаем, частью начального процесса обучения, а не вторым проходом. Сейчас это аспирируется, но это часть нашей долгосрочной цели.

Как стартапу привлечь таланты и мозговой потенциал, который необходим?

Это большая проблема – привлечь правильный талант ИИ сегодня – слишком мало людей и высокая конкуренция за набор. Наша команда просто отличная. Они сами являются магнитом для талантов. Мы предлагаем потенциальным кандидатам говорить и интервьюироваться с нашей командой. Как только они видят уровень людей в Deeplite, они хотят быть здесь. Как стартап, мы предлагаем отличную культуру и возможность работать над чем-то новым и перспективным, что может стать игроком в многих отраслях и продуктах. Я думаю, что эта возможность, вместе с командой, является ключом к привлечению лучших талантов. Мы также стратегически расположены в двух крупных североамериканских хабах ИИ, Монреале и Торонто, что помогает. Как канадская компания, мы используем программу Global Talent Stream правительства, чтобы привлечь таланты из любой точки мира, спонсировать новых сотрудников и быстро переводить их в Канаду.

У вас есть какие-либо советы для других предпринимателей в области ИИ?

Это выходит за рамки ИИ, но как повторяющийся предприниматель, я узнал, насколько важно иметь поддержку семьи, потому что решение стать предпринимателем не является индивидуальным – оно влияет на всех – супругов и детей включительно. Все являются частью этого пути с вами, и все делают жертвы. Вы должны признать и оценить это, и это то, как семьи могут оставаться вместе на протяжении всего пути.

Есть ли что-то еще, что вы хотели бы поделиться о Deeplite?

Одним из уникальных аспектов Deeplite является наши сооснователи. Дэвис в середине 20-х, и он невероятно умный и энергичный. Он определенно эксперт в области, в которой мы работаем. Эхсан – иммигрант из Ирана с докторской степенью, и, как упоминалось ранее, он настоящий мозг за нашей интеллектуальной собственностью. А я – 50+ летний ветеран, который построил компании раньше. Мы трио – интересная комбинация, которая приносит разные сильные стороны и опыт в стол. Я очень благодарен, что у меня такие отличные партнеры и окружен такой отличной командой.

Спасибо за отличное интервью, я с нетерпением жду, чтобы следить за прогрессом Deeplite и это компания, которая будет на моем радаре. Читателям, которые хотят узнать больше, следует посетить Deeplite.