Нік Романо, співзасновник та генеральний директор Deeplite – Інтерв’ю серія

Нік Романо – співзасновник та генеральний директор Deeplite – рішення для оптимізації штучних нейронних мереж, яке робить їх швидшими, меншими та енергоефективними від хмарних до країв обчислень.

Нік – серійний підприємець та досвідчений генеральний директор, який протягом понад 20 років досягає успіху. Нещодавно він став співзасновником та розширив підприємство SaaS з багатомільйонними доходами та понад 100 співробітниками. Він був нагороджений університетом Макмастера як один із 150 найкращих випускників.

Що спочатку привернуло вашу увагу до штучного інтелекту?

Я понад 25 років працюю в сфері технологій і бачив багато циклів і тенденцій, деякі з яких були просто модними, а деякі реальними. Штучний інтелект – це динамічна та зростаюча галузь, і те, що мені подобається в ній, це те, як ця технологія може бути використана в багатьох різних способах для поліпшення життя та роботи людей. Я хотів бути частиною цього руху. Однак існують перешкоди для впровадження штучного інтелекту в реальні середовища. Для цього потрібно багато обчислювальної потужності та енергії, щоб штучний інтелект працював правильно – це обчислювально інтенсивно. Це нормально в лабораторії, але якщо це занадто велике або занадто повільне, або займає занадто багато енергії, то важко впровадити штучний інтелект в реальні сценарії. Це наша місія, і це справжня привабливість для мене – забезпечення штучного інтелекту для повсякденного життя.

Чи можете ви розповісти нам про історію створення Deeplite?

Ідея Deeplite виникла в інкубаторі TandemLaunch у Монреалі. Девіс Сойєр, який зараз наш головний офіцер з продукту та експерт у сфері штучного інтелекту, і Ехсан Саборі, який зараз наш технічний директор і справжній мозок нашої інтелектуальної власності, почали розробляти цю технологію там. Я приєднався до них у 2019 році, привівши свій досвід керівництва технологічними компаніями та розширюючи їх, і ми офіційно запустили Deeplite як компанію в середині 2019 року. Тепер у нас понад 20 співробітників з офісами в Монреалі та Торонто, і ми оголосили про серію фінансування у розмірі 6 мільйонів доларів у квітні 2021 року.

Чому так важливо розміщувати обробку штучного інтелекту безпосередньо в апаратному забезпеченні, а не в хмарі, у певних випадках, таких як автономні транспортні засоби та дрони?

Є багато причин, чому ви хочете запустити свій процес інференсу, процес прийняття рішень штучного інтелекту, в місці захоплення даних, а не в хмарі. Найбільшою причиною в критичних застосуваннях, таких як автономні транспортні засоби, є те, що називається затримкою, тобто тим, як довго штучний інтелект потребує часу для прийняття рішення. Якщо вам потрібно захопити дані, відправити їх у хмару для інференсу, а потім повернути результати назад, це очевидно займе більше часу, ніж виконання цього локально в реальному часі. У автономному керуванні мілісекунди мають велике значення.

Інші причини включають конфіденційність, збереження чутливих даних локально, а не відправку їх у хмару, а також підключення, яке в разі його відсутності робить хмарний інференс недієвим. Комплексні глибокі нейронні мережі, які керують штучним інтелектом, потребують багато обчислювальної потужності для виконання, вони використовують багато пам’яті та споживають багато енергії, тому рішення штучного інтелекту були змушені використовувати хмару. Отже, щоб вийти з хмари та запустити штучний інтелект локально на краю в транспортному засобі або дроні, наприклад, потрібно знайти спосіб зменшити загальний розмір та енергетичний профіль моделі, щоб вона могла запускатися безпосередньо на апаратному забезпеченні – пристрої – з набагато меншими ресурсами. Це важливо, щоб прорватися через цей бар’єр та привести штучний інтелект до багатьох пристроїв, які служать людям щодня. Це те, де вступає в дію Deeplite.

Чи можете ви розповісти нам, що таке платформа Deeplite Neutrino?

Наша платформа Neutrino перетворює штучний інтелект, зокрема глибокі нейронні мережі або DNN, у новий формат, який є меншим, швидшим та менш енергоспоживним, ніж його первинна форма. З допомогою платформи Deeplite Neutrino команди штучного інтелекту можуть зосередитися на навчанні своїх моделей для точності, тобто того, наскільки часто рішення правильне, та використовувати нашу платформу для оптимізації моделі штучного інтелекту, щоб вона могла бути розгорнута на обмеженому апаратному забезпеченні на краю. Платформа Deeplite Neutrino робить це без компромісу з первинною точністю штучного інтелекту. По суті, ми беремо великі моделі штучного інтелекту та робимо їх меншими, швидшими та більш енергоефективними. Метою є вивести штучний інтелект з лабораторії та у реальний світ у речі, які ми використовуємо щодня.

Як платформа Deeplite Neutrino може зробити штучний інтелект більш ефективним, швидшим, меншим та потужнішим без компромісу з точністю первинної моделі?

Ми використовуємо новий підхід багатокритеріальної простору проектування. Ми використовуємо первинну модель як一种 “вчителя” та досліджуємо архітектуру моделі, шукаючи найкращу “учня” модель, яка задовольняє проектні обмеження, вказані користувачем Deeplite, для автоматичної оптимізації моделей DNN та зробити їх значно швидшими, меншими та більш енергоефективними без втрати продуктивності.

Які з основних випадків використання цього типу штучного інтелекту?

Хоча ми не обмежені цим, наш поточний фокус полягає на комп’ютерному зорі та сприйнятті штучного інтелекту. Наша технологія штучного інтелекту використовується в автономних транспортних засобах, дронах, камерах, телефонах, сенсорах та інших пристроях IoT. Ми також бачимо нові застосування для нього останнім часом, включаючи розумний зубний щітка та розумну кавоварку. Ми навіть працюємо з провідною міжнародною компанією іграшок, яка використовує його для розробки ігор. Те, що надзвичайно цікаво та приємно у тому, що ми робимо, це різноманітність застосунків, які ми бачимо на ринку, де ми можемо допомогти їм оживити.

Які ваші погляди на федераційне навчання та його вплив на майбутнє машинного навчання?

Навчання моделей потребує багато даних та обчислювальної потужності. Чим більша різноманітність випадків використання, тим більше даних потрібно, та тим більше обчислювальної потужності потрібно для навчання моделі до задовільного рівня точності. З федераційним навчанням навчання координується на краю в кожному пристрої на основі місцевих умов даних. Це може зробити навчання більш ефективним (чому навчати для перехрестка кенгуру на дорозі в Алясці) та великою перемогою для конфіденційності, оскільки дані навчання – наприклад, обличчя людини – не відправляються на центральний сервер.

Оскільки наш процес оптимізації включає те, що ми називаємо “тренувальним циклом” для збереження точності оптимізованої моделі, наш кінцевий цілей буде мати те, що ми робимо, частиною первинного процесу навчання, а не другим проходом. Наразі це аспіраційний, але це частина нашої довгострокової мети.

Як стартап, як ви приваблюєте потрібний талант та інтелект?

Це великий виклик привабити правильний талант штучного інтелекту сьогодні – їх занадто мало, а конкуренція за їх приваблення висока. Наша команда чудова. Вони самі є магнітом для талантів. Ми маємо потенційних кандидатів, які спілкуються та проходять співбесіду з нашою командою. Як тільки вони бачать рівень людей у Deeplite, вони хочуть бути тут. Як стартап, ми пропонуємо велику культуру та можливість працювати над чимось новим та емерджентним, що може бути гейм-чейнджером для багатьох різних галузей та продуктів. Я думаю, що ця можливість, разом з командою, є ключем до того, щоб ми приваблювали найкращий талант. Ми також стратегічно розташовані в двох великих північноамериканських хабах штучного інтелекту, Монреалі та Торонто, що допомагає. Як канадська компанія, ми використовуємо програму уряду Global Talent Stream, щоб приваблювати таланти з усього світу, спонсорувати нових працівників та прискорювати їхню інтеграцію до Канади.

Чи маєте ви поради для інших підприємців у сфері штучного інтелекту?

Це виходить за рамки штучного інтелекту, але як повторюваний підприємець, я дізнався, наскільки важливо мати підтримку сім’ї, оскільки рішення стати підприємцем не є індивідуальним – воно впливає на всіх – дружину, дітей включно. Усі є частиною цього шляху з вами, і всі роблять жертви. Ви повинні визнати та оцінити це, і це те, як сім’ї можуть залишатися разом протягом всього шляху.

Чи є щось ще, що ви хотіли б поділитися про Deeplite?

Однією з унікальних особливостей Deeplite є наші співзасновники. Девіс у своїй середині 20-х, і він надзвичайно розумний та енергійний. Він безумовно є експертом у сфері штучного інтелекту. Ехсан – іранський іммігрант з докторським ступенем, і, як згадувалося раніше, справжній мозок нашої інтелектуальної власності. А я – ветеран 50+ років, який побудував компанії раніше. Троє нас – це цікава комбінація, яка приносить різні сильні сторони та досвід до столу. Я дуже вдячний, що маю таких великих партнерів та оточуюсь такою великою командою.

Дякую за велике інтерв’ю, я очікую подальшого прогресу Deeplite та це компанія, яка буде на моєму радарі. Читачам, які бажають дізнатися більше, слід відвідати Deeplite.