Orr Danon, CEO & Co-Founder of Hailo – Інтерв’ю Серія

Orr Danon – це CEO та співзасновник Hailo, компанії, яка має на меті забезпечити можливість розумним технологіям на краю досягнути свого повного потенціалу. Рішення, яке пропонує Hailo, закриває розрив між існуючими та майбутніми технологіями штучного інтелекту та обчислювальною потужністю, необхідною для роботи цих застосунків. Компанія зосереджена на створенні ефективних та компактних процесорів штучного інтелекту, які можуть обробляти та інтерпретувати великі об’єми даних в режимі реального часу.

Чи можете ви поділитися історією походження Hailo?

Я заснував Hailo в 2017 році разом з колегами, яких зустрів раніше в елітному технологічному підрозділі збройних сил Ізраїлю. Працюючи з моїми співзасновниками Рамі Фейгом та Аві Баумом над рішеннями Інтернету речей (IoT), менш відомий конструкт – “Глибоке навчання” – постійно з’являвся під час наших досліджень. Врешті-решт, ми зібрали разом експертів у галузі для розробки нового рішення глибокого навчання, яке мало на меті вирішити недоліки старіючої комп’ютерної архітектури для забезпечення ефективнішої та ефективнішої роботи розумних пристроїв на краю. Після трагічної смерті Рамі команда Hailo здійснила його бачення – створила революційний процесор штучного інтелекту.

Чи можете ви коротко пояснити, чому обчислення на краю часто є кращим рішенням, ніж обчислення в хмарі?

Коли ми заснували Hailo, революційні технології штучного інтелекту були в основному обмежені хмарою або великими центрами даних, оскільки вони є дорогими, потребують високої обчислювальної потужності та великої кількості апаратного забезпечення для роботи, а також споживають значну кількість енергії. Ми вважаємо, що штучний інтелект допомагає створити кращий, безпечніший, більш продуктивний і цікавий світ, але для цього штучний інтелект повинен бути доступний на краю також. Для реалізації застосунків в режимі реального часу та з низькою затримкою на пристроях, таких як мережеві камери, транспортні засоби та пристрої Інтернету речей, обробка на місці є важливою для ефективної роботи. З допомогою обчислення на краю ми можемо повністю використати ряд ключових випадків використання, які забезпечують майбутнє розумних міст, інтелектуального транспорту, автономного руху, систем відеоспостереження (VMS), Індустрії 4.0 та ін.

Які є деякі з викликів, пов’язаних з обробкою візуальних даних на краю?

Мета полягає в тому, щоб отримати якомога більшу продуктивність та якомога більше функцій, які можна упакувати в пристрої на краю, щоб вони могли обробляти величезну кількість візуальних даних швидко та з мінімальною затримкою; однак одним з ключових обмежень є споживання енергії – як у плані того, скільки енергії можна доставити до пристрою, так і тепла, яке генерується процесором.

З інтелектуальними камерами, наприклад, виробники потребують процесора штучного інтелекту, який може поміститися в оболонку 2-3 Вт, оскільки камера не може використовувати вентиляторне охолодження та оскільки вона зазвичай матиме обмежене джерело живлення. Це гострі болі, оскільки при такій низькій потужності продуктивність дуже обмежена при використанні більшості процесорів на ринку.

Як Hailo переосмислила архітектуру процесора штучного інтелекту?

Ми зробили це, спеціально розробивши процесор штучного інтелекту, який створений для роботи на пристроях на краю, враховуючи обмеження розміру та потужності. Завдяки цьому ми забезпечуємо безпрецедентну обчислювальну потужність на пристроях на краю, що дозволяє їм працювати з штучним інтелектом більш ефективно та ефективно, а також виконувати складні завдання глибокого навчання, такі як виявлення об’єктів, розпізнавання об’єктів, сегментація та інші, з рівнями продуктивності, які раніше були можливі лише в хмарі. Ця унікальна архітектура дозволяє багатопотокову та багатокористувацьку обробку, покращуючи продуктивність та ефективність пристроїв на краю.

Одним з прикладів використання цієї архітектури є системи відеоспостереження (VMS). Ці системи використовуються в районах з великою кількістю камер, таких як офісні будівлі, стадіони, застосування розумних міст та шосе, для кращого управління безпекою та безпекою, включаючи моніторинг за надзвичайними ситуаціями та аваріями, підозрілою діяльністю, управління рухом, контролем доступу, збором плати за проїзд та ін. Багато років підприємствами залежали цілком від ручних процесів, коли мова йшла про збирання, аналіз та зберігання відеоданих. Тепер, завдяки унікальній архітектурі нейронної мережі Hailo, VMS можуть виконувати кілька завдань паралельно, в режимі реального часу, що дозволяє обробляти більше каналів та більше застосунків одночасно. Застосунки включають розширений розпізнавання номерних знаків (LPR), моніторинг руху, виявлення поведінки та ін.

Чи можете ви обговорити ядро обробки нейронної мережі та ваш підхід до розрахунку нейронних мереж паралельно, а не послідовно?

Наш процесор штучного інтелекту поєднує кілька інновацій, які адресують фундаментальні властивості нейронних мереж. Ми застосували інноваційну схему контролю, яка базується на поєднанні апаратного та програмного забезпечення для досягнення дуже низької кількості джоулів на операцію з високим ступенем гнучкості.

Наша унікальна архітектура, орієнтована на потік даних, адаптується до структури нейронної мережі та дозволяє високе використання ресурсів. Компілятор потоку даних Hailo складається з повного стеку програмного забезпечення, співрозробленого з нашим апаратним забезпеченням, для забезпечення ефективної розгортки нейронних мереж. Компілятор потоку даних отримує модель користувача як вхідні дані. Під час процесу побудови компілятор потоку даних розбиває кожний шар мережі на необхідні обчислювальні елементи, генеруючи граф ресурсів, який є представленням цільової мережі. Компілятор потоку даних потім збігається граф ресурсів цільової мережі з фізичними ресурсами, доступними на процесорі, генеруючи налаштований канал даних для цільової мережі. Коли це здійснюється в цьому порядку, виконання моделі на пристрої є високо ефективним, використовуючи мінімальну кількість обчислювальних ресурсів у mọi час.

Які є деякі поточні платформи Hailo, які доступні для підприємств?

Процесор Hailo-8 та модулі штучного інтелекту можуть бути підключені до різноманітних пристроїв на краю, допомагаючи забезпечувати кілька секторів надзвичайними можливостями штучного інтелекту – включаючи автомобільну промисловість, розумні міста, розумну роздрібну торгівлю та індустрію 4.0.

Hailo співпрацює з провідними гравцями VMS та ISV, такими як Innovatrics, Network Optix, GeoVision та Art of Logic, для забезпечення високопродуктивної відеоаналітики у масштабі.

Як багато часу можуть ці рішення заощадити клієнтам, які інтегрують рішення штучного інтелекту?

Пошук інтегрованих рішень, які працюють на встановлених платформах VMS, економить час, але це не є основною перевагою системи. Рішення VMS, засновані на Hailo, дозволяють виконувати більше потоків паралельно та обробляти більше застосунків для кожного потоку.

Спроможність використовувати штучний інтелект для обробки кількох відеопотоків також означає, що тільки конкретні події повинні бути передані до хмари для зберігання, що дозволяє досягти значних заощаджень на пропускній здатності та місткості зберігання.

Які є деякі уроки, які ви вивчили з розгортання застосунків глибокого навчання на пристроях на краю?

Ми бачили на власні очі, як штучний інтелект на краю буде відігравати ключову роль у стимулюванні інновацій у широкому спектрі секторів у найближчі роки. Коли підприємства шукають рішення, які забезпечують, що їхні пристрої є більш потужними, універсальними, реактивними та безпечними, хмару буде продовжувати замінювати пристрої на краю та гібридні моделі. Ті, хто успішно реалізує штучний інтелект на краю, отримають перевагу в усіх аспектах.

Яке є ваше бачення майбутнього обчислення на краю?

Обчислення на краю – зокрема штучний інтелект на краю – має можливість повністю трансформувати, як працює світ навколо нас, забезпечуючи пристрої, такі як інтелектуальні камери, розумні транспортні засоби, автономні роботи, інструменти управління рухом, розумну будівництво, розумні фабрики та ін. Штучний інтелект на краю має силу змінити все та все, забезпечуючи нові застосування для створення розумнішого та безпечнішого світу. Технологія обробки штучного інтелекту Hailo є основним засобом реалізації всіх цих випадків використання. Ми продовжимо співпрацювати з виробниками та інноваторами усього світу для того, щоб зробити ці рішення більш доступними.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Hailo.