Орр Данон, генеральний директор та співзасновник Hailo – Серія інтерв’ю

Орр Данон – генеральний директор та співзасновник компанії Hailo, яка має на меті дозволити розумним технологіям краю досягти свого повного потенціалу. Рішення, яке пропонує Hailo, звужує розрив між існуючими та майбутніми технологіями штучного інтелекту та обчислювальною потужністю, необхідною для роботи цих застосунків. Компанія зосереджена на створенні штучного інтелекту, який є ефективним і компактним enough для обробки та інтерпретації великих обсягів даних в режимі реального часу.

Чи можете Ви розповісти про генезис історії Hailo?

Я заснував Hailo в 2017 році разом з колегами, яких зустрів раніше в елітному технологічному підрозділі збройних сил Ізраїлю. Під час роботи з моїми співзасновниками Рамі Фейгом та Аві Баумом над рішеннями Інтернету речей (IoT) постійно з’являвся термін “Глибоке навчання”. Врешті-решт, ми зібрали експертів у галузі для розробки нового рішення глибокого навчання, яке мало на меті вирішити недоліки старої комп’ютерної архітектури, щоб дозволити розумним пристроям працювати більш ефективно та ефективно на краю. Після трагічної смерті Рамі команда Hailo здійснила його бачення – створила революційний процесор штучного інтелекту Hailo.

Чи можете Ви коротко пояснити, чому обчислення на краю часто є кращим рішенням, ніж хмарне обчислення?

Коли ми почали Hailo, революційні технології штучного інтелекту були в основному обмежені хмарою або великими даними центрами, оскільки вони є дорогими, вимагають великої обчислювальної потужності та великої кількості апаратного забезпечення для роботи, і споживають велику кількість енергії. Ми вважаємо, що штучний інтелект допомагає створювати кращий, безпечніший, більш продуктивний та більш цікавий світ, але для цього штучний інтелект повинен бути доступний на краю також. Для реалізації застосунків в режимі реального часу та з низькою затримкою на пристроях, таких як мережеві камери, транспортні засоби та пристрої Інтернету речей, обробка на джерелі є суттєвою для ефективної роботи. З допомогою обчислення на краю ми можемо повністю використати ряд ключових випадків використання, які забезпечують майбутнє розумних міст, інтелектуального транспорту, автономного руху, систем відеоспостереження (VMS), Промисловості 4.0 та ін.

Які є деякі з викликів, пов’язаних з обробкою візуальних даних на краю?

Мета полягає в тому, щоб отримати якнайбільшу продуктивність та якнайбільше функцій, які можна упакувати в пристрої краю, щоб вони могли обробляти величезну кількість візуальних даних швидко та з мінімальною затримкою; однак одним із ключових обмежень є споживання енергії – як у плані того, скільки енергії можна доставити до пристрою, так і тепла, яке генерується процесором.

Наприклад, з інтелектуальними камерами виробники потребують процесора штучного інтелекту, який може поміститися в 2-3 Ватний конверт, оскільки камера не може використовувати вентиляторне охолодження та має обмежену потужність. Це гострі болі, оскільки при такій низькій потужності продуктивність дуже обмежена при використанні більшості процесорів на ринку.

Як Hailo переосмислила архітектуру процесора штучного інтелекту?

Ми зробили це, спеціально розробивши процесор штучного інтелекту, який призначений для роботи на пристроях краю, враховуючи обмеження розміру та потужності. Завдяки цьому ми дозволяємо безпрецедентну обчислювальну потужність на пристроях краю, дозволяючи їм працювати з штучним інтелектом більш ефективно та ефективно, та виконувати складні застосування глибокого навчання, такі як виявлення об’єктів, розпізнавання об’єктів, сегментація та інші, з рівнями продуктивності, які раніше були можливі лише в хмарі. Ця унікальна архітектура дозволяє багатопотокову та багаторазову обробку, покращуючи продуктивність та ефективність пристроїв краю.

Одним із прикладів використання цієї архітектури є системи відеоспостереження (VMS). Ці системи використовуються в районах з великою кількістю камер, таких як офісні будівлі, стадіони, застосування розумних міст та шосе, для кращого забезпечення безпеки та безпеки, включаючи моніторинг за надзвичайними ситуаціями та аваріями, підозрілою діяльністю, управління трафіком, контроль доступу, збором плати за проїзд та ін. Багато років підприємствами використовувалися повністю ручні процеси при зборі, аналізі та зберіганні відеоданих. Тепер, завдяки унікальній архітектурі нейронної мережі Hailo, VMS можуть виконувати декілька завдань паралельно, в режимі реального часу, дозволяючи обробляти більше каналів та більше застосунків одночасно. Застосування включають розширений розпізнавання номерних знаків (LPR), моніторинг трафіку, поведінкове виявлення та ін.

Чи можете Ви обговорити ядро обробки нейронної мережі та Ваш підхід до розрахунку нейронних мереж паралельно, а не послідовно?

Наш процесор штучного інтелекту поєднує декілька інновацій, які адресують фундаментальні властивості нейронних мереж. Ми застосували інноваційний контрольний механізм, який базується на комбінації апаратного та програмного забезпечення, щоб досягти дуже низької кількості джоулів на операцію з високим ступенем гнучкості.

Наша унікальна архітектура, орієнтована на потік даних, адаптується до структури нейронної мережі та дозволяє високе використання ресурсів. Компілятор потоку даних Hailo складається з повного програмного забезпечення, спільно розробленого з нашим апаратним забезпеченням, для забезпечення ефективної розгортки нейронних мереж. Компілятор потоку даних отримує модель користувача як вхідні дані. Під час процесу побудови компілятор потоку даних розбиває кожний шар мережі на необхідні обчислювальні елементи, генеруючи граф ресурсів, який є представленням цільової мережі. Компілятор потоку даних потім збігається граф ресурсів цільової мережі з фізичними ресурсами, доступними на процесорі, генеруючи налаштований конвеєр для цільової мережі. Коли це робиться в цьому порядку, виконання моделі на пристрої є дуже ефективним, використовуючи мінімальну обчислювальну потужність у будь-який момент.

Які деякі з поточних платформ Hailo, які доступні для підприємств?

Процесор Hailo-8 та модулі штучного інтелекту можуть бути підключені до різноманітних пристроїв краю, допомагаючи забезпечувати декілька секторів вищими можливостями штучного інтелекту – включаючи автомобільну промисловість, розумні міста, розумну роздрібну торгівлю та промисловість 4.0.

Hailo співпрацює з провідними гравцями VMS та ISV, такими як Innovatrics, Network Optix, GeoVision та Art of Logic, для забезпечення високопродуктивної відеоаналітики у масштабі.

Як багато часу можуть ці рішення зберегти клієнтам, які інтегрують рішення штучного інтелекту?

Пошук інтегрованих рішень, які працюють на встановлених платформах VMS, є економією часу, але це не є основною перевагою системи. Рішення Hailo, засновані на VMS, дозволяють обробляти більше потоків паралельно та більше застосунків для кожного потоку.

Спроможність використовувати штучний інтелект для обробки декількох відеопотоків також означає, що тільки конкретні події повинні бути передані в хмару для зберігання, дозволяючи суттєву економію смуги пропускання та місткості зберігання.

Які уроки Ви вивчили з розгортання застосунків глибокого навчання на пристроях краю?

Ми побачили на власні очі, як штучний інтелект на краю відіграє ключову роль у стимулюванні інновацій у широкому спектрі секторів у найближчі роки. Коли підприємства шукають рішення, які забезпечують, що їхні пристрої є потужнішими, універсальними, реактивними та безпечними, хмара продовжуватиме поступатися місцем пристроям краю та гібридним моделям. Ті, хто успішно реалізує штучний інтелект на краю, здобудуть перевагу в усіх аспектах.

Яке Ваше бачення майбутнього обчислення на краю?

Обчислення на краю – особливо штучний інтелект на краю – має здатність повністю змінити, як працює світ навколо нас, дозволяючи пристроям, таким як інтелектуальні камери, розумні транспортні засоби, автономні роботи, передові інструменти управління трафіком, розумна будівництво, розумні фабрики та ін. Штучний інтелект на краю має силу змінити все та все, дозволяючи новим застосункам зробити наш світ розумнішим та безпечнішим. Технологія обробки штучного інтелекту Hailo є основним засобом реалізації всіх цих випадків використання. Ми продовжимо співпрацювати з виробниками та інноваторами по всьому світу, щоб зробити ці рішення більш доступними.

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Hailo.