Орр Данон, генеральний директор і співзасновник Hailo – Серія інтерв’ю

Орр Данон, генеральний директор і співзасновник Хайло, компанія, місія якої полягає в тому, щоб забезпечити повну реалізацію потенціалу розумних передових технологій. Рішення, представлене Hailo, усуває розрив між існуючими та майбутніми технологіями ШІ та обчислювальною потужністю, необхідною для роботи цих програм. Компанія зосереджена на створенні достатньо ефективних і компактних процесорів штучного інтелекту для обчислення та інтерпретації величезних обсягів даних у режимі реального часу.

Не могли б ви поділитися історією генезису Hailo?

Я заснував Hailo у 2017 році разом із колегами, з якими раніше зустрічався в елітному технологічному підрозділі Армії оборони Ізраїлю (IDF). Під час роботи з моїми співзасновниками Рамі Фейгом і Аві Баумом над рішеннями IoT (Інтернет речей) менш відома конструкція – «Глибоке навчання» – постійно з’являлася під час нашого дослідження. Зрештою ми об’єднали експертів у цій галузі, щоб розробити нове рішення для глибокого навчання, спрямоване на усунення недоліків старіючої комп’ютерної архітектури, щоб дозволити розумним пристроям працювати ефективніше та ефективніше на межі. Після нещасної смерті Рамі команда Hailo реалізувала його бачення – створила революційний процесор AI Hailo.

Не могли б ви коротко пояснити, чому периферійні обчислення часто є кращим рішенням, ніж хмарні обчислення?

Коли ми запустили Hailo, революційні технології штучного інтелекту здебільшого обмежувалися хмарою або великими центрами обробки даних, оскільки вони дорогі, вимагають високої обчислювальної потужності та великого апаратного забезпечення для роботи та споживають значну кількість енергії. Ми віримо, що штучний інтелект допомагає створити кращий, безпечніший, продуктивніший і захопливіший світ, але щоб це сталося, штучний інтелект також має бути доступним на краю. Для реалізації додатків у режимі реального часу та з низькою затримкою на таких пристроях, як мережеві камери, транспортні засоби та пристрої Інтернету речей, обробка на джерелі є важливою для ефективної роботи. За допомогою периферійного штучного інтелекту ми можемо повністю використати низку ключових варіантів використання, які забезпечують майбутнє розумних міст, інтелектуального транспорту, автономного водіння, систем керування відео (VMS), промисловості 4.0 тощо.

Які труднощі пов’язані з обробкою візуальних даних на межі?

Мета полягає в тому, щоб отримати якомога більшу продуктивність і якомога більше функцій, які можуть бути упаковані в крайні пристрої, щоб вони могли обробляти величезну кількість візуальних даних швидко та з невеликою затримкою; однак одним із ключових обмежень є енергоспоживання – як з точки зору того, скільки енергії може бути передано на пристрій, так і з точки зору тепла, що виділяється процесором.

з інтелектуальні камериНаприклад, виробникам потрібен процесор штучного інтелекту, щоб він містив потужність 2-3 Вт, тому що камера не може використовувати охолодження вентилятором і, як правило, матиме обмежений джерело живлення. Це гострі больові точки, тому що при такій низькій потужності продуктивність надзвичайно обмежена при використанні більшості процесорів на ринку.

Як Hailo переосмислив архітектуру процесора AI?

Ми зробили це, спеціально розробивши процесор штучного інтелекту, який створено для роботи на периферійних пристроях, враховуючи обмеження розміру та потужності. Завдяки цьому ми забезпечуємо безпрецедентну обчислювальну потужність на периферійних пристроях, дозволяючи їм ефективніше та результативніше запускати ШІ та виконувати складні програми глибокого навчання, такі як виявлення об’єктів, розпізнавання об’єктів, сегментація та інші, з рівнями продуктивності, які раніше були можливими лише в хмара. Ця унікальна архітектура забезпечує багатопотокову обробку й обробку кількох додатків, покращуючи продуктивність і економічну ефективність периферійних пристроїв.

Одним із прикладів використання цієї архітектури є системи керування відео (VMS). Ці системи використовуються в місцях з великою кількістю камер, таких як офісні будівлі, стадіони, програми для розумних міст і автомагістралі, щоб краще керувати безпекою та безпекою, включаючи моніторинг надзвичайних ситуацій і аварій, підозрілу активність, керування дорожнім рухом, контроль доступу, збір плати тощо. . Протягом багатьох років підприємства повністю покладалися на ручні процеси, коли справа доходила до збору, аналізу та зберігання відеоданих. Тепер, завдяки унікальній архітектурі нейронної мережі Hailo, VMS може виконувати кілька завдань паралельно в режимі реального часу, дозволяючи обробляти більше каналів і більше програм одночасно. Програми включають розширене розпізнавання номерних знаків (LPR), моніторинг дорожнього руху, виявлення поведінки тощо.

Чи могли б ви обговорити ядро ​​обробки нейронної мережі та ваш підхід до обчислення нейронних мереж паралельно чи послідовно?

Наш процесор штучного інтелекту поєднує численні інновації, спрямовані на фундаментальні властивості нейронних мереж. Ми застосували інноваційну схему керування, яка базується на поєднанні апаратного та програмного забезпечення, щоб досягти дуже низьких джоулів на операцію з високим ступенем гнучкості.

Наша унікальна архітектура, орієнтована на потік даних, адаптується до структури нейронної мережі та забезпечує високе використання ресурсів. Компілятор потоку даних Hailo складається з програмного забезпечення повного стеку, розробленого спільно з нашим апаратним забезпеченням, щоб забезпечити ефективне розгортання нейронних мереж. Компілятор потоку даних отримує модель користувача як вхідні дані. Як частина процесу збирання, компілятор потоку даних розбиває кожен із мережевих рівнів на необхідні обчислювальні елементи, генеруючи графік ресурсів, який є представленням цільової мережі. Потім компілятор потоку даних зіставляє графік ресурсів цільової мережі з фізичними ресурсами, доступними на процесорі, генеруючи налаштований канал даних для цільової мережі. При виконанні таким чином запуск моделі на пристрої є високоефективним, використовуючи мінімальні обчислювальні ресурси в будь-який час.

Які сучасні платформи на базі Hailo доступні для бізнесу?

Процесор Hailo-8™ і модулі штучного інтелекту можна підключати до різноманітних периферійних пристроїв, допомагаючи багатьом секторам забезпечувати чудові можливості штучного інтелекту, включаючи автомобільну промисловість, розумні міста, розумну роздрібну торгівлю та промисловість 4.0.

Hailo співпрацює з провідними гравцями VMS і ISV, такими як Innovatrics, Network Optix, GeoVision і Art of Logic, щоб забезпечити високоефективну відеоаналітику в масштабі.

Скільки часу ці рішення можуть заощадити клієнтам, які інтегрують рішення ШІ?

Пошук інтегрованих рішень, які працюють на визнаних платформах VMS, економить час, але це не головна перевага системи. Рішення VMS на основі Hailo дозволяють паралельно запускати більше потоків і обробляти більше програм для кожного потоку.

Можливість використовувати штучний інтелект для обробки кількох відеопотоків також означає, що лише певні події потрібно передавати в хмару для зберігання, що дозволяє значно заощадити на пропускній здатності та ємності зберігання.

Які уроки ви отримали, розгортаючи програми глибокого навчання на периферійних пристроях?

Ми на власні очі бачили, як штучний інтелект на межі відіграватиме ключову роль у стимулюванні інновацій у багатьох секторах у найближчі роки. Оскільки компанії шукають рішення, які гарантують, що їхні пристрої будуть більш потужними, універсальними, чутливими та безпечними, хмара продовжуватиме поступатися місцем периферійним пристроям і гібридним моделям. Ті, кому вдасться впровадити штучний інтелект на межі, отримають перевагу за всіма напрямками.

Яке ваше бачення майбутнього периферійних обчислень?

Граничні обчислення — зокрема штучний інтелект на межі — мають здатність повністю трансформувати роботу навколишнього світу, створюючи такі пристрої, як інтелектуальні камери, розумні транспортні засоби, автономні роботи, передові інструменти керування трафіком, розумне будівництво, розумні фабрики тощо. Штучний інтелект на межі має силу змінювати все і вся, дозволяючи новим програмам робити наш світ розумнішим і безпечнішим. Технологія обробки штучного інтелекту Hailo є основним фактором у всіх цих випадках використання. Ми продовжуватимемо співпрацювати з виробниками та новаторами по всьому світу, щоб зробити ці рішення доступнішими.

Дякую за чудове інтерв’ю, читачі, які хочуть дізнатися більше, повинні відвідати Хайло.