Орр Данон, генеральный директор и сооснователь Hailo – Интервью

Орр Данон – генеральный директор и сооснователь Hailo, компании, миссия которой – раскрыть полный потенциал умных технологий на краю сети. Решение, которое предлагает Hailo, сокращает разрыв между существующими и будущими технологиями искусственного интеллекта и вычислительной мощностью, необходимой для работы этих приложений. Компания фокусируется на создании эффективных и компактных процессоров искусственного интеллекта, способных обрабатывать и интерпретировать огромные объемы данных в реальном времени.

Не могли бы вы рассказать историю создания Hailo?

Я стал сооснователем Hailo в 2017 году вместе с коллегами, которых я знал ранее в элитном технологическом подразделении израильской армии. Работая с моими сооснователями Рами Фейгом и Ави Баумом над решениями для Интернета вещей, мы постоянно сталкивались с концепцией “глубокого обучения”. В конечном итоге мы собрали вместе экспертов в этой области, чтобы разработать новое решение на основе глубокого обучения, которое должно было решить проблемы устаревшей компьютерной архитектуры, чтобы позволить умным устройствам работать более эффективно и результативно на краю сети. После трагической смерти Рами команда Hailo реализовала его видение, создав революционный процессор искусственного интеллекта Hailo.

Не могли бы вы кратко объяснить, почему вычисления на краю сети часто являются лучшим решением, чем облачные вычисления?

Когда мы начали Hailo, новаторские технологии искусственного интеллекта в основном были ограничены облаком или большими центрами обработки данных, поскольку они требуют больших затрат, высокой вычислительной мощности и обширного оборудования для работы, а также потребляют значительное количество энергии. Мы считаем, что искусственный интеллект помогает создать лучший, более безопасный, более продуктивный и интересный мир, но для этого искусственный интеллект должен быть доступен на краю сети. Для реализации приложений в реальном времени и с низкой задержкой на устройствах, таких как сетевые камеры, транспортные средства и устройства Интернета вещей, обработка на месте имеет решающее значение для эффективной работы. С помощью искусственного интеллекта на краю сети мы можем полностью использовать ряд ключевых случаев, которые будут стимулировать будущее умных городов, интеллектуального транспорта, автономного вождения, систем управления видео, Индустрии 4.0 и многое другое.

Какие есть проблемы при обработке визуальных данных на краю сети?

Цель состоит в том, чтобы получить максимальную производительность и максимальное количество функций, которые можно упаковать в устройства на краю сети, чтобы они могли быстро и с минимальной задержкой обрабатывать огромное количество визуальных данных; однако одним из ключевых ограничений является потребление энергии – как в плане того, сколько энергии можно доставить к устройству, так и в плане тепла, генерируемого процессором.

Например, с умными камерами производители нуждаются в процессоре искусственного интеллекта, который может поместиться в 2-3 Вт, поскольку камера не может использовать вентиляторное охлаждение и обычно имеет ограниченный источник питания. Эти проблемы являются острыми, поскольку при такой низкой мощности производительность чрезвычайно ограничена при использовании большинства процессоров на рынке.

Как Hailo переосмыслила архитектуру процессора искусственного интеллекта?

Мы сделали это, специально проектируя процессор искусственного интеллекта, предназначенный для работы на устройствах на краю сети, учитывая ограничения по размеру и мощности. Таким образом, мы обеспечиваем беспрецедентную вычислительную мощность на устройствах на краю сети, позволяя им работать более эффективно и результативно, и выполнять сложные приложения глубокого обучения, такие как обнаружение объектов, распознавание объектов, сегментация и другие, с уровнями производительности, ранее возможными только в облаке. Эта уникальная архитектура позволяет обрабатывать несколько потоков и несколько приложений, улучшая производительность и стоимость устройства на краю сети.

Одним из примеров использования этой архитектуры являются системы управления видео (VMS). Эти системы используются в районах с большим количеством камер, таких как офисные здания, стадионы, умные городские приложения и шоссе, для лучшего управления безопасностью и безопасностью, включая мониторинг за чрезвычайными ситуациями и авариями, подозрительной деятельностью, управлением трафиком, контролем доступа, сбором платы за проезд и многое другое. В течение многих лет предприятия полностью полагались на ручные процессы при сборе, анализе и хранении видеоданных. Теперь, с помощью уникальной архитектуры нейронной сети Hailo, VMS могут выполнять несколько задач параллельно в реальном времени, позволяя обрабатывать больше каналов и больше приложений одновременно. Примеры включают расширенное распознавание номерных знаков (LPR), мониторинг трафика, обнаружение поведения и многое другое.

Не могли бы вы обсудить ядро обработки нейронной сети и ваш подход к расчету нейронных сетей параллельно, а не последовательно?

Наш процессор искусственного интеллекта сочетает несколько инноваций, которые решают фундаментальные свойства нейронных сетей. Мы применили инновационную схему управления, основанную на сочетании аппаратного и программного обеспечения, чтобы достичь очень низкого уровня джоулей на операцию с высокой степенью гибкости.

Наша уникальная архитектура, ориентированная на поток данных, адаптируется к структуре нейронной сети и позволяет высокоэффективно использовать ресурсы. Компилятор потока данных Hailo состоит из полного программного обеспечения, спроектированного вместе с нашим оборудованием, для обеспечения эффективной развертываемости нейронных сетей. Компилятор потока данных получает пользовательскую модель в качестве входных данных. В рамках процесса сборки компилятор потока данных разбивает каждый слой сети на необходимые вычислительные элементы, генерируя граф ресурсов, который представляет собой представление целевой сети. Затем компилятор потока данных сопоставляет граф ресурсов целевой сети с физическими ресурсами, доступными на процессоре, генерируя индивидуальный конвейер для целевой сети. Когда это выполняется таким образом, запуск модели на устройстве является высокоэффективным, используя минимальные вычислительные ресурсы во все время.

Какие из текущих платформ Hailo доступны для бизнеса?

Процессор Hailo-8 и модули искусственного интеллекта можно подключить к различным устройствам на краю сети, помогая обеспечить несколько секторов лучшими возможностями искусственного интеллекта – включая автомобильную промышленность, умные города, умную розницу и Индустрию 4.0.

Hailo сотрудничает с ведущими игроками VMS и ISV, такими как Innovatrics, Network Optix, GeoVision и Art of Logic, для обеспечения высокопроизводительных видеоаналитических возможностей в масштабе.

Сколько времени могут сэкономить эти решения для клиентов, которые интегрируют решения искусственного интеллекта?

Поиск интегрированных решений, работающих на устоявшихся платформах VMS, экономит время, но это не главное преимущество системы. Решения VMS на основе Hailo позволяют запускать больше потоков параллельно и обрабатывать больше приложений для каждого потока.

Возможность использовать искусственный интеллект для обработки нескольких видеопотоков также означает, что только конкретные события необходимо передавать в облако для хранения, что позволяет сэкономить значительное количество полосы пропускания и емкости хранения.

Какие уроки вы выучили из развертывания приложений глубокого обучения на устройствах на краю сети?

Мы увидели лично, как искусственный интеллект на краю сети будет играть ключевую роль в стимулировании инноваций в различных секторах в ближайшие годы. Поскольку предприятия ищут решения, которые обеспечивают, что их устройства более мощные, универсальные, отзывчивые и безопасные, облако будет продолжать уступать место устройствам на краю сети и гибридным моделям. Те, кто добьется успеха в реализации искусственного интеллекта на краю сети, получат преимущество во всех отношениях.

Каково ваше видение будущего вычислений на краю сети?

Вычисления на краю сети – в частности, искусственный интеллект на краю сети – имеют возможность полностью изменить, как работает мир вокруг нас, позволяя устройствам, таким как умные камеры, интеллектуальные транспортные средства, автономные роботы, передовые инструменты управления трафиком, умное строительство, умные заводы и многое другое. Искусственный интеллект на краю сети имеет силу изменить все и вся, позволяя создавать новые приложения, которые сделают наш мир умнее и безопаснее. Технология обработки искусственного интеллекта Hailo является важным фактором всех этих случаев использования. Мы продолжим сотрудничать с производителями и инноваторами по всему миру, чтобы сделать эти решения более доступными.

Благодарим за отличное интервью, читатели, которые хотят узнать больше, могут посетить Hailo.