Роль tinyML в реализации компьютерного зрения на краю сети – лидеры мнений

Автор: Дэвис Сойер, сооснователь и главный директор по продукту, Deeplite

Компьютерное зрение имеет огромный потенциал для улучшения нашей повседневной жизни – и существует множество применений и использований для него. Некоторые примеры включают:

• Умные дверные звонки для домашней безопасности помогают предотвратить кражи на крыльце и взлом. Согласно исследованиям I.H.S. Markit (опубликованным в SecurityInfoWatch) количество глобальных камер видеонаблюдения во всем мире должно было достичь 1 миллиарда в 2021 году. Только в США количество камер должно было достичь 85 миллионов;
• На парковках камеры с искусственным интеллектом автоматизируют отслеживание доступных и занятых парковочных мест, чтобы потребители знали, где есть свободные места;
• Камеры на приборной панели на грузовиках теперь читают знаки ограничения скорости и динамически снижают скорость грузовика, чтобы улучшить безопасность;
• И дроны с подключенными камерами отслеживают удаленные и труднодоступные районы и могут обрабатывать изображения и принимать решения в режиме реального времени.

Все эти применения используют интеллектуальный видеоанализ, управляемый искусственным интеллектом и машинным обучением, чтобы смотреть видео, использовать интеллект для принятия решений и затем выполнять действия.

Компьютерное зрение требует больше ресурсов на краю сети

Однако, как и многие приложения, управляемые искусственным интеллектом, компьютерное зрение требует всплесков вычислительной мощности, памяти и энергии для выполнения сложного анализа и принятия решений. Хотя это нормально в центре обработки данных с большим количеством вычислительной мощности, это может предотвратить перемещение искусственного интеллекта на край сети. Конкретно, небольшие устройства, расположенные далеко от корпоративных центров обработки данных и работающие на небольших батареях, требуют нового поколения искусственного интеллекта, которое меньше, быстрее и “легче” традиционных подходов. И существующие устройства будут нуждаться в обновлении с новой функциональностью искусственного интеллекта и машинного обучения, чтобы остаться жизнеспособными и конкурентоспособными.

Новые достижения стимулируют глубокие нейронные сети

Сегодня новые достижения в области искусственного интеллекта делают глубокие нейронные сети (ГНС) быстрее, меньшими и более энергоэффективными – и помогают переместить искусственный интеллект из облака и центров обработки данных на устройства на краю сети и батарейные датчики. Когда речь идет об обучении моделей искусственного интеллекта, ошеломляющий углеродный след был задокументирован и обсужден (например, обучение одной модели языка искусственного интеллекта выбрасывает столько же CO2, сколько 5 автомобилей за их всю жизнь). Однако нам нужно понять, какой экологический удар имеет вывод моделей искусственного интеллекта и как уменьшить этот след. Это то место, где оптимизация моделей может иметь огромные выгоды за счет снижения экономических и экологических затрат ГНС.

TinyML позволяет использовать искусственный интеллект на небольших устройствах

Одним из таких достижений является tinyML, мощная новая тенденция, которая позволяет небольшим, батарейным устройствам использовать передовые методы машинного обучения для доставки компьютерного зрения и других задач восприятия. Она облегчает вывод моделей машинного обучения на небольших, ограниченных ресурсами устройствах, обычно на краю сети, и помогает включать приложения на краю сети ближе к пользователю.

Например, серверная видеокарта, такая как NVIDIA A100, имеет более 40 ГБ доступной памяти, что подходит для запуска сложных искусственных интеллектов, таких как компьютерное зрение и обработка естественного языка. Однако, когда мы говорим об устройствах на краю сети и tinyML, обычный микроконтроллер (МК) может иметь только 256 КБ памяти на кристалле, что более чем в 100 000 раз меньше памяти, чем в облаке! Кроме того, в отличие от центров обработки данных и облака, аппаратное обеспечение устройств на краю сети не может быть легко обновлено в поле. Это означает, что нам нужно “вписать” наш искусственный интеллект в доступное аппаратное обеспечение, что может занять месяцы или годы проб и ошибок для разработчиков, если вообще возможно. Это то место, где tinyML, в частности, автоматическое машинное обучение (также называемое AutoML), может сыграть значительную роль в разрушении барьеров для принятия искусственного интеллекта в реальном мире.

И влияние tinyML растет. С более чем 10 000 участников, Фонд tinyML растет экосистему для поддержки разработки и развертывания сверхнизкопотребляющих решений машинного обучения на краю сети. Фонд объединяет глобальное сообщество аппаратных и программных инженеров, специалистов по машинному обучению, ученых, системных инженеров, дизайнеров, специалистов по продукту и бизнесменов.

Мир возможностей

В целом, существует миллиарды небольших, подключенных устройств повсюду, которые могут извлечь выгоду из передовой интеллекта. Вызов заключается в том, что у них очень ограниченные ресурсы, поэтому как мы можем добавить интеллект к ним? tinyML может сыграть ключевую роль в принесении искусственного интеллекта и машинного обучения в больше компьютерных приложений, основанных на компьютерном зрении, в реальном мире, на небольших устройствах на краю сети. И это может открыть мир выгод для людей и компаний по всей линейке продуктов, услуг и отраслей, помогая нам продвигаться в новые рубежи для искусственного интеллекта.