Новые горизонты в области генеративного искусственного интеллекта — вдали от облака

Вначале был Интернет, который навсегда изменил нашу жизнь — то, как мы общаемся, делаем покупки, ведем бизнес. А затем из соображений задержки, конфиденциальности и экономической эффективности Интернет переместился на периферию сети, что привело к появлению «Интернета вещей».

Теперь появился искусственный интеллект, который делает все, что мы делаем в Интернете, проще, персонализированнее и интеллектуальнее. Однако для его использования необходимы большие серверы и высокая вычислительная мощность, поэтому он ограничивается облаком. Но те же самые мотивы — задержка, конфиденциальность, экономическая эффективность — побудили такие компании, как Hailo, разрабатывать технологии, которые позволяют использовать ИИ на переднем крае.

Несомненно, следующим большим событием является генеративный ИИ. Генеративный ИИ представляет огромный потенциал во всех отраслях. Его можно использовать для оптимизации работы и повышения эффективности различных авторов — юристов, авторов контента, графических дизайнеров, музыкантов и многих других. Это может помочь открыть новые терапевтические лекарства или помочь в медицинских процедурах. Генеративный искусственный интеллект может улучшить промышленную автоматизацию, разработать новый программный код и повысить безопасность транспорта за счет автоматического синтеза видео, аудио, изображений и многого другого.

Однако генеративный ИИ в том виде, в котором он существует сегодня, ограничен технологией, которая его обеспечивает. Это связано с тем, что генеративный искусственный интеллект происходит в облаке — больших центрах обработки данных с дорогостоящими и энергоемкими компьютерными процессорами, удаленными от реальных пользователей. Когда кто-то отправляет запрос генеративному инструменту искусственного интеллекта, такому как ChatGPT, или какому-либо новому решению для видеоконференций на основе искусственного интеллекта, запрос передается через Интернет в облако, где он обрабатывается серверами, прежде чем результаты будут возвращены по сети.

Поскольку компании разрабатывают новые приложения для генеративного искусственного интеллекта и развертывают их на различных типах устройств — видеокамерах и системах безопасности, промышленных и персональных роботах, ноутбуках и даже автомобилях — облако становится узким местом с точки зрения пропускной способности, стоимости и возможностей подключения.

А для таких приложений, как помощь водителю, программное обеспечение для персональных компьютеров, видеоконференции и безопасность, постоянное перемещение данных по сети может представлять угрозу конфиденциальности.

Решение состоит в том, чтобы позволить этим устройствам обрабатывать генеративный искусственный интеллект на край. Фактически, генеративный искусственный интеллект на основе периферии может принести пользу многим новым приложениям.

Генеративный ИИ на подъеме

Учтите, что в июне Mercedes-Benz сказал он внедрит ChatGPT в свои автомобили. Например, в Mercedes с усовершенствованным ChatGPT водитель может попросить машину — без помощи рук — рецепт ужина, основанный на ингредиентах, которые у него уже есть дома. Это если машина подключена к интернету. В гараже или в отдаленном месте все ставки отключены.

За последние пару лет видеоконференции стали второй натурой для большинства из нас. Компании-разработчики программного обеспечения уже интегрируют формы искусственного интеллекта в решения для видеоконференций. Возможно, это необходимо для оптимизации качества звука и видео на лету или для «помещения» людей в одно и то же виртуальное пространство. Теперь генеративные видеоконференции на базе искусственного интеллекта могут автоматически создавать протоколы встреч или извлекать соответствующую информацию из источников компании в режиме реального времени по мере обсуждения различных тем.

Однако если умный автомобиль, система видеоконференций или любое другое периферийное устройство не могут подключиться к облаку, то генеративный искусственный интеллект не сможет реализоваться. Но что, если им это не нужно? Это звучит как непростая задача, учитывая огромные возможности облачного искусственного интеллекта, но теперь это становится возможным.

Генеративный ИИ на периферии

Например, уже существуют генеративные инструменты искусственного интеллекта, которые могут автоматически создавать насыщенные и увлекательные презентации PowerPoint. Но пользователю необходимо, чтобы система работала где угодно, даже без подключения к интернету.

Точно так же мы уже видим новый класс генеративных помощников «второго пилота» на базе искусственного интеллекта, которые фундаментально изменят то, как мы взаимодействуем с нашими вычислительными устройствами, автоматизируя многие рутинные задачи, такие как создание отчетов или визуализация данных. Представьте себе, что вы открываете ноутбук, ноутбук узнает вас через свою камеру, а затем автоматически генерирует план действий на день/неделю/месяц на основе наиболее часто используемых вами инструментов, таких как Outlook, Teams, Slack, Trello и т. д. Но для хранения данных конфиденциальности и хорошего пользовательского опыта, у вас должна быть возможность запускать генеративный ИИ локально.

Помимо решения проблем ненадежных соединений и конфиденциальности данных, периферийный искусственный интеллект может помочь снизить требования к полосе пропускания и повысить производительность приложений. Например, если генеративное приложение искусственного интеллекта создает контент с большим количеством данных, например виртуальное конференц-пространство, через облако, процесс может отставать в зависимости от доступной (и дорогостоящей) пропускной способности. А некоторые типы генеративных приложений искусственного интеллекта, такие как безопасность, робототехника или здравоохранение, требуют высокопроизводительных ответов с малой задержкой, с которыми облачные соединения не могут справиться.

В сфере видеобезопасности возможность повторно идентифицировать людей, когда они перемещаются между множеством камер (некоторые из которых расположены там, где сети недоступны), требует моделей данных и обработки искусственного интеллекта в реальных камерах. В этом случае генеративный ИИ можно применить к автоматическому описанию того, что видят камеры, с помощью простых запросов, например: «Найдите 8-летнего ребенка в красной футболке и бейсболке».

Это генеративный искусственный интеллект на переднем крае.

Разработки в области Edge AI

Благодаря внедрению нового класса процессоров искусственного интеллекта и разработке более экономичных, более эффективных, но не менее мощных генеративных моделей данных искусственного интеллекта, периферийные устройства могут быть спроектированы так, чтобы работать интеллектуально там, где подключение к облаку невозможно или нежелательно.

Конечно, облачная обработка останется важнейшим компонентом генеративного ИИ. Например, обучение моделей ИИ останется в облаке. Но процесс применения пользовательских данных к этим моделям, называемый логическим выводом, может — и во многих случаях должен — происходить на грани.

В отрасли уже разрабатываются более компактные, меньшие по размеру и более эффективные модели искусственного интеллекта, которые можно загружать на периферийные устройства. Такие компании, как Hailo производить процессоры искусственного интеллекта, специально предназначенные для выполнения обработки нейронных сетей. Такие процессоры нейронных сетей не только невероятно быстро обрабатывают модели искусственного интеллекта, но и потребляют меньше энергии, что делает их энергоэффективными и пригодными для работы с различными периферийными устройствами, от смартфонов до камер.

Обработка генеративного ИИ на периферии также может эффективно распределять нагрузку при растущих рабочих нагрузках, обеспечивать более стабильное масштабирование приложений, освобождать облачные центры обработки данных от дорогостоящей обработки и помогать им сокращать выбросы углекислого газа.

Генеративный ИИ готов снова изменить компьютерные технологии. В будущем LLM на вашем ноутбуке может автоматически обновляться так же, как ваша ОС сегодня, и функционировать во многом таким же образом. Но чтобы добиться этого, нам нужно включить генеративную обработку ИИ на границе сети. Результатом обещает быть более высокая производительность, энергоэффективность, а также конфиденциальность и безопасность. Все это приводит к созданию приложений ИИ, которые меняют мир так же, как и сам генеративный ИИ.