Переход к логическому выводу ИИ выводит интеллект в реальном времени на новый уровень

Индустрия искусственного интеллекта (ИИ) и вызванный ею диалог смещают фокус с обучения моделей ИИ. Эта история, которая происходила централизованно в облаке или центрах обработки данных (или и там, и там), уже неактуальна. Теперь, благодаря множеству вариантов использования в большинстве отраслей, эти модели развёртываются и работают в распределённых, децентрализованных средах. Отрасль переходит от этапа обучения к этапу вывода, и этот процесс происходит на периферии, где интеллектуальные технологии в режиме реального времени необходимы для всего: от умных камер до устройств, встроенных в промышленное оборудование. Акцент смещается с централизованного обучения ИИ на периферийный ИИ или гибридные развёртывания.

В эпоху, когда скорость, точность и конфиденциальность данных важны как никогда, Edge AI меняет операционные процессы в наиболее важных точках взаимодействия компаний. В отличие от традиционных моделей ИИ, использующих облачную инфраструктуру, Edge AI приближает процесс принятия решений к моменту генерации данных.

Ценность передового ИИ

Минимизация расстояния между созданием данных и принятием решений уменьшает задержку, устраняя задержки при передаче данных по сети, что приводит к более быстрому получению прогнозной информации и автоматизированному принятию решений. Обработка данных в режиме реального времени повышает эффективность работы организаций, улучшая всё: от обслуживания клиентов до качества продукции и даже обеспечивая безопасность сотрудников. Независимо от варианта использования, сокращение расстояния также повышает безопасность и надёжность, сокращая время передачи конфиденциальных данных и снижая требуемую пропускную способность.

Актуальность и актуальность имеют первостепенное значение, независимо от отрасли.

Например, в производстве периферийный ИИ может стать основой систем контроля качества, которые мгновенно выявляют дефекты продукции. В здравоохранении он может поддерживать системы мониторинга пациентов Этот триггер оповещает о любых аномалиях. Ритейлеры будут использовать периферийный ИИ для персонализации взаимодействия с покупателями в магазинах и динамического управления запасами. Однако во всех этих сценариях необходимый интеллект, находящийся на периферии, является ключевым фактором. Периферийный ИИ критически важен, когда дело касается миллисекунд.

Контекст имеет значение от центра обработки данных до периферии

Хотя графические процессоры часто рассматриваются как синоним искусственного интеллекта (ИИ), периферийный ИИ имеет больше нюансов, поскольку потребности и характер рабочих нагрузок для вывода фундаментально отличаются от задач обучения моделей. Многие рабочие нагрузки для вывода, особенно приложения, основанные на машинном зрении, могут эффективно обрабатываться центральными процессорами, которые более энергоэффективны и экономичны. Даже если для периферийного развертывания требуется более высокая производительность, появился новый класс маломощных графических процессоров, предлагающих специализированные решения для периферийных вычислений.

В конечном счёте, выбор правильной конфигурации — это задача, которая позволяет сбалансировать конкретную рабочую нагрузку, желаемую пропускную способность и ограничения среды. Для развёртывания периферийных ИИ требуется оборудование, которое сочетает в себе производительность и практическую применимость в полевых условиях.

Для успеха на периферии требуется принципиально иной подход, учитывающий ограничения пространства, мощности и охлаждения при сохранении производительности. Аппаратное и программное обеспечение должно быть разработано специально для периферийных вычислений, которые часто включают в себя способность надёжно работать в сложных условиях без ущерба для вычислительной мощности. Альтернативой являются простои, которые могут иметь разрушительные последствия для последующих вычислений.

Путь к успеху

Путь к успеху в использовании периферийного ИИ начинается с определения одного высокоэффективного варианта использования и первоначального развертывания именно на нём. Такой подход позволяет организации контролировать масштабы проекта и одновременно создавать позитивную динамику внедрения, позволяя ей раскрыть потенциал этой технологии, одновременно совершенствуя операционные процессы и структуры поддержки.

Однако это легче сказать, чем сделать!

Большинство организаций, стремящихся извлечь выгоду из внедрения ИИ, не обладают глубокими познаниями и не погружены во все базовые технологии. Этот пробел в знаниях заставляет их искать рекомендации и расширенные возможности у внешних партнеров. Особенно по мере роста числа развертываний и перехода отрасли от обучения в ядре к логическому выводу на периферии, требования к программному обеспечению и сервисам, сопутствующим аппаратному обеспечению, также становятся всё более важными. Более того, сложность будет только возрастать в будущем. Особенно на периферии, где простои могут иметь серьёзные — и дорогостоящие — последствия для последующих этапов, партнёрство с экспертами и сервисами, необходимыми для обеспечения стабильной производительности, не подлежит обсуждению.

Распространенная ошибка, с которой сталкиваются организации, — это слишком узкая ориентация на экспериментальные проекты без четкого плана масштабирования. Организациям также необходимо учитывать сложность эксплуатации — от удаленного управления и отказоустойчивости до поддержки жизненного цикла. Крайне важно иметь больше причин для работы с опытным партнером. В отличие от центров обработки данных, где системы находятся под пристальным контролем и часто обновляются, периферийная инфраструктура должна быть спроектирована с расчетом на длительный срок службы, обычно рассчитанный на пять-семь лет.

Кроме того, организации всё чаще стремятся консолидировать периферийные вычислительные ресурсы для сокращения занимаемого пространства и затрат. Это позволяет объединить традиционные рабочие нагрузки с приложениями ИИ на унифицированных виртуализированных платформах, устраняя необходимость в отдельных инфраструктурах, но при этом увеличивая потребность в аналитике в режиме реального времени.

Перспективы развития Edge AI

Периферийный ИИ стремительно развивается, переходя от систем, основанных на правилах, к более адаптивному, контекстно-зависимому интеллекту. Благодаря достижениям в области генеративного ИИ и базовых моделей, периферийные системы начинают поддерживать непрерывные циклы обучения, автономно адаптируясь к входным данным без использования облака.

Развертывания на базе Kubernetes и контейнерные модели обеспечивают согласованность, необходимую для поддержания эффективности развёртываний периферийного ИИ. Контейнеризация упрощает передачу быстрых обновлений из облака на периферию, а Kubernetes оркеструет контейнеры в масштабе, автоматически управляя развёртываниями, обновлениями и проверками работоспособности. Повышенная эффективность и надёжность обновления, передаваемого через периферийные узлы, также повышает точность модели и обеспечивает большую устойчивость и время безотказной работы, что критически важно для сохранения ценности любого развёртывания периферийного ИИ. Кроме того, периферийные устройства могут собирать новые данные, которые помогут в обучении более совершенных моделей в замкнутой системе ИИ.

Edge AI — это больше, чем просто модное слово. Это ощутимая эволюция того, как отрасли будут использовать интеллектуальные технологии в точках взаимодействия в будущем, и она стремительно наступает. Благодаря плану внедрения периферийного ИИ в сочетании с правильной инфраструктурой и системными возможностями организации смогут раскрыть новые возможности ИИ, повысив скорость реагирования и избежав дорогостоящих простоев.