Лидеры мнений

Получите максимальную отдачу от корпоративного ИИ с помощью MLOps – лидеры мнений

mm
Добавьте Unite.AI в избранные источники в Google

Автор: Виктор Ту, вице-президент по успеху клиентов и операциям, Datatron.

Опрос, проведенный Gartner в конце 2020 года, показал, что 75% респондентов планируют продолжить или начать новые инициативы по ИИ в течение следующего года. В то же время аналитики Gartner также обнаружили, что одной из наиболее значительных проблем при внедрении инициатив ИИ в производство является невозможность для этих организаций связать эти инвестиции с бизнес-ценностью.

Более того, широко распространено мнение, что большинство проектов ИИ/МЛ завершатся неудачей. И этот факт может сделать еще более трудным получение согласия руководства на эти инвестиции. Именно здесь MLOps – операции машинного обучения – может сыграть ключевую роль.

Текущий ландшафт МЛ

Машинное обучение предлагает огромные возможности для организаций, но реальность такова, что достижение этих возможностей может быть дорогим и трудоемким. Поэтому, хотя интерес к внедрению МЛ высок, фактическое внедрение в производство остается низким. Основным препятствием для внедрения решений в производство не является качество моделей, а rather отсутствие инфраструктуры, которая позволила бы компаниям сделать это.

Жизненный цикл разработки машинного обучения фундаментально отличается от жизненного цикла традиционной разработки программного обеспечения. За последние 20 лет люди в основном поняли, что необходимо для традиционного программного обеспечения, чтобы оно перешло от разработки к производству. Они понимают вычислительные ресурсы, middleware, сети, хранение и другие элементы, необходимые для обеспечения того, чтобы приложение работало хорошо.

К сожалению, большинство попыток использовать тот же цикл разработки программного обеспечения (SDLC) для цикла разработки машинного обучения (MLLC). Однако МЛ является значительным сдвигом парадигмы. Выделения инфраструктуры уникальны. Языки и фреймворки различны.

Модели машинного обучения можно создать относительно быстро, в течение нескольких недель, но процесс внедрения этих моделей в производство может занять от шести до девяти месяцев из-за разрозненных процессов, разрывов между командами и ручного перевода и скриптинга моделей МЛ в существующие приложения.

Также трудно контролировать и управлять моделями машинного обучения после их внедрения в производство. Нет гарантии, что модели МЛ, созданные в лаборатории, будут работать так, как предполагалось, в производстве. И есть несколько факторов, которые могут быть причиной этого.

Преимущества MLOps

Когда речь идет о внедрении моделей машинного обучения в производство, как упоминалось, может произойти многое. Когда команды ИТ/DevOps пытаются операционализировать модели машинного обучения, им необходимо вручную скриптовать и автоматизировать различные процессы. Эти модели часто обновляются, и каждый раз, когда модели обновляются, весь процесс повторяется.

Когда организация имеет все больше и больше моделей и различных итераций этих моделей, отслеживание их становится огромной проблемой. Одна из основных проблем заключается в том, что часто инструменты, которые они используют, не решают проблему разных кодовых баз и фреймворков, которые разрознены между собой. Это может привести к проблемам, что в свою очередь приводит к трате времени и ресурсов, среди других проблем. Большинство команд сегодня также борются с отслеживанием и версионированием при обновлении своих моделей.

MLOps помогает мостить разрывы между наукой о данных и операциями для управления жизненным циклом МЛ в производстве – по сути, применение принципов DevOps к доставке МЛ. Это позволяет быстрее выйти на рынок с решениями на основе МЛ, более быстрому темпу экспериментирования и обеспечению качества и надежности.

Используя традиционные модели SDLC, вы, возможно, сможете внедрить одну или две модели МЛ в год, с большими трудностями и неэффективностью. Но с MLOps вы можете масштабироваться, так что можете решать множество проблем. Вы можете использовать эти модели, чтобы лучше нацеливаться на потенциальных клиентов, находить более релевантных клиентов или находить и улучшать неэффективности. Вы можете быстрее внедрять улучшения, в конечном итоге повышая производительность и прибыль.

Элементы успеха MLOps

MLOps не является серебряной пулей. Вам все равно необходимо иметь правильную основу и знать лучшие практики, чтобы это работало. Чтобы добиться успеха с MLOps, вам необходимо сосредоточиться на двух основных задачах. Первая – понимание разных ролей. Вам необходимо обеспечить, чтобы у вас были правильные, разнообразные навыки и сотрудники; не относитесь к ученым данных и инженерам машинного обучения как к одному и тому же. Оба необходимы, но вам нужен микс.

Второе, о чем следует помнить, – не пытайтесь сделать все самостоятельно. MLOps также трудоемок, требует больших команд инженеров МЛ. Важно подумать о том, что вам нужно, и посмотреть на инструменты, которые доступны, чтобы помочь вам упростить подход и оптимизировать количество необходимых специалистов.

Двигаясь вперед с уверенностью

Аналитики отрасли оценивают, что почти половина корпоративных проектов ИИ обречена на провал. Существует несколько причин такого провала, включая культуру организации. Но основная причина – отсутствие подходящей технологии для поддержки проекта. MLOps является очень полезным инструментом для помощи организациям в достижении успеха в проектах ИИ/МЛ, что приводит к конкурентному бизнес-преимуществу.

Виктор Тху является президентом Datatron. На протяжении всей своей карьеры Виктор специализировался на маркетинге продукта, выходе на рынок и управлении продуктом на должностях C-level и директора в компаниях таких как Petuum, VMware и Citrix.