Отримайте найбільше підприємство AI за свої гроші з MLOps – лідери думок

Від Віктора Тху, віце-президента з питань успіху клієнтів та операцій, Datatron.

Опитування, проведене Gartner у кінці 2020 року, показало, що 75% респондентів планують продовжувати або розпочинати нові ініціативи з AI у найближчий рік. У той же час аналітики Gartner також виявили, що однією з найбільш значимих труднощів при переході ініціатив з AI у виробництво є нездатність цих організацій зв’язати ці інвестиції з бізнес-цінністю.

Що більше, широко оцінюється, що більшість проектів з AI/ML зазнають невдачі. І цей факт може зробити ще складніше отримання згоди з вищого рівня на ці інвестиції. Саме тут MLOps – операції з машинного навчання – можуть відігравати ключову роль.

Поточний ландшафт ML

Машинне навчання пропонує великі можливості для організацій, але реальність полягає в тому, що досягнення цих можливостей може бути дорогим і тривалим. Тому, хоча інтерес до впровадження ML високий, фактичне виробниче впровадження залишається низьким. Головна перешкода на шляху до впровадження рішень у виробництво не полягає в якості моделей, а радше в відсутності інфраструктури, яка дозволяла б компаніям це зробити.

Життєвий цикл розробки машинного навчання фундаментально відрізняється від життєвого циклу традиційної розробки програмного забезпечення. За останні 20 років люди в основному зрозуміли, чого потрібно для традиційного програмного забезпечення, щоб перейти від розробки до виробництва. Вони розуміють обчислення, middleware, мережування, зберігання та інші елементи, необхідні для забезпечення того, щоб додаток працював добре.

На жаль, більшість людей намагаються використовувати той же життєвий цикл розробки програмного забезпечення (SDLC) для життєвого циклу розробки машинного навчання (MLLC). Однак ML являє собою значний зсув парадигми. Розподіл інфраструктури унікальний. Мови та фреймворки різні.

Моделі машинного навчання можна створити відносно швидко за кілька тижнів, але процес впровадження цих моделей у виробництво може тривати від шести до дев’яти місяців через ізольовані процеси, роз’єднання між командами та ручне перекладання та написання моделей ML у існуючі програми.

Також складно контролювати та керувати моделями машинного навчання після їхнього впровадження у виробництво. Не гарантується, що моделі ML, створені в лабораторії, будуть працювати так, як передбачалося, у виробництві. І є кілька різних факторів, які можуть бути причиною цього.

Переваги MLOps

Коли мова йде про розгортання моделей машинного навчання у виробництві, як уже згадувалося, може статися багато чого. Коли команди IT/DevOps намагаються оперціоналізувати моделі машинного навчання, їм потрібно вручну написати та автоматизувати різні процеси. Ці моделі часто оновлюються, і кожного разу, коли моделі оновлюються, весь процес повторюється.

Коли організація має все більше моделей і різних ітерацій цих моделей, відстеження їх стає величезною проблемою. Однією з великих проблем є те, що часто інструменти, які вони використовують, не вирішують проблему різних кодових баз і фреймворків, які є роз’єднаними один з одним. Це може привести до проблем, які призводять до витрат часу та ресурсів, серед інших питань. Більшість команд сьогодні також борються з відстеженням та версіонуванням під час оновлення своїх моделей.

MLOps допомагає звести роз’єднання між наукою про дані та операціями для керування життєвим циклом виробництва ML – по суті, застосовуючи принципи DevOps до доставки ML. Це дозволяє швидше часу виходу на ринок для рішень на основі ML, більш швидкої швидкості експериментів та гарантування якості та надійності.

За допомогою традиційних моделей SDLC ви можете зробити одну чи дві моделі ML за рік, при великих зусиллях та екстремальній неефективності. Але з MLOps ви можете масштабуватися, щоб вирішувати кілька проблем. Ви можете використовувати ці моделі, щоб краще націлюватися на потенційних клієнтів, знайти більш відповідних клієнтів або знайти та покращити неефективності. Ви можете розгортати поліпшення значно швидше, в кінцевому підсумку покращуючи продуктивність та прибуток.

Елементи успіху MLOps

MLOps не є срібною кулею. Вам все ще потрібно мати належну основу та знати найкращі практики, щоб воно працювало. Для успіху з MLOps вам потрібно зосередитися на двох основних завданнях. Перше – це розуміння різних ролей. Вам потрібно забезпечити, що у вас є правильна, різноманітна група навичок та працівників; не ставте вчених-даних та інженерів з машинного навчання на одну й ту ж позицію. Обидва необхідні, але вам потрібно мати їхнє поєднання.

Друге, що потрібно пам’ятати, – це не намагатися зробити все самостійно. MLOps також є трудомістким, що вимагає великих команд інженерів з машинного навчання. Важливо подумати про те, чого вам потрібно, і розглянути інструменти, які доступні для спрощення підходу та оптимізації кількості спеціальних працівників.

Відходячи вперед з впевненістю

Аналітики галузі оцінюють, що близько половини підприємств AI-проектів приречені на невдачу. Є кілька причин такого провалу, включаючи культуру організації. Але основною причиною є відсутність відповідної технології для підтримки проекту. MLOps є дуже корисним інструментом для допомоги організаціям досягти успіху в своїх проектах AI/ML, що призводить до конкурентної бізнес-переваги.