Získejte největší podnikový AI efekt za své peníze s MLOps – Thought Leaders

Od Victora Thu, viceprezidenta zákaznického úspěchu a operací, Datatron.

Průzkum společnosti Gartner na konci roku 2020 zjistil, že 75 % respondentů plánuje pokračovat nebo zahájit nové AI iniciativy v příštím roce. Současně analytici Gartneru také zjistili, že jedním z největších problémů při přechodu AI iniciativ do produkce je neschopnost těchto organizací propojit tyto investice se obchodní hodnotou.

Co více, odhaduje se, že většina AI/ML projektů selže. A tato skutečnost může ještě více ztížit získání souhlasu od vedení pro tyto investice. Zde hraje MLOps – Machine Learning Operations – klíčovou roli.

Aktuální krajina ML

Strojové učení nabízí hluboké možnosti pro organizace, ale realita je taková, že dosažení těchto možností může být drahé a časově náročné. Zatímco zájem o implementaci ML je vysoký, skutečná produkční implementace zůstává nízká. Hlavní překážkou při uvádění řešení do produkce není kvalita modelů, ale spíše nedostatek infrastruktury, která by umožnila společnostem to udělat.

Životní cyklus vývoje strojového učení je fundamentálně odlišný od životního cyklu tradičního softwarového vývoje. Během posledních 20 let lidé většinou pochopili, co je potřeba pro tradiční software, aby šel z vývoje do produkce. Chápou výpočet, middleware, síť, úložiště a další prvky, které jsou potřebné k zajištění toho, aby aplikace běžela dobře.

Bohužel, většina lidí se snaží použít stejný software vývojový cyklus (SDLC) pro strojové učení vývojový cyklus (MLLC). Ale ML je významný posun paradigmatu. Infrastruktura je jedinečná. Jazyky a rámce jsou odlišné.

Modely strojového učení lze vytvořit relativně rychle během několika týdnů, ale proces uvádění těchto modelů do produkce může trvatAnywhere od šesti do devíti měsíců kvůli odděleným procesům, nesouladům mezi týmy a manuálnímu překladu a skriptování ML modelů do stávajících aplikací.

Také je obtížné monitorovat a řídit modely strojového učení, jakmile se dostanou do produkce. Není žádná záruka, že modely ML vytvořené v laboratoři budou fungovat tak, jak jsou určeny v produkci. A existuje několik různých faktorů, které by mohly být za tím.

Výhody MLOps

Když jde o nasazení modelů strojového učení v produkci, je toho hodně, co může jít špatně. Když IT/DevOps snaží operationalizovat modely strojového učení, tyto týmy potřebují manuálně skriptovat a automatizovat různé procesy. Tyto modely jsou často aktualizovány a každá aktualizace modelů vyžaduje opakování celého procesu.

Když organizace má více a více modelů a různých iterací těchto modelů, stává se obtížným je sledovat. Jedním z velkých problémů je, že často nástroje, které používají, neřeší problém nesouladných kódových základen a rámců mezi nimi. To může vést k problémům, které způsobují plýtvání časem a zdroji, mezi jinými problémy. Většina týmů dnes také zápasí se sledováním a verzováním, když aktualizují své modely.

MLOps pomáhá překlenout propast mezi datovou vědou a operacemi, aby spravovaly životní cyklus ML v produkci – vlastně aplikují principy DevOps na dodávku ML. To umožňuje rychlejší dobu uvedení na trh pro ML řešení, rychlejší rychlost experimentování a zajištění kvality a spolehlivosti.

Používáním tradičních modelů SDLC můžete možná dokončit jeden nebo dva modely ML za rok, ale s velkými bolestmi a extrémní neefektivitou. Ale s MLOps můžete škálovat, abyste mohli řešit více problémů. Můžete tyto modely použít k lepšímu cílení na potenciální zákazníky, najít relevantnější zákazníky nebo najít a zlepšit neefektivitu. Můžete nasadit zlepšení mnohem rychleji, což nakonec zlepšuje produktivitu a zisk.

Prvky úspěchu MLOps

MLOps není žádná stříbrná kulka. Stále potřebujete mít správnou základnu a znát nejlepší postupy, aby to fungovalo. Aby jste byli úspěšní s MLOps, potřebujete se soustředit na dvě hlavní úkoly. První je pochopení různých rolí. Musíte zajistit, aby jste měli správnou, různorodou sadu dovedností a zaměstnanců; nešetřete datové vědce a inženýry strojového učení jako jedno a totéž. Oba jsou nezbytní, ale potřebujete mix.

Druhá věc, na kterou je třeba pamatovat, je, že byste neměli dělat všechno sami. MLOps je také náročné na pracovní sílu, vyžadující velké týmy inženýrů ML. Je důležité promyslet, co potřebujete, a podívat se na nástroje, které jsou k dispozici, aby vám pomohly zjednodušit přístup a streamovat počet vyhrazených lidí.

Pokračování s důvěrou

Průmysloví analytici odhadují, že téměř polovina podnikových AI projektů je odsouzena k neúspěchu. Existuje několik důvodů pro takový neúspěch, včetně kultury organizace. Ale primární důvod je nedostatek vhodné technologie, která by podpořila projekt. MLOps je velmi užitečným nástrojem, který pomáhá organizacím dosáhnout úspěchu ve svých AI/ML projektech, což vede k konkurenčnímu obchodnímu výhodám.