Uzyskaj największy efekt z przedsięwzięć AI dla Twojej firmy za pomocą MLOps – Liderzy myśli

Przez Victora Thu, wiceprezesa ds. sukcesu klientów i operacji, Datatron.

Sondaż przeprowadzony przez Gartner pod koniec 2020 roku wykazał, że 75% respondentów planowało kontynuować lub rozpocząć nowe inicjatywy AI w nadchodzącym roku. Jednocześnie analitycy Gartnera stwierdzili, że jedną z największych trudności w wdrożeniu inicjatyw AI do produkcji jest brak możliwości połączenia tych inwestycji z wartością biznesową.

Co więcej, szacuje się, że większość projektów AI/ML zakończy się niepowodzeniem. I ten fakt może utrudnić uzyskanie akceptacji od osób decyzyjnych na te inwestycje. To właśnie tutaj MLOps – Machine Learning Operations – może odegrać kluczową rolę.

Obecny krajobraz ML

Uczenie maszynowe oferuje ogromne możliwości dla organizacji, ale rzeczywistość jest taka, że dotarcie do tych możliwości może być drogie i czasochłonne. Podczas gdy zainteresowanie wdrożeniem ML jest wysokie, rzeczywiste wdrożenie w produkcji pozostaje niskie. Główną przeszkodą w wprowadzeniu rozwiązań do produkcji nie jest jakość modeli, ale raczej brak infrastruktury, która umożliwiłaby firmom to zrobić.

Życiowy cykl rozwoju uczenia maszynowego jest fundamentalnie inny niż cykl rozwoju tradycyjnego oprogramowania. Przez ostatnie 20 lat ludzie na ogół rozwiązali, co jest potrzebne, aby tradycyjne oprogramowanie przeszło od rozwoju do produkcji. Rozumieją one, jakie są potrzebne elementy, takie jak obliczenia, oprogramowanie pośrednie, sieci, pamięć i inne, aby upewnić się, że aplikacja działa dobrze.

Niestety, większość ludzi próbuje używać tego samego cyklu rozwoju oprogramowania (SDLC) dla cyklu rozwoju uczenia maszynowego (MLLC). Jednak ML to znacząca zmiana paradygmatu. Przydziały infrastruktury są unikalne. Języki i ramy są różne.

Modele uczenia maszynowego mogą być tworzone stosunkowo szybko w ciągu kilku tygodni, ale proces wprowadzania tych modeli do produkcji może trwać od sześciu do dziewięciu miesięcy ze względu na procesy w izolacji, rozłączenia między zespołami i ręczne tłumaczenie i skryptowanie modeli ML w istniejącej aplikacji.

Trudno również monitorować i zarządzać modelami uczenia maszynowego, gdy już się do nich dostały. Nie ma gwarancji, że modele ML stworzone w laboratorium będą działać tak, jak są przeznaczone do produkcji. I są różne czynniki, które mogą powodować to.

Korzyści z MLOps

Gdy chodzi o wdrożenie modeli uczenia maszynowego w produkcji, jak już wspomniano, wiele może pójść nie tak. Gdy zespoły IT/DevOps próbują operacjonalizować modele ML, muszą ręcznie skryptować i zautomatyzować różne procesy. Te modele są często aktualizowane, a każdy raz, gdy modele są aktualizowane, cały proces jest powtarzany.

Gdy organizacja ma coraz więcej modeli i różnych wersji tych modeli, śledzenie ich staje się ogromnym problemem. Jednym z dużych problemów jest to, że często narzędzia, których używają, nie rozwiązują problemu różnych baz kodu i ram, które są rozłączone między sobą. To może prowadzić do problemów, co skutkuje marnowaniem czasu i zasobów, wśród innych problemów. Większość zespołów dzisiaj również zmaga się ze śledzeniem i wersjonowaniem, gdy aktualizują swoje modele.

MLOps pomaga przezwyciężyć podziały między nauką o danych a operacjami, aby zarządzać cyklem życia ML w produkcji – podstawowo stosując zasady DevOps do dostarczania ML. To umożliwia szybsze wejście na rynek dla rozwiązań opartych na ML, szybszą szybkość eksperymentowania i gwarancję jakości i niezawodności.

Używając tradycyjnych modeli SDLC, możesz być w stanie zrobić jeden lub dwa modele ML w roku, przy ogromnym bólu i skrajnej nieefektywności. Ale z MLOps możesz skalować, więc możesz rozwiązać wiele problemów. Możesz użyć tych modeli, aby lepiej ukierunkować potencjalnych klientów, znaleźć bardziej odpowiednich klientów lub znaleźć i poprawić nieefektywności. Możesz wdrożyć ulepszenia znacznie szybciej, co ostatecznie poprawia produktywność i zysk.

Elementy sukcesu MLOps

MLOps nie jest srebrną kulą. Wciąż musisz mieć odpowiednią podstawę i znać najlepsze praktyki, aby to działało. Aby odnieść sukces z MLOps, musisz skoncentrować się na dwóch podstawowych zadaniach. Pierwszym jest zrozumienie różnych ról. Musisz upewnić się, że masz odpowiedni, zróżnicowany zespół umiejętności i pracowników; nie traktuj naukowców danych i inżynierów ML jako jednego i tego samego. Obie są niezbędne, ale potrzebujesz mieszanki.

Druga rzecz, o której należy pamiętać, to nie próbuj zrobić wszystkiego samodzielnie. MLOps jest również pracochłonne, wymagające dużych zespołów inżynierów ML. Ważne jest, aby przemyśleć, co potrzebujesz, i rozważyć dostępne narzędzia, które mogą pomóc w uproszczeniu podejścia i przyspieszeniu liczby dedykowanych osób potrzebnych.

Idź do przodu z pewnością

Analitycy branżowi szacują, że blisko połowa przedsięwzięć AI w firmach jest skazana na niepowodzenie. Są różne powody takiego niepowodzenia, w tym kultura organizacji. Ale podstawowym powodem jest brak odpowiedniej technologii, aby wesprzeć projekt. MLOps jest bardzo przydatnym narzędziem, które pomaga organizacjom osiągnąć sukces w projektach AI/ML, co skutkuje przewagą konkurencyjną w biznesie.