Uzyskaj największą korzyść z przedsiębiorczego AI za swoje pieniądze z MLOps – Liderzy myśli

Przez Victora Thu, wiceprezesa ds. sukcesu klienta i operacji, Datatron.

Badanie przeprowadzone przez Gartner pod koniec 2020 roku wykazało, że 75% respondentów planowało kontynuować lub rozpocząć nowe inicjatywy AI w nadchodzącym roku. W tym samym czasie analitycy Gartner stwierdzili, że jedną z największych trudności w przenoszeniu inicjatyw AI do produkcji jest brak możliwości połączenia tych inwestycji z wartością biznesową.

Co więcej, szacuje się, że większość projektów AI/ML zakończy się niepowodzeniem. I ten fakt może utrudnić uzyskanie akceptacji od osób decyzyjnych na te inwestycje. To właśnie tutaj MLOps – Machine Learning Operations – może odegrać kluczową rolę.

Obecny krajobraz ML

Uczenie maszynowe oferuje ogromne możliwości dla organizacji, ale rzeczywistość jest taka, że dotarcie do tych możliwości może być drogie i czasochłonne. Podczas gdy zainteresowanie wdrażaniem ML jest wysokie, faktyczna implementacja produkcyjna pozostaje niska. Główną przeszkodą w przenoszeniu rozwiązań do produkcji nie jest jakość modeli, ale raczej brak infrastruktury, która umożliwia firmom to zrobić.

Cykl rozwoju dla uczenia maszynowego jest fundamentalnie inny niż cykl rozwoju tradycyjnego oprogramowania. Przez ostatnie 20 lat ludzie na ogół wiedzieli, co jest potrzebne, aby tradycyjne oprogramowanie przeszło od rozwoju do produkcji. Rozumieli oni komputery, oprogramowanie pośredniczące, sieci, pamięć i inne elementy niezbędne do zapewnienia, że aplikacja działa dobrze.

Niestety, większość ludzi próbuje użyć tego samego cyklu rozwoju oprogramowania (SDLC) dla cyklu rozwoju uczenia maszynowego (MLLC). Jednak ML jest znaczącą zmianą paradygmatu. Przydziały infrastruktury są unikalne. Języki i ramy są różne.

Modele uczenia maszynowego można utworzyć dość szybko w ciągu kilku tygodni, ale proces wprowadzania tych modeli do produkcji może trwać od sześciu do dziewięciu miesięcy ze względu na procesy izolowane, rozłączenia między zespołami i ręczne tłumaczenie i skryptowanie modeli ML w istniejącej aplikacji.

Jest również trudno monitorować i zarządzać modelami uczenia maszynowego, gdy znajdują się one w produkcji. Nie ma gwarancji, że modele ML utworzone w laboratorium będą działać tak, jak są przeznaczone w produkcji. I istnieje kilka różnych czynników, które mogą być przyczyną tego.

Korzyści z MLOps

Jeśli chodzi o wdrożenie modeli uczenia maszynowego w produkcji, jak już wspomniano, wiele może pójść nie tak. Gdy zespoły IT/DevOps próbują operacjonalizować modele uczenia maszynowego, te zespoły muszą ręcznie skryptować i zautomatyzować różne procesy. Te modele są często aktualizowane, a za każdym razem, gdy modele są aktualizowane, cały proces jest powtarzany.

Gdy organizacja ma coraz więcej modeli i różnych wersji tych modeli, śledzenie ich staje się ogromnym problemem. Jednym z dużych problemów jest to, że często używane narzędzia nie rozwiązują problemu różnych baz kodu i ram, które są rozłączone względem siebie. To może prowadzić do problemów, co skutkuje marnowaniem czasu i zasobów, a także innymi problemami. Większość zespołów dzisiaj również ma trudności ze śledzeniem i wersjonowaniem podczas aktualizacji swoich modeli.

MLOps pomaga przezwyciężyć podziały między nauką o danych a operacjami, aby zarządzać cyklem życia ML w produkcji – podstawowo stosując zasady DevOps do dostarczania ML. To umożliwia szybsze czas realizacji rozwiązań opartych na ML, szybszy wskaźnik eksperymentowania i gwarancję jakości i niezawodności.

Używając tradycyjnych modeli SDLC, możesz być w stanie zrobić jeden lub dwa modele ML w roku, przy ogromnym bólu i skrajną nieefektywnością. Ale z MLOps możesz skalować, więc możesz rozwiązać wiele problemów. Możesz użyć tych modeli, aby lepiej ukierunkować potencjalnych klientów, znaleźć bardziej istotnych klientów lub znaleźć i poprawić nieefektywności. Możesz wdrożyć ulepszenia znacznie szybciej, ostatecznie poprawiając produktywność i zysk.

Elementy sukcesu MLOps

MLOps nie jest magiczną kulą. Wciąż musisz mieć odpowiednią podstawę i znać najlepsze praktyki, aby to działało. Aby odnieść sukces z MLOps, musisz skupić się na dwóch podstawowych zadaniach. Pierwszym jest zrozumienie różnych ról. Musisz upewnić się, że masz odpowiedni, zróżnicowany zespół umiejętności i pracowników; nie traktuj naukowców danych i inżynierów ML jako jednego i tego samego. Obie są niezbędne, ale potrzebujesz mieszanki.

Drugą rzeczą, o której należy pamiętać, jest to, że nie próbuj zrobić wszystkiego samodzielnie. MLOps jest również pracochłonne, wymagające dużej liczby inżynierów ML. Ważne jest, aby przemyśleć, czego potrzebujesz, i spojrzeć na dostępne narzędzia, które mogą pomóc w uproszczeniu podejścia i strumieniowaniu liczby dedykowanych osób potrzebnych.

Idź do przodu z pewnością

Analitycy branżowi szacują, że blisko połowa przedsięwzięć AI jest skazana na niepowodzenie. Istnieje kilka powodów takiego niepowodzenia, w tym kultura organizacji. Ale podstawowym powodem jest brak odpowiedniej technologii, aby wesprzeć projekt. MLOps jest bardzo przydatnym narzędziem, które pomaga organizacjom osiągnąć sukces w projektach AI/ML, co skutkuje przewagą konkurencyjną.