Cztery czynniki sukcesu z modelami ML

Przez Jasona Revelle, CTO, Datatron

Eksperci, analitycy i osoby z doświadczeniem wdrażania chwalą możliwości machine learning (ML), co powoduje, że coraz więcej przedsiębiorstw stosuje ML do różnych zastosowań. Jego sława wynika z idei, że komputeryzuje ludzką percepcję i umożliwi dalszą transformację cyfrową. Jednak pomimo tego, że ML ma duży potencjał, istnieje również minus: dla zespołów, które muszą zarządzać nimi w produkcji, praca może stać się trudnym wyzwaniem.

Przedsiębiorstwa wdrażają ML do wielu zadań, takich jak klasyfikacja ryzyka zdrowotnego, przetwarzanie dokumentów, przewidywanie cen, wykrywanie oszustw, konserwacja prewencyjna i wiele innych. Zespoły szkolą i oceniają modele na danych historycznych, aż do momentu, gdy zdają się odpowiadać celom wydajności i dokładności. Przedsiębiorstwa są zainteresowane uzyskaniem wysokiej wartości dzięki ML, przewidując, klasyfikując lub przewidując przyszłe wyniki – i działając na podstawie tych przewidywań.

Cała ta wartość biznesowa ma jednak wysoką cenę operacyjną. Gdy model jest “gotowy”, jego automatyzacja za pomocą niezawodnych mechanizmów dostarczania tworzy złożoności operacyjne i ryzyka, które wymagają czujności. Aby te projekty były efektywne i skuteczne, zespoły dostarczania i operacyjne muszą zarządzać cyklem życia ML w sposób holistyczny. Dane muszą być dostępne i mieć oczekiwaną jakość w porównaniu z tym, co zostało użyte do szkolenia.

Wkrótce staje się oczywiste, że nie jest to takie jak inne wysiłki inżynierskie, i trzeba zacząć myśleć o wyzwaniach w nowy sposób, aby prawdziwie stać się firmą opartą na AI. Oto cztery rzeczy, które należy wziąć pod uwagę, aby osiągnąć sukces z machine learning, a konkretnie z modelami ML.

1. Jak szybko wdrożyć wiele wersji w tle

Modele machine learning wymagają iteracyjnego procesu opartego na danych produkcyjnych. Należy zainwestować w cele wdrożeniowe, które mogą działać i rejestrować wyniki bez widoczności dla systemów produkcyjnych i klientów. Należy mieć możliwość wdrożenia w ten sposób łatwo i płynnie, aż do momentu, gdy uzyska się model, który się podoba. W długiej perspektywie jest to znacznie bardziej efektywne i ekonomiczne, aby założyć, że będzie wiele dostosowań modeli, a także potrzeba porównania bieżących wersji z nowymi kandydatami, które obiecują lepsze wyniki.

2. Zrozum, że to, co Twoj zespół obiecuje, zwykle nie pasuje do tradycyjnych, aplikacyjnych “zatwierdzonych polityk oprogramowania”.

ML rozwija się szybko i różnicuje, co powoduje, że lista dostawców technologii, dużych i małych, jest coraz dłuższa. Jest oczywiste, że IT musi utrzymywać właściwe wsparcie, skanowanie bezpieczeństwa i kontrolę środowisk operacyjnych. Ale ostrzeżenie: stosowanie tych samych kontroli i procesów do zarządzania technologią hostingu produktów lub operacji do praktyki ML prawdopodobnie znacznie zmniejszy potencjalne zyski, zanim jeszcze przekroczysz linię startu.

Również ważne jest to, że analitycy danych są w wysokim popycie. Nie jest trudno dla nich znaleźć inną pracę, jeśli czują, że są pod presją, aby dostarczać lepsze i lepsze wyniki bez zmiany technologii, której używają, lub sposobu, w jaki mogą ją używać.

3. Zrozum, że cykl życia rozwoju modelu ML nie jest taki sam jak cykl życia rozwoju oprogramowania

Rozwój oprogramowania i tworzenie modeli ML to bardzo różne procesy; próba traktowania drugiego jak pierwszego jest przepisem na katastrofę. Przedsiębiorstwa, które traktują dostarczanie modeli jako kolejne wydanie oprogramowania, kończą się z lukami w możliwościach przekrojowych, takich jak monitorowanie i analiza, oraz wysokimi kosztami transferu wiedzy między twórcami a operatorami, z sekwencyjnymi, wydłużonymi harmonogramami. Specjaliści, którzy wdrażają i wspierają Twoje modele, muszą zrozumieć, jak działa model i dane, a nie tylko rozwiązywać problemy z niezawodnością usługi i kodami błędów. Prawidłowy talent, zespoły hybrydowe składające się z specjalistów danych i operacyjnych, wraz z odpowiednimi narzędziami, umożliwią Ci przetestowanie i zinterpretowanie nie tylko tego, czy oprogramowanie jest wykonywane, ale także jak dokładne i wyjaśnialne są odpowiedzi.

Również ważne jest to, aby przyjąć sukces-based approach do audytu modeli ML, ponieważ są one zawodne. Jeśli chcesz, aby Twoi analitycy danych ufali przewidywaniom modeli ML, nawet gdy coś pójdzie nie tak (zrozumiawszy, że tak się stanie), proces audytu ML powinien być zaprojektowany w taki sposób, aby umożliwić iterację i poprawę modeli ML.

4. Planuj skalę.

Będziesz musiał wdrożyć narzędzia inteligencji maszynowej, które mają zautomatyzowany system wdrożeniowy, taki jak Kubernetes lub Docker Swarm. Pomoże Ci to osiągnąć wiele celów. Będziesz mógł uruchomić obciążenia ML dynamicznie i monitorować zadania automatycznie w klastrach w przypadku awarii przy użyciu algorytmów AI – ostrzegając operatorów o potencjalnych problemach, zanim jeszcze wystąpią. Będziesz również mógł skonsolidować raporty analityczne z wielu źródeł w jedną centralną tabelę, aby upewnić się, że modele ML działają zgodnie z oczekiwaniami.

Opanuj krzywą uczenia

Przed rozpoczęciem projektu ML jest niezwykle ważne, aby zrozumieć, że chociaż modele ML mogą zapewnić ogromne korzyści i wydajność Twojej organizacji, mogą one również przybrać życie własne, jeśli nie będą właściwie zarządzane. Znać ryzyka i złożoności operacyjne od samego początku, biorąc pod uwagę powyższe cztery wskazówki. Z solidną podstawą, będziesz mógł tworzyć i łatwo zmieniać swoje modele ML, aby służyły Twoim celom biznesowym.