Få den største Enterprise AI Bang for pengene med MLOps – Thought Leaders

Af Victor Thu, vicepræsident for kundesucces og drift, Datatron.

En undersøgelse af Gartner i slutningen af ​​2020 fandt, at 75 % af de adspurgte planlagde at fortsætte eller starte nye AI-initiativer i det kommende år. Samtidig fandt Gartner-analytikere også ud af, at en af ​​de mest betydningsfulde problemer med at flytte AI-initiativer i produktion er disse organisationers manglende evne til at forbinde disse investeringer tilbage til forretningsværdien.

Hvad mere er, er det almindeligt anslået, at størstedelen af ​​AI/ML-projekter vil mislykkes. Og det faktum kan gøre det endnu sværere at få buy-in fra toppen på disse investeringer. Det er her MLOps – Machine Learning Operations – kan spille en nøglerolle.

Det nuværende ML-landskab

Machine learning tilbyder dybtgående muligheder for organisationer, men virkeligheden er, at det kan være dyrt og tidskrævende at komme til disse muligheder. Så selvom interessen for at implementere ML er stor, er den faktiske produktionsimplementering fortsat lav. Den største hindring for at bringe løsninger i produktion er ikke kvaliteten af ​​modellerne, men snarere manglen på infrastruktur på plads for at tillade virksomheder at gøre det.

Udviklingslivscyklussen for maskinlæring er fundamentalt anderledes end livscyklussen for traditionel softwareudvikling. I løbet af de sidste 20 år har folk for det meste fundet ud af, hvad der skal til for at traditionel software kan gå fra udvikling til produktion. De forstår databehandling, middleware, netværk, lagring og andre elementer, der er nødvendige for at sikre, at appen kører godt.

Desværre forsøger de fleste at bruge den samme softwareudviklingslivscyklus (SDLC) til maskinlæringsudviklingslivscyklussen (MLLC). ML er dog et markant paradigmeskifte. Infrastrukturallokeringer er unikke. Sprogene og rammerne er forskellige.

Maskinlæringsmodeller kan oprettes relativt hurtigt i løbet af få uger, men processen med at få disse modeller i produktion kan tage alt fra seks til ni måneder på grund af silede processer, afbrydelser mellem teams og manuelt oversættelse og scripting af ML-modeller til eksisterende applikation .

Det er også svært at overvåge og styre maskinlæringsmodeller, når de først er kommet i produktion. Der er ingen garanti for, at ML-modeller, der er oprettet i laboratoriet, kører, som de er beregnet til i produktionen. Og der er flere forskellige faktorer, der kan ligge bag.

Fordelene ved MLOps

Når det kommer til at implementere machine learning-modeller i produktionen, er der som nævnt meget, der kan gå galt. Når IT/DevOps forsøger at operationalisere maskinlæringsmodeller, skal disse teams manuelt scripte og automatisere de forskellige processer. Disse modeller bliver ofte opdateret, og hver gang modellerne opdateres, gentages hele processen.

Når en organisation har flere og flere modeller og de forskellige iterationer af disse modeller, bliver det et stort problem at holde styr på dem. Et af de store problemer er, at de værktøjer, de bruger, ofte ikke løser problemet med, at forskellige kodebaser og rammer er adskilte indbyrdes. Det kan føre til problemer, som blandt andet resulterer i spild af tid og ressourcer. De fleste hold i dag kæmper også med sporing og versionering, når de opdaterer deres modeller.

MLOps hjælper med at bygge bro mellem datavidenskab og operationer for at styre produktions-ML-livscyklussen – i det væsentlige ved at anvende DevOps-principperne til ML-levering. Det muliggør hurtigere time to market for ML-baserede løsninger, hurtigere eksperimenter og sikring af kvalitet og pålidelighed.

Ved at bruge traditionelle SDLC-modeller kan du muligvis få lavet en eller to ML-modeller om året, med store smerter og med ekstrem ineffektivitet. Men med MLOps kan du skalere, så du kan løse flere problemer. Du kan bruge disse modeller til bedre at målrette potentielle kunder, finde mere relevante kunder eller finde og forbedre ineffektivitet. Du er i stand til at udrulle forbedringer meget hurtigere, hvilket i sidste ende forbedrer produktiviteten og fortjenesten.

Elementerne i MLOps succes

MLOps er ikke en mirror bullet. Du skal stadig have det rette grundlag og kende de bedste fremgangsmåder for at det kan fungere. For at få succes med MLOps skal du fokusere på to primære opgaver. Den første er at forstå de forskellige roller. Du skal sikre dig, at du har det rette, forskelligartede sæt af færdigheder og medarbejdere på plads; behandl ikke data scientists og machine learning engineers som én og samme. Begge er nødvendige, men du har brug for en blanding.

Den anden ting at huske på er, at du ikke prøver at gøre det hele. MLOps er også arbejdskrævende og kræver store teams af ML-ingeniører. Det er vigtigt at gennemtænke, hvad du har brug for, og se på de værktøjer, der er tilgængelige for at hjælpe dig med at forenkle tilgangen og strømline antallet af dedikerede personer, der er nødvendige.

Fremad med selvtillid

Brancheanalytikere vurderer, at tæt på halvdelen af ​​virksomheders AI-projekter er bestemt til at mislykkes. Der er flere årsager til en sådan fiasko, herunder en organisations kultur. Men en primær årsag er manglen på passende teknologi på plads til at støtte projektet. MLOps er et yderst nyttigt værktøj til at hjælpe organisationer med at opnå succes i deres AI/ML-projekter, hvilket resulterer i konkurrencedygtige forretningsfordele.