Få det største enterprise AI-bang for din buck med MLOps – Tankeledere

Af Victor Thu, vicepræsident for kundesucces og operationer, Datatron.

En undersøgelse af Gartner i slutningen af 2020 fandt, at 75% af respondenternes planlagde at fortsætte eller starte nye AI-initiativer i det kommende år. Samtidig fandt Gartner-analytikere også, at en af de største udfordringer ved at flytte AI-initiativer til produktion er udløbet af, at disse investeringer ikke kan kobles tilbage til forretningsværdien.

Hvad mere er, er det bredt estimeret, at de fleste AI/ML-projekter vil fejle. Og den kendsgerning kan gøre det endnu sværere at få opbakning fra toppen på disse investeringer. Her kan MLOps – Machine Learning Operations – spille en nøglerolle.

Nuværende ML-landskab

Maskinlæring tilbyder dybe muligheder for organisationer, men virkeligheden er, at det kan være dyrt og tidskrævende at nå disse muligheder. Således er interessen for at implementere ML høj, men den faktiske produktion er lav. Hovedhinderet for at bringe løsninger til produktion er ikke kvaliteten af modellerne, men snarere manglen på infrastruktur til at tillade virksomhederne at gøre det.

Udviklingslivscyklussen for maskinlæring er fundamentalt anderledes end livscyklussen for traditionel softwareudvikling. I de sidste 20 år har folk for det meste fundet ud af, hvad der kræves for, at traditionel software kan gå fra udvikling til produktion. De forstår computere, middleware, netværk, lagring og andre elementer, der er nødvendige for at sikre, at appen kører godt.

Desværre prøver de fleste at bruge den samme softwareudviklingslivscyklus (SDLC) til maskinlæringsudviklingslivscyklussen (MLLC). Men ML er en betydelig paradigmeskift. Infrastrukturtildelinger er unikke. Sprogene og rammerne er forskellige.

Maskinlæringsmodeller kan skabes relativt hurtigt på få uger, men processen med at få disse modeller til produktion kan tage fra seks til ni måneder på grund af siloede processer, afbrydelser mellem hold og manuel oversættelse og scripting af ML-modeller til eksisterende applikationer.

Det er også svært at overvåge og styre maskinlæringsmodeller, når de er kommet til produktion. Der er ingen garanti for, at ML-modeller skabt i laboratoriet vil køre, som de er tiltænkt i produktion. Og der er flere forskellige faktorer, der kan være årsag til det.

Fordelene ved MLOps

Når det kommer til at implementere maskinlæringsmodeller i produktion, som nævnt, kan der gå meget galt. Når IT/DevOps forsøger at operationalisere maskinlæringsmodeller, skal disse hold manuelt skrive og automatisere de forskellige processer. Disse modeller opdateres ofte, og hver gang modellerne opdateres, gentages hele processen.

Når en organisation har flere og flere modeller og de forskellige iterationer af disse modeller, bliver det et enormt problem at holde styr på dem. Et af de store problemer er, at værktøjerne, de bruger, ikke løser problemet med, at forskellige kodebaser og rammer er fra hinanden. Dette kan føre til problemer, hvilket resulterer i spild af tid og ressourcer, blandt andet. De fleste hold kæmper i dag også med at spore og versionere, når de opdaterer deres modeller.

MLOps hjælper med at brobygge mellem datavidenskab og operationer for at styre produktionens ML-livscyklus – i virkeligheden anvender DevOps-principper til ML-levering. Dette muliggør en hurtigere tid til marked for ML-baserede løsninger, en mere rapid eksperimenteringshastighed og en sikring af kvalitet og pålidelighed.

Med traditionelle SDLC-modeller kan du måske få én eller to ML-modeller færdige om året, med stor smerte og ekstrem ineffektivitet. Men med MLOps kan du skala, så du kan løse flere problemer. Du kan bruge disse modeller til at hjælpe med at målrette potentielle kunder bedre, finde mere relevante kunder eller finde og forbedre ineffektiviteter. Du kan rulle ud forbedringer meget hurtigere, hvilket ultimativt forbedrer produktiviteten og profit.

Elementerne i MLOps-succes

MLOps er ikke en sølvkugle. Du skal stadig have den rette grundlæggelse og kende de bedste praksisser for, at det kan fungere. For at lykkes med MLOps skal du fokusere på to primære opgaver. Den første er at forstå de forskellige roller. Du skal sikre, at du har det rette, diverse sæt af færdigheder og medarbejdere på plads; behandle ikke datavidenskabsfolk og maskinlæringsingeniører som én og samme. Begge er nødvendige, men du har brug for en blanding.

Den anden ting at huske er, at du ikke skal prøve at lave det hele selv. MLOps er også arbejdskrævende og kræver store hold af ML-ingeniører. Det er vigtigt at tænke igennem, hvad du har brug for, og se på de værktøjer, der er til rådighed for at hjælpe dig med at forenkle tilgangen og strømline antallet af dedikeret personale, der er nødvendigt.

At gå fremad med tillid

Brancheanalytikere estimerer, at næsten halvdelen af enterprise AI-projekter er dømt til at fejle. Der er flere årsager til sådant fiasko, herunder en organisations kultur. Men en primær årsag er manglen på passende teknologi på plads til at støtte projektet. MLOps er et meget nyttigt værktøj til at hjælpe organisationer med at opnå succes i deres AI/ML-projekter, hvilket resulterer i en konkurrencemæssig forretningsfordel.