Få det største enterprise AI-bang for dine penge med MLOps – Tankeledere

Af Victor Thu, vicepræsident for kundesucces og operationer, Datatron.

En undersøgelse af Gartner i slutningen af 2020 fandt, at 75% af respondenterne planlagde at fortsætte eller starte nye AI-initiativer i det kommende år. Samtidig fandt Gartner-analytikere også, at en af de største udfordringer med at flytte AI-initiativer i produktion er, at disse organisationer ikke kan tilknytte disse investeringer til forretningsværdien.

Hvad mere er, estimeres det, at flertallet af AI/ML-projekter vil fejle. Og den kendsgerning kan gøre det endnu sværere at få opbakning fra toppen på disse investeringer. Her kan MLOps – Machine Learning Operations – spille en nøglerolle.

Nuværende ML-landskab

Maskinlæring tilbyder store muligheder for organisationer, men virkeligheden er, at det kan være dyrt og tidskrævende at nå disse muligheder. Så selvom interessen for at implementere ML er høj, er den faktiske produktionsimplementering lav. Hovedhinderet for at bringe løsninger i produktion er ikke kvaliteten af modellerne, men snarere manglen på infrastruktur til at tillade virksomhederne at gøre det.

Udviklingslivscyklussen for maskinlæring er fundamentalt forskellig fra livscyklussen for traditionel softwareudvikling. I løbet af de sidste 20 år har folk for størstedelens vedkommende fundet ud af, hvad der kræves for, at traditionel software kan gå fra udvikling til produktion. De forstår computere, middleware, netværk, lagring og andre elementer, der er nødvendige for at sikre, at appen kører godt.

Desværre forsøger de fleste at bruge den samme softwareudviklingslivscyklus (SDLC) til maskinlæringsudviklingslivscyklussen (MLLC). Men ML er en betydelig paradigmeskift. Infrastrukturtilknytningerne er unikke. Sprogene og rammerne er forskellige.

Maskinlæringsmodeller kan oprettes relativt hurtigt på få uger, men processen med at få disse modeller i produktion kan tage mellem seks til ni måneder på grund af siloede processer, afbrydelser mellem hold og manuel oversættelse og scripting af ML-modeller til eksisterende applikationer.

Det er også svært at overvåge og styre maskinlæringsmodeller, når de er kommet i produktion. Der er ingen garanti for, at ML-modeller oprettet i laboratoriet vil køre, som de er tiltænkt i produktion. Og der er flere forskellige faktorer, der kan ligge bag det.

Fordelene ved MLOps

Når det kommer til at implementere maskinlæringsmodeller i produktion, som nævnt, er der meget, der kan gå galt. Når IT/DevOps forsøger at operationalisere maskinlæringsmodeller, skal disse hold manuelt skrive og automatisere de forskellige processer. Disse modeller opdateres ofte, og hver gang modellerne opdateres, gentages hele processen.

Når en organisation har flere og flere modeller og de forskellige iterationer af disse modeller, bliver det et enormt problem at holde styr på dem. Et af de store problemer er, at værktøjerne, de bruger, ikke løser problemet med, at forskellige kodebaser og rammer er forskellige fra hinanden. Det kan føre til problemer, hvilket resulterer i spild af tid og ressourcer, blandt andet. De fleste hold kæmper i dag også med at spore og versionere, når de opdaterer deres modeller.

MLOps hjælper med at brobygge mellem datavidenskab og operationer for at styre produktions-ML-livscyklussen – essentielt ved at anvende DevOps-principper til ML-levering. Det muliggør en hurtigere tid til marked for ML-baserede løsninger, en hurtigere eksperimenteringsrate og en sikring af kvalitet og pålidelighed.

Ved at bruge traditionelle SDLC-modeller kan du måske få én eller to ML-modeller færdige om året, med stor smerte og ekstrem ineffektivitet. Men med MLOps kan du skala, så du kan løse flere problemer. Du kan bruge disse modeller til at hjælpe med at bedre målrette potentielle kunder, finde mere relevante kunder eller finde og forbedre ineffektiviteter. Du kan rulle ud forbedringer meget hurtigere, hvilket ultimativt forbedrer produktiviteten og profit.

Elementerne for MLOps-succes

MLOps er ikke en mirakelkugle. Du skal stadig have den rette grund og kende de bedste praksisser for, at det kan fungere. For at lykkes med MLOps skal du fokusere på to primære opgaver. Den første er at forstå de forskellige roller. Du skal sikre, at du har det rette, diverse sæt af færdigheder og medarbejdere på plads; behandle ikke datavidenskabsfolk og maskinlæringsingeniører som én og samme. Begge er nødvendige, men du har brug for en blanding.

Den anden ting at huske er, at du ikke skal prøve at lave det hele selv. MLOps er også arbejdskrævende og kræver store hold af ML-ingeniører. Det er vigtigt at tænke igennem, hvad du har brug for, og se på de værktøjer, der er til rådighed for at hjælpe dig med at forenkle tilgangen og strømline antallet af dedikeret personale.

At gå fremad med tillid

Brancheanalytikere estimerer, at næsten halvdelen af enterprise AI-projekter er dømt til at fejle. Der er flere årsager til sådan en fiasko, herunder en organisations kultur. Men en primær årsag er manglen på passende teknologi til at støtte projektet. MLOps er et meget nyttigt værktøj til at hjælpe organisationer med at opnå succes i deres AI/ML-projekter, hvilket resulterer i en konkurrencemæssig forretningsfordel.