Få mest mulig ut av bedriftens AI med MLOps – ledende eksperter

Av Victor Thu, visepresident for kundesuksess og operasjoner, Datatron.

En undersøkelse av Gartner i slutten av 2020 fant at 75% av respondentene planla å fortsette eller starte nye AI-initiativer i året som kom. Samtidig fant Gartner-analytikere også at en av de største utfordringene med å flytte AI-initiativer til produksjon er evnen til å knytte disse investeringene tilbake til forretningsverdien.

What’s more, it’s widely estimated that the majority of AI/ML projects will fail. And that fact can make it even harder to get buy-in from the top on these investments. This is where MLOps – Machine Learning Operations – can play a key role.

Nåværende ML-landskap

Maskinlæring tilbyr store muligheter for organisasjoner, men virkeligheten er at å nå disse mulighetene kan være dyrt og tidskrevende. Så, mens interessen for å implementere ML er høy, er faktisk produksjonsimplementering lav. Hovedhindre for å bringe løsninger til produksjon er ikke kvaliteten på modellene, men mangelen på infrastruktur for å tillate selskaper å gjøre det.

Utviklingslivssyklusen for maskinlæring er fundamentalt annerledes enn livssyklusen for tradisjonell programvareutvikling. De siste 20 årene har folk for det meste funnet ut hva det tar for tradisjonell programvare å gå fra utvikling til produksjon. De forstår hva som er nødvendig for å sikre at appen kjører bra.

Uheldigvis prøver de fleste å bruke samme programvareutviklingslivssyklus (SDLC) for maskinlæringsutviklingslivssyklusen (MLLC). Men ML er en betydelig paradigmeskifte. Infrastrukturtilordninger er unike. Språkene og rammeverkene er forskjellige.

Maskinlæringsmodeller kan skapes relativt raskt på noen uker, men prosessen med å få disse modellene til produksjon kan ta fra seks til ni måneder på grunn av siloede prosesser, koblinger mellom team og manuell oversettelse og skripting av ML-modeller til eksisterende applikasjoner.

Det er også vanskelig å overvåke og styre maskinlæringsmodeller en gang de har kommet til produksjon. Det er ingen garanti for at ML-modeller skapt i laboratoriet vil fungere som de er ment å gjøre i produksjon. Og det er flere forskjellige faktorer som kan ligge bak det.

Fordelene med MLOps

Når det gjelder å distribuere maskinlæringsmodeller i produksjon, som nevnt, er det mye som kan gå galt. Når IT/DevOps prøver å operationalisere maskinlæringsmodeller, må disse teamene manuelt skriptere og automatisere de forskjellige prosessene. Disse modellene oppdateres ofte, og hver gang modellene oppdateres, gjentas hele prosessen.

Når en organisasjon har flere og flere modeller og de forskjellige iterasjonene av disse modellene, blir det et stort problem å holde orden på dem. Et av de store problemene er at ofte ikke verktøyene de bruker løser problemet med at forskjellige kodebaserte og rammeverk er fra hverandre. Dette kan føre til problemer, som resulterer i at tid og ressurser går til spille, blant annet. De fleste teamene i dag sliter også med å spore og versjonere når de oppdaterer modellene sine.

MLOps hjelper med å bryte ned skillet mellom datavitenskap og operasjoner for å håndtere produksjons-ML-livssyklusen – i praksis åpner det for DevOps-prinsipper til ML-levering. Dette muliggjør en raskere tid til marked for ML-baserte løsninger, en raskere eksperimenteringshastighet og en sikkerhet på kvalitet og pålitelighet.

Ved å bruke tradisjonelle SDLC-modeller kan du kanskje få ett eller to ML-modeller ferdige i løpet av ett år, med stor smerte og ekstrem ineffektivitet. Men med MLOps kan du skalerer, så du kan løse flere problemer. Du kan bruke disse modellene til å bedre målrette potensielle kunder, finne mer relevante kunder eller finne og forbedre ineffektiviteter. Du kan rulle ut forbedringer mye raskere, og til slutt forbedre produktivitet og fortjeneste.

Elementene for MLOps-suksess

MLOps er ikke en sølvkule. Du må fortsatt ha riktig grunnarbeid og kjenne til beste praksis for at det skal fungere. For å lykkes med MLOps må du fokusere på to primære oppgaver. Den første er å forstå de forskjellige rollene. Du må sikre at du har riktig, mangfoldig sett av ferdigheter og ansatte på plass; behandl ikke dataforskere og maskinlæringsingeniører som ett og det samme. Begge er nødvendige, men du trenger en blanding.

Den andre ting å huske på er å ikke prøve å gjøre alt selv. MLOps er også arbeidskrevende og krever store team av ML-ingeniører. Det er viktig å tenke gjennom hva du trenger og se på verktøyene som er tilgjengelige for å forenkle tilnærmingen og strømlinjeformere antallet dedikerte personer som trengs.

Fremover med tillit

Bransjeanalytikere estimerer at nære halvparten av bedriftens AI-prosjekter er dømt til å mislykkes. Det er flere grunner til slike feil, inkludert en organisasjonens kultur. Men en primær grunn er mangelen på passende teknologi på plass for å støtte prosjektet. MLOps er et svært nyttig verktøy for å hjelpe organisasjoner å oppnå suksess i sine AI/ML-prosjekter, med påfølgende konkurransefordel i forretningslivet.