Fire faktorer for suksess med ML-modeller

Av Jason Revelle, CTO, Datatron

Eksperter, analytikere og de med førstehånds erfaring med implementering av maskinlæring (ML) roser ML, noe som fører til at stadig flere bedrifter tar i bruk ML for en rekke formål. Det som gjør ML så populært, er at det kan computerisere menneskelig kognition og videre muliggjøre digital transformasjon. Likevel, selv om ML har et stort potensiale, er det også en nedside: for teamene som må håndtere det i produksjon, kan arbeidet bli en vanskelig kamp.

Bedrifter implementerer ML for en rekke oppgaver, som å klassifisere helseproblemer, prosessere dokumenter, forutsi priser, oppdage svindel, forebyggende vedlikehold og mer. Teamene trener og vurderer modeller på historiske data til de ser ut til å møte ytelses- og nøyaktighetsmål. Bedrifter er ivrige etter å høste de høye verdiene som ML lover ved å forutsi, klassifisere eller foreslå fremtidige resultater – og handle på disse forutsagnene.

All denne forretningsverdien kommer likevel på bekostning av en høy operasjonskostnad. Når en modell er “klar”, skaper automatiseringen gjennom pålitelige leveringsmekanismer operasjonelle kompleksiteter og risikoer som krever oppmerksomhet. For å gjøre disse prosjektene effektive og effisiente, må leverings- og operasjonsteamene håndtere ML-livssyklusen holistisk. Data må være tilgjengelig og av den forventede kvaliteten i forhold til det som ble brukt under trening.

Det blir snart tydelig at dette ikke er helt likt andre ingeniørinnsats, og du må begynne å tenke på utfordringene på nye måter for å virkelig bli et AI-drevet selskap. Her er fire ting å vurdere for suksess med maskinlæring, og spesielt med ML-modeller.

1. Hvordan raskt distribuere flere versjoner bak scenen

Maskinlæringsmodeller krever en iterativ prosess som er avhengig av virkelig produksjonsdata. Gjør fokuserte investeringer for å ha distribusjonsmål som kan kjøre og logge resultater uten at produksjonssystemer eller kunder ser disse resultater. Du trenger evnen til å distribuere på denne måten enkelt og flytende til du har modellen du liker. På lang sikt er det mye mer effektivt og økonomisk å anta at det vil være mye justering av modellene dine, samt et behov for å sammenligne gjeldende versjoner med nye kandidater som lover bedre resultater.

2. Forstå at det teamet ditt lover vanligvis ikke passer innenfor tradisjonelle, applikasjonsbaserte “godkjente programvare”-politikk.

Ettersom ML raskt vokser og diversifiserer, har det en stadig voksende liste over teknologileverandører, både store og små. Det er en selvfølge at IT må vedlikeholde ordentlig støtte, sikkerhetsskanninger og kontroller for dine driftsmiljøer. Men vær advart: å bruke samme kontroller og prosesser for å styre drifts- eller produktvertsmiljøer til din ML-praksis, vil sannsynligvis redusere din potensielle avkastning betydelig før du har noen sinne krysset startlinjen.

Det er også viktig å merke seg at dataforskere er høyt ettertraktet. Det er ikke vanskelig for dem å finne en annen jobb hvis de føler at de presses til å levere bedre og bedre resultater uten å endre teknologien de bruker eller hvordan de kan bruke den.

3. Forstå at ML-modellutviklingslivssyklusen ikke er den samme som en programvareutviklingslivssyklus

Programvareutvikling og opprettelse av ML-modeller er svært forskjellige prosesser; å behandle den sistnevnte som den førstnevnte er en oppskrift for katastrofe. Bedrifter som behandler modelllevering som bare en annen programvareutgivelse, ender opp med hull i tverrgående evner som overvåking og analyse, og høy overføringskostnad for kunnskapsoverføring mellom skapere og operatører, med sekvensielle, utvidede tidsfrister. Spesialister som distribuerer og støtter modellene dine, må forstå hvordan modellen og dataene fungerer, ikke bare feilsøke tjenestetilgjengelighet og feilkoder. Riktig talent, hybridteam bestående av data- og operasjonsspesialister, samt riktige verktøy, vil gjøre det mulig for deg å teste og tolke ikke bare om programvaren kjører, men også hvordan nøyaktige og forklarbare svarene er.

Det er også viktig å gå i retning av en suksessbasert tilnærming til å auditere maskinlæringsmodeller fordi de er feilbare. Hvis du ønsker at datavitenskapsfolkene dine skal stole på maskinlæringsmodellprediksjonene dine, selv når ting går galt (og det vil de), må ML-auditprosessen være designet på en måte som tillater maskinlæringsmodeller å itereres over og forbedres.

4. Planlegg for skala.

Du må distribuere maskinintelligensverktøy som har et automatisert distribusjonssystem som Kubernetes eller Docker Swarm. Dette vil hjelpe deg å oppnå flere mål. Du vil kunne starte maskinlæringsarbeidsbyrder dynamisk og overvåke oppgaver automatisk over kluster for feil ved hjelp av AI-algoritmer – varsle operatører om mulige problemer før de oppstår. Du vil også kunne konsolidere analyserapporter fra flere kilder til en sentral dashboard for å sikre at maskinlæringsmodellene utfører som forventet.

Mester lærekurven

Før du begynner et ML-prosjekt, er det avgjørende å forstå at selv om ML-modeller kan tilby enorme fordeler og effektiviteter til din organisasjon, kan de ta på seg et eget liv hvis de ikke håndteres ordentlig. Kjenne risikoene og de operasjonelle kompleksitetene fra starten, og holde de ovennevnte fire punktene i mente. Med en solid grunnlag på plass, vil du kunne opprette og enkelt endre ML-modellene dine så de tjener dine forretningsmål. til din organisasjon, de kan ta på seg et eget liv hvis de ikke håndteres ordentlig. Kjenne risikoene og de operasjonelle kompleksitetene fra starten, og holde de ovennevnte fire punktene i mente. Med en solid grunnlag på plass, vil du kunne opprette og enkelt endre ML-modellene dine så de tjener dine forretningsmål.