Z MLOps – Thought Leaders si zagotovite največji AI za podjetja za svoj denar

Victor Thu, podpredsednik za uspeh strank in poslovanje, Datatron.

Raziskava avtorja Gartner konec leta 2020 ugotovili, da 75 % anketirancev v prihodnjem letu načrtuje nadaljevanje ali začetek novih pobud za umetno inteligenco. Hkrati so analitiki Gartnerja tudi ugotovili, da je ena najpomembnejših težav pri prenosu pobud AI v proizvodnjo nezmožnost teh organizacij, da te naložbe povežejo s poslovno vrednostjo.

Še več, po splošnih ocenah bo večina projektov AI/ML propadla. In zaradi tega dejstva je lahko še težje pridobiti nakup z vrha za te naložbe. Tu lahko MLOps – operacije strojnega učenja – igrajo ključno vlogo.

Trenutna pokrajina ML

Strojno učenje ponuja izjemne možnosti za organizacije, vendar je realnost takšna, da je doseganje teh možnosti drago in dolgotrajno. Torej, medtem ko je zanimanje za izvajanje ML veliko, dejanska uvedba proizvodnje ostaja nizka. Glavna ovira pri uvajanju rešitev v proizvodnjo ni kakovost modelov, temveč pomanjkanje vzpostavljene infrastrukture, ki bi podjetjem to omogočala.

Razvojni življenjski cikel strojnega učenja je bistveno drugačen od življenjskega cikla tradicionalnega razvoja programske opreme. V zadnjih 20 letih so ljudje večinoma ugotovili, kaj je potrebno, da tradicionalna programska oprema preide iz razvoja v proizvodnjo. Razumejo računalništvo, vmesno programsko opremo, mreženje, shranjevanje in druge elemente, potrebne za zagotovitev dobrega delovanja aplikacije.

Na žalost večina poskuša uporabiti isti življenjski cikel razvoja programske opreme (SDLC) za življenjski cikel razvoja strojnega učenja (MLLC). Vendar je ML pomembna sprememba paradigme. Dodelitve infrastrukture so edinstvene. Jeziki in okviri so različni.

Modele strojnega učenja je mogoče ustvariti sorazmerno hitro v nekaj tednih, vendar lahko postopek uvajanja teh modelov v proizvodnjo traja od šest do devet mesecev zaradi ločenih procesov, prekinitev povezav med ekipami ter ročnega prevajanja in skriptiranja modelov ML v obstoječo aplikacijo. .

Težko je tudi spremljati in upravljati modele strojnega učenja, ko so že uvedeni v proizvodnjo. Nobenega jamstva ni, da bodo modeli ML, ustvarjeni v laboratoriju, v proizvodnji delovali tako, kot so predvideni. In obstaja več različnih dejavnikov, ki bi lahko bili za tem.

Prednosti MLOps

Ko gre za uvajanje modelov strojnega učenja v produkcijo, gre lahko, kot že omenjeno, marsikaj narobe. Ko IT/DevOps poskuša operacionalizirati modele strojnega učenja, morajo te ekipe ročno skriptirati in avtomatizirati različne procese. Ti modeli se pogosto posodabljajo in vsakič, ko se modeli posodobijo, se celoten postopek ponovi.

Ko ima organizacija čedalje več modelov in različnih ponovitev teh modelov, postane spremljanje le-teh velik problem. Ena od velikih težav je, da orodja, ki jih uporabljajo, pogosto ne obravnavajo težave različnih kodnih baz in ogrodij, ki so med seboj nepovezana. To lahko povzroči težave, ki med drugim povzročijo izgubo časa in virov. Večina današnjih ekip se med posodabljanjem svojih modelov spopada tudi s sledenjem in različicami.

MLOps pomaga premostiti ločnice med podatkovno znanostjo in operacijami za upravljanje proizvodnih življenjskih ciklov ML – v bistvu uporablja načela DevOps za dostavo ML. To omogoča hitrejši čas za trženje rešitev, ki temeljijo na ML, hitrejšo stopnjo eksperimentiranja ter zagotavljanje kakovosti in zanesljivosti.

Z uporabo tradicionalnih modelov SDLC boste morda lahko naredili enega ali dva modela ML na leto, z veliko težavo in izjemno neučinkovitostjo. Toda z MLOps lahko povečate obseg, tako da lahko obravnavate več težav. Te modele lahko uporabite za pomoč pri boljšem ciljanju na bodoče stranke, iskanju ustreznejših strank ali odkrivanju in izboljšanju neučinkovitosti. Izboljšave lahko uvedete veliko hitreje, kar na koncu izboljša produktivnost in dobiček.

Elementi uspeha MLOps

MLOps ni srebrna paleta. Še vedno morate imeti ustrezno podlago in poznati najboljše prakse, da bo delovalo. Če želite uspeti z MLOps, se morate osredotočiti na dve glavni dolžnosti. Prvi je razumevanje različnih vlog. Zagotoviti morate, da imate pravi, raznolik nabor znanj in zaposlenih; ne obravnavajte podatkovnih znanstvenikov in inženirjev strojnega učenja kot enega in istega. Oboje je potrebno, vendar potrebujete mešanico.

Druga stvar, ki jo morate imeti v mislih, je, da ne poskušajte vsega narediti sam. MLOps je tudi delovno intenziven, saj zahteva velike skupine inženirjev ML. Pomembno je, da dobro premislite, kaj potrebujete, in si ogledate orodja, ki so na voljo, da vam pomagajo poenostaviti pristop in racionalizirati število potrebnih predanih ljudi.

Samozavestno naprej

Industrijski analitiki ocenjujejo, da je skoraj polovica projektov umetne inteligence v podjetjih obsojena na neuspeh. Razlogov za tak neuspeh je več, vključno s kulturo organizacije. Toda glavni razlog je pomanjkanje ustrezne tehnologije za podporo projekta. MLOps je zelo uporabno orodje za pomoč organizacijam pri doseganju uspeha v njihovih projektih AI/ML, kar ima za posledico konkurenčno poslovno prednost.