Få ut det mesta av ditt företags AI med MLOps – Tankeledare

Av Victor Thu, vice president för kundframgång och verksamhet, Datatron.

En undersökning av Gartner i slutet av 2020 fann att 75% av respondenterna planerade att fortsätta eller starta nya AI-initiativ under det kommande året. Samtidigt fann Gartner-analytiker också att en av de största utmaningarna med att flytta AI-initiativ till produktion är oförmågan för organisationer att koppla dessa investeringar tillbaka till affärsvärdet.

Vad mer är, det uppskattas allmänt att majoriteten av AI/ML-projekt kommer att misslyckas. Och den faktan kan göra det ännu svårare att få buy-in från toppen på dessa investeringar. Här kan MLOps – Machine Learning Operations – spela en nyckelroll.

Den nuvarande ML-landskapet

Maskinlärning erbjuder djupgående möjligheter för organisationer, men verkligheten är att det kan vara dyrt och tidskrävande att nå dessa möjligheter. Medan intresset för att implementera ML är högt, förblir den faktiska produktionsimplementeringen låg. Det största hindret för att få lösningar i produktion är inte kvaliteten på modellerna, utan snarare bristen på infrastruktur för att tillåta företag att göra det.

Utvecklingslivscykeln för maskinlärning skiljer sig fundamentalt från livscykeln för traditionell programvaruutveckling. Under de senaste 20 åren har människor till stor del förstått vad som krävs för att traditionell programvara ska gå från utveckling till produktion. De förstår beräkning, mellanprogram, nätverk, lagring och andra element som behövs för att säkerställa att appen fungerar bra.

Tyvärr försöker de flesta använda samma programvaruutvecklingslivscykel (SDLC) för maskinlärningsutvecklingslivscykeln (MLLC). Men ML är en betydande paradigmförändring. Infrastrukturallokeringar är unika. Språken och ramverken är olika.

Maskinlärningsmodeller kan skapas relativt snabbt på några veckor, men processen att få dessa modeller i produktion kan ta allt från sex till nio månader på grund av siloade processer, frånkopplingar mellan team och manuell översättning och skriptning av ML-modeller till befintliga applikationer.

Det är också svårt att övervaka och styra maskinlärningsmodeller när de väl har kommit i produktion. Det finns ingen garanti för att ML-modeller som skapats i labbet kommer att fungera som avsett i produktion. Och det finns flera olika faktorer som kan ligga bakom detta.

Fördelarna med MLOps

När det gäller att distribuera maskinlärningsmodeller i produktion, som nämnts, kan mycket gå fel. När IT/DevOps försöker operationalisera maskinlärningsmodeller, måste dessa team manuellt skripta och automatisera de olika processerna. Dessa modeller uppdateras ofta, och varje gång modellerna uppdateras, upprepas hela processen.

När en organisation har fler och fler modeller och olika iterationer av dessa modeller, blir det svårt att hålla reda på dem. Ett av de stora problemen är att de verktyg de använder ofta inte löser problemet med att olika kodbas och ramverk är frånkopplade från varandra. Det kan leda till problem, vilket resulterar i slösad tid och resurser, bland annat. De flesta team idag kämpar också med att spåra och versionera när de uppdaterar sina modeller.

MLOps hjälper till att överbrygga klyftan mellan datavetenskap och drift för att hantera ML-livscykeln i produktion – i princip genom att tillämpa DevOps-principer på ML-leverans. Det möjliggör snabbare tid till marknaden för ML-baserade lösningar, snabbare experimentfrekvens och säkerhet och tillförlitlighet.

Med hjälp av traditionella SDLC-modeller kanske du kan få en eller två ML-modeller gjorda per år, till stor smärta och med extrem ineffektivitet. Men med MLOps kan du skala, så att du kan hantera flera problem. Du kan använda dessa modeller för att bättre rikta potentiella kunder, hitta mer relevanta kunder eller hitta och förbättra ineffektiviteter. Du kan rulla ut förbättringar mycket snabbare, vilket i slutändan förbättrar produktivitet och vinst.

Elementen för MLOps framgång

MLOps är inte en silverkula. Du behöver fortfarande ha rätt grund och känna till de bästa metoderna för att det ska fungera. För att lyckas med MLOps måste du fokusera på två primära uppgifter. Den första är att förstå de olika rollerna. Du måste säkerställa att du har rätt, diversifierad uppsättning färdigheter och anställda; behandla inte datavetare och maskinlärningsingenjörer som en och samma sak. Båda är nödvändiga, men du behöver en blandning.

Den andra sak att tänka på är att inte försöka göra allt själv. MLOps är också arbetskrävande och kräver stora team av ML-ingenjörer. Det är viktigt att tänka igenom vad du behöver och titta på de verktyg som finns tillgängliga för att hjälpa dig förenkla tillvägagångssättet och strömlinjeforma antalet dedikerade personer som behövs.

Att gå framåt med tillförsikt

Branschanalytiker uppskattar att nästan hälften av företags AI-projekt är dömda att misslyckas. Det finns flera skäl till ett sådant misslyckande, inklusive en organisations kultur. Men ett primärt skäl är bristen på lämplig teknik för att stödja projektet. MLOps är ett mycket användbart verktyg för att hjälpa organisationer uppnå framgång i sina AI/ML-projekt, vilket resulterar i konkurrensfördelar.