De grootste ondernemings-AI-impact voor uw geld met MLOps – Thought Leaders

Door Victor Thu, vice president van customer success en operations, Datatron.

Een enquête van Gartner eind 2020 toonde aan dat 75% van de respondenten van plan waren om bestaande of nieuwe AI-initiatieven te starten in het komende jaar. Tegelijkertijd vonden Gartner-analisten ook dat een van de grootste problemen bij het overbrengen van AI-initiatieven naar productie het onvermogen van organisaties was om deze investeringen terug te koppelen aan de bedrijfswaarde.

Wat meer is, wordt het algemeen geschat dat de meerderheid van de AI/ML-projecten zal falen. En dat feit kan het nog moeilijker maken om goedkeuring te krijgen van de top voor deze investeringen. Hier komt MLOps – Machine Learning Operations – om de hoek kijken.

Huidig ML-landschap

Machine learning biedt grote mogelijkheden voor organisaties, maar de realiteit is dat het bereiken van deze mogelijkheden duur en tijdrovend kan zijn. Terwijl de interesse in het implementeren van ML groot is, blijft de daadwerkelijke productieimplementatie laag. De belangrijkste hindernis bij het brengen van oplossingen naar productie is niet de kwaliteit van de modellen, maar eerder het gebrek aan infrastructuur om bedrijven in staat te stellen dit te doen.

De ontwikkelingscyclus voor machine learning is fundamenteel anders dan de levenscyclus van traditionele softwareontwikkeling. In de afgelopen 20 jaar hebben de meeste mensen voor het grootste deel begrepen wat nodig is om traditionele software van ontwikkeling naar productie te brengen. Ze begrijpen de compute, middleware, netwerken, opslag en andere elementen die nodig zijn om ervoor te zorgen dat de app goed draait.

Helaas proberen de meeste mensen dezelfde softwareontwikkelingscyclus (SDLC) te gebruiken voor de machine learning-ontwikkelingscyclus (MLLC). Echter, ML is een significante paradigma-shift. Infrastructuurtoewijzingen zijn uniek. De talen en frameworks zijn anders.

Machine learning-modellen kunnen relatief snel in een paar weken worden gemaakt, maar het proces van het in productie brengen van deze modellen kan tussen de zes en negen maanden duren vanwege gesiloede processen, disconnecties tussen teams en het handmatig vertalen en scripten van ML-modellen in bestaande applicaties.

Het is ook moeilijk om machine learning-modellen te monitoren en te reguleren zodra ze in productie zijn. Er is geen garantie dat ML-modellen die in het lab zijn gemaakt, op de manier waarop ze zijn bedoeld in productie zullen draaien. En er zijn verschillende factoren die hierachter kunnen zitten.

De voordelen van MLOps

Wanneer het gaat om het implementeren van machine learning-modellen in productie, zoals eerder vermeld, kan er veel misgaan. Wanneer IT/DevOps probeert machine learning-modellen operationeel te maken, moeten deze teams de verschillende processen handmatig scripten en automatiseren. Deze modellen worden vaak bijgewerkt en elke keer dat de modellen worden bijgewerkt, wordt het gehele proces herhaald.

Wanneer een organisatie meer en meer modellen heeft en de verschillende iteraties van deze modellen, wordt het een enorme uitdaging om deze bij te houden. Een van de grote problemen is dat de tools die ze gebruiken vaak het probleem van verschillende codebases en frameworks die onderling niet zijn verbonden niet aanpakken. Dit kan leiden tot problemen, waardoor tijd en middelen verloren gaan, onder andere. De meeste teams hebben vandaag de dag ook moeite met het bijhouden en versiebeheer van hun modellen.

MLOps helpt de kloof tussen data science en operations te overbruggen om de productie-ML-levenscycli te beheren – in wezen door DevOps-principes toe te passen op ML-aflevering. Dit maakt het mogelijk om sneller naar de markt te gaan met ML-gebaseerde oplossingen, om sneller te experimenteren en om de kwaliteit en betrouwbaarheid te garanderen.

Met traditionele SDLC-modellen kun je misschien één of twee ML-modellen per jaar afronden, met veel pijn en extreme inefficiëntie. Maar met MLOps kun je schalen, zodat je meerdere problemen kunt aanpakken. Je kunt deze modellen gebruiken om potentieel klanten beter te targeten, relevantere klanten te vinden of om inefficiënties te vinden en te verbeteren. Je kunt verbeteringen veel sneller uitrollen, wat uiteindelijk de productiviteit en winst verhoogt.

De elementen van MLOps-succes

MLOps is geen zilveren kogel. Je hebt nog steeds de juiste basis en de beste praktijken nodig om het te laten werken. Om succesvol te zijn met MLOps, moet je je richten op twee belangrijke taken. De eerste is het begrijpen van de verschillende rollen. Je moet ervoor zorgen dat je de juiste, diverse set vaardigheden en medewerkers hebt; behandel data scientists en machine learning-engineers niet als één en hetzelfde. Beiden zijn nodig, maar je hebt een mix nodig.

Het tweede punt om in gedachten te houden is dat je niet alles zelf moet proberen te doen. MLOps is ook arbeidsintensief en vereist grote teams van ML-engineers. Het is belangrijk om na te denken over wat je nodig hebt en om de beschikbare tools te bekijken die je kunnen helpen om de aanpak te vereenvoudigen en het aantal benodigde mensen te stroomlijnen.

Verder gaan met vertrouwen

Brancheanalisten schatten dat bijna de helft van de ondernemings-AI-projecten gedoemd zijn te falen. Er zijn verschillende redenen voor dit falen, waaronder de cultuur van een organisatie. Maar een primaire reden is het ontbreken van de juiste technologie om het project te ondersteunen. MLOps is een zeer nuttig hulpmiddel voor organisaties om succes te behalen in hun AI/ML-projecten, wat resulteert in een concurrerend bedrijfsvoordeel.