Krijg de grootste ondernemings-AI-bang voor uw geld met MLOps – Thought Leaders

Door Victor Thu, vice president van customer success en operations, Datatron.

Een onderzoek van Gartner eind 2020 toonde aan dat 75% van de respondenten van plan waren om AI-initiatieven voort te zetten of nieuwe initiatieven te starten in het komende jaar. Tegelijkertijd vonden Gartner-analisten ook dat een van de grootste problemen bij het overbrengen van AI-initiatieven naar productie het onvermogen van organisaties is om deze investeringen terug te koppelen aan de bedrijfswaarde.

Wat meer is, wordt het algemeen geschat dat de meerderheid van de AI/ML-projecten zal falen. En dat feit kan het nog moeilijker maken om goedkeuring te krijgen van de top voor deze investeringen. Hier komt MLOps – Machine Learning Operations – om de hoek kijken.

Huidig ML-landschap

Machine learning biedt enorme mogelijkheden voor organisaties, maar de realiteit is dat het bereiken van deze mogelijkheden duur en tijdrovend kan zijn. Terwijl de interesse in het implementeren van ML hoog is, blijft de daadwerkelijke productieimplementatie laag. De belangrijkste hindernis bij het brengen van oplossingen naar productie is niet de kwaliteit van de modellen, maar eerder het ontbreken van infrastructuur om bedrijven in staat te stellen dit te doen.

De ontwikkelingscyclus voor machine learning is fundamenteel anders dan de levenscyclus van traditionele softwareontwikkeling. In de afgelopen 20 jaar hebben mensen voor het grootste deel begrepen wat nodig is om traditionele software van ontwikkeling naar productie te brengen. Ze begrijpen de compute, middleware, netwerken, opslag en andere elementen die nodig zijn om ervoor te zorgen dat de app goed draait.

Helaas proberen de meeste mensen dezelfde softwareontwikkelingscyclus (SDLC) te gebruiken voor de machine learning-ontwikkelingscyclus (MLLC). Maar ML is een significante paradigmaswitch. Infrastructuurtoewijzingen zijn uniek. De talen en frameworks zijn anders.

Machine learning-modellen kunnen relatief snel in een paar weken worden gemaakt, maar het proces van het in productie brengen van deze modellen kan erg lang duren, van zes tot negen maanden, vanwege gesloten processen, disconnecties tussen teams en het handmatig vertalen en scripten van ML-modellen in bestaande applicaties.

Het is ook moeilijk om machine learning-modellen te controleren en te beheren zodra ze in productie zijn. Er is geen garantie dat ML-modellen die in het lab zijn gemaakt, op de manier waarop ze zijn bedoeld, in productie zullen werken. En er zijn verschillende factoren die hierachter kunnen zitten.

De voordelen van MLOps

Wanneer het gaat om het in productie brengen van machine learning-modellen, zoals eerder vermeld, kan er veel misgaan. Wanneer IT/DevOps probeert machine learning-modellen operationeel te maken, moeten deze teams de verschillende processen handmatig scripten en automatiseren. Deze modellen worden vaak bijgewerkt en elke keer dat de modellen worden bijgewerkt, wordt het hele proces herhaald.

Wanneer een organisatie meer en meer modellen heeft en de verschillende iteraties van deze modellen, wordt het bijhouden ervan een enorm probleem. Een van de grote problemen is dat de tools die ze gebruiken vaak het probleem van verschillende codebases en frameworks die onderling niet op elkaar aansluiten niet aanpakken. Dit kan leiden tot problemen, wat resulteert in tijd- en middelenverspilling, onder andere problemen. De meeste teams hebben vandaag de dag ook moeite met het bijhouden en versiebeheer van hun modellen.

MLOps helpt bruggen te slaan tussen data science en operations om de productie ML-levenscycli te beheren – in wezen door DevOps-principes toe te passen op ML-levering. Dit maakt een snellere tijd naar markt voor ML-gebaseerde oplossingen mogelijk, een snellere experimenteerfrequentie en de garantie van kwaliteit en betrouwbaarheid.

Met traditionele SDLC-modellen kunt u mogelijk één of twee ML-modellen per jaar maken, met grote pijn en extreme inefficiëntie. Maar met MLOps kunt u schalen, zodat u meerdere problemen kunt aanpakken. U kunt deze modellen gebruiken om potentiële klanten beter te targeten, meer relevante klanten te vinden of inefficiënties te vinden en te verbeteren. U kunt verbeteringen veel sneller uitrollen, wat uiteindelijk de productiviteit en winst verbetert.

De elementen van MLOps-succes

MLOps is geen zilveren kogel. U moet nog steeds de juiste basis hebben en de beste praktijken kennen om het te laten werken. Om succesvol te zijn met MLOps, moet u zich richten op twee belangrijke taken. De eerste is het begrijpen van de verschillende rollen. U moet ervoor zorgen dat u de juiste, diverse set vaardigheden en medewerkers heeft; behandel datawetenschappers en machine learning-engineers niet als één en hetzelfde. Beiden zijn nodig, maar u heeft een mix nodig.

Het tweede punt om in gedachten te houden is niet alles zelf te proberen te doen. MLOps is ook arbeidsintensief en vereist grote teams van ML-engineers. Het is belangrijk om na te denken over wat u nodig heeft en te kijken naar de tools die beschikbaar zijn om u te helpen de aanpak te vereenvoudigen en het aantal nodige toegewijde mensen te stroomlijnen.

Verdergaan met vertrouwen

Brancheanalisten schatten dat bijna de helft van de ondernemings-AI-projecten gedoemd is te falen. Er zijn verschillende redenen voor dit falen, waaronder de cultuur van een organisatie. Maar een belangrijke reden is het ontbreken van passende technologie om het project te ondersteunen. MLOps is een zeer nuttig instrument voor organisaties om succes te behalen in hun AI/ML-projecten, wat resulteert in een concurrerend bedrijfsvoordeel.