Vier factoren voor succes met ML-modellen

Door Jason Revelle, CTO, Datatron

Experts, analisten en mensen met eerste-hand ervaring met de implementatie van machine learning (ML) prijzen ML de hemel in, waardoor een groeiend aantal bedrijven ML gaat gebruiken voor verschillende toepassingen. De reden hiervoor is dat ML menselijke cognitie zou kunnen automatiseren en digitale transformatie verder mogelijk maken. Echter, ondanks de grote beloften van ML, is er ook een nadeel: voor de teams die ML in productie moeten beheren, kan het werk een moeilijke strijd worden.

Bedrijven implementeren ML voor allerlei taken, zoals het classificeren van gezondheidsrisico’s, het verwerken van documenten, het voorspellen van prijzen, het detecteren van fraude, preventief onderhoud en meer. Teams trainen en evalueren modellen op historische gegevens totdat ze lijken te voldoen aan de prestatie- en nauwkeurigheidsdoelen. Bedrijven zijn erg enthousiast over de hoge waarde die ML belooft door het voorspellen, classificeren of voorschrijven van toekomstige resultaten – en handelen naar deze voorspellingen.

Al deze bedrijfswaarde komt echter met een hoge operationele kostenpost. Zodra een model “klaar” is, creëert de automatisering via betrouwbare leveringsmechanismen operationele complexiteiten en risico’s die toezicht vereisen. Om deze projecten efficiënt en effectief te maken, moeten de leverings- en operationele teams het ML-levenscyclusbeheer holistisch beheren. De gegevens moeten beschikbaar zijn en van de verwachte kwaliteit in vergelijking met wat werd gebruikt voor training.

Het wordt al snel duidelijk dat dit niet zomaar een andere ingenieursinspanning is, en je moet beginnen met nadenken over de uitdagingen op nieuwe manieren om echt een AI-gedreven bedrijf te worden. Hier zijn vier dingen om te overwegen voor succes met machine learning, en specifiek met ML-modellen.

1. Hoe je meerdere versies achter de schermen snel kunt implementeren

Machine learning-modellen vereisen een iteratief proces dat afhankelijk is van echte productiegegevens. Maak gerichte investeringen om implementatie-doelen te hebben die kunnen draaien en resultaten kunnen loggen zonder dat productiesystemen of klanten deze resultaten zien. Je hebt de mogelijkheid nodig om op deze manier gemakkelijk en vloeiend te implementeren totdat je het model hebt dat je leuk vindt. Op lange termijn is het veel effectiever en economischer om aan te nemen dat er veel afstelling van je modellen zal zijn, evenals een behoefte om huidige versies te vergelijken met nieuwe kandidaten die betere resultaten beloven.

2. Begrijp dat wat je team belooft meestal niet past binnen traditionele, applicatie-georiënteerde “goedgekeurde software”-beleid.

Terwijl ML snel groeit en diversifieert, heeft het een steeds groeiende lijst van technologieaanbieders, zowel groot als klein. Het is een gegeven dat IT-proper ondersteuning, beveiligingsscans en -controles moet behouden voor je operationele omgevingen. Maar wees gewaarschuwd: het toepassen van dezelfde controles en processen voor het beheren van operationele of producthostingtechnologie op je ML-praktijk zal waarschijnlijk je potentiële rendement aanzienlijk verminderen voordat je überhaupt de startlijn bent gepasseerd.

Het is ook belangrijk om te noteren dat datawetenschappers zeer gewild zijn. Het is niet moeilijk voor hen om een andere baan te vinden als ze het gevoel hebben dat ze onder druk worden gezet om betere en betere resultaten te leveren zonder de technologie te veranderen die ze gebruiken of hoe ze deze kunnen gebruiken.

3. Begrijp dat de ML-modelontwikkelingslevenscyclus niet hetzelfde is als een software-ontwikkelingslevenscyclus

Software-ontwikkeling en het creëren van ML-modellen zijn twee heel verschillende processen; het behandelen van de laatste als de eerste is een recept voor rampen. Bedrijven die modellevering behandelen als een gewone software-release eindigen met gaten in cross-cutting capaciteiten zoals monitoring en analyse, en hoge overhead voor kennisoverdracht tussen creators en operators, met sequentiële, verlengde tijdslijnen. Specialists die je modellen implementeren en ondersteunen, moeten begrijpen hoe het model en de gegevens werken, niet alleen servicebetrouwbaarheid en foutcodes triageren. De juiste talenten, hybride teams bestaande uit data- en operationele specialisten, evenals de juiste tools, zullen je in staat stellen om te testen en te interpreteren of niet alleen de software wordt uitgevoerd, maar ook hoe nauwkeurig en verklarend de antwoorden zijn.

Het is ook belangrijk om een succes-gebaseerde aanpak te hanteren voor het auditen van machine learning-modellen, omdat ze kwetsbaar zijn. Als je wilt dat je bedrijfsdatawetenschappers hun machine learning-modelvoorspellingen vertrouwen, zelfs als dingen misgaan (beseffend dat dit zal gebeuren), dan moet het ML-auditproces zijn ontworpen op een manier die machine learning-modellen in staat stelt om te worden geïtereerd en verbeterd.

4. Plan voor schaal.

Je hebt machine-intelligentie-gereedschap nodig met een geautomatiseerd implementatiesysteem zoals Kubernetes of Docker Swarm. Dit zal je helpen om meerdere doelen te bereiken. Je zult in staat zijn om machine learning-werkbelastingen dynamisch op te starten en taken automatisch over clusters te monitoren op fouten met behulp van AI-algoritmen – operators waarschuwen voor potentiële problemen voordat ze optreden. Je zult ook in staat zijn om analytics-rapporten van meerdere bronnen te consolideren in één centraal dashboard om ervoor te zorgen dat machine learning-modellen naar verwachting presteren.

De leercurve beheersen

Voordat je een ML-project start, is het cruciaal om te begrijpen dat ML-modellen, hoewel ze grote voordelen en efficiëntie voor je organisatie kunnen bieden, een eigen leven kunnen gaan leiden als ze niet goed worden beheerd. Ken de risico’s en de operationele complexiteiten vanaf het begin, met de bovenstaande vier tips in gedachten. Met een solide fundament op zijn plaats, zul je in staat zijn om je ML-modellen te creëren en gemakkelijk te veranderen, zodat ze je bedrijfsdoelen dienen.