Er off-the-shelf bedre end brugerdefinerede maskinlæringsmodeller?

Hvornår er det bedre at bygge end at købe en off-the-shelf-løsning?

Virksomheder kan engagere sig i forskellige tilgange til modeludvikling. Fra fuldt udbyggede ML-tjenester til brugerdefinerede modeller. Afhængigt af forretningskrav, tilgængelig ekspertise og planlægningsbegrænsninger, må de træffe en beslutning: skal de udvikle brugerdefinerede løsninger fra bunden, eller skal de vælge en off-the-shelf-tjeneste?

Til alle stadier af ML-arbejdsbelastninger skal der træffes en beslutning om, hvordan de forskellige puslespilsstykker skal samarbejde. Fra dataindsamling, -forberedning og -visualisering til funktionsekspertisering, modeltræning og -evaluering stiller maskinlæringsingeniører sig selv gentagne gange samme spørgsmål: Vil det være en brugerdefineret løsning, skrevet og udviklet fra bunden, eller vil det være en off-the-shelf-tjeneste?

Men hvornår er det bedre at bygge end at købe en off-the-shelf-løsning? De vigtigste differentierende faktorer mellem de to tilgange er: forarbejdningsindsats, udviklingshastighed og den nødvendige ekspertise.

Hvad skal du overveje, når du beslutter, om du skal bruge off-the-shelf eller brugerdefinerede maskinlæringsmodeller?

Forarbejdningsindsats

ML-projekter står over for alle mulige udfordringer, men måske den største udfordring er tilgængeligheden af træningsdata. Mangel på træningsdata kan stoppe et projekt, før det overhovedet er startet. Før et projekt overhovedet er startet, kan det stå over for betydelige forarbejdningsomkostninger fra dataindsamling, -mærkning, -rensning og -forarbejdningsindsats. Dette er den velkendte fælde, som mange ML-projekter falder i: forarbejdningsindsatsen ender med at tage 80% af de ressourcer, der er allokeret, hvorimod få ressourcer er tilbage til den faktiske modeltræning og -evaluering.

Off-the-shelf-løsninger lettelser forarbejdningsindsatsen og -smerten. De er bygget til at udføre de mest almindelige operationer med kun lidt konfiguration nødvendig. Det bedste ved dem er: off-the-shelf-løsninger findes til alle stadier af ML-arbejdsbelastninger.

På den anden side kræver brugerdefinerede implementeringer normalt mere forarbejdningsindsats. Det betyder ikke, at de skal afvises helt: de er stadig nødvendige for at finjustere et bestemt ML-stadium til det specifikke problem, der løses. En særligt snavset dataset kan kræve nogle specielle rensningsregler. Samtidig kan en bestemt funktionssæt kræve brugerdefineret funktionsekspertisering, ligesom neurale arkitekturer kan kræve små justeringer. I dette tilfælde er brugerdefinerede løsninger, bygget fra bunden, sandsynligvis i stand til at dække alle behov.

Udviklingshastighed

Off-the-shelf-løsninger fokuserer på konfiguration snarere end implementering. I stedet for at allokerer ressourcer til at finde ud af hvad der skal gøres, vil ML-hold fokusere på hvordan de forskellige puslespilsstykker skal samarbejde. Denne tilgang giver virksomheder, forskere og ingeniører mulighed for hurtigt at implementere prototyper og beviser. I stedet for at opfinde hjulet på ny, giver off-the-shelf-løsninger det muligt at udnytte eksisterende viden, hvilket sparer udviklingstid.

Brugerdefinerede løsninger, implementeret fra bunden, er kendt for at være langsomere i forhold til udviklingshastighed. Dette skyldes deres øgede vedligeholdelsesbehov: ingeniører må finde ud af både hvad og hvordan af løsningen. Ligeså er den mere komplekse løsningen, jo mere tidkrævende er den.

Normalt er sandheden dog et sted midt imellem: en eksisterende kodebase vil blive refaktoreret og tilpasset til projektets behov. Sådan er tilfældet med den velkendte transfer-læringsmetode til modeltræning.

Ekspertise

Ligesom der er multiple lag, hvorved maskinlærning udføres, er der multiple niveauer af ekspertise, hvorved ML-modeller kan udvikles, fra kodefrie grænseflader til bygning af modeller fra bunden.

Off-the-shelf-løsninger findes, hvor meget lidt maskinlærings-ekspertise er nødvendig. Ved at udnytte intuitive grænseflader og endda drag-and-drop-tilgange er det blevet ekstremt let for alle (fra forretningsanalytikere til software-ingeniører) at bygge og implementere en slags maskinlæringsmodel. Selvom denne simple tilgang til modeludvikling kan fungere til prototyperingsformål, er det usandsynligt, at den vil opfylde kravene til produktions-systemer.

Ekspertise er stadig nødvendig for at konfigurere, opsætte og vedligeholde off-the-shelf-løsninger i produktion. Workarounds, kode-patches, tilslutning til forskellige API-grænseflader og håndtering af implementeringsproblemer er almindelige opgaver, der kræves for at sikre modellers præstation i produktionsmiljøer.

Brugerdefinerede løsninger implementeres normalt på et infrastruktur-niveau, og der er ingen vej udenom: ekspertise er definitivt nødvendig. Afhængigt af virksomhedens størrelse og projekt-mål kan multidisciplinære hold kræves til at vedligeholde produktions-systemer. Data-videnskabsmænd, ML-ingeniører og forretningsanalytikere samarbejder om at give mening til slutningsresultater og vedligeholde produktions-modeller.

Hvad skal du bruge: en off-the-shelf eller en brugerdefineret maskinlæringsmodel?

En ML-løsning vil bestå af mange enkeltdele og -tjenester, der skal samarbejde som en samlet løsning. Det handler aldrig om at gå 100% brugerdefineret eller 100% off-the-shelf, da forskellige forretnings-problemer kræver forskellige løsninger. Ofte er ML-baserede løsninger bygget af en blanding af de to: off-the-shelf-tjenester til at udtrække generelle indsigt, kombineret med brugerdefinerede modeller til øget nøjagtighed og modellering af domæne-specifikke kundskaber.

Hemmeligheden er at vide, hvornår man skal implementere brugerdefinerede løsninger fra bunden, og hvilke dele af projektet kan udnytte fordelene ved off-the-shelf-tjenester. Dette afhænger stærkt af den type problem, der løses, forretnings-kravene, de tilgængelige data og de overordnede begrænsninger i udviklings-miljøet.

Til mere om AI og teknologiske trends, se Josh Miramant, CEO af Blue Orange Digitals data-drevne løsninger til forsyningskæde, sundhedsdokumentautomatisering og mere.

Du kan også lide:

Brug NLP til at klassificere kommentarer på sociale medier

Hvordan sprogbehandling forbedres gennem Googles åbne kilde-BERT-model