Hvordan kan vi bruge Deep Learning med små data? – Tankeledere

Når det kommer til at følge med i fremvoksende cybersecurity-trends, kan processen med at holde sig opdateret om de seneste udviklinger blive ret kedelig, da der er meget nyheder at holde styr på. Disse dage er situationen dog ændret dramatisk, da cybersecurity-områderne synes at dreje sig om to ord: deep learning.

Selv om vi initialt blev overrasket af den massive dækning, som deep learning modtog, blev det hurtigt klart, at buzzet omkring deep learning var berettiget. På en måde, der ligner det menneskelige hjernes, giver deep learning en AI-model mulighed for at opnå højtsæsonede resultater ved at udføre opgaver direkte fra tekst, billeder og lydcues.

Indtil dette punkt var det almindeligt antaget, at deep learning afhænger af en enorm mængde data, lignende den mængde data, som Silicon Valley-giganter som Google og Facebook har til rådighed for at løse de mest komplekse problemer inden for en organisation. I modsætning til den almindelige opfattelse kan virksomheder dog udnytte kraften af deep learning, selv med adgang til en begrænset datamængde.

I et forsøg på at hjælpe vores læsere med den nødvendige viden til at udstyre deres organisation med deep learning, har vi samlet en artikel, der dykker dybt (uden at være for dyb) ind i nogle af de måder, hvorpå virksomheder kan udnytte fordelene ved deep learning på trods af at have adgang til en begrænset datamængde.

Men før vi kan komme til artikelens kerne, vil vi gerne give et lille, men meget væsentligt forslag: start simpelt. Før du begynder at formulere neurale netværk, der er komplekse nok til at være med i en sci-fi-film, skal du starte med at eksperimentere med nogle simple og konventionelle modeller (f.eks. tilfældigt skov) for at få følelse for softwaren.

Med det sagt, lad os komme direkte til nogle af de måder, hvorpå virksomheder kan kombinere deep learning-teknologien, selv med adgang til en begrænset datamængde.

#1- Finjustering af baseline-modellen:

Som vi allerede har nævnt ovenfor, er det første skridt, som virksomheder skal tage efter at have formuleret en simpel baseline deep learning-model, at finjustere den til det specifikke problem, der skal løses.

Finjustering af en baseline-model lyder dog mere svært på papir end det faktisk er. Den grundlæggende idé bag finjustering af en stor datamængde til at imødekomme de specifikke behov i en virksomhed er simpel: du tager en stor datamængde, der ligner den domæne, du opererer i, og derefter finjusterer detaljerne i den originale datamængde med din begrænsete datamængde.

Så langt som adgangen til den store datamængde er bekymret, kan virksomheds ejere stole på ImageNet, der også giver en let løsning på problemer med billedklassificering. Den datamængde, der er hostet af ImageNet, giver organisationer adgang til millioner af billeder, der er fordelt på flere klasser af billeder, der kan være nyttige for virksomheder fra en bred vifte af domæner, herunder billeder af dyr osv.

Hvis processen med at finjustere en forudindlært model til at imødekomme de specifikke behov i din organisation stadig synes for svær for dig, vil vi anbefale at få hjælp fra internettet, da en simpel Google-søgning vil give dig hundredvis af tutorials om, hvordan du kan finjustere en datamængde.

#2- Samle mere data:

Selv om det andet punkt på vores liste måske synes redundant for nogle af vores mere skeptiske læsere, er det en kendsgerning, at jo større din datamængde er, jo mere sandsynligt er det, at du vil opnå mere præcise resultater.

Selv om det væsentlige i denne artikel ligger i at give virksomheder med en begrænset datamængde mulighed for at udnytte fordelene ved deep learning, har vi ofte haft ubehageligheden af at møde for mange “højere op” i virksomheder, der behandler investering i datasmuling som en kardinal synd.

Det er alt for ofte, at forretninger har tendens til at overse de fordele, som deep learning tilbyder, blot fordi de er tilbageholdende med at investere tid og indsats i datasmuling. Hvis din virksomhed er usikker på, hvor meget data der skal samles, vil vi anbefale at plotte læringskurver, da den ekstra data integreres i modellen, og observere ændringen i modelpræstationen.

I modsætning til den almindelige opfattelse, som de fleste CSO’er og CISO’er har, er det ofte bedst at løse problemer gennem indsamling af mere relevant data. Rollen som CSO og CISO er ekstremt vigtig i denne sag, da der altid er en trussel om cyberangreb. Det er fundet, at i 2019 var den samlede globale udgift til cybersecurity på 103,1 milliarder dollar, og tallet stiger fortsat. For at sætte dette i perspektiv, lad os overveje et simpelt eksempel: forestil dig, at du forsøger at klassificere sjældne diamanter, men har adgang til en meget begrænset datamængde. Som den mest åbenlyse løsning på problemet dikterer, i stedet for at have en fest med baseline-modellen, skal du samle mere data!

#3- Dataforstærkning:

Selv om de to første punkter, vi har diskuteret ovenfor, er begge meget effektive til at give en let løsning på de fleste problemer omkring implementering af deep learning i virksomheder med en begrænset datamængde, afhænger de tungt af en vis mængde held for at få arbejdet gjort.

Hvis du ikke kan få succes med at finjustere en eksisterende datamængde, vil vi anbefale at prøve dataforstærkning. Vejen til dataforstærkning er simpel. Gennem processen med dataforstærkning ændres inputdatamængden eller “forstærkes” på en måde, der giver en ny output, uden at ændre mærkeværdien.

For at sætte idéen om dataforstærkning i perspektiv for vores læsere, lad os overveje et billede af en hund. Når det roteres, kan betragteren af billedet stadig se, at det er et billede af en hund. Dette er præcis, hvad god dataforstærkning søger at opnå, i modsætning til et roteret billede af en vej, der ændrer højden og efterlader meget plads til deep learning-algoritmen til at komme til en forkert konklusion og bryder formålet med at implementere deep learning fra starten.

Når det kommer til at løse problemer relateret til billedklassificering, fungerer dataforstærkning som en nøgleaktør på området og har en række dataforstærkningsteknikker, der hjælper deep learning-modellen med at få en dyb forståelse af de forskellige klassificeringer af billeder.

Desuden, når det kommer til at forstærke data, er mulighederne næsten ubegrænsede. Virksomheder kan implementere dataforstærkning på en række måder, herunder NLP og eksperimentering med GAN’er, der giver algoritmen mulighed for at generere nye data.

#4- Implementering af ensemble-effekten:

Deep learning-teknologien dikterer, at netværket er bygget op af multiple lag. Dog, i modsætning til den almindelige opfattelse, som mange har, skal man ikke se hvert lag som en “stadig stigende” hierarki af funktioner, men det sidste lag fungerer som en ensemble-mekanisme.

Troen på, at virksomheder med adgang til en begrænset datamængde skal vælge at bygge deres netværk dybt, blev også delt i en NIPs-papir, der spejlede den opfattelse, vi har udtrykt ovenfor. Virksomheder med små datamængder kan let manipulere ensemble-effekten til deres fordel ved at bygge deres deep learning-netværk dybt gennem finjustering eller en anden alternativ.

#5- Inkorporering af autoencodere:

Selv om det femte punkt, vi har overvejet, har fået en relativt begrænset succes – er vi stadig positive overfor brugen af autoencodere til at forindlære et netværk og initialisere det korrekt.

En af de største årsager, ud over cyberangreb, til at virksomheder ikke kan overvinde de første hindringer for at integrere deep learning, er på grund af dårlig initialisering og dets mange faldgruber. Usuperviseret forindlæring kan ofte føre til dårlig eller forkert udførelse af deep learning-teknologien, og det er her, autoencodere kan skinne.

Den grundlæggende idé bag et neuralt netværk dikterer skabelsen af et neuralt netværk, der forudsiger naturen af den indgående datamængde. Hvis du er usikker på, hvordan du kan bruge en autoencoder, er der flere tutorials online, der giver klare instruktioner.

Konklusion:

Til sidst i artiklen vil vi gerne gensende, hvad vi har sagt igennem artiklen, med en tilføjelse – inkorporering af domænespecifik viden i læringsprocessen! Ikke kun giver inkorporeringen af værdifuld indsigt mulighed for at accelerere læringsprocessen, men det giver også deep learning-teknologien mulighed for at producere bedre og mere præcise resultater.