Hur vi kan använda djupinlärning med små data? – Tankeledare

När det gäller att hålla jämna steg med nya trender inom cybersäkerhet kan processen att hålla sig uppdaterad om de senaste utvecklingarna bli ganska tråkig, eftersom det finns mycket nyheter att hålla reda på. Dessa dagar har dock situationen förändrats dramatiskt, eftersom cybersäkerhetsområdet verkar kretsa kring två ord – djupinlärning.

Även om vi initialt blev överraskade av den massiva uppmärksamhet som djupinlärning fick, blev det snabbt uppenbart att den uppmärksamhet som djupinlärning genererade var väl förtjänt. På ett sätt som liknar den mänskliga hjärnan möjliggör djupinlärning att en AI-modell uppnår mycket exakta resultat genom att utföra uppgifter direkt från text, bilder och ljudsignaler.

Hittills trodde man allmänt att djupinlärning förutsätter en enorm mängd data, liknande den mängd data som Silicon Valley-jättar som Google och Facebook har för att lösa de mest komplicerade problemen inom en organisation. I strid med denna allmänna uppfattning kan dock företag utnyttja kraften i djupinlärning, även med tillgång till en begränsad datamängd.

I ett försök att hjälpa våra läsare med den nödvändiga kunskapen för att utrusta sin organisation med djupinlärning, har vi sammanställt en artikel som dyker djupt (inget skämt avsett) in i några av de sätt som företag kan utnyttja fördelarna med djupinlärning trots att de har tillgång till en begränsad datamängd.

Men innan vi kan gå in på artikeln, vill vi ge ett litet men mycket viktigt förslag – börja enkelt. Innan du börjar formulera neuronnät som är tillräckligt komplexa för att dyka upp i en sci-fi-film, börja med att experimentera med några enkla och konventionella modeller (t.ex. slumpmässig skog) för att få känna på mjukvaran.

Med det sagt, låt oss gå rakt in i några av de sätt som företag kan kombinera djupinlärningsteknologi med tillgång till en begränsad datamängd.

#1 – Finjustera basmodellen:

Som vi redan har nämnt ovan, är det första steget som företag behöver ta efter att de har formulerat en enkel basmodell för djupinlärning, att finjustera den för det specifika problem som ska lösas.

Att finjustera en basmodell låter svårare på papperet än vad det faktiskt är. Den grundläggande idén bakom att finjustera en stor datamängd för att tillgodose företagets specifika behov är enkel – du tar en stor datamängd som liknar den domän du verkar inom, och sedan finjusterar du detaljerna i den ursprungliga datamängden med din begränsade datamängd.

När det gäller att skaffa den stora datamängden, kan företagsägare lita på ImageNet, som också ger en enkel lösning på eventuella problem med bildklassificering. Datamängden som finns på ImageNet ger organisationer tillgång till miljontals bilder, som är uppdelade i flera klasser av bilder, som kan vara användbara för företag från en mängd olika områden, inklusive men inte begränsat till bilder av djur etc.

Om processen att finjustera en förtränad modell för att tillgodose företagets specifika behov fortfarande verkar för svår, rekommenderar vi att du söker hjälp på internet, eftersom en enkel sökning på Google kommer att ge dig hundratals tutorials om hur du finjusterar en datamängd.

#2 – Samla in mer data:

Även om den andra punkten på vår lista kan verka onödig för några av våra mer cyniska läsare, är det faktum att när det gäller djupinlärning, ju större din datamängd är, desto mer exakta resultat är du troligen att uppnå.

Även om artikeln i sig handlar om att ge företag med en begränsad datamängd möjlighet att utnyttja djupinlärning, har vi ofta haft obehagligt att möta alltför många “högt uppsatta” personer som behandlar investeringar i datainsamling som en kardinalsynd.

Det är alltför ofta som företag tenderar att förbise de fördelar som djupinlärning erbjuder, enbart för att de är ovilliga att investera tid och ansträngning i datainsamling. Om ditt företag är osäkert på hur mycket data som behöver samlas in, föreslår vi att du ritade inlärningskurvor, allteftersom den extra datan integreras i modellen, och observera förändringen i modellens prestanda.

I strid med den allmänna uppfattningen som många CSO och CISO har, är det ibland det bästa sättet att lösa problem genom att samla in mer relevant data. Rollen som CSO och CISO är extremt viktig i detta fall, eftersom det alltid finns en hotbild av cyberattacker. Det har visat sig att 2019 var den totala globala utgiften för cybersäkerhet uppe i 103,1 miljarder dollar, och siffran fortsätter att stiga. För att sätta detta i perspektiv, låt oss överväga ett enkelt exempel – föreställ dig att du försöker klassificera sällsynta diamanter, men har tillgång till en mycket begränsad datamängd. Som det mest uppenbara lösningen på problemet, istället för att ha en fest med basmodellen, samla bara in mer data!

#3 – Dataförstärkning:

Även om de två första punkterna vi har diskuterat ovan är båda mycket effektiva för att ge en enkel lösning på de flesta problem som omger implementeringen av djupinlärning i företag med en begränsad datamängd, de förlitar sig tungt på en viss grad av tur för att lyckas.

Om du inte kan ha någon framgång med att finjustera en befintlig datamängd, rekommenderar vi att du försöker med dataförstärkning. Sättet att dataförstärkning fungerar är enkelt. Genom processen att dataförstärkning, ändras eller förstärks indata, utan att faktiskt ändra etikettvärdet.

För att sätta idén om dataförstärkning i perspektiv för våra läsare, låt oss överväga en bild av en hund. När den roteras, kan betraktaren fortfarande se att det är en bild av en hund. Detta är exakt vad bra dataförstärkning syftar till att uppnå, jämfört med en roterad bild av en väg, som ändrar höjdvinkeln och lämnar gott om utrymme för djupinlärningsalgoritmen att komma till ett felaktigt beslut, och besegrar syftet med att implementera djupinlärning från första början.

När det gäller att lösa problem som rör bildklassificering, fungerar dataförstärkning som en nyckelspelare inom området och erbjuder en mängd olika dataförstärkningsmetoder som hjälper djupinlärningsmodellen att få en djupare förståelse för de olika klassificeringarna av bilder.

Dessutom, när det gäller att förstärka data – möjligheterna är i princip obegränsade. Företag kan implementera dataförstärkning på en mängd olika sätt, som inkluderar NLP och experiment med GAN, som möjliggör att algoritmen kan generera ny data.

#4 – Implementera en ensembleffekt:

Teknologin bakom djupinlärning dikterar att nätverket byggs upp av flera lager. Emellertid, i strid med den allmänna uppfattningen som många har, snarare än att se varje lager som en “alltmer ökande” hierarki av funktioner, tjänar det sista lagret som en ensemblemekanism.

Troen att företag med tillgång till en begränsad eller mindre datamängd bör bygga sina nätverk djupt, delades också i en NIPs-artikel, som speglade den tro vi har uttryckt ovan. Företag med små datamängder kan enkelt manipulera ensembleffekten till sin fördel, genom att bygga sina djupinlärningsnätverk djupt, genom finjustering eller något annat alternativ.

#5 – Införliva autoencoders:

Även om den femte punkten vi har tagit i beaktande har fått en relativt begränsad framgång – vi är fortfarande på samma sida som användningen av autoencoders för att förträna ett nätverk och initiera nätverket korrekt.

En av de största anledningarna, förutom cyberattacker, till varför företag misslyckas med att komma över de initiala hinder som djupinlärning medför, är på grund av dålig initiering, och dess många fallgropar. Osuperviserad förträning leder ofta till dålig eller felaktig exekvering av djupinlärningsteknologin, vilket är där autoencoders kan lysa.

Den grundläggande idén bakom ett neuronnät dikterar skapandet av ett neuronnät som förutsäger naturen hos den inmatade datamängden. Om du är osäker på hur du använder en autoencoder, finns det flera tutorials online som ger tydliga instruktioner.

Att sammanfatta:

I slutet av artikeln, vill vi återbetala det vi har sagt under hela artikeln, med ett tillägg – införlivandet av domänspecifik kunskap i läroprocessen! Inte bara möjliggör införlivandet av värdefull insikt att påskynda läroprocessen, utan det tillåter också djupinlärningsteknologin att producera bättre och mer exakta resultat.