Jak můžeme použít hluboké učení s malými daty? – Thought Leaders

Když jde o sledování nových trendů v kybernetické bezpečnosti, proces sledování posledních vývojů může být quite zdlouhavý, protože je mnoho zpráv, které je třeba sledovat. V posledních dnech se však situace dramaticky změnila, protože se zdá, že se kybernetická bezpečnost točí kolem dvou slov – hluboké učení.

Although jsme byli initially překvapeni rozsáhlým pokrytím, které hluboké učení dostalo, brzy se ukázalo, že buzz generovaný hlubokým učením byl dobře zasloužený. Podobně jako lidský mozek umožňuje hluboké učení modelu AI dosáhnout vysoce přesných výsledků tím, že provádí úkoly přímo z textu, obrazů a audio signálů.

Dokud jsme se nedostali k tomuto bodu, bylo všeobecně věřeno, že hluboké učení závisí na obrovském souboru dat, podobném rozsahu dat, které má Silicon Valley giganti jako Google a Facebook, aby splnily cíl řešení nejkomplikovanějších problémů v rámci organizace. Naopak, podniky mohou využít sílu hlubokého učení, i když mají přístup pouze k omezenému datovému fondu.

V rámci naší snahy pomoci našim čtenářům získat nezbytné znalosti pro vybavení jejich organizace hlubokým učením, jsme sestavili článek, který se hluboce (bez záměru) ponoří do některých způsobů, jak podniky mohou využít výhod hlubokého učení, přestože mají přístup pouze k omezeným, nebo “malým” datům.

Než se však dostaneme k jádru článku, rádi bychom učinili malý, ale velmi důležitý návrh – začněte jednoduše. Předtím, než začnete formulovat neuronové sítě komplexní enough, aby se objevily ve sci-fi filmu, začněte experimentovat s několika jednoduchými a konvenčními modely, (například random forest), abyste získali pocit ze softwaru.

S tím, co jsme uvedli, se nyní dostaneme k některým způsobům, jak podniky mohou integrovat technologii hlubokého učení, přestože mají přístup pouze k omezeným datům.

#1- Jemné ladění základního modelu:

Jako jsme již uvedli výše, prvním krokem, který podniky musí učinit po formulaci jednoduchého základního modelu hlubokého učení, je jemné ladění tohoto modelu pro konkrétní problém, který je třeba řešit.

Jemné ladění základního modelu však zní mnohem složitěji na papíru, než ve skutečnosti je. Základní myšlenka za jemným laděním velkého souboru dat, aby splnil konkrétní potřeby podniku, je jednoduchá – vezmete velký soubor dat, který má some podobnost s doménou, ve které fungujete, a poté jemně ladíte detaily původního souboru dat s vaším omezeným datovým fondem.

Co se týče získání velkého souboru dat, majitelé podniků se mohou spolehnout na ImageNet, který současně poskytuje snadné řešení problémů s klasifikací obrazů. Datový soubor hostovaný ImageNet poskytuje organizacím přístup k milionům obrazů, které jsou rozděleny do několika tříd obrazů, které mohou být užitečné pro podniky z širokého spektra domén, včetně, ale nejenom obrazů zvířat, atd.

Pokud proces jemného ladění předem trénovaného modelu pro konkrétní potřeby vaší organizace stále vypadá jako příliš mnoho práce pro vás, doporučujeme vám hledat pomoc na internetu, protože jednoduchý vyhledávací dotaz na Google vám poskytne stovky tutoriálů, jak jemně ladit soubor dat.

#2- Shromáždit více dat:

Although druhý bod na našem seznamu může vypadat zbytečně pro některé naše více skeptické čtenáře, skutečnost je taková, že když jde o hluboké učení, čím větší je váš soubor dat, tím více pravděpodobně dosáhnete přesnějších výsledků.

Although základní myšlenka tohoto článku spočívá v poskytování podnikům s omezeným souborem dat, jsme často měli tu smůlu setkat se s mnoha “vyššími” manažery, kteří považují investice do shromažďování dat za rovnocenné s tím, že spáchají smrtelný hřích.

Je příliš často, že podniky přehlížejí výhody, které nabízí hluboké učení, prostě proto, že jsou neochotné investovat čas a úsilí do shromažďování dat. Pokud váš podnik není jistý, kolik dat je třeba shromáždit, doporučujeme vám vytvořit učící křivky, jak jsou nová data integrována do modelu, a pozorovat změnu ve výkonu modelu.

Naopak, než je obecně věřeno mnoha CSO a CISO, někdy nejlepší způsob, jak řešit problémy, je shromáždit více relevantních dat. Role CSO a CISO je v tomto případě非常 důležitá, protože vždy existuje hrozba kybernetických útoků. Bylo zjištěno, že v roce 2019 činily celosvětové výdaje na kybernetickou bezpečnost 103,1 miliardy dolarů, a toto číslo stále roste. Abychom to uvedli do perspektivy, zvažme jednoduchý příklad – představte si, že se snažíte klasifikovat vzácné diamanty, ale máte přístup pouze k omezenému souboru dat. Jako nejzjevnější řešení problému, místo aby jste měli radost z základního modelu, prostě shromážděte více dat!

#3- Augmentace dat:

Although první dva body, které jsme diskutovali výše, jsou oba vysoce efektivní při poskytování snadného řešení většiny problémů souvisejících s implementací hlubokého učení do podniků s omezeným souborem dat, silně závisí na určité úrovni štěstí, aby se problém vyřešil.

Pokud nemůžete mít žádný úspěch s jemným laděním existujícího souboru dat, doporučujeme vám pokusit se o augmentaci dat. Způsob, jakým se augmentace dat provádí, je jednoduchý. Prostřednictvím augmentace dat se vstupní soubor dat mění, nebo augmentuje, takovým způsobem, že poskytuje nové výstupní hodnoty, aniž by se změnila hodnota štítku.

Abychom uvedli myšlenku augmentace dat do perspektivy pro naše čtenáře, zvažme obrázek psa. Když je obrázek otočen, divák obrázku stále může rozpoznat, že se jedná o obrázek psa. To je přesně to, co dobrá augmentace dat chce dosáhnout, na rozdíl od otočeného obrázku silnice, který mění úhel elevace a poskytuje mnoho prostoru pro hluboké učení algoritmu, aby dospěl k nesprávnému závěru, a tím i zmařil účel implementace hlubokého učení.

Když jde o řešení problémů souvisejících s klasifikací obrazů, augmentace dat hraje klíčovou roli v tomto poli a hostí řadu technik augmentace dat, které pomáhají modelu hlubokého učení získat hluboké pochopení různých klasifikací obrazů.

<p Navíc, když jde o augmentaci dat – možnosti jsou téměř neomezené. Podniky mohou implementovat augmentaci dat mnoha způsoby, včetně NLP a experimentování s GAN, které umožňuje algoritmu generovat nová data.

#4- Implementace ensemble efektu:

Technologie hlubokého učení diktuje, že síť je postavena na několika vrstvách. Nicméně, na rozdíl od obecně přijímaného názoru mnoha, spíše než považovat každou vrstvu za “ever-increasing” hierarchii funkcí, konečná vrstva slouží jako mechanismus ensemble.

Věření, že podniky s přístupem k omezenému, nebo malému, souboru dat by měly stavět své sítě hluboko, bylo také sdíleno v NIPs papíru, který odrážel víru, kterou jsme vyjádřili výše. Podniky s malými daty mohou snadno manipulovat s ensemble efektem ve svůj prospěch, prostě stavěním svých hlubokých učících sítí hluboko, prostřednictvím jemného ladění nebo některé jiné alternativy.

#5- Implementace autoencoderů:</

Although pátý bod, který jsme zvažovali, získal pouze relativní úspěch – jsme stále pro použití autoencoderů k předtrénování sítě a jejímu správnému inicializování.

Jedním z největších důvodů, proč podniky selhávají při překonání počátečních překážek integrace hlubokého učení, je špatné inicializování, a jeho mnoho pastí. Nesupervizované předtrénování často vede k špatnému, nebo nesprávnému provedení technologie hlubokého učení, kde autoencodery mohou vyniknout.

Základní myšlenka za neuronovou sítí diktuje vytvoření neuronové sítě, která předpovídá povahu vstupních dat. Pokud si nejste jisti, jak použít autoencoder, existuje několik tutoriálů online, které poskytují jasná instrukce.

Za závěrem:

Na konci článku bychom rádi zopakovali, co jsme uvedli v článku, s jedním doplňkem – začleněním doménově specifických znalostí do procesu učení! Nejenže začlenění cenných poznatků urychluje proces učení, ale také umožňuje technologii hlubokého učení produkovat lepší a přesnější výsledky.