Come possiamo utilizzare il Deep Learning con pochi dati? – Leader di pensiero

Quando si tratta di tenersi aggiornati con le tendenze emergenti della sicurezza informatica, il processo di stare al passo con gli sviluppi recenti può diventare piuttosto tedioso, poiché c’è molte notizie da seguire. Tuttavia, questi giorni, la situazione è cambiata drasticamente, poiché i regni della sicurezza informatica sembrano ruotare attorno a due parole: deep learning.

Sebbene inizialmente fossimo stati colti di sorpresa dalla grande copertura che il deep learning stava ricevendo, si è rapidamente reso evidente che il clamore generato dal deep learning era ben meritato. In modo simile al cervello umano, il deep learning consente a un modello di intelligenza artificiale di ottenere risultati estremamente precisi, eseguendo compiti direttamente da testi, immagini e segnali audio.

Fino a questo punto, si credeva ampiamente che il deep learning si basi su un enorme set di dati, simile alla quantità di dati ospitati dai giganti della Silicon Valley come Google e Facebook per raggiungere l’obiettivo di risolvere i problemi più complessi all’interno di un’organizzazione. Contrariamente alla credenza popolare, tuttavia, le imprese possono sfruttare il potere del deep learning, anche con accesso a un pool di dati limitato.

Nel tentativo di aiutare i nostri lettori con le conoscenze necessarie per dotare la loro organizzazione del deep learning, abbiamo compilato un articolo che si addentra nel profondo (senza intenzione di fare un gioco di parole) in alcuni dei modi in cui le imprese possono utilizzare i vantaggi del deep learning nonostante abbiano accesso a dati limitati.

Ma prima di poterci addentrare nel cuore dell’articolo, vorremmo fare una piccola, ma estremamente essenziale, suggerimento: iniziare con semplicità. Tuttavia, prima di iniziare a formulare reti neurali complesse abbastanza da essere presenti in un film di fantascienza, iniziate sperimentando con alcuni modelli semplici e convenzionali (ad esempio, random forest) per prendere confidenza con il software.

Con questo chiarito, entriamo direttamente in alcuni dei modi in cui le imprese possono integrare la tecnologia del deep learning avendo accesso a dati limitati.

#1- Raffinare il modello di base:

Come abbiamo già menzionato sopra, il primo passo che le imprese devono fare dopo aver formulato un semplice modello di base del deep learning è raffinarlo per il problema specifico in questione.

Tuttavia, raffinare un modello di base suona più difficile sulla carta di quanto non sia in realtà. L’idea fondamentale dietro il raffinamento di un grande set di dati per soddisfare le esigenze specifiche di un’impresa è semplice: si prende un grande set di dati che assomiglia al dominio in cui si opera e poi si raffinano i dettagli del set di dati originale con i dati limitati a disposizione.

Per quanto riguarda l’acquisizione del grande set di dati, i proprietari di imprese possono fare affidamento su ImageNet, che fornisce anche una soluzione facile per qualsiasi problema di classificazione delle immagini. Il dataset ospitato da ImageNet consente alle organizzazioni di accedere a milioni di immagini, suddivise in diverse classi di immagini, che possono essere utili per imprese provenienti da una vasta gamma di domini, comprese, ma non limitate a, immagini di animali, ecc.

Se il processo di raffinamento di un modello pre-addestrato per soddisfare le esigenze specifiche della vostra organizzazione sembra ancora troppo lavoro per voi, vi consigliamo di cercare aiuto su Internet, poiché una semplice ricerca su Google vi fornirà centinaia di tutorial su come raffinare un set di dati.

#2- Raccogliere più dati:

Sebbene il secondo punto della nostra lista possa sembrare ridondante per alcuni dei nostri lettori più cinici, il fatto rimane: quando si tratta del deep learning, più grande è il set di dati, più probabile è che si ottengano risultati più precisi.

Sebbene l’essenza di questo articolo consista nel fornire alle imprese con un set di dati limitato, abbiamo spesso avuto il dispiacere di incontrare troppi “alti dirigenti” che trattano l’investimento nella raccolta di dati come se fosse un peccato capitale.

È troppo spesso che le imprese tendono a trascurare i vantaggi offerti dal deep learning, semplicemente perché sono riluttanti a investire tempo e sforzo nella raccolta di dati. Se la vostra impresa è incerta sulla quantità di dati che devono essere raccolti, vi suggeriamo di tracciare le curve di apprendimento, man mano che i dati aggiuntivi vengono integrati nel modello, e osservare il cambiamento nelle prestazioni del modello.

Contrariamente alla credenza popolare mantenuta da molti CSO e CISO, a volte il modo migliore per risolvere i problemi è attraverso la raccolta di più dati rilevanti. Il ruolo del CSO e del CISO è estremamente importante in questo caso, poiché c’è sempre una minaccia di attacchi informatici. Si è scoperto che nel 2019, la spesa globale totale per la sicurezza informatica è stata di 103,1 miliardi di dollari, e il numero continua a salire. Per mettere questo in prospettiva, consideriamo un semplice esempio: immaginate di stare cercando di classificare diamanti rari, ma di avere accesso a un set di dati molto limitato. Come dice la soluzione più ovvia al problema, invece di avere una giornata di festa con il modello di base, raccogliete semplicemente più dati!

#3- Data Augmentation:

Sebbene i primi due punti che abbiamo discusso sopra siano entrambi altamente efficienti nel fornire una soluzione facile alla maggior parte dei problemi che circondano l’implementazione del deep learning nelle imprese con un set di dati limitato, essi si basano fortemente su un certo livello di fortuna per ottenere il lavoro fatto.

Se non riuscite a ottenere alcun successo nel raffinamento di un set di dati pre-esistente, vi consigliamo di provare la data augmentation. Il modo in cui funziona la data augmentation è semplice. Attraverso il processo di data augmentation, il set di dati di input viene alterato o aumentato in modo tale da fornire un nuovo output, senza cambiare effettivamente il valore dell’etichetta.

Per mettere in prospettiva l’idea di data augmentation per i nostri lettori, consideriamo un’immagine di un cane. Quando ruotata, l’osservatore dell’immagine sarà ancora in grado di dire che si tratta di un’immagine di un cane. Questo è esattamente ciò che la data augmentation ben fatta spera di ottenere, a differenza di un’immagine ruotata di una strada, che cambia l’angolo di elevazione e lascia molto spazio all’algoritmo di deep learning per giungere a una conclusione errata e sconfiggere lo scopo dell’implementazione del deep learning.

Quando si tratta di risolvere problemi relativi alla classificazione delle immagini, la data augmentation svolge un ruolo chiave nel settore e ospita una varietà di tecniche di data augmentation che aiutano il modello di deep learning a ottenere una comprensione approfondita delle diverse classificazioni delle immagini.

Inoltre, quando si tratta di aumentare i dati, le possibilità sono virtualmente infinite. Le imprese possono implementare la data augmentation in una varietà di modi, che includono NLP e l’esperimento con GAN, che consente all’algoritmo di generare nuovi dati.

#4- Implementazione dell’effetto ensemble:

La tecnologia dietro il deep learning impone che la rete sia costruita su più livelli. Tuttavia, contrariamente alla credenza popolare mantenuta da molti, piuttosto che considerare ogni livello come una “gerarchia sempre crescente” di funzionalità, l’ultimo livello serve lo scopo di offrire un meccanismo di ensemble.

La credenza che le imprese con accesso a un set di dati limitato dovrebbero optare per costruire le loro reti profonde era anche condivisa in un documento NIPs, che ha riflesso la credenza che abbiamo espresso sopra. Le imprese con piccoli dati possono facilmente manipolare l’effetto ensemble a loro vantaggio, semplicemente costruendo le loro reti di deep learning profonde, attraverso il raffinamento o qualche altra alternativa.

#5- Incorporazione di autoencoder:

Sebbene il quinto punto che abbiamo preso in considerazione abbia ricevuto solo un livello relativo di successo, siamo ancora a favore dell’uso di autoencoder per pre-addestrare una rete e inizializzarla correttamente.

Una delle principali ragioni, oltre agli attacchi informatici, per cui le imprese non riescono a superare gli ostacoli iniziali dell’integrazione del deep learning è a causa di una cattiva inizializzazione e dei suoi molti trabocchetti. L’addestramento non supervisionato spesso porta a una esecuzione scarsa o errata della tecnologia del deep learning, ed è qui che gli autoencoder possono brillare.

L’idea fondamentale dietro una rete neurale impone la creazione di una rete neurale che predica la natura del set di dati in ingresso. Se non siete sicuri di come utilizzare un autoencoder, ci sono diversi tutorial online che forniscono istruzioni chiare.

Conclusione:

Al termine dell’articolo, vorremmo rimborsare ciò che abbiamo detto in tutto l’articolo, con un’aggiunta: incorporare la conoscenza specifica del dominio nel processo di apprendimento! Non solo l’incorporazione di insight preziosi accelera il processo di apprendimento, ma consente anche alla tecnologia del deep learning di produrre risultati migliori e più precisi.