Jak możemy wykorzystać głębokie uczenie z małymi danymi? – Liderzy myśli

Gdy chodzi o śledzenie nowych trendów w dziedzinie cyberbezpieczeństwa, proces pozostawania na bieżąco z najnowszymi rozwojami może być dość uciążliwy, ponieważ jest wiele informacji do przyswojenia. W ostatnich czasach sytuacja uległa jednak znacznej zmianie, ponieważ dziedzina cyberbezpieczeństwa zdaje się krążyć wokół dwóch słów – głębokiego uczenia.

Mimo że początkowo byliśmy zaskoczeni ogromnym zainteresowaniem głębokim uczeniem, szybko stało się jasne, że zainteresowanie głębokim uczeniem było uzasadnione. W sposób podobny do ludzkiego mózgu, głębokie uczenie umożliwia modelowi AI osiąganie bardzo dokładnych wyników, wykonując zadania bezpośrednio z tekstu, obrazów i sygnałów dźwiękowych.

Do tej pory powszechnie uważano, że głębokie uczenie opiera się na ogromnym zbiorze danych, podobnym do danych przechowywanych przez gigantów z Doliny Krzemowej, takich jak Google i Facebook, aby rozwiązać najbardziej skomplikowane problemy w organizacji. Wbrew powszechnemu mniemaniu, jednak przedsiębiorstwa mogą wykorzystać potencjał głębokiego uczenia, nawet z dostępem do ograniczonego zbioru danych.

W celu pomocy naszym czytelnikom w zdobyciu niezbędnej wiedzy, aby wyposażyć swoją organizację w głębokie uczenie, przygotowaliśmy artykuł, który głęboko (bez żadnego podwójnego znaczenia) wchodzi w niektóre ze sposobów, w jakie przedsiębiorstwa mogą wykorzystać korzyści głębokiego uczenia, pomimo dostępu do ograniczonego, czy “małego” zbioru danych.

Ale zanim będziemy mogli przystąpić do sedna artykułu, chcielibyśmy złożyć małą, lecz bardzo istotną sugestię – zacznijcie od prostych rzeczy. Zanim zaczniecie tworzyć sieci neuronowe wystarczająco złożone, aby pojawić się w filmie science fiction, zacznijcie od eksperymentowania z prostymi i konwencjonalnymi modelami (np. las losowy), aby poznać oprogramowanie.

Z tym za sobą, przejdźmy do niektórych sposobów, w jakie przedsiębiorstwa mogą łączyć technologię głębokiego uczenia z dostępem do ograniczonego zbioru danych.

#1 – Dookreślenie modelu bazowego:

Jak już wspomnieliśmy powyżej, pierwszym krokiem, który przedsiębiorstwa muszą podjąć po stworzeniu prostego modelu bazowego głębokiego uczenia, jest dookreślenie go dla konkretnego problemu.

Jednak dookreślenie modelu bazowego brzmi dużo trudniej na papierze, niż w rzeczywistości. Podstawowa idea polega na tym, aby wziąć duży zbiór danych, który w pewnym stopniu przypomina dziedzinę, w której działa przedsiębiorstwo, a następnie dookreślić szczegóły oryginalnego zbioru danych za pomocą ograniczonego zbioru danych.

Jeśli chodzi o pozyskanie dużego zbioru danych, właściciele przedsiębiorstw mogą polegać na ImageNet, który jednocześnie zapewnia łatwe rozwiązanie problemów związanych z klasyfikacją obrazów. Zbiór danych hostowany przez ImageNet umożliwia organizacjom dostęp do milionów obrazów, które są podzielone na wiele klas obrazów, co może być przydatne dla przedsiębiorstw z różnych dziedzin, w tym, ale nie tylko, obrazów zwierząt itp.

Jeśli proces dookreślenia wstępnie wytrenowanego modelu do potrzeb Twojej organizacji nadal wydaje się zbyt wymagający, polecamy poszukać pomocy w internecie, ponieważ prosty wyszukiwarka Google zapewni setki tutoriali na temat dookreślenia zbioru danych.

#2 – Zebranie większej ilości danych:

Chociaż drugi punkt na naszej liście może wydawać się niepotrzebny dla niektórych naszych bardziej cynicznych czytelników, fakt pozostaje taki, że im większy zbiór danych, tym bardziej prawdopodobne jest osiągnięcie bardziej dokładnych wyników.

Chociaż istota tego artykułu polega na dostarczeniu przedsiębiorstwom z ograniczonym zbiorem danych, często spotykaliśmy się z “wyższymi” osobami, które traktują inwestowanie w zbieranie danych jako równoznaczne z popełnieniem grzechu.

Zbyt często przedsiębiorstwa pomijają korzyści oferowane przez głębokie uczenie, po prostu dlatego, że nie chcą inwestować czasu i wysiłku w zbieranie danych. Jeśli Twoje przedsiębiorstwo nie jest pewne, jaka ilość danych powinna być zebrana, sugerujemy sporządzenie krzywych uczenia, gdy dodatkowe dane są integrowane z modelem, i obserwowanie zmiany w wydajności modelu.

Wbrew powszechnemu mniemaniu, które jest utrwalone przez większość CSO i CISO, czasem najlepszym sposobem rozwiązywania problemów jest zbieranie większej ilości istotnych danych. Rola CSO i CISO jest niezwykle ważna w tym przypadku, ponieważ zawsze istnieje zagrożenie atakami cybernetycznymi. Stwierdzono, że w 2019 roku całkowite globalne wydatki na cyberbezpieczeństwo sięgają 103,1 miliarda dolarów, a liczba ta nadal rośnie. Aby to uwidocznić, rozważmy prosty przykład – wyobraź sobie, że próbujesz sklasyfikować rzadkie diamenty, ale masz dostęp tylko do bardzo ograniczonego zbioru danych. Jak najbardziej oczywiste rozwiązanie problemu nakazuje, zamiast używać modelu bazowego, po prostu zebranie większej ilości danych!

#3 – Wzmacnianie danych:

Chociaż dwa pierwsze punkty, które omówiliśmy powyżej, są bardzo skuteczne w dostarczaniu łatwego rozwiązania większości problemów związanych z wdrożeniem głębokiego uczenia w przedsiębiorstwach z małym zbiorem danych, opierają się one silnie na pewnym poziomie szczęścia, aby osiągnąć sukces.

Jeśli nie możesz odnieść sukcesu w dookreśleniu istniejącego zbioru danych, sugerujemy spróbować wzmacniania danych. Sposób, w jaki wzmacnianie danych działa, jest prosty. Poprzez proces wzmacniania danych, zbiór danych wejściowych jest zmieniany lub wzmacniany w taki sposób, aby dać nowy wynik, bez zmiany wartości etykiety.

Aby wyjaśnić ideę wzmacniania danych naszym czytelnikom, rozważmy obraz psa. Gdy obrócony, obserwator obrazu nadal będzie w stanie stwierdzić, że jest to obraz psa. To właśnie osiąga dobre wzmacnianie danych, w przeciwieństwie do obrotu obrazu drogi, który zmienia kąt elewacji i pozostawia wiele miejsca na to, aby algorytm głębokiego uczenia doszedł do błędnego wniosku i pokonał cel wdrożenia głębokiego uczenia.

Gdy chodzi o rozwiązywanie problemów związanych z klasyfikacją obrazów, wzmacnianie danych odgrywa kluczową rolę w tej dziedzinie i oferuje wiele technik wzmacniania danych, które pomagają modelowi głębokiego uczenia w uzyskaniu głębszego zrozumienia różnych klasyfikacji obrazów.

Co więcej, gdy chodzi o wzmacnianie danych – możliwości są praktycznie nieograniczone. Przedsiębiorstwa mogą wdrożyć wzmacnianie danych na wiele sposobów, w tym NLP i eksperymentowanie z GAN, co umożliwia algorytmowi generowanie nowych danych.

#4 – Wdrożenie efektu ensemble:

Technologia głębokiego uczenia nakazuje, aby sieć była zbudowana z wielu warstw. Jednak wbrew powszechnemu mniemaniu, które jest utrwalone przez wielu, zamiast traktować każdą warstwę jako “coraz to większą” hierarchię cech, ostatnia warstwa służy jako mechanizm ensemble.

Przekonanie, że przedsiębiorstwa z dostępem do ograniczonego zbioru danych powinny budować swoje sieci głębokie, było również wyrażone w artykule NIPs, który odzwierciedlał przekonanie, które wyraziliśmy powyżej. Przedsiębiorstwa z małym zbiorem danych mogą łatwo manipulować efektem ensemble, po prostu budując swoje sieci głębokiego uczenia, poprzez dookreślenie lub inną alternatywę.

#5 – Wdrożenie autoenkoderów:

Chociaż piąty punkt, który rozważyliśmy, odniósł tylko względny sukces – nadal popieramy użycie autoenkoderów w celu wstępnego wytrenowania sieci i właściwej inicjacji.

Jednym z największych powodów, poza atakami cybernetycznymi, dla których przedsiębiorstwa nie są w stanie pokonać początkowych przeszkód integracji głębokiego uczenia, jest zła inicjacja, a także wiele pułapek. Niesupervisionowane wstępne wytrenowanie często prowadzi do złej lub niepoprawnej realizacji technologii głębokiego uczenia, gdzie autoenkodery mogą błyszczeć.

Podstawowa idea sieci neuronowej nakazuje stworzenie sieci neuronowej, która przewiduje naturę danych wejściowych. Jeśli nie wiesz, jak używać autoenkodera, istnieją wiele tutoriali online, które dają jasne instrukcje.

Podsumowanie:

Na końcu artykułu chcielibyśmy zwrócić uwagę na to, co powiedzieliśmy na przestrzeni całego artykułu, z jednym dodatkiem – włączając wiedzę specyficzną dla danej dziedziny do procesu uczenia! Nie tylko włączanie cennych spostrzeżeń przyspiesza proces uczenia, ale także pozwala technologii głębokiego uczenia na produkcję lepszych i bardziej dokładnych wyników.