Co to jest przeuczenie?

Co to jest przeuczenie?

Podczas szkolenia sieci neuronowej należy unikać przeuczenia. Przeuczenie jest problemem w uczeniu maszynowym i statystyce, gdzie model uczy się wzorców zestawu danych szkoleniowych zbyt dobrze, idealnie wyjaśniając zestaw danych szkoleniowych, ale nie potrafiąc ogólnie wyjaśnić swojej mocy predykcyjnej w innych zestawach danych.

Innymi słowy, w przypadku modelu z przeuczeniem często pokazuje się bardzo wysoką dokładność w zestawie danych szkoleniowych, ale niską dokładność w danych zebranych i przeprowadzonych przez model w przyszłości. To jest szybka definicja przeuczenia, ale przyjrzyjmy się bliżej pojęciu przeuczenia w więcej szczegółach. Przyjrzyjmy się, jak przeuczenie występuje i jak można go uniknąć.

Poznanie „dopasowania” i niedouczenia

Jest pomocne, aby przyjrzeć się pojęciu niedouczenia i „dopasowania” ogólnie, gdy dyskutujemy o przeuceniu. Gdy szkolimy model, próbujemy opracować ramy, które są w stanie przewidywać naturę lub klasę elementów w zestawie danych, na podstawie cech, które opisują te elementy. Model powinien być w stanie wyjaśnić wzorzec w zestawie danych i przewidywać klasy przyszłych punktów danych na podstawie tego wzorca. Im lepiej model wyjaśnia relację między cechami zestawu szkoleniowego, tym więcej „dopasowania” nasz model posiada.

Niebieska linia reprezentuje przewidywania modelu, który niedoucza, podczas gdy zielona linia reprezentuje lepsze dopasowanie modelu. Zdjęcie: Pep Roca via Wikimedia Commons, CC BY SA 3.0, (https://commons.wikimedia.org/wiki/File:Reg_ls_curvil%C3%ADnia.svg)

Model, który źle wyjaśnia relację między cechami danych szkoleniowych i tym samym nie potrafi dokładnie klasyfikować przyszłych przykładów danych, niedoucza dane szkoleniowe. Jeśli wykreślimy przewidywany wzorzec modelu, który niedoucza, przeciwko rzeczywistemu przecięciu cech i etykiet, przewidywania odbiegają od celu. Jeśli mielibyśmy wykres z rzeczywistymi wartościami zestawu szkoleniowego, model, który znacznie niedoucza, znacznie przegapiłby większość punktów danych. Model z lepszym dopasowaniem mógłby przeciąć ścieżkę przez środek punktów danych, z indywidualnymi punktami danych, które są tylko nieznacznie różne od przewidywanych wartości.

Niedouczenie może często wystąpić, gdy nie ma wystarczających danych, aby utworzyć dokładny model, lub gdy próbuje się zaprojektować liniowy model z nieliniowymi danymi. Więcej danych szkoleniowych lub więcej cech często pomaga zmniejszyć niedouczenie.

Dlaczego więc nie stworzymy modelu, który wyjaśnia każdy punkt w zestawie danych szkoleniowych idealnie? Czyż nie jest pożądane idealne dopasowanie? Tworzenie modelu, który nauczył się wzorców zestawu danych szkoleniowych zbyt dobrze, powoduje przeuczenie. Zestaw danych szkoleniowych i inne, przyszłe zestawy danych, które uruchamiasz przez model, nie będą identyczne. Będą prawdopodobnie bardzo podobne w wielu aspektach, ale będą się również różnić w kluczowych aspektach. Dlatego projektowanie modelu, który wyjaśnia zestaw danych szkoleniowych idealnie, oznacza, że kończymy z teorią o relacji między cechami, która nie uogólnia się dobrze do innych zestawów danych.

Poznanie przeuczenia

Przeuczenie występuje, gdy model uczy się szczegółów w zestawie danych szkoleniowych zbyt dobrze, powodując, że model cierpi, gdy robione są przewidywania na zewnętrznych danych. Może to wystąpić, gdy model nie tylko uczy się cech zestawu danych, ale także uczy się losowych fluktuacji lub szumu w zestawie danych, nadając wagę tym losowym/nieważnym zdarzeniom.

Przeuczenie jest bardziej prawdopodobne, gdy używane są nieliniowe modele, ponieważ są one bardziej elastyczne podczas uczenia się cech danych. Nieliniowe algorytmy uczenia maszynowego często mają różne parametry i techniki, które mogą być stosowane w celu ograniczenia wrażliwości modelu na dane i tym samym zmniejszenia przeuczenia. Na przykład, modele drzew decyzyjnych są bardzo wrażliwe na przeuczenie, ale technika zwana przycinaniem może być stosowana do losowego usunięcia niektórych szczegółów, które model nauczył się.

Jeśli wykreślimy przewidywania modelu na osiach X i Y, będziemy mieli linię przewidywań, która zygzakuje tam i z powrotem, co odzwierciedla fakt, że model próbował zbyt mocno dopasować wszystkie punkty w zestawie danych do swojego wyjaśnienia.

Kontrolowanie przeuczenia

Gdy szkolimy model, ideałem jest, aby model nie popełniał błędów. Gdy wydajność modelu zbliża się do robienia prawidłowych przewidywań we wszystkich punktach danych w zestawie szkoleniowym, dopasowanie staje się lepsze. Model z dobrym dopasowaniem jest w stanie wyjaśnić prawie cały zestaw danych szkoleniowych bez przeuczenia.

Gdy model jest szkolony, jego wydajność poprawia się z czasem. Współczynnik błędu modelu maleje z czasem szkolenia, ale maleje tylko do pewnego punktu. Punkt, w którym wydajność modelu na zestawie testowym zaczyna ponownie wzrastać, jest zwykle punktem, w którym występuje przeuczenie. Aby uzyskać najlepsze dopasowanie dla modelu, chcemy zatrzymać szkolenie modelu w punkcie, w którym straty są najniższe w zestawie szkoleniowym, zanim błąd zacznie ponownie wzrastać. Optymalny punkt zatrzymania można określić, wykreślając wydajność modelu w czasie szkolenia i zatrzymując szkolenie, gdy straty są najniższe. Jednak jeden z ryzyk związanych z tą metodą kontroli przeuczenia polega na tym, że określenie punktu końcowego szkolenia na podstawie wydajności testowej oznacza, że dane testowe stają się w pewnym sensie częścią procedury szkoleniowej i tracą swój status jako „nietknięte” dane.

Istnieją różne sposoby, aby zwalczyć przeuczenie. Jedną z metod redukcji przeuczenia jest użycie taktyki resamplingu, która działa poprzez oszacowanie dokładności modelu. Można również użyć zestawu walidacyjnego wraz z zestawem testowym i wykreślić dokładność szkoleniową wobec zestawu walidacyjnego zamiast zestawu testowego. To utrzymuje zestaw testowy niewidoczny. Popularną metodą resamplingu jest krzyżowa walidacja K-folds. Ta technika umożliwia podzielenie danych na podzbiory, na których model jest szkolony, a następnie wydajność modelu na tych podzbiorach jest analizowana w celu oszacowania, jak model będzie działał na zewnętrznych danych.

Użycie krzyżowej walidacji jest jednym z najlepszych sposobów, aby oszacować dokładność modelu na niewidocznych danych, a w połączeniu z zestawem walidacyjnym przeuczenie można często utrzymać na minimalnym poziomie.