Szybki przewodnik po zrozumieniu algorytmu KNN

Z uwagi na to, że świat biznesu agresywnie przyjmuje naukę danych, stało się jednym z najbardziej poszukiwanych dziedzin. Wyjaśniamy, co to jest algorytm K-nearest neighbor i jak działa.

Czym jest algorytm KNN?

Algorytm K-Nearest Neighbors (lub KNN) jest jednym z najczęściej używanych algorytmów uczenia się ze względu na swoją prostotę. KNN lub algorytm K-nearest neighbor jest nadzorowanym algorytmem uczenia się, który działa na zasadzie, że każdy punkt danych, który pada w pobliżu innych, należy do tej samej klasy. Podstawowym założeniem jest to, że rzeczy, które są blisko siebie, są do siebie podobne. Najczęściej algorytm KNN jest używany ze względu na łatwość interpretacji i niski czas obliczeń.

KNN jest powszechnie używany do problemów klasyfikacji i regresji w uczeniu maszynowym. Kilka przykładów KNN to algorytmy używane przez portale e-commerce do rekomendowania podobnych produktów.

Przeanalizujmy przykład:

Na danym obrazie mamy dwie klasy danych. Klasa A reprezentuje kwadraty, a klasa B reprezentuje trójkąty.

Problem polega na tym, aby przypisać nowy punkt danych do jednej z dwóch klas za pomocą algorytmu KNN

Pierwszym krokiem jest określenie wartości “K”, która oznacza liczbę najbliższych sąsiadów.

Jeśli wartość “k” wynosi 6, algorytm szuka 6 najbliższych sąsiadów tego punktu danych, jeśli wartość “k” wynosi 5, algorytm szuka 5 najbliższych sąsiadów tego punktu danych.

Załóżmy, że “K” = 4, co oznacza, że algorytm uwzględnia czterech najbliższych sąsiadów tego punktu danych.

Teraz, przy “K” = 4, jeden trójkąt i dwa kwadraty można zobaczyć jako najbliższych sąsiadów. Zatem nowy punkt danych, na podstawie “K” = 4, zostanie przypisany do klasy A.

Gdzie stosować KNN?

KNN jest stosowany w problemach klasyfikacji i regresji predykcyjnych. Jednakże, gdy jest stosowany w celach przemysłowych, najczęściej jest używany w klasyfikacji, ponieważ radzi sobie we wszystkich parametrach ocenianych przy określaniu przydatności techniki.

1. Moc predykcyjna
2. Czas obliczeń
3. Łatwość interpretacji wyników

Jak jest stosowany w codziennych problemach?

Pomimo swojej prostoty, KNN działa lepiej niż inne potężne klasyfikatory i jest stosowany w miejscach, takich jak prognozowanie ekonomiczne, kompresja danych, rozpoznawanie wideo, rozpoznawanie obrazu, wykrywanie pisma i rozpoznawanie mowy.

Najważniejsze zastosowania algorytmu KNN

Algorytm KNN jest stosowany w systemie bankowym do przewidywania, czy osoba jest odpowiednia do zatwierdzenia kredytu, czy nie, poprzez przewidywanie, czy ma podobne cechy do osoby, która nie spłaciła kredytu. KNN również pomaga w obliczaniu wyników kredytowych osób, porównując je z osobami o podobnych cechach.

Firmy korzystające z KNN

Większość firm e-commerce i rozrywkowych, takich jak Amazon (AMZN ) czy Netflix (NFLX ), używa KNN, gdy rekomendują produkty do kupienia lub filmy/programy do obejrzenia.

Jak one nawet robią te rekomendacje? Cóż, te firmy gromadzą dane na temat zachowania użytkownika, takie jak poprzednie produkty, które kupiłeś na ich stronie, i stosują KNN.

Firmy wprowadzają dostępne dane klienta i porównują je z innymi klientami, którzy kupili podobne produkty lub obejrzeli podobne filmy.

Produkty i filmy są następnie rekomendowane, w zależności od tego, jak algorytm klasyfikuje ten punkt danych.

Zalety i wady KNN

Zalety KNN

• Szybkie obliczenia
• Prosty algorytm – łatwy do interpretacji
• Wielofunkcyjny – przydatny do klasyfikacji i regresji
• Wysoka dokładność
• Brak założeń o danych – nie ma potrzeby robienia dodatkowych założeń lub budowania modelu.

Wady KNN

• Dokładność zależy od jakości danych
• Przewidywanie staje się wolne z dużymi danymi
• Nie jest odpowiedni dla dużych zbiorów danych
• Potrzeba przechowywania wszystkich danych szkoleniowych, co wymaga dużej pamięci
• Może być obliczeniowo kosztowny, ponieważ przechowuje wszystkie dane szkoleniowe

W tym blogu próbowaliśmy wyjaśnić algorytm K-NN, który jest powszechnie używany do klasyfikacji. Omówiliśmy podstawowe podejście za KNN, jak działa i jego zalety i wady.

Algorytm KNN jest jednym z najprostszych algorytmów i może dać bardzo agresywne wyniki. Algorytmy KNN mogą być używane zarówno do problemów klasyfikacji, jak i regresji.