Надзорчне навчання проти ненадзорчого навчання

У машинному навчанні більшість завдань можна легко категоризувати на дві різні групи: завдання надзорчого навчання або завдання ненадзорчого навчання. У надзорчому навчанні дані мають прикріплені до них мітки або класи, тоді як у випадку ненадзорчого навчання дані не мають міток. Давайте розглянемо, чому це розрізнення важливо, і розглянемо деякі алгоритми, пов’язані з кожним типом навчання.

Надзорчне навчання проти ненадзорчого навчання

Більшість завдань машинного навчання належать до області надзорчого навчання. У алгоритмах надзорчого навчання окремі екземпляри/точки даних у наборі даних мають присвоєну їм клас або мітку. Це означає, що модель машинного навчання може навчиться розрізняти, які ознаки корелюють з певним класом, і що інженер-машинного навчання може перевірити продуктивність моделі, побачивши, скільки екземплярів було правильно класифіковано. Алгоритми класифікації можна використовувати для розрізнення багатьох складних закономірностей,只要 дані мають прикріплені до них відповідні класи. Наприклад, алгоритм машинного навчання може навчиться розрізняти різних тварин один від одного на основі ознак, таких як “вуса”, “хвіст”, “кігті” тощо.

На відміну від надзорчого навчання, ненадзорче навчання полягає у створенні моделі, яка може видобувати закономірності з неозначених даних. Іншими словами, комп’ютер аналізує вхідні ознаки і сам визначає, які ознаки і закономірності найважливіші. Ненадзорче навчання намагається знайти внутрішні подібності між різними екземплярами. Якщо алгоритм надзорчого навчання намагається розмістити точки даних у відомі класи, алгоритми ненадзорчого навчання будуть аналізувати ознаки, спільні для екземплярів об’єктів, і розмістять їх у групи на основі цих ознак, фактично створюючи свої власні класи.

Прикладами алгоритмів надзорчого навчання є лінійна регресія, логістична регресія, найближчі сусіди, дерева рішень і машини опорних векторів.

Тим часом деякими прикладами алгоритмів ненадзорчого навчання є головний компонентний аналіз і кластеризація методом к-мейнз.

Алгоритм надзорчого навчання

Лінійна регресія – це алгоритм, який приймає дві ознаки і будує графік їхньої взаємозалежності. Лінійна регресія використовується для прогнозування числових значень у залежності від інших числових змінних. Лінійна регресія має рівняння Y = a + bX, де b – коефіцієнт нахилу лінії, а a – точка перетину з віссю Y.

Логістична регресія – це алгоритм бінарної класифікації. Алгоритм аналізує взаємозалежність між числовими ознаками і знаходить імовірність того, що екземпляр можна класифікувати як один із двох різних класів. Імовірнісні значення “стискаються” до 0 або 1. Іншими словами, сильні імовірності будуть наближатися до 0,99, тоді як слабкі імовірності будуть наближатися до 0.

Найближчі сусіди присвоюють клас новим точкам даних на основі класів деякої кількості сусідів у навчальному наборі. Кількість сусідів, які розглядаються алгоритмом, важлива, і занадто мало або занадто багато сусідів може неправильно класифікувати точки.

Дерева рішень – це тип алгоритмів класифікації і регресії. Дерево рішень працює шляхом розділення набору даних на все менші частини, поки підмножини не можна розділити далі, і в результаті отримується дерево з вузлами і листками. Вузли – це місця, де приймаються рішення про точки даних за допомогою різних критеріїв фільтрації, тоді як листки – це екземпляри, яким присвоєно деяку мітку (точка даних, яка була класифікована). Алгоритми дерев рішень можуть обробляти як числові, так і категорійні дані. Розділення дерев відбувається на основі конкретних змінних/ознак.

Машини опорних векторів – це алгоритм класифікації, який працює шляхом малювання гіперплощин, або ліній розділення, між точками даних. Точки даних розділяються на класи залежно від того, з якої сторони гіперплощини вони знаходяться. Між точками даних можна намалювати кілька гіперплощин, розділяючи набір даних на кілька класів. Класифікатор буде намагатися максимізувати відстань між розділювальною гіперплощиною і точками з обох сторін площини, і чим більша відстань між лінією і точками, тим більш впевнено класифікатор.

Алгоритми ненадзорчого навчання

Головний компонентний аналіз – це техніка, яка використовується для зниження розмірності, тобто розмірності або складності даних представляється у простішій формі. Алгоритм головного компонентного аналізу знаходить нові розмірності для даних, які є ортогональними. Хоча розмірність даних знижується, дисперсія між даними повинна зберігатися якомога більше. Це означає, що алгоритм бере ознаки у наборі даних і конденсує їх у меншу кількість ознак, які представляють більшу частину даних.

Кластеризація методом к-мейнз – це алгоритм, який автоматично групує точки даних у кластери на основі схожих ознак. Закономірності всередині набору даних аналізуються, і точки даних діляться на групи на основі цих закономірностей. По суті, к-мейнз створює свої власні класи з неозначених даних. Алгоритм к-мейнз працює шляхом присвоєння центрів кластерам, або центроїдів, і переміщення центроїдів, поки не буде знайдено оптимальне положення центроїдів. Оптимальне положення буде тим, при якому відстань між центроїдами і оточуючими точками даних всередині класу мінімалізується. “К” у кластеризації методом к-мейнз позначає кількість центроїдів, які були обрані.

Загальний огляд

Щоб підсумувати, давайте швидко розглянемо ключові відмінності між надзорчим і ненадзорчим навчанням.

Як ми вже обговорювали раніше, у завданнях надзорчого навчання вхідні дані мають прикріплені до них мітки, і кількість класів відома. Тоді як у завданнях ненадзорчого навчання вхідні дані не мають міток, і кількість класів невідома. Ненадзорче навчання схильне бути менш обчислювально складним, тоді як надзорче навчання схильне бути більш обчислювально складним. Хоча результати надзорчого навчання схильні бути високоточними, результати ненадзорчого навчання схильні бути менш точними/середньо точними.