Чи залишається традиційний машинний навчання актуальним?

За останні роки генерація штучного інтелекту показала перспективні результати у вирішенні складних завдань штучного інтелекту. Сучасні моделі штучного інтелекту, такі як ChatGPT, Bard, LLaMA, DALL-E.3 та SAM, продемонстрували видатні можливості у вирішенні міжгалузевих завдань, таких як візуальне питання-відповідь, сегментація, висновок та генерація вмісту.

Крім того, мультимодальний штучний інтелект техніки з’явилися, здатні обробляти декілька типів даних одночасно, тобто текст, зображення, аудіо та відео. З цими досягненнями природно питання: чи підходимо ми до кінця традиційного машинного навчання (ML)?

У цій статті ми розглянемо стан традиційного машинного навчання щодо сучасних інновацій генерації штучного інтелекту.

Що таке традиційне машинне навчання? – Які його обмеження?

Традиційне машинне навчання – це широкий термін, який охоплює велику кількість алгоритмів, які в основному керуються статистикою. Два основних типи традиційних алгоритмів машинного навчання – це кероване та некероване навчання. Ці алгоритми розроблені для створення моделей з структурованих наборів даних.

Стандартні традиційні алгоритми машинного навчання включають:

• Алгоритми регресії, такі як лінійна, лассо та ридж.
• Кластеризація k-середніх.
• Аналіз головних компонентів (PCA).
• Машини опорних векторів (SVM).
• Деревоподібні алгоритми, такі як дерева рішень та випадковий ліс.
• Моделі бустингу, такі як градієнтний бустинг та XGBoost.

Обмеження традиційного машинного навчання

Традиційне машинне навчання має наступні обмеження:

1. Обмежена масштабованість: ці моделі часто потребують допомоги для масштабування з великими та різноманітними наборами даних.
2. Передобробка даних та інженерія ознак: традиційне машинне навчання вимагає широкої передобробки для перетворення наборів даних відповідно до вимог моделі. Крім того, інженерія ознак може бути часоємною та вимагає декількох ітерацій для захоплення складних відносин між ознаками даних.
3. Високовимірні та неструктуровані дані: традиційне машинне навчання бореться з складними типами даних, такими як зображення, аудіо, відео та документи.
4. Адаптивність до невідомих даних: ці моделі можуть не адаптуватися добре до реальних даних, які не були частиною їх тренувального набору даних.

Нейронна мережа: перехід від машинного навчання до глибинного навчання та далі

Моделі нейронної мережі значно складніші, ніж традиційні моделі машинного навчання. Найпростіша нейронна мережа – багатошаровий персептрон (MLP) – складається з декількох нейронів, з’єднаних разом для розуміння інформації та виконання завдань, подібно до того, як функціонує людський мозок.

Дослідження нейронної мережі сформували основу для переходу від машинного навчання до глибинного навчання. Наприклад, нейронні мережі, які використовуються для завдань комп’ютерного зору (виявлення об’єктів та сегментація зображень), називаються конволюційними нейронними мережами (CNN), такими як AlexNet, ResNet та YOLO.

Сьогодні технологія генерації штучного інтелекту веде техніки нейронної мережі на крок далі, дозволяючи їй excelling у різних галузях штучного інтелекту. Наприклад, нейронні мережі, які використовуються для завдань обробки природної мови (таких як підсумовування тексту, питання-відповідь та переклад), називаються трансформерами. Видатні моделі трансформерів включають BERT, GPT-4 та T5. Ці моделі створюють вплив на галузі, починаючи від охорони здоров’я, роздрібної торгівлі, маркетингу, фінансів тощо.

Чи все ще потрібні традиційні алгоритми машинного навчання?

Хоча нейронні мережі та їхні сучасні варіанти, такі як трансформери, отримали значну увагу, традиційні методи машинного навчання залишаються важливими. Давайте розглянемо, чому вони все ще актуальні.

1. Простіші вимоги до даних

Нейронні мережі вимагають великих наборів даних для тренування, тоді як моделі машинного навчання можуть досягти значних результатів з меншими та простішими наборами даних. Таким чином, машинне навчання віддається перевага над глибинним навчанням для менших структурованих наборів даних і навпаки.

2. Простота та інтерпретованість

Традиційні моделі машинного навчання побудовані на основі простіших статистичних та ймовірнісних моделей. Наприклад, лінія найкращого наближення у лінійній регресії встановлює взаємозв’язок між входом та виходом за допомогою методу найменших квадратів, статистичної операції.

Аналогічно, дерева рішень використовують ймовірнісні принципи для класифікації даних. Використання таких принципів пропонує інтерпретованість та робить його легшим для фахівців штучного інтелекту зрозуміти роботу алгоритмів машинного навчання.

Сучасні архітектури нейронних мереж, такі як трансформери та моделі дифузії (зазвичай використовувані для генерації зображень, таких як Stable Diffusion або Midjourney), мають складну багаторівневу структуру мережі. Зрозуміння таких мереж вимагає розуміння складних математичних концепцій. Тому їх також називають «чорними скриньками».

3. Ефективність ресурсів

Сучасні нейронні мережі, такі як великі мови моделі (LLM), тренуються на кластерах дорогих GPU згідно з їхніми обчислювальними вимогами. Наприклад, GPT4 був нібито тренований на 25000 Nvidia GPU (NVDA ) протягом 90-100 днів.

Однак дороге обладнання та тривалий час тренування не є можливими для кожного фахівця або команди штучного інтелекту. З іншого боку, обчислювальна ефективність традиційних алгоритмів машинного навчання дозволяє фахівцям досягати значних результатів навіть з обмеженими ресурсами.

4. Не всі завдання потребують глибинного навчання

Глибинне навчання не є абсолютним рішенням для всіх завдань. Існують певні сценарії, у яких машинне навчання перевершує глибинне навчання.

Наприклад, у медичній діагностиці та прогнозуванні з обмеженими даними алгоритм машинного навчання для виявлення аномалій типу REMED дає кращі результати, ніж глибинне навчання. Аналогічно, традиційне машинне навчання значуще у сценаріях з низькою обчислювальною потужністю як гнучке та ефективне рішення.

В основному, вибір найкращої моделі для будь-якої задачі залежить від потреб організації або фахівця та природи задачі.

Машинне навчання у 2023 році

Зображення згенеровано за допомогою Leonardo AI

У 2023 році традиційне машинне навчання продовжує розвиватися та конкурувати з глибинним навчанням та генерацією штучного інтелекту. Воно має декілька застосувань у галузі, особливо при роботі з структурованими наборами даних.

Наприклад, багато виробників товарів швидкого споживання (FMCG) працюють з великими обсягами таблиць даних, які залежать від алгоритмів машинного навчання для критичних завдань, таких як персоналізовані рекомендації продуктів, оптимізація ціни, управління запасами та оптимізація ланцюга постачання.

Крім того, багато моделей зору та мови все ще базуються на традиційних техніках, пропонуючи рішення у гібридних підходах та нових застосуваннях. Наприклад, недавнє дослідження під назвою «Чи дійсно потрібні нам глибинні моделі для прогнозування часових рядів?» обговорює, як градієнтний бустинг регресійних дерев (GBRT) є більш ефективним для прогнозування часових рядів, ніж глибинні нейронні мережі.

Інтерпретованість машинного навчання залишається дуже цінною завдяки технікам, таким як SHAP (адитивні пояснення Шеплі) та LIME (локальні інтерпретовані пояснення моделей). Ці техніки пояснюють складні моделі машинного навчання та надають інформацію про їхні передбачення, тим самим допомагаючи фахівцям штучного інтелекту краще зрозуміти свої моделі.

Нарешті, традиційне машинне навчання залишається міцним рішенням для різних галузей, які займаються масштабованістю, складністю даних та обмеженнями ресурсів. Ці алгоритми є незамінними для аналізу даних та моделювання передбачень і продовжуватимуть бути частиною арсеналу фахівця даних.

Якщо такі теми цікавлять вас, дослідіть Unite AI для отримання додаткової інформації.