Je stále tradiční strojové učení relevantní?

V posledních letech ukázala generativní umělá inteligence slibné výsledky při řešení složitých úloh umělé inteligence. Moderní modely umělé inteligence, jako ChatGPT, Bard, LLaMA, DALL-E.3 a SAM, prokázaly pozoruhodné schopnosti při řešení multidisciplinárních problémů, jako je vizuální otázka a odpověď, segmentace, myšlení a generování obsahu.

Navíc se objevily techniky multimodálního umělého učení, které jsou schopny zpracovávat několik typů dat, tj. text, obrázky, audio a videa současně. S těmito pokroky je přirozené se ptát: Blížíme se ke konci tradičního strojového učení (ML)?

V tomto článku se podíváme na stav tradiční krajiny strojového učení ve vztahu k moderním inovacím generativní umělé inteligence.

Co je tradiční strojové učení? – Jaké jsou jeho omezení?

Tradiční strojové učení je široký pojem, který zahrnuje řadu algoritmů, které jsou primárně řízeny statistikou. Dvě hlavní typy tradičních algoritmů ML jsou dozorované a nedozorované. Tyto algoritmy jsou navrženy pro vývoj modelů z strukturovaných datových sad.

Standardní tradiční algoritmy strojového učení zahrnují:

• Algoritmy regrese, jako je lineární, lasso a ridge.
• K-means Clustering.
• Principal Component Analysis (PCA).
• Support Vector Machines (SVM).
• Stromové algoritmy, jako jsou rozhodovací stromy a náhodný les.
• Modely zesilování, jako je gradient zesilování a XGBoost.

Omezení tradičního strojového učení

Tradiční ML má následující omezení:

1. Omezená škálovatelnost: Tyto modely často potřebují pomoc při škálování s velkými a rozmanitými datovými sadami.
2. Předzpracování dat a inženýrství funkcí: Tradiční ML vyžaduje rozsáhlé předzpracování pro transformaci datových sad podle požadavků modelu. Kromě toho může inženýrství funkcí být časově náročné a vyžaduje několik iterací pro zachycení komplexních vztahů mezi funkcemi dat.
3. Vysokodimenzionální a nestrukturovaná data: Tradiční ML má potíže s komplexními typy dat, jako jsou obrázky, audio, videa a dokumenty.
4. Adaptabilita na neviditelná data: Tyto modely se nemusí dobře přizpůsobit reálným datům, která nebyla součástí jejich trénovacích dat.

Neuronová síť: Přechod ze strojového učení na hluboké učení & dál

Modely neuronových sítí jsou mnohem složitější než tradiční modely strojového učení. Nejjednodušší NN – Multi-layer perceptron (MLP) se skládá z několika neuronů propojených together, aby pochopily informace a provedly úkoly, podobně jako lidský mozek.

Pokroky v technice neuronových sítí vytvořily základ pro přechod ze strojového učení na hluboké učení. Například NN používané pro úkoly počítačového vidění (objektové detekce a segmentace obrázků) se nazývají convolutional neural networks (CNNs), jako AlexNet, ResNet a YOLO.

Dnes technologie generativní umělé inteligence posouvá techniky neuronových sítí o krok dále, umožňující jim vyniknout v různých doménách umělé inteligence. Například neuronové sítě používané pro úkoly zpracování přirozeného jazyka (jako shrnutí textu, otázka a odpověď a překlad) se nazývají transforméry. Významné modely transformérů zahrnují BERT, GPT-4 a T5. Tyto modely mají dopad na průmysly, jako je zdravotnictví, maloobchod, marketing, finanční služby atd.

Potřebujeme stále tradiční algoritmy strojového učení?

Zatímco neuronové sítě a jejich moderní varianty, jako transforméry, získaly velkou pozornost, tradiční metody ML zůstávají důležité. Podívejme se, proč jsou stále relevantní.

1. Jednodušší požadavky na data

Neuronové sítě vyžadují velké datové sady pro trénování, zatímco modely ML mohou dosáhnout významných výsledků s menšími a jednoduššími datovými sadami. Proto je ML upřednostňován před hlubokým učením pro menší strukturované datové sady a naopak.

2. Jednoduchost a interpretovatelnost

Tradiční modely strojového učení jsou postaveny na jednodušších statistických a pravděpodobnostních modelech. Například nejlepší fit linie v lineární regresi stanoví vztah mezi vstupem a výstupem pomocí metody nejmenších čtverců, statistické operace.

Podobně rozhodovací stromy využívají pravděpodobnostních principů pro klasifikaci dat. Použití těchto principů nabízí interpretovatelnost a usnadňuje AI praktikům pochopit fungování algoritmů ML.

Moderní architektury NN, jako transforméry a difúzní modely (obvykle používané pro generování obrázků, jako Stable Diffusion nebo Midjourney), mají složitou vícebodovou strukturu. Pochopení těchto sítí vyžaduje znalost pokročilých matematických konceptů. Proto se také nazývají „černé skříňky“.

3. Efektivita zdrojů

Moderní neuronové sítě, jako Large Language Models (LLM), jsou trénovány na clusterech drahých GPU podle jejich výpočetních požadavků. Například GPT4 byl údajně trénován na 25000 Nvidia GPU po dobu 90 až 100 dní.

Nicméně drahé hardwarové a dlouhé trénovací časy nejsou pro každého praktika nebo AI týmu proveditelné. Na druhé straně výpočetní efektivita tradičních algoritmů ML umožňuje praktikům dosáhnout významných výsledků i s omezenými zdroji.

4. Ne všechny problémy vyžadují hluboké učení

Hluboké učení není absolutním řešením pro všechny problémy. Existují scénáře, ve kterých ML převyšuje hluboké učení.

Například v medicínské diagnostice a prognóze s omezenými daty algoritmus ML pro anomální detekci jako REMED poskytuje lepší výsledky než hluboké učení. Podobně je tradiční strojové učení významné v scénářích s nízkou výpočetní kapacitou jako flexibilné a efektivní řešení.

Primárně výběr nejlepšího modelu pro jakýkoli problém závisí na potřebách organizace nebo praktika a povaze problému.

Strojové učení v roce 2023

Obrázek vygenerován pomocí Leonardo AI

V roce 2023 tradiční strojové učení pokračuje ve vývoji a soutěží s hlubokým učením a generativní umělou inteligencí. Má několik použití v průmyslu, zejména při práci se strukturovanými datovými sadami.

Například mnoho rychlých spotřebních zboží (FMCG) společností pracuje s velkými množstvími tabulkových dat a spoléhá se na algoritmy ML pro kritické úkoly, jako jsou personalizované produktové doporučení, optimalizace cen, řízení zásob a optimalizace dodavatelského řetězce.

Dále mnoho modelů vidění a jazyka je stále založeno na tradičních technikách, nabízejících řešení v hybridních přístupech a vznikajících aplikacích. Například nedávná studie „Do We Really Need Deep Learning Models for Time Series Forecasting?“ diskutovala, jak gradient-boosting regresní stromy (GBRTs) jsou efektivnější pro časovou řetězovou předpověď než hluboké neuronové sítě.

Interpretovatelnost ML zůstává velmi cennou s technikami, jako je SHAP (Shapley Additive Explanations) a LIME (Local Interpretable Model-agnostic Explanations). Tyto techniky vysvětlují komplexní modely ML a poskytují přehled o jejich předpovědích, čímž pomáhají ML praktikům lépe pochopit své modely.

Nakonec tradiční strojové učení zůstává robustním řešením pro různé průmysly, které řeší škálovatelnost, složitost dat a omezení zdrojů. Tyto algoritmy jsou nenahraditelné pro analýzu dat a prediktivní modelování a budou pokračovat v být součástí datového vědce.

Pokud vás zajímají témata, jako je toto, prozkoumejte Unite AI pro další informace.