Is Traditionele Machine Learning Nog Steeds Relevant?

In recente jaren heeft Generatieve AI veelbelovende resultaten laten zien bij het oplossen van complexe AI-taken. Moderne AI-modellen zoals ChatGPT, Bard, LLaMA, DALL-E.3 en SAM hebben opmerkelijke mogelijkheden laten zien bij het oplossen van multidisciplinaire problemen zoals visuele vraagbeantwoording, segmentatie, redenering en inhoudsgeneratie.

Bovendien zijn Multimodale AI-technieken ontwikkeld die meerdere gegevensmodaliteiten kunnen verwerken, zoals tekst, afbeeldingen, audio en video’s tegelijkertijd. Met deze vooruitgang is het natuurlijk om te vragen: zijn we aan het einde van traditionele machine learning (ML)?

In dit artikel zullen we de staat van de traditionele machine learning-landschap bekijken in verhouding tot moderne generatieve AI-innovaties.

Wat is Traditionele Machine Learning? – Wat zijn de Beperkingen?

Traditionele machine learning is een breed begrip dat een grote variëteit aan algoritmen omvat die voornamelijk door statistiek worden aangedreven. De twee belangrijkste soorten traditionele ML-algoritmen zijn supervised en unsupervised. Deze algoritmen zijn ontworpen om modellen te ontwikkelen uit gestructureerde datasets.

Standaard traditionele machine learning-algoritmen omvatten:

• Regressie-algoritmen zoals lineaire, lasso en ridge.
• K-means Clustering.
• Principal Component Analysis (PCA).
• Support Vector Machines (SVM).
• Boom-gebaseerde algoritmen zoals beslissingsbomen en random forest.
• Boosting-modellen zoals gradient boosting en XGBoost.

Beperkingen van Traditionele Machine Learning

Traditionele ML heeft de volgende beperkingen:

1. Beperkte Schaalbaarheid: Deze modellen hebben vaak moeite om te schalen met grote en diverse datasets.
2. Gegevensvoorbereiding en Functie-Engineering: Traditionele ML vereist uitgebreide voorbereiding om datasets te transformeren zoals vereist door het model. Bovendien kan functie-engineering tijdrovend zijn en meerdere iteraties vereisen om complexe relaties tussen gegevensfuncties te vangen.
3. Hoge-Dimensionale en Ongeordende Gegevens: Traditionele ML heeft moeite met complexe gegevenstypen zoals afbeeldingen, audio, video’s en documenten.
4. Aanpassing aan Ongezien Gegevens: Deze modellen passen zich mogelijk niet goed aan aan echte gegevens die niet deel uitmaakten van hun trainingsgegevens.

Neuraal Netwerk: Van Machine Learning naar Deep Learning & Verder

Neuraal netwerk (NN) modellen zijn veel complexer dan traditionele machine learning-modellen. Het eenvoudigste NN – Multi-layer perceptron (MLP) bestaat uit meerdere neuronen die samenwerken om informatie te begrijpen en taken uit te voeren, net zoals een menselijk brein functioneert.

De vooruitgang in neurale netwerktechnieken heeft de basis gevormd voor de overgang van machine learning naar deep learning. Bijvoorbeeld, NN’s die worden gebruikt voor computer vision-taken (objectdetectie en beeldsegmentatie) worden convolutional neural networks (CNN’s) genoemd, zoals AlexNet, ResNet en YOLO.

Vandaag de dag neemt generatieve AI-technologie neurale netwerktechnieken naar een hoger niveau, waardoor het uitstekend presteert in verschillende AI-domeinen. Bijvoorbeeld, neurale netwerken die worden gebruikt voor natuurlijke taalverwerkingstaken (zoals tekstsamenvatting, vraagbeantwoording en vertaling) worden transformers genoemd. Prominente transformermodellen omvatten BERT, GPT-4 en T5. Deze modellen hebben een impact op industrieën zoals gezondheidszorg, detailhandel, marketing, financiën, enz.

Hebben we Nog Steeds Traditionele Machine Learning-Algoritmen Nodig?

Terwijl neurale netwerken en hun moderne varianten zoals transformers veel aandacht hebben gekregen, blijven traditionele ML-methoden cruciaal. Laten we zien waarom ze nog steeds relevant zijn.

1. Eenvoudigere Gegevensvereisten

Neurale netwerken vereisen grote datasets voor training, terwijl ML-modellen significante resultaten kunnen behalen met kleinere en eenvoudigere datasets. Daarom wordt ML voornamelijk gebruikt voor kleinere gestructureerde datasets en vice versa.

2. Eenvoud en Interpretatie

Traditionele machine learning-modellen zijn gebouwd op basis van eenvoudigere statistische en waarschijnlijkheidsmodellen. Bijvoorbeeld, een beste paslijn in lineaire regressie stelt de invoer-uitvoerrelatie vast met behulp van de kleinste kwadratenmethode, een statistische bewerking.

Bovendien maken beslissingsbomen gebruik van probabilistische principes voor het classificeren van gegevens. Het gebruik van dergelijke principes biedt interpretatie en maakt het gemakkelijker voor AI-practitioners om de werking van ML-algoritmen te begrijpen.

Moderne NN-architecturen zoals transformer- en diffusiemodellen (typisch gebruikt voor afbeeldingengeneratie zoals Stable Diffusion of Midjourney) hebben een complexe, meerlaagse netwerkstructuur. Het begrijpen van dergelijke netwerken vereist een begrip van geavanceerde wiskundige concepten. Daarom worden ze ook wel ‘Black Boxes’ genoemd.

3. Bronnefficiëntie

Moderne neurale netwerken zoals Large Language Models (LLM’s) worden getraind op clusters van dure GPU’s vanwege hun berekeningsvereisten. Bijvoorbeeld, GPT4 werd naar verluidt getraind op 25000 Nvidia GPU’s (NVDA ) gedurende 90 tot 100 dagen.

Echter, dure hardware en lange trainings tijd zijn niet haalbaar voor elke praktiserende of AI-team. Aan de andere kant biedt de berekenings-efficiëntie van traditionele machine learning-algoritmen praktiserende de mogelijkheid om significante resultaten te behalen, zelfs met beperkte middelen.

4. Niet Alle Problemen Vereisen Deep Learning

Deep Learning is niet de absolute oplossing voor alle problemen. Er zijn bepaalde scenario’s waarin ML beter presteert dan deep learning.

Bijvoorbeeld, in medische diagnose en prognose met beperkte gegevens, presteert een ML-algoritme voor anomaliedetectie zoals REMED beter dan deep learning. Bovendien is traditionele machine learning significant in scenario’s met lage berekeningscapaciteit als een flexibele en efficiënte oplossing.

Primair hangt de selectie van het beste model voor een bepaald probleem af van de behoeften van de organisatie of praktiserende en de aard van het probleem.

Machine Learning in 2023

Afbeelding gegenereerd met Leonardo AI

In 2023 blijft traditionele machine learning evolueren en concurreert het met deep learning en generatieve AI. Het heeft verschillende toepassingen in de industrie, vooral bij het omgaan met gestructureerde datasets.

Bijvoorbeeld, veel Fast-Moving Consumer Goods (FMCG)-bedrijven hebben te maken met grote hoeveelheden tabulaire gegevens en vertrouwen op ML-algoritmen voor kritieke taken zoals gepersonaliseerde productaanbevelingen, prijs optimalisatie, voorraadbeheer en supply chain-optimalisatie.

Verder zijn veel visie- en taalmodellen nog steeds gebaseerd op traditionele technieken, waardoor oplossingen mogelijk zijn in hybride benaderingen en opkomende toepassingen. Bijvoorbeeld, een recente studie getiteld “Do We Really Need Deep Learning Models for Time Series Forecasting?” heeft besproken hoe gradient-boosting regressiebomen (GBRT’s) efficiënter zijn voor tijdreeksvoorspelling dan diepe neurale netwerken.

De interpretatie van ML blijft zeer waardevol met technieken zoals SHAP (Shapley Additive Explanations) en LIME (Local Interpretable Model-agnostic Explanations). Deze technieken verklaren complexe ML-modellen en bieden inzicht in hun voorspellingen, waardoor ML-praktiserende hun modellen nog beter kunnen begrijpen.

Tenslotte blijft traditionele machine learning een robuuste oplossing voor diverse industrieën die schaalbaarheid, gegevenscomplexiteit en bronbeperkingen aanpakken. Deze algoritmen zijn onvervangbaar voor gegevensanalyse en predictief modeleren en zullen blijven bestaan als onderdeel van een data scientist’s arsenal.

Als onderwerpen zoals deze u interesseren, bekijk dan Unite AI voor verdere inzichten.