L’apprendimento automatico tradizionale è ancora rilevante?

Negli ultimi anni, l’AI generativa ha mostrato risultati promettenti nel risolvere compiti di intelligenza artificiale complessi. I modelli di apprendimento automatico moderni come ChatGPT, Bard, LLaMA, DALL-E.3 e SAM hanno dimostrato capacità notevoli nel risolvere problemi multidisciplinari come la risposta alle domande visive, la segmentazione, il ragionamento e la generazione di contenuti.

Inoltre, le tecniche di apprendimento multimodale sono emerse, in grado di elaborare più modalità di dati contemporaneamente, ad esempio testo, immagini, audio e video. Con questi progressi, è naturale chiedersi: stiamo avvicinando la fine dell’apprendimento automatico tradizionale (ML)?

In questo articolo, esamineremo lo stato dell’apprendimento automatico tradizionale rispetto alle innovazioni dell’AI generativa moderna.

Cosa è l’apprendimento automatico tradizionale? – Quali sono le sue limitazioni?

L’apprendimento automatico tradizionale è un termine ampio che copre una vasta gamma di algoritmi principalmente guidati dalla statistica. I due principali tipi di algoritmi di apprendimento automatico tradizionale sono supervisionato e non supervisionato. Questi algoritmi sono progettati per sviluppare modelli da set di dati strutturati.

Gli algoritmi standard di apprendimento automatico tradizionale includono:

• Algoritmi di regressione come lineare, lasso e ridge.
• K-means Clustering.
• Analisi dei componenti principali (PCA).
• Macchine a vettori di supporto (SVM).
• Algoritmi basati su alberi come alberi decisionali e foresta casuale.
• Modelli di boosting come gradient boosting e XGBoost.

Limitazioni dell’apprendimento automatico tradizionale

L’apprendimento automatico tradizionale ha le seguenti limitazioni:

1. Scalabilità limitata: questi modelli spesso hanno difficoltà a scalare con grandi e diversi set di dati.
2. Pre-elaborazione dei dati e ingegneria delle caratteristiche: l’apprendimento automatico tradizionale richiede un’elaborazione estensiva per trasformare i set di dati secondo le esigenze del modello. Inoltre, l’ingegneria delle caratteristiche può essere lunga e richiede molte iterazioni per catturare le relazioni complesse tra le caratteristiche dei dati.
3. Dati ad alta dimensionalità e non strutturati: l’apprendimento automatico tradizionale fatica con tipi di dati complessi come immagini, audio, video e documenti.
4. Adattabilità ai dati non visti: questi modelli possono non adattarsi bene ai dati del mondo reale che non facevano parte dei loro dati di training.

Rete neurale: passare dall’apprendimento automatico all’apprendimento profondo e oltre

I modelli di rete neurale (NN) sono molto più complessi dei modelli di apprendimento automatico tradizionale. La rete neurale più semplice, il perceptron multistrato (MLP), consiste in diversi neuroni collegati insieme per comprendere le informazioni e svolgere compiti, simile a come funziona il cervello umano.

I progressi nelle tecniche di rete neurale hanno formato la base per il passaggio dall’apprendimento automatico all’apprendimento profondo. Ad esempio, le reti neurali utilizzate per compiti di visione artificiale (rilevamento di oggetti e segmentazione di immagini) sono chiamate reti neurali convoluzionali (CNN), come AlexNet, ResNet e YOLO.

Oggi, la tecnologia di AI generativa sta portando le tecniche di rete neurale un passo più in là, consentendo loro di eccellere in vari domini di intelligenza artificiale. Ad esempio, le reti neurali utilizzate per compiti di elaborazione del linguaggio naturale (come la sommarizzazione del testo, la risposta alle domande e la traduzione) sono note come trasformatori. I modelli di trasformatori più noti includono BERT, GPT-4 e T5. Questi modelli stanno avendo un impatto su settori che vanno dalla sanità, al retail, al marketing, finanza, ecc.

Abbiamo ancora bisogno degli algoritmi di apprendimento automatico tradizionale?

Mentre le reti neurali e le loro varianti moderne come i trasformatori hanno ricevuto molta attenzione, i metodi di apprendimento automatico tradizionale rimangono cruciali. Vediamo perché sono ancora rilevanti.

1. Requisiti di dati più semplici

Le reti neurali richiedono grandi set di dati per l’addestramento, mentre i modelli di apprendimento automatico possono ottenere risultati significativi con set di dati più piccoli e semplici. Pertanto, l’apprendimento automatico è preferito rispetto all’apprendimento profondo per set di dati strutturati più piccoli e viceversa.

2. Semplicità e interpretabilità

I modelli di apprendimento automatico tradizionale sono costruiti su modelli statistici e di probabilità più semplici. Ad esempio, una linea di miglioramento in regressione lineare stabilisce la relazione input-output utilizzando il metodo dei minimi quadrati, un’operazione statistica.

Allo stesso modo, gli alberi decisionali utilizzano principi probabilistici per classificare i dati. L’uso di tali principi offre interpretabilità e rende più facile per gli sviluppatori di intelligenza artificiale comprendere il funzionamento degli algoritmi di apprendimento automatico.

Le moderne architetture di rete neurale come i trasformatori e i modelli di diffusione (tipicamente utilizzati per la generazione di immagini come Stable Diffusion o Midjourney) hanno una struttura di rete multi-strato complessa. Comprendere tali reti richiede una comprensione di concetti matematici avanzati. Pertanto, sono anche chiamati “scatole nere”.

3. Efficienza delle risorse

Le moderne reti neurali come i grandi modelli linguistici (LLM) sono addestrati su cluster di GPU costose in base alle loro esigenze computazionali. Ad esempio, si ritiene che GPT4 sia stato addestrato su 25000 GPU Nvidia (NVDA ) per 90-100 giorni.

Tuttavia, hardware costoso e tempi di addestramento lunghi non sono fattibili per ogni sviluppatore o team di intelligenza artificiale. D’altra parte, l’efficienza computazionale degli algoritmi di apprendimento automatico tradizionale consente agli sviluppatori di ottenere risultati significativi anche con risorse limitate.

4. Non tutti i problemi richiedono l’apprendimento profondo

L’apprendimento profondo non è la soluzione assoluta per tutti i problemi. Esistono scenari in cui l’apprendimento automatico supera l’apprendimento profondo.

Ad esempio, nella diagnosi e prognosi mediche con dati limitati, un algoritmo di apprendimento automatico per la rilevamento di anomalie come REMED fornisce risultati migliori rispetto all’apprendimento profondo. Allo stesso modo, l’apprendimento automatico tradizionale è significativo in scenari con bassa capacità computazionale come soluzione flessibile ed efficiente.

Principalmente, la scelta del miglior modello per qualsiasi problema dipende dalle esigenze dell’organizzazione o dello sviluppatore e dalla natura del problema in questione.

Apprendimento automatico nel 2023

Immagine generata utilizzando Leonardo AI

Nel 2023, l’apprendimento automatico tradizionale continua a evolversi e compete con l’apprendimento profondo e l’AI generativa. Ha diversi utilizzi nel settore, in particolare quando si tratta di set di dati strutturati.

Ad esempio, molte aziende di beni di consumo veloci (FMCG) trattano grandi quantità di dati tabulari che si affidano agli algoritmi di apprendimento automatico per compiti critici come la personalizzazione dei prodotti, l’ottimizzazione dei prezzi, la gestione delle scorte e l’ottimizzazione della catena di approvvigionamento.

Inoltre, molti modelli di visione e linguaggio sono ancora basati su tecniche tradizionali, offrendo soluzioni in approcci ibridi e applicazioni emergenti. Ad esempio, uno studio recente intitolato “Do We Really Need Deep Learning Models for Time Series Forecasting?” ha discusso come gli alberi di regressione di boosting (GBRT) siano più efficienti per la previsione delle serie temporali rispetto alle reti neurali profonde.

L’interpretabilità dell’apprendimento automatico rimane altamente preziosa con tecniche come SHAP (Shapley Additive Explanations) e LIME (Local Interpretable Model-agnostic Explanations). Queste tecniche spiegano modelli di apprendimento automatico complessi e forniscono informazioni sulle loro previsioni, aiutando così gli sviluppatori di apprendimento automatico a comprendere meglio i loro modelli.

Infine, l’apprendimento automatico tradizionale rimane una soluzione robusta per diversi settori che affrontano la scalabilità, la complessità dei dati e le limitazioni delle risorse. Questi algoritmi sono insostituibili per l’analisi dei dati e la modellazione predittiva e continueranno a essere una parte dell’arsenale di un scienziato dei dati.

Se argomenti come questo ti interessano, esplora Unite AI per ulteriori approfondimenti.