L’ascesa delle Unità di Elaborazione Neurale: Miglioramento dell’Intelligenza Artificiale Generativa su Dispositivo per Velocità e Sostenibilità

L’evoluzione dell’intelligenza artificiale generativa non sta solo ridefinendo la nostra interazione e le nostre esperienze con i dispositivi di calcolo, ma sta anche ridefinendo il calcolo stesso. Uno dei principali driver di questa trasformazione è la necessità di eseguire l’intelligenza artificiale generativa su dispositivi con risorse computazionali limitate. Questo articolo discute le sfide che questo presenta e come le unità di elaborazione neurale (NPUs) stanno emergendo per risolverle. Inoltre, l’articolo introduce alcuni dei più recenti processori NPU che stanno guidando la strada in questo campo.

Sfide dell’Infrastruttura di Intelligenza Artificiale Generativa su Dispositivo

L’intelligenza artificiale generativa, il motore che sta dietro la sintesi di immagini, la generazione di testo e la composizione musicale, richiede risorse computazionali sostanziali. Convenzionalmente, queste richieste sono state soddisfatte sfruttando le vaste capacità delle piattaforme cloud. Sebbene efficace, questo approccio presenta una serie di sfide per l’intelligenza artificiale generativa su dispositivo, tra cui la dipendenza da una costante connettività internet e infrastrutture centralizzate. Questa dipendenza introduce latenza, vulnerabilità di sicurezza e un aumento del consumo di energia.

La struttura dell’infrastruttura di intelligenza artificiale basata su cloud si basa in gran parte su unità centrali di elaborazione (CPUs) e unità di elaborazione grafica (GPUs) per gestire le richieste computazionali dell’intelligenza artificiale generativa. Tuttavia, quando applicate all’intelligenza artificiale generativa su dispositivo, questi processori incontrano significative sfide. Le CPUs sono progettate per compiti generici e mancano dell’architettura specializzata necessaria per l’esecuzione efficiente e a basso consumo di energia dei carichi di lavoro dell’intelligenza artificiale generativa. Le loro limitate capacità di elaborazione parallela risultano in una ridotta velocità di elaborazione, aumento della latenza e maggior consumo di energia, rendendole meno ideali per l’intelligenza artificiale su dispositivo. D’altra parte, sebbene le GPUs possano eccellere nell’elaborazione parallela, sono principalmente progettate per compiti di elaborazione grafica. Per eseguire efficacemente compiti di intelligenza artificiale generativa, le GPU richiedono circuiti integrati specializzati, che consumano alta potenza e generano significativo calore. Inoltre, la loro grande dimensione fisica crea ostacoli per il loro utilizzo in applicazioni compatte su dispositivo.

L’Emergenza delle Unità di Elaborazione Neurale (NPUs)

In risposta alle sfide sopra menzionate, le unità di elaborazione neurale (NPUs) stanno emergendo come tecnologia trasformativa per l’implementazione dell’intelligenza artificiale generativa su dispositivi. L’architettura delle NPUs è ispirata principalmente alla struttura e alla funzione del cervello umano, in particolare a come i neuroni e le sinapsi collaborano per elaborare le informazioni. Nelle NPUs, i neuroni artificiali agiscono come unità di base, imitando i neuroni biologici ricevendo input, elaborandoli e producendo output. Questi neuroni sono interconnessi attraverso sinapsi artificiali, che trasmettono segnali tra neuroni con forze variabili che si adattano durante il processo di apprendimento. Ciò emula il processo di modifiche del peso sinaptico nel cervello. Le NPUs sono organizzate in livelli; livelli di input che ricevono dati grezzi, livelli nascosti che eseguono elaborazioni intermedie e livelli di output che generano i risultati. Questa struttura a livelli riflette la capacità del cervello di elaborare le informazioni in modo multistadio e parallelo. Poiché l’intelligenza artificiale generativa è anch’essa costruita utilizzando una struttura simile di reti neurali artificiali, le NPUs sono ben adattate per gestire i carichi di lavoro dell’intelligenza artificiale generativa. Questa allineamento strutturale riduce la necessità di circuiti integrati specializzati, portando a soluzioni più compatte, efficienti in termini di energia, veloci e sostenibili.

Indirizzare le Diverse Esigenze Computazionali dell’Intelligenza Artificiale Generativa

L’intelligenza artificiale generativa comprende una vasta gamma di compiti, tra cui la sintesi di immagini, la generazione di testo e la composizione musicale, ognuno con le proprie esigenze computazionali uniche. Ad esempio, la sintesi di immagini si basa fortemente sulle operazioni matriciali, mentre la generazione di testo coinvolge l’elaborazione sequenziale. Per soddisfare efficacemente queste diverse esigenze computazionali, le unità di elaborazione neurale (NPUs) sono spesso integrate nella tecnologia System-on-Chip (SoC) insieme alle CPUs e alle GPUs.

Ognuno di questi processori offre punti di forza computazionali distinti. Le CPUs sono particolarmente adatte per il controllo sequenziale e l’immediatezza, le GPUs eccellono nell’elaborazione parallela di dati in streaming, e le NPUs sono finemente regolate per le operazioni di intelligenza artificiale di base, che trattano matematica scalare, vettoriale e tensoriale. Sfruttando un’architettura di calcolo eterogenea, i compiti possono essere assegnati ai processori in base alle loro forze e alle esigenze specifiche del compito in questione.

Le NPUs, essendo ottimizzate per i carichi di lavoro di intelligenza artificiale, possono efficientemente scaricare i compiti di intelligenza artificiale generativa dal processore principale. Questo scaricamento non solo garantisce operazioni veloci ed efficienti in termini di energia, ma accelera anche i compiti di inferenza dell’intelligenza artificiale, consentendo ai modelli di intelligenza artificiale generativa di eseguire più fluidamente sul dispositivo. Con le NPUs che gestiscono i compiti relativi all’intelligenza artificiale, le CPUs e le GPUs sono libere di allocare risorse ad altre funzioni, migliorando così le prestazioni generali dell’applicazione mentre si mantiene l’efficienza termica.

Esempi Real-World delle NPUs

Il progresso delle NPUs sta guadagnando slancio. Ecco alcuni esempi real-world delle NPUs:

• Hexagon NPUs di Qualcomm (QCOM ) è progettato specificamente per accelerare i compiti di inferenza dell’intelligenza artificiale a bassa potenza e a bassa risorsa. È costruito per gestire compiti di intelligenza artificiale generativa come la generazione di testo, la sintesi di immagini e l’elaborazione audio. L’Hexagon NPU è integrato nelle piattaforme Snapdragon di Qualcomm, fornendo un’esecuzione efficiente dei modelli di rete neurale sui dispositivi con prodotti AI di Qualcomm.
• Apple’s Neural Engine (AAPL ) è un componente chiave dei chip A-series e M-series, alimentando varie funzionalità guidate dall’intelligenza artificiale come Face ID, Siri e realtà aumentata (AR). Il Neural Engine accelera compiti come il riconoscimento facciale per Face ID sicuro, l’elaborazione del linguaggio naturale (NLP) per Siri e il miglioramento dell’analisi degli oggetti e della comprensione della scena per le applicazioni AR. Migliora notevolmente le prestazioni dei compiti relativi all’intelligenza artificiale sui dispositivi Apple, fornendo un’esperienza utente fluida ed efficiente.
• Il processore NPU di Samsung è un processore specializzato progettato per il calcolo dell’intelligenza artificiale, in grado di gestire migliaia di calcoli simultaneamente. Integrato negli ultimi SoC Exynos di Samsung, che alimentano molti telefoni Samsung, questa tecnologia NPU consente calcoli di intelligenza artificiale generativa a bassa potenza e ad alta velocità. La tecnologia NPU di Samsung è anche integrata nei televisori di fascia alta, abilitando l’innovazione del suono guidata dall’intelligenza artificiale e migliorando le esperienze degli utenti.
• L’architettura Da Vinci di Huawei funge da nucleo centrale del loro processore di intelligenza artificiale Ascend, progettato per migliorare la potenza di calcolo dell’intelligenza artificiale. L’architettura sfrutta un motore di calcolo a cubo 3D ad alte prestazioni, rendendolo potente per i carichi di lavoro dell’intelligenza artificiale.

Il Punto Chiave

L’intelligenza artificiale generativa sta trasformando le nostre interazioni con i dispositivi e ridefinendo il calcolo. La sfida di eseguire l’intelligenza artificiale generativa su dispositivi con risorse computazionali limitate è significativa, e le tradizionali CPUs e GPUs spesso non sono all’altezza. Le unità di elaborazione neurale (NPUs) offrono una soluzione promettente con la loro architettura specializzata progettata per soddisfare le esigenze dell’intelligenza artificiale generativa. Integrando le NPUs nella tecnologia System-on-Chip (SoC) insieme alle CPUs e alle GPUs, possiamo sfruttare i punti di forza di ogni processore, portando a prestazioni di intelligenza artificiale più veloci, efficienti e sostenibili sui dispositivi. Man mano che le NPUs continuano a evolversi, sono destinate a migliorare le capacità di intelligenza artificiale su dispositivo, rendendo le applicazioni più rispondenti e efficienti in termini di energia.