Hussein Osman, Direttore di Segment Marketing di Lattice Semiconductor – Serie di Interviste

Hussein Osman è un veterano dell’industria dei semiconduttori con oltre due decenni di esperienza nel portare sul mercato prodotti di silicio e software che integrano soluzioni di sensing, elaborazione e connettività, concentrandosi su esperienze innovative che forniscono valore all’utente finale. Negli ultimi cinque anni, ha guidato la strategia di soluzione e gli sforzi di go-to-market per sensAI presso Lattice Semiconductor, creando applicazioni AI/ML ad alte prestazioni. Il signor Osman ha ricevuto il diploma di laurea in Ingegneria Elettrica presso la California Polytechnic State University di San Luis Obispo.

Lattice Semiconductor (LSCC ) è un fornitore di soluzioni programmabili a basso consumo utilizzate nei mercati delle comunicazioni, del calcolo, dell’industria, dell’automazione e dei consumatori. I prodotti FPGAs a basso consumo e gli strumenti software dell’azienda sono progettati per aiutare ad accelerare lo sviluppo e a supportare l’innovazione in applicazioni che vanno dall’Edge al Cloud.

Il Edge AI sta guadagnando terreno poiché le aziende cercano alternative all’elaborazione dell’AI basata sul cloud. Come pensi che questo cambiamento influenzerà l’industria dei semiconduttori e quale ruolo gioca Lattice Semiconductor in questa trasformazione? 

Il Edge AI sta assolutamente guadagnando terreno, e ciò è dovuto al suo potenziale per rivoluzionare interi mercati. Le organizzazioni di vari settori stanno adottando il Edge AI perché aiuta a raggiungere operazioni più veloci, efficienti e sicure – soprattutto in applicazioni in tempo reale – rispetto al cloud computing da solo. Questo è il pezzo su cui la maggior parte delle persone si concentra: come il Edge AI sta cambiando le operazioni aziendali quando viene implementato. Ma c’è questo altro viaggio che sta accadendo in tandem, e inizia molto prima dell’implementazione.

L’innovazione nel Edge AI sta spingendo i produttori di attrezzature originali a progettare componenti di sistema che possano eseguire modelli di AI nonostante le limitazioni di footprint. Ciò significa algoritmi leggeri e ottimizzati, hardware specializzato e altre innovazioni che complementano e/o amplificano le prestazioni. È qui che Lattice Semiconductor entra in gioco.

I nostri Field Programmable Gate Arrays (FPGAs) forniscono il hardware altamente adattabile necessario per i progettisti per soddisfare i requisiti di sistema rigidi relativi alla latenza, al consumo di potenza, alla sicurezza, alla connettività, alle dimensioni e altro ancora. Forniscono una base su cui gli ingegneri possono costruire dispositivi in grado di mantenere funzionali le applicazioni Automotive, Industriali e Mediche critiche. Questa è una grande area di focus per la nostra attuale innovazione, e siamo entusiasti di aiutare i clienti a superare le sfide e a salutare l’era del Edge AI con fiducia.

Quali sono le sfide chiave che le aziende affrontano quando implementano il Edge AI, e come pensi che gli FPGAs possano affrontare queste questioni più efficacemente dei tradizionali processori o GPU?

Sai, alcune sfide sembrano essere veramente universali man mano che qualsiasi tecnologia progredisce. Ad esempio, gli sviluppatori e le aziende che sperano di sfruttare il potere del Edge AI dovranno probabilmente affrontare sfide comuni, come ad esempio:

• Gestione delle risorse. I dispositivi Edge AI devono eseguire processi complessi in modo affidabile lavorando all’interno di capacità computazionali e di batteria sempre più limitate.
• Sebbene il Edge AI offra i vantaggi della privacy dell’elaborazione dei dati locali, solleva anche altre preoccupazioni di sicurezza, come la possibilità di manomissione fisica o le vulnerabilità che derivano da modelli di piccola scala.
• Gli ecosistemi del Edge AI possono essere estremamente diversificati in termini di architetture hardware e requisiti di calcolo, rendendo difficile razionalizzare aspetti come la gestione dei dati e gli aggiornamenti dei modelli su larga scala.

Gli FPGAs offrono alle aziende un vantaggio nel rispondere a queste questioni chiave attraverso la combinazione di elaborazione parallela efficiente, basso consumo di potenza, funzionalità di sicurezza a livello hardware e riconfigurabilità. Sebbene queste possano sembrare parole chiave di marketing, sono funzionalità essenziali per risolvere i principali problemi del Edge AI.

Gli FPGAs sono stati tradizionalmente utilizzati per funzioni come il bridging e l’espansione I/O. Cosa li rende particolarmente adatti per le applicazioni del Edge AI?

Sì, hai ragione che gli FPGAs eccellono nel campo della connettività – e questo è parte di ciò che li rende così potenti nelle applicazioni del Edge AI. Come hai menzionato, hanno porte I/O personalizzabili che consentono loro di interfacciarsi con una vasta gamma di dispositivi e protocolli di comunicazione. Inoltre, possono eseguire funzioni come il bridging e la fusione dei sensori per garantire uno scambio di dati senza soluzione di continuità, aggregazione e sincronizzazione tra diversi componenti del sistema, compresi standard legacy ed emergenti. Queste funzioni sono particolarmente importanti poiché gli ecosistemi del Edge AI di oggi crescono in complessità e la necessità di interoperabilità e scalabilità aumenta.

Tuttavia, come abbiamo discusso, i benefici di connettività degli FPGAs sono solo la punta dell’iceberg; si tratta anche di come la loro adattabilità, potenza di elaborazione, efficienza energetica e funzionalità di sicurezza stanno guidando i risultati. Ad esempio, gli FPGAs possono essere configurati e riconfigurati per eseguire compiti di AI specifici, consentendo agli sviluppatori di personalizzare le applicazioni in base alle loro esigenze uniche e di soddisfare i requisiti in evoluzione.

Puoi spiegare come gli FPGAs a basso consumo si confrontano con le GPU e le ASIC in termini di efficienza, scalabilità e capacità di elaborazione in tempo reale per il Edge AI?

Non pretendo che hardware come le GPU e le ASIC non abbiano la potenza di calcolo per supportare le applicazioni del Edge AI. Lo hanno. Ma gli FPGAs hanno veramente un “vantaggio” su questi altri componenti in aree come la latenza e la flessibilità. Ad esempio, sia le GPU che gli FPGAs possono eseguire l’elaborazione parallela, ma l’hardware della GPU è progettato per un appeal ampio e non è così adatto a supportare applicazioni del Edge specifiche come quello degli FPGAs. D’altra parte, le ASIC sono progettate per applicazioni specifiche, ma la loro funzionalità fissa significa che richiedono una completa riprogettazione per accomodare qualsiasi cambiamento significativo nell’uso. Gli FPGAs sono progettati per offrire il meglio di entrambi i mondi; offrono la bassa latenza che deriva da pipeline di hardware personalizzate e spazio per le modifiche post-distribuzione ogni volta che i modelli del Edge richiedono aggiornamenti.

Certo, nessuna opzione è l’unica giusta. Spetta a ciascuno sviluppatore decidere cosa ha senso per il proprio sistema. Dovrebbero considerare attentamente le funzioni principali dell’applicazione, i risultati specifici che stanno cercando di raggiungere e quanto il design debba essere agile da un punto di vista di future-proofing. Ciò consentirà loro di scegliere il set giusto di componenti hardware e software per soddisfare i loro requisiti – noi pensiamo solo che gli FPGAs siano spesso la scelta giusta.

Come gli FPGAs di Lattice migliorano la presa di decisioni guidata dall’AI al Edge, in particolare in settori come l’automotive, l’automazione industriale e l’IoT?

Le capacità di elaborazione parallela degli FPGAs sono un buon punto di partenza. A differenza dei processori sequenziali, l’architettura degli FPGAs consente loro di eseguire molte attività in parallelo, compresi i calcoli dell’AI, con tutti i blocchi logici configurabili che eseguono operazioni diverse contemporaneamente. Ciò consente il throughput elevato, la bassa latenza e l’elaborazione necessari per supportare applicazioni in tempo reale nei principali settori verticali che hai menzionato – sia che stiamo parlando di veicoli autonomi, robot industriali intelligenti o anche dispositivi domestici intelligenti o dispositivi medici indossabili. Inoltre, possono essere personalizzati per carichi di lavoro di AI specifici e possono essere facilmente riprogrammati sul campo man mano che i modelli e i requisiti evolvono nel tempo. Infine, offrono funzionalità di sicurezza a livello hardware per garantire che i sistemi guidati dall’AI rimangano sicuri, dalla fase di avvio all’elaborazione dei dati e oltre.

Quali sono alcuni casi d’uso reali in cui gli FPGAs di Lattice hanno migliorato significativamente le prestazioni, la sicurezza o l’efficienza del Edge AI?

Ottima domanda! Una applicazione che trovo veramente intrigante è il modo in cui gli ingegneri stanno utilizzando gli FPGAs di Lattice per alimentare la prossima generazione di robot intelligenti e guidati dall’AI. I robot intelligenti richiedono capacità di elaborazione in tempo reale e on-device per garantire l’automazione sicura, e questo è qualcosa che il Edge AI è progettato per fornire. Non solo la domanda di questi assistenti sta aumentando, ma anche la complessità e la sofisticazione delle loro funzioni. Durante una recente conferenza, il team di Lattice ha dimostrato come l’utilizzo degli FPGAs abbia consentito a un robot intelligente di tracciare la traiettoria di una palla e di afferrarla a mezz’aria, mostrando quanto possano essere veloci e precisi questi macchinari quando costruiti con le tecnologie giuste.

Ciò che rende questo così interessante per me, dal punto di vista hardware, è come le tattiche di progettazione stanno cambiando per adattarsi a queste applicazioni. Ad esempio, invece di affidarsi esclusivamente ai CPU o ad altri processori tradizionali, gli sviluppatori stanno iniziando a integrare gli FPGAs nel mix. Il principale vantaggio è che gli FPGAs possono interfacciarsi con più sensori e attuatori (e una gamma più diversificata di questi componenti), eseguendo anche compiti di elaborazione a basso livello vicino a questi sensori per liberare il motore di calcolo principale per calcoli più avanzati.

Con la crescente domanda di inferenza dell’AI al Edge, come pensi che Lattice assicurerà che i suoi FPGAs rimangano competitivi rispetto ai chip di AI specializzati sviluppati da società di semiconduttori più grandi?

Non c’è dubbio che la ricerca di chip di AI stia guidando gran parte dell’industria dei semiconduttori – basta guardare come aziende come Nvidia (NVDA ) si sono spostate dalla creazione di schede grafiche per videogiochi a diventare giganti dell’industria dell’AI. Tuttavia, Lattice porta forze uniche sul tavolo che ci fanno spiccare anche mentre il mercato diventa più saturo.

Gli FPGAs non sono solo un componente in cui stiamo scegliendo di investire perché la domanda sta salendo; sono un pezzo fondamentale della nostra linea di prodotti principale. Le forze dei nostri prodotti FPGAs – dalla latenza alla programmabilità, dal consumo di potenza alla scalabilità – sono il risultato di anni di sviluppo tecnico e raffinamento. Forniamo anche una gamma completa di software e stack di soluzioni leader nel settore, costruiti per ottimizzare l’utilizzo degli FPGAs nelle progettazioni dell’AI e oltre.

Abbiamo raffinato i nostri FPGAs attraverso anni di miglioramento continuo guidato dall’iterazione sulle nostre soluzioni hardware e software e dalle relazioni con i partner in tutta l’industria dei semiconduttori. Continueremo a essere competitivi perché rimarremo fedeli a quel percorso, lavorando con i partner di progettazione, sviluppo e implementazione per assicurarci di fornire ai nostri clienti le capacità tecniche più rilevanti e affidabili.

Qual è il ruolo della programmabilità negli FPGAs per adattarsi ai modelli e carichi di lavoro dell’AI in evoluzione?

A differenza dell’hardware a funzione fissa, gli FPGAs possono essere riutilizzati e riprogrammati dopo la distribuzione. Questa adattabilità intrinseca è probabilmente il loro più grande differenziatore, soprattutto nel supportare i modelli e i carichi di lavoro dell’AI in evoluzione. Considerando quanto dinamico sia il panorama dell’AI, gli sviluppatori devono essere in grado di supportare gli aggiornamenti degli algoritmi, l’aumento dei set di dati e altri cambiamenti significativi man mano che si verificano senza preoccuparsi di costanti aggiornamenti hardware.

Ad esempio, gli FPGAs stanno già svolgendo un ruolo fondamentale nel passaggio in corso alla crittografia post-quantistica (PQC). Mentre le aziende si preparano alle minacce quantistiche imminenti e lavorano per sostituire gli schemi di crittografia vulnerabili con algoritmi di prossima generazione, stanno utilizzando gli FPGAs per facilitare una transizione senza soluzione di continuità e garantire la conformità con gli standard PQC.

Come gli FPGAs di Lattice aiutano le aziende a bilanciare il compromesso tra prestazioni, consumo di potenza e costo nelle distribuzioni del Edge AI?

In definitiva, gli sviluppatori non dovrebbero dover scegliere tra prestazioni e possibilità. Sì, le applicazioni del Edge sono spesso ostacolate da limitazioni computazionali, vincoli di potenza e aumento della latenza. Ma con gli FPGAs di Lattice, gli sviluppatori sono dotati di hardware flessibile, efficiente in termini energetici e scalabile che è più che in grado di mitigare queste sfide. Le interfacce I/O personalizzabili, ad esempio, consentono la connettività a varie applicazioni del Edge, riducendo la complessità.

La modifica post-distribuzione rende anche più facile adattarsi per supportare le esigenze dei modelli in evoluzione. Oltre a ciò, l’elaborazione e l’aggregazione dei dati possono verificarsi sugli FPGAs, riducendo il carico di potenza e computazionale sui processori del Edge, riducendo la latenza e, di conseguenza, riducendo i costi e aumentando l’efficienza del sistema.

Come ti immagini il futuro dell’hardware dell’AI evolversi nei prossimi 5-10 anni, in particolare in relazione al Edge AI e all’elaborazione efficiente in termini di potenza?

I dispositivi del Edge dovranno essere più veloci e più potenti per gestire le esigenze di calcolo e di energia degli algoritmi di AI e ML sempre più complessi di cui le aziende hanno bisogno per prosperare – soprattutto man mano che queste applicazioni diventano più comuni. Le capacità dei componenti hardware dinamici che supportano le applicazioni del Edge dovranno adattarsi di pari passo, diventando più piccoli, più intelligenti e più integrati. Gli FPGAs dovranno espandere la loro flessibilità esistente, offrendo bassa latenza e basso consumo di potenza per livelli di domanda più elevati. Con queste capacità, gli FPGAs continueranno ad aiutare gli sviluppatori a riprogrammare e riconfigurare con facilità per soddisfare le esigenze dei modelli in evoluzione – siano essi per veicoli autonomi più sofisticati, automazione industriale, smart city o altro.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Lattice Semiconductor.