Hussein Osman, Director de Marketing Segment la Lattice Semiconductor – Seria de Interviuri

Hussein Osman este un veteran al industriei semiconductoarelor, cu peste două decenii de experiență în lansarea pe piață a produselor de siliciu și software care integrează soluții de detectare, procesare și conectivitate, axându-se pe experiențe inovatoare care oferă valoare utilizatorului final. În ultimii cinci ani, el a condus strategia de soluție și eforturile de lansare pe piață ale soluției sensAI la Lattice Semiconductor, creând aplicații de învățare automată de înaltă performanță. Domnul Osman a obținut diploma de licență în inginerie electrică de la Universitatea Politehnică de Stat din California, San Luis Obispo.

Lattice Semiconductor (LSCC ) este un furnizor de soluții programabile de joasă putere utilizate în domeniile comunicațiilor, calculatoarelor, industriale, auto și de consum. Produsele companiei, FPGAs și instrumente software de joasă putere, sunt proiectate pentru a ajuta la accelerarea dezvoltării și a sprijini inovația în aplicații de la margine la cloud.

Inteligența artificială de margine (Edge AI) câștigă teren ca urmare a faptului că companiile caută alternative la procesarea bazată pe cloud. Cum vedeți această schimbare impactând industria semiconductoarelor și care este rolul Lattice Semiconductor în această transformare? 

Inteligența artificială de margine este într-adevăr în plină expansiune, și acest lucru se datorează potențialului său de a revoluționa cu adevărat întregi piețe. Organizațiile dintr-o gamă largă de sectoare se orientează către Edge AI, deoarece aceasta le ajută să obțină operațiuni mai rapide, mai eficiente și mai sigure – în special în aplicații în timp real – decât ar fi posibil cu calculul cloud singur. Acesta este aspectul pe care majoritatea oamenilor se concentrează: modul în care Edge AI schimbă operațiunile de afaceri atunci când este implementat. Dar există o altă călătorie care are loc în paralel, și aceasta începe mult înainte de implementare.

Inovația în Edge AI îi determină pe producătorii de echipamente originale să proiecteze componente de sistem care pot rula modele de inteligență artificială, în ciuda constrângerilor de dimensiune. Acest lucru înseamnă algoritmi ușori și optimizați, hardware specializat și alte progrese care completează și/sau amplifică performanța. Aici intervine Lattice Semiconductor.

Circuitele noastre programabile (FPGAs) oferă hardware-ul adaptabil necesar pentru ca designerii să îndeplinească cerințele stricte ale sistemului legate de latență, putere, securitate, conectivitate, dimensiune și multe altele. Ele oferă o bază pe care inginerii pot construi dispozitive capabile să mențină funcționale aplicații critice pentru misiuni din domeniile auto, industrial și medical. Acesta este un domeniu important de inovare pentru noi în prezent, și suntem entuziasmați să ajutăm clienții să depășească provocările și să întâmpine cu încredere era inteligenței artificiale de margine.

Care sunt principalele provocări cu care se confruntă companiile atunci când implementează Edge AI, și cum abordează FPGAs-urile aceste probleme mai eficient decât procesoarele tradiționale sau GPU-urile?

Știți, unele provocări par a fi cu adevărat universale, pe măsură ce orice tehnologie evoluează. De exemplu, dezvoltatorii și companiile care speră să valorifice puterea inteligenței artificiale de margine vor trebui probabil să se confrunte cu provocări comune, cum ar fi:

• Managementul resurselor. Dispozitivele Edge AI trebuie să execute procese complexe în mod fiabil, lucrând în cadrul capacităților computaționale și de baterie din ce în ce mai limitate.
• Deși Edge AI oferă beneficii de confidențialitate prin procesarea locală a datelor, ridică și alte preocupări de securitate, cum ar fi posibilitatea de tamperare fizică sau vulnerabilitățile care vin cu modelele mai mici.
• Ecossistemele Edge AI pot fi extrem de diverse în ceea ce privește arhitecturile hardware și cerințele de calcul, făcând dificilă gestionarea aspectelor precum gestionarea datelor și actualizarea modelului la scară.

FPGAs-urile oferă companiilor un avantaj în abordarea acestor probleme cheie prin combinația lor de procesare paralelă eficientă, consum redus de putere, capacități de securitate la nivel de hardware și reconfigurabilitate. Deși acestea pot părea cuvinte de marketing, ele sunt caracteristici esențiale pentru rezolvarea principalelor puncte slabe ale Edge AI.

FPGAs-urile au fost utilizate în mod tradițional pentru funcții precum bridging și extensia I/O. Ce le face deosebit de potrivite pentru aplicații Edge AI?

Da, sunteți exact, FPGAs-urile excelează în domeniul conectivității – și acesta este unul dintre motivele pentru care sunt atât de puternice în aplicații Edge AI. Așa cum ați menționat, ele au porturi I/O personalizabile care le permit să se interfațeze cu o gamă largă de dispozitive și protocoale de comunicare. Pe lângă aceasta, ele pot efectua funcții precum bridging și fuziunea senzorilor pentru a asigura un schimb de date fluent, agregare și sincronizare între diferite componente ale sistemului, inclusiv standarde vechi și emergente. Aceste funcții sunt deosebit de importante pe măsură ce ecossistemele Edge AI devin mai complexe și crește nevoia de interoperabilitate și scalabilitate.

Însă, așa cum am discutat, beneficiile de conectivitate ale FPGAs-urilor sunt doar vârful icebergului; este vorba și despre modul în care adaptabilitatea, puterea de procesare, eficiența energetică și caracteristicile de securitate ale acestora conduc la rezultate. De exemplu, FPGAs-urile pot fi configurate și reconfigurate pentru a efectua sarcini specifice de inteligență artificială, permițând dezvoltatorilor să personalizeze aplicațiile în funcție de nevoile lor unice și să îndeplinească cerințele în schimbare.

Puteti explica cum se compară FPGAs-urile de joasă putere cu GPU-urile și ASIC-urile în ceea ce privește eficiența, scalabilitatea și capacitățile de procesare în timp real pentru Edge AI?

Nu voi pretinde că hardware-ul precum GPU-urile și ASIC-urile nu au puterea de calcul necesară pentru a sprijini aplicațiile Edge AI. Ele o au. Dar FPGAs-urile au într-adevăr un “avantaj” în alte domenii, cum ar fi latența și flexibilitatea. De exemplu, atât GPU-urile, cât și FPGAs-urile pot efectua procesări paralele, dar hardware-ul GPU este proiectat pentru apel larg și nu este la fel de potrivit pentru a sprijini aplicații Edge specifice, cum ar fi FPGAs-urile. Pe de altă parte, ASIC-urile sunt destinate aplicațiilor specifice, dar funcționalitatea lor fixă necesită redesenarea completă pentru a se adapta la orice schimbare semnificativă a utilizării. FPGAs-urile sunt create pentru a oferi cel mai bun din ambele lumi; ele oferă latența scăzută care vine cu conducte de hardware personalizate și spațiu pentru modificări post-depunere, ori de câte ori modelele Edge necesită actualizări.

Desigur, nicio opțiune nu este singura “cea mai bună”. Depinde de fiecare dezvoltator să decidă ce are sens pentru sistemul lor. Ei ar trebui să ia în considerare funcțiile primare ale aplicației, rezultatele pe care încearcă să le obțină și cât de agilă trebuie să fie proiectarea din perspectiva protejării împotriva schimbărilor viitoare. Acest lucru le va permite să aleagă setul corect de componente hardware și software pentru a-și îndeplini cerințele – noi doar întâmplător credem că FPGAs-urile sunt de obicei alegerea corectă.

Cum îmbunătățește Lattice FPGAs-urile luarea deciziilor bazate pe inteligență artificială la margine, în special în industrii precum automotive, automatizarea industrială și IoT?

Capacitățile de procesare paralelă ale FPGAs-urilor sunt un bun punct de plecare. În contrast cu procesoarele secvențiale, arhitectura FPGAs-urilor le permite să execute multe sarcini în paralel, inclusiv calcule de inteligență artificială, cu toate blocurile logice configurabile executând operații diferite în același timp. Acest lucru permite debitul ridicat, procesarea cu latență scăzută necesară pentru a sprijini aplicații în timp real în verticalele cheie pe care le-ați menționat – indiferent dacă vorbim despre vehicule autonome, roboți industriali inteligenți sau chiar dispozitive inteligente pentru casă sau purtabile pentru îngrijirea sănătății. Mai mult, ele pot fi personalizate pentru sarcini specifice de inteligență artificială și reprogramate ușor în teren, pe măsură ce modelele și cerințele evoluează în timp. În cele din urmă, ele oferă caracteristici de securitate la nivel de hardware pentru a asigura că sistemele bazate pe inteligență artificială rămân sigure, de la pornire la procesare de date și dincolo.

Care sunt câteva exemple din lumea reală în care FPGAs-urile Lattice au îmbunătățit semnificativ performanța, securitatea sau eficiența Edge AI?

Întrebare excelentă! O aplicație care mă interesează cu adevărat este modul în care inginerii utilizează FPGAs-urile Lattice pentru a alimenta următoarea generație de roboți inteligenți și alimentați de inteligență artificială. Roboții inteligenți necesită capacități de procesare în timp real și pe dispozitiv pentru a asigura automatizarea în siguranță, și acesta este exact ceea ce este proiectat să ofere Edge AI. Nu numai că cererea pentru acești asistenți crește, dar și complexitatea și sofisticarea funcțiilor lor. La o recentă conferință, echipa Lattice a demonstrat cum utilizarea FPGAs-urilor a permis unui robot inteligent să urmărească traiectoria unei mingi și să o prindă în aer, arătând cât de rapid și de precis pot fi aceste mașini atunci când sunt construite cu tehnologii potrivite.

Ceea ce mă face să mă interesez de acest lucru, din perspectiva hardware-ului, este modul în care tacticile de proiectare se schimbă pentru a se adapta la aceste aplicații. De exemplu, în loc să se bazeze doar pe procesoarele CPU sau alte procesoare tradiționale, dezvoltatorii încep să integreze FPGAs-urile în mix. Beneficiul principal este că FPGAs-urile pot interfața cu mai mulți senzori și actuatori (și o gamă mai diversă de aceste componente), în timp ce efectuează și sarcini de procesare de nivel scăzut lângă acești senzori pentru a elibera motorul de calcul principal pentru calcule mai avansate.

Cum asigură Lattice că FPGAs-urile sale rămân competitive față de cipuri specializate de inteligență artificială dezvoltate de companii de semiconductoare mai mari?

Există nicio îndoială că urmărirea cipurilor de inteligență artificială conduce mult din industria semiconductoarelor – doar priviți cum companii precum Nvidia (NVDA ) s-au mutat de la crearea de plăci grafice pentru jocuri la a deveni gigantul industriei inteligenței artificiale. Însă Lattice aduce puteri unice pe masă care ne fac să ne remarcm chiar și pe măsură ce piața devine mai saturată.

FPGAs-urile nu sunt doar un component în care alegem să investim pentru că cererea este în creștere; ele sunt o piesă critică a liniei noastre de produse de bază. Puterile ofertei noastre de FPGAs – de la latență și programabilitate la consum de putere și scalabilitate – sunt rezultatul a ani de dezvoltare tehnică și rafinare. De asemenea, oferim o gamă completă de software și stive de soluții de top din industrie, create pentru a optimiza utilizarea FPGAs-urilor în proiecte de inteligență artificială și dincolo.

Am rafinat FPGAs-urile noastre prin ani de îmbunătățire continuă, condusă de iterații asupra soluțiilor noastre de hardware și software și relații cu parteneri din întreaga industrie a semiconductoarelor. Vom continua să fim competitivi pentru că vom rămâne fideli acestei căi, lucrând cu parteneri de design, dezvoltare și implementare pentru a ne asigura că oferim clienților noștri cele mai relevante și mai fiabile capacități tehnice.

Care este rolul programabilității în capacitatea FPGAs-urilor de a se adapta la modele și sarcini de inteligență artificială în evoluție?

În contrast cu hardware-ul cu funcții fixe, FPGAs-urile pot fi reutilate și reprogramate post-depunere. Această adaptabilitate inerentă este, probabil, cel mai mare diferențiator al lor, în special în ceea ce privește sprijinirea modelelor și sarcinilor de inteligență artificială în evoluție. Având în vedere cât de dinamică este peisajul inteligenței artificiale, dezvoltatorii au nevoie de capacitatea de a sprijini actualizări ale algoritmilor, seturi de date în creștere și alte schimbări semnificative pe măsură ce acestea apar, fără a se îngrijora de upgrade-uri hardware constante.

De exemplu, FPGAs-urile joacă deja un rol crucial în schimbarea în curs către criptografia post-cuantă (PQC). Pe măsură ce companiile se pregătesc împotriva amenințărilor cuantice iminente și lucrează la înlocuirea schemelor de criptare vulnerabile cu algoritmi de generație următoare, ele utilizează FPGAs-urile pentru a facilita o tranziție fără probleme și pentru a asigura conformitatea cu noile standarde PQC.

Cum ajută FPGAs-urile Lattice companiile să echilibreze compromisul dintre performanță, consum de putere și cost în implementările Edge AI?

În cele din urmă, dezvoltatorii nu ar trebui să fie nevoiți să aleagă între performanță și posibilitate. Da, aplicațiile Edge sunt adesea împiedicate de limitări computaționale, constrângeri de putere și latență crescută. Dar cu FPGAs-urile Lattice, dezvoltatorii sunt împuterniciți cu hardware flexibil, eficient din punct de vedere energetic și scalabil, care este mai mult decât capabil să atenueze aceste provocări. Interfețele I/O personalizabile, de exemplu, permit conectivitatea la diverse aplicații Edge, reducând în același timp complexitatea.

Modificarea post-depunere face, de asemenea, mai ușoară adaptarea pentru a sprijini nevoile modelelor în evoluție. Dincolo de aceasta, preprocesarea și agregarea datelor pot avea loc pe FPGAs, reducând puterea și solicitarea computațională asupra procesoarelor Edge, reducând latența și, în consecință, reducând costurile și crescând eficiența sistemului.

Cum vă imaginați viitorul hardware-ului de inteligență artificială evoluând în următorii 5-10 ani, în special în legătură cu Edge AI și procesarea eficientă din punct de vedere energetic?

Dispozitivele de margine vor trebui să fie mai rapide și mai puternice pentru a face față cerințelor de calcul și energie ale algoritmilor de inteligență artificială și învățare automată din ce în ce mai complexe pe care companiile au nevoie pentru a prospera – în special pe măsură ce aceste aplicații devin mai comune. Capabilitățile componentelor hardware dinamice care sprijină aplicațiile de margine vor trebui să se adapteze în tandem, devenind mai mici, mai inteligente și mai integrate. FPGAs-urile vor trebui să-și extindă flexibilitatea existentă, oferind latență scăzută și capacități de putere redusă pentru niveluri mai mari de cerere. Cu aceste capacități, FPGAs-urile vor continua să ajute dezvoltatorii să reprogrameze și să reconfigureze cu ușurință pentru a îndeplini nevoile modelelor în evoluție – fie că sunt pentru vehicule autonome mai sofisticate, automatizare industrială, orașe inteligente sau dincolo.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe ar trebui să viziteze Lattice Semiconductor.