Hussein Osman, Segment Marketing Director hos Lattice Semiconductor – Intervju-serie

Hussein Osman er en veteran inden for halvlederindustrien med mere end to årtiers erfaring med at bringe silicium- og softwareprodukter til markedet, der integrerer sensor-, proces- og connectivitetsløsninger, med fokus på innovative oplevelser, der leverer værdi til slutbrugeren. I de sidste fem år har han ledet strategien og markedskampagnen for sensAI-løsningen hos Lattice Semiconductor, hvor han har skabt højpræstations AI/ML-applikationer. Herr Osman har en bachelorgrad i elektroteknik fra California Polytechnic State University i San Luis Obispo.

Lattice Semiconductor (LSCC ) er en leverandør af lavstrømsprogrammerbare løsninger, der anvendes på tværs af kommunikations-, computer-, industri-, bil- og forbrugermarkeder. Selskabets lavstrøms-FPGA’er og softwareværktøjer er designede til at hjælpe med at accelerere udviklingen og understøtte innovation på tværs af applikationer fra Edge til Cloud.

Edge AI er i fremgang, da virksomheder søger efter alternativer til cloud-baseret AI-behandling. Hvordan ser du på denne udvikling, og hvilken rol spiller Lattice Semiconductor i denne forvandling? 

Edge AI er absolut i fremgang, og det er, fordi det har potentialet til at revolutionere hele markeder. Organisationer på tværs af en bred vifte af sektorer er begyndt at anvende Edge AI, fordi det hjælper dem med at opnå hurtigere, mere effektive og mere sikre operationer – især i realtidsapplikationer – end det er muligt med cloud-computing alene. Det er det stykke, som de fleste mennesker fokuserer på: hvordan Edge AI ændrer forretningsoperationer, når det implementeres. Men der er en anden rejse, der sker samtidig, og den begynder langt før implementeringen.

Innovation inden for Edge AI driver originaludstyrsproducenter til at designe systemkomponenter, der kan køre AI-modeller på trods af fodselsbegrænsninger. Det betyder letvægts-, optimerede algoritmer, specialiseret hardware og andre fremskridt, der supplerer og/eller forstærker ydelsen. Her kommer Lattice Semiconductor ind i billedet.

Vores Field Programmable Gate Arrays (FPGAs) leverer den højtilgængelige hardware, der er nødvendig for designere til at opfylde strenge systemkrav i forhold til latency, strøm, sikkerhed, connectivity, størrelse og mere. De giver en grundlag, på hvilken ingeniører kan bygge enheder, der kan holde mission-kritiske bil-, industri- og medicinske applikationer funktionsdygtige. Dette er et stort fokusområde for vores nuværende innovation, og vi er begejstrede for at hjælpe kunder med at overvinde udfordringer og møde æraen for Edge AI med tillid.

Hvad er de vigtigste udfordringer, som virksomheder står over for, når de implementerer Edge AI, og hvordan ser du på, at FPGAs løser disse problemer mere effektivt end traditionelle processorer eller GPU’er?

Du ved, nogle udfordringer synes at være universelt sande, når enhver teknologi udvikler sig. For eksempel vil udviklere og virksomheder, der håber at udnytte kraften af Edge AI, sandsynligvis kæmpe med fælles udfordringer, såsom:

• Resourcemanagement. Edge AI-enheder skal udføre komplekse processer pålideligt, mens de arbejder inden for begrænsede beregnings- og batterikapaciteter.
• Selvom Edge AI tilbyder privatlivsfordele ved lokal databehandling, rejser det også andre sikkerhedsproblemer, såsom muligheden for fysisk manipulation eller sårbarheder, der kommer med mindre skala.
• Edge AI-økosystemer kan være ekstremt diverse i hardware-arkitektur og beregningskrav, hvilket gør det svært at strømlinje aspekter som datastyring og modelopdateringer i stor skala.

FPGAs giver virksomheder en fordel i løsningen af disse nøgleproblemer gennem deres kombination af effektiv parallelbehandling, lav strømforbrug, hardwareniveau-sikkerhedsfunktioner og omkonfigurerbarhed. Selvom disse kan lyde som marketingbuzzwords, er de essentielle funktioner til at løse top Edge AI-problemer.

FPGAs er traditionelt blevet brugt til funktioner som brofunktion og I/O-udvidelse. Hvad gør dem særligt velegnede til Edge AI-applikationer?

Ja, du har ret i, at FPGAs udmærker sig inden for connectivity – og det er en del af, hvad der gør dem så kraftfulde i Edge AI-applikationer. Som du nævnte, har de tilpasselige I/O-porte, der tillader dem at interface med en bred vifte af enheder og kommunikationsprotokoller. Oveni dette kan de udføre funktioner som brofunktion og sensorfusion til at sikre ubrudt dataudveksling, aggregation og synkronisering mellem forskellige systemkomponenter, herunder legacy- og fremtidige standarder. Disse funktioner er særligt vigtige, da i dag Edge AI-økosystemer vokser mere komplekse og behovet for interoperabilitet og skalerbarhed øges.

Men som vi har diskuteret, er FPGAs’ connectivity-fordele kun toppen af isbjerget; det handler også om, hvordan deres tilpasning, proceskraft, energoeffektivitet og sikkerhedsfunktioner driver resultater. For eksempel kan FPGAs konfigureres og omkonfigureres til at udføre bestemte AI-opgaver, hvilket giver udviklere mulighed for at tilpasse applikationer til deres unikke behov og opfylde udviklende krav.

Kan du forklare, hvordan lavstrøms-FPGAs sammenlignes med GPU’er og ASIC’er i forhold til effektivitet, skalerbarhed og realtidsbehandlingsevne til Edge AI?

Jeg vil ikke påstå, at hardware som GPU’er og ASIC’er ikke har den beregningskraft, der skal til for at understøtte Edge AI-applikationer. De har. Men FPGAs har virkelig en “kant” over for disse andre komponenter på andre områder som latency og fleksibilitet. For eksempel kan både GPU’er og FPGAs udføre parallelbehandling, men GPU-hardware er designet til bred appel og er ikke så velegnet til at understøtte bestemte Edge-applikationer som FPGAs. På den anden side er ASIC’er rettede mod bestemte applikationer, men deres faste funktionalitet betyder, at de kræver fuldstændige redesigns for at tilpasse sig nogen væsentlig ændring i brug. FPGAs er designet til at give det bedste af begge verdener; de tilbyder den lave latency, der kommer med brugerdefinerede hardware-pipelines, og plads til post-deployment-modifikationer, når Edge-modeller skal opdateres.

Selvfølgelig er der ikke noget enkelt valg, der er det eneste rigtige. Det er op til hver udvikler at afgøre, hvad der giver mening for deres system. De skal nøje overveje de primære funktioner af applikationen, de specifikke resultater, de forsøger at opnå, og hvor agil designet behøver at være fra et fremtidssikringssynspunkt. Dette vil give dem mulighed for at vælge det rigtige sæt af hardware- og softwarekomponenter til at opfylde deres krav – vi synes bare, at FPGAs ofte er det rigtige valg.

Hvordan forbedrer Lattices FPGAs AI-drevne beslutningstagning på kanten, især i brancher som bil, industriautomatisering og IoT?

FPGAs’ parallelbehandlingsmuligheder er et godt sted at begynde. I modsætning til sekventielle processorer giver FPGAs’ arkitektur mulighed for at udføre mange opgaver samtidig, herunder AI-beregninger, med alle de konfigurerbare logikblokke, der udfører forskellige operationer samtidig. Dette giver mulighed for den høje gennemstrømning, lav latency og behandling, der er nødvendig til at understøtte realtidsapplikationer i de vigtige vertikaler, du nævnte – enten vi taler om autonome køretøjer, smarte industrirobotter eller selv smarte hjemmeenheder eller sundhedsrelaterede bærbare enheder. Desuden kan de tilpasses til bestemte AI-arbejdslast og let omprogrammeres på feltet, når modeller og krav udvikler sig over tid. Til sidst, men ikke mindst, tilbyder de hardwareniveau-sikkerhedsfunktioner til at sikre, at AI-drevne systemer forbliver sikre, fra boot-op til databehandling og derefter.

Hvad er nogle virkelige brugstilfælde, hvor Lattices FPGAs har forbedret Edge AI-ydelse, sikkerhed eller effektivitet væsentligt?

Godt spørgsmål! En applikation, der virkelig interesserer mig, er måder, hvorpå ingeniører bruger Lattice FPGAs til at drive den næste generation af smarte, AI-drevne robotter. Intelligente robotter kræver realtids-, på-enhed-behandlingsevne til at sikre sikker automatisering, og det er noget, Edge AI er designet til at levere. Ikke kun stiger efterspørgslen efter disse assistenter, men også kompleksiteten og sofistikationen af deres funktioner. Ved en recent konference demonstrerede Lattice-holdet, hvordan brugen af FPGAs tillod en smart robot at spore banen af en bold og fange den i midten, hvilket viser, hvor hurtigt og præcist disse maskiner kan være, når de bygges med de rigtige teknologier.

Hvad der gør dette så interessant for mig, fra et hardware-perspektiv, er, hvordan designstrategierne ændrer sig for at tilpasse disse applikationer. For eksempel begynder udviklere i stigende grad at integrere FPGAs i blandingen, i stedet for kun at afhænge af CPU’er eller andre traditionelle processorer. Fordelen er, at FPGAs kan interface med flere sensorer og aktuatorer (og en mere diversificeret række af disse komponenter), mens de også udfører lavniveau-behandling opgaver nær disse sensorer for at frigøre den primære beregningsmotor for mere avancerede beregninger.

Med den stigende efterspørgsel efter AI-inferens på kanten, hvordan sikrer Lattice, at deres FPGAs forbliver konkurrencedygtige mod specialiserede AI-chips udviklet af større halvlederfirmaer?

Der er ingen tvivl om, at jagten på AI-chips driver meget af halvlederindustrien – blot se, hvordan firmaer som Nvidia (NVDA ) skiftede fra at lave videospilgrafikkort til at blive AI-industriegiganter. Alligevel bringer Lattice unikke styrker til bordet, der gør os fremtrædende, selvom markedet bliver mere mættet.

FPGAs er ikke bare en komponent, vi vælger at investere i, fordi efterspørgslen stiger; de er en kritisk del af vores kerneproduktlinje. Styrkerne i vores FPGA-tilbud – fra latency og programmerbarhed til strømforbrug og skalerbarhed – er resultatet af års teknisk udvikling og forfinelse og relationer med partnere på tværs af halvlederindustrien. Vi vil fortsætte med at være konkurrencedygtige, fordi vi vil holde fast i denne vej, og arbejde med design-, udviklings- og implementeringspartnere for at sikre, at vi giver vores kunder de mest relevante og pålidelige tekniske muligheder.

Hvilken rol spiller programmerbarhed i FPGAs’ evne til at tilpasse sig udviklende AI-modeller og arbejdslast?

I modsætning til fast-funktionshardware kan FPGAs genkonfigureres og omprogrammeres efter installation. Denne indbyggede tilpasning er sandsynligvis deres største differentiator, især i understøttelse af udviklende AI-modeller og arbejdslast. Da AI-landskabet er så dynamisk, har udviklere brug for at kunne understøtte algoritmeopdateringer, voksende datasæt og andre væsentlige ændringer, mens de sker, uden at skulle bekymre sig om konstante hardware-opgraderinger.

For eksempel spiller FPGAs allerede en afgørende rol i den igangværende skift til post-kvante-kryptografi (PQC). Da virksomheder forbereder sig på kommende kvante-trusler og arbejder på at erstatte sårbare krypteringsordninger med næste-generations-algoritmer, bruger de FPGAs til at facilitere en ubrudt overgang og sikre overholdelse af nye PQC-standarder.

Hvordan hjælper Lattices FPGAs virksomheder med at balancere kompromiset mellem ydelse, strømforbrug og omkostninger i Edge AI-udrulninger?

Til sidst skal udviklere ikke vælge mellem ydelse og mulighed. Ja, Edge-applikationer er ofte hæmmet af beregningsbegrænsninger, strømrestriktioner og øget latency. Men med Lattice FPGAs er udviklere udrustede med fleksible, energoeffektive og skalerbare hardware, der er mere end kapabel til at afhjælpe disse udfordringer. Tilpasselige I/O-grænseflader, for eksempel, giver mulighed for tilslutning til forskellige Edge-applikationer, mens kompleksiteten reduceres.

Post-installations-tilpasning gør det også lettere at tilpasse for at understøtte behovene for udviklende modeller. Ud over dette kan forbehandling og data-aggregation ske på FPGAs, hvilket reducerer strøm- og beregningsbelastningen på Edge-processorer, reducerer latency og sænker omkostninger og øger systemeffektiviteten.

Hvordan ser du på fremtiden for AI-hardware, der udvikler sig i de næste 5-10 år, især i forhold til Edge AI og strømsparende behandling?

Kantenheder skal være hurtigere og mere kraftfulde for at håndtere de beregnings- og energikrav, der stilles af de stadig mere komplekse AI- og ML-algoritmer, som virksomheder har brug for for at trives – især, da disse applikationer bliver mere almindelige. Evnerne hos de dynamiske hardware-komponenter, der understøtter Edge-applikationer, skal tilpasse sig i takt, og blive mindre, smartere og mere integrerede. FPGAs skal bygge videre på deres eksisterende fleksibilitet og tilbyde lav latency og lav strøm-kapaciteter til højere niveauer af efterspørgsel. Med disse evner vil FPGAs fortsætte med at hjælpe udviklere med at genkonfigurere og tilpasse sig for at opfylde behovene for udviklende modeller – enten det er for mere avancerede autonome køretøjer, industriautomatisering, smarte byer eller andet.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Lattice Semiconductor.