Hussein Osman, Segment Marketing Director på Lattice Semiconductor – Intervju-serie

Hussein Osman är en veteran inom halvledarindustrin med över två decenniers erfarenhet av att ta fram silikon- och programvaruprodukter som integrerar sensorer, processorer och anslutningslösningar, med fokus på innovativa upplevelser som skapar värde för slutanvändaren. Under de senaste fem åren har han lett strategin och marknadsföringsinsatserna för sensAI-lösningen på Lattice Semiconductor, som skapar högpresterande AI/ML-applikationer. Herr Osman har en kandidatexamen i elektroteknik från California Polytechnic State University i San Luis Obispo.

Lattice Semiconductor (LSCC ) är en leverantör av lågeffektsprogrammerbara lösningar som används inom kommunikation, datorer, industri, fordon och konsumentmarknader. Företagets lågeffekts-FPGAs och programvaruverktyg är utformade för att hjälpa till att påskynda utvecklingen och stödja innovationen över applikationer från Edge till Molnet.

Edge AI får alltmer uppmärksamhet när företag söker alternativ till molnbaserad AI-behandling. Hur ser du på denna förändring och vilken roll spelar Lattice Semiconductor i denna omvandling? 

Edge AI får absolut alltmer uppmärksamhet, och det beror på dess potential att revolutionera hela marknader. Organisationer inom en mängd olika sektorer lutar sig mot Edge AI eftersom det hjälper dem att uppnå snabbare, effektivare och säkrare drift — särskilt i realtidsapplikationer — än vad som är möjligt med molnberäkning ensam. Det är den bit som de flesta tenderar att fokusera på: hur Edge AI förändrar affärsverksamheten när det implementeras. Men det finns en annan resa som sker samtidigt, och den börjar långt innan implementationen.

Innovation inom Edge AI driver originalutrustningstillverkare att designa systemkomponenter som kan köra AI-modeller trots begränsningar i fotavtryck. Det innebär lätta, optimerade algoritmer, specialiserad maskinvara och andra framsteg som kompletterar och/eller förstärker prestandan. Här kommer Lattice Semiconductor in i bilden.

Våra fältprogrammerbara grindmatriser (FPGAs) tillhandahåller den högt anpassningsbara maskinvaran som krävs för att designers ska kunna uppfylla strikta systemkrav relaterade till latens, effekt, säkerhet, anslutning, storlek och mer. De tillhandahåller en grund som ingenjörer kan bygga enheter som kan hålla funktionskritiska applikationer inom fordon, industri och medicin fungerande. Detta är ett stort fokusområde för vår nuvarande innovation, och vi är glada att hjälpa kunder att övervinna utmaningar och möta eran av Edge AI med tillförsikt.

Vilka är de viktigaste utmaningarna som företag möter när de implementerar Edge AI, och hur ser du på att FPGAs hanterar dessa problem mer effektivt än traditionella processorer eller GPUs?

Du vet, vissa utmaningar verkar vara allmänt giltiga när varje teknik utvecklas. Till exempel kommer utvecklare och företag som hoppas på att utnyttja kraften i Edge AI sannolikt att brottas med vanliga utmaningar, såsom:

• Resursförvaltning. Edge AI-enheter måste utföra komplexa processer tillförlitligt samtidigt som de arbetar inom alltmer begränsade beräknings- och batterikapaciteter.
• Även om Edge AI erbjuder sekretessfördelarna med lokal datahantering, väcker det andra säkerhetsproblem, såsom möjligheten till fysisk manipulation eller sårbarheter som kommer med mindre modeller.
• Edge AI-ekosystem kan vara extremt diversifierade i fråga om maskinvaruarkitektur och beräkningskrav, vilket gör det svårt att rationalisera aspekter som datahantering och modelluppdatering i stor skala.

FPGAs erbjuder företag en fördel i att hantera dessa viktiga frågor genom sin kombination av effektiv parallellbearbetning, låg effektåtgång, säkerhetsfunktioner på hårdvarunivå och omkonfigurerbarhet. Medan dessa kan låta som marknadsföringsjargong, är de essentiella funktioner för att lösa de viktigaste smärtorna inom Edge AI.

FPGAs har traditionellt använts för funktioner som brokering och I/O-utvidgning. Vad gör dem särskilt lämpliga för Edge AI-applikationer?

Ja, du har rätt i att FPGAs utmärker sig inom anslutningsområdet — och det är en del av vad som gör dem så kraftfulla i Edge AI-applikationer. Som du nämnde har de anpassningsbara I/O-portar som tillåter dem att gränssnitt med en mängd olika enheter och kommunikationsprotokoll. Utöver detta kan de utföra funktioner som brokering och sensorfusion för att säkerställa sömlös datautbyte, aggregering och synkronisering mellan olika systemkomponenter, inklusive äldre och framväxande standarder. Dessa funktioner är särskilt viktiga när dagens Edge AI-ekosystem växer mer komplexa och behovet av interoperabilitet och skalbarhet ökar.

Kan du förklara hur lågeffekts-FPGAs jämför med GPUs och ASICs i fråga om effektivitet, skalbarhet och realtidsbearbetningsförmåga för Edge AI?

Jag kommer inte att påstå att hårdvara som GPUs och ASICs inte har den beräkningskraft som krävs för att stödja Edge AI-applikationer. De gör det. Men FPGAs har verkligen en “kant” på dessa andra komponenter i områden som latens och flexibilitet. Till exempel kan både GPUs och FPGAs utföra parallellbearbetning, men GPU-hårdvara är utformad för bred appeal och är inte lika väl lämpad för att stödja specifika Edge-applikationer som FPGAs. Å andra sidan är ASICs utformade för specifika applikationer, men deras fasta funktionalitet innebär att de kräver fullständiga omkonstruktioner för att anpassa sig till någon betydande förändring i användning. FPGAs är utformade för att erbjuda det bästa av båda världar; de erbjuder den låga latensen som kommer med anpassade hårdvarupipelines och utrymme för postdistribution modifiering när Edge-modeller behöver uppdateras.

Hur ser Lattices FPGAs till att AI-drivna beslut fattas vid kanten, särskilt inom branscher som fordon, industriell automation och IoT?

FPGAs parallellbearbetningsförmåga är en bra utgångspunkt. Till skillnad från sekventiella processorer tillåter FPGAs arkitektur dem att utföra många uppgifter parallellt, inklusive AI-beräkningar, med alla konfigurerbara logikblock som utför olika operationer samtidigt. Detta möjliggör den höga genomströmningen, låga latensen och bearbetningen som krävs för att stödja realtidsapplikationer i de viktiga vertikaler du nämnde — vare sig vi pratar om autonoma fordon, smarta industrirobotar eller till och med smarta hemenheter eller hälsoverktyg. Dessutom kan de anpassas för specifika AI-arbetsbelastningar och lätt omprogrammeras på fältet när modeller och krav utvecklas över tid. Slutligen erbjuder de säkerhetsfunktioner på hårdvarunivå för att säkerställa att AI-styrda system förblir säkra, från start till datahantering och bortom.

Vilka är några verkliga användningsfall där Lattices FPGAs har förbättrat Edge AI-prestanda, säkerhet eller effektivitet avsevärt?

Bra fråga! Ett tillämpning som jag tycker är särskilt intressant är sättet som ingenjörer använder Lattice FPGAs för att driva nästa generation av smarta, AI-styrda robotar. Intelligenta robotar kräver realtids-, enhetsbaserad bearbetning för att säkerställa säker automation, och det är något som Edge AI är utformat för att leverera. Inte bara ökar efterfrågan på dessa assistenter, utan också komplexiteten och sofistikeringen av deras funktioner. På en nylig konferens demonstrerade Lattice-teamet hur användningen av FPGAs tillät en smart robot att spåra en bolls bana och fånga den i luften, vilket visar hur snabb och exakt dessa maskiner kan vara när de byggs med rätt teknologi.

Med den ökande efterfrågan på AI-inferens vid kanten, hur ser Lattice till att deras FPGAs förblir konkurrenskraftiga mot specialiserade AI-chip utvecklade av större halvledarbolag?

Det råder ingen tvekan om att jakten på AI-chip driver mycket av halvledarindustrin — bara titta på hur företag som Nvidia (NVDA ) gick från att skapa grafikkort för videospel till att bli AI-industrijättar. Ändå har Lattice unika styrkor som gör dem utmärkande, även när marknaden blir mer mättad.

FPGAs är inte bara en komponent som vi väljer att investera i för att efterfrågan stiger; de är en kritisk del av vår kärnproduktlinje. Styrkorna i våra FPGA-erbjudanden — från latens och programmerbarhet till effektåtgång och skalbarhet — är resultatet av år av teknisk utveckling och förfining. Vi tillhandahåller också ett fullständigt utbud av branschledande programvara och lösningssatser, utformade för att optimera användningen av FPGAs i AI-design och bortom.

Vilken roll spelar programmerbarhet i FPGAs förmåga att anpassa sig till utvecklande AI-modeller och arbetsbelastningar?

Till skillnad från fastfunktionell hårdvara kan FPGAs omkonfigureras och omprogrammeras efter distribution. Denna inneboende anpassningsförmåga är förmodligen deras största differentierare, särskilt när det gäller att stödja utvecklande AI-modeller och arbetsbelastningar. Med tanke på hur dynamiskt AI-landskapet är, behöver utvecklare kunna stödja algoritmuppdateringar, växande datamängder och andra betydande förändringar allteftersom de sker, utan att behöva oroa sig för konstant hårdvaruuppgradering.

Hur hjälper Lattices FPGAs företag att balansera avvägningen mellan prestanda, effektåtgång och kostnad i Edge AI-distributioner?

Till slut bör utvecklare inte behöva välja mellan prestanda och möjlighet. Ja, Edge-applikationer är ofta hämmade av beräkningsbegränsningar, effektbegränsningar och ökad latens. Men med Lattice FPGAs är utvecklare utrustade med flexibel, energisnål och skalbar hårdvara som är mer än kapabel att mildra dessa utmaningar. Anpassningsbara I/O-gränssnitt, till exempel, möjliggör anslutning till olika Edge-applikationer samtidigt som komplexiteten minskas.

Hur ser du på den framtida utvecklingen av AI-hårdvara under de kommande 5-10 åren, särskilt i förhållande till Edge AI och effektsnål bearbetning?

Edge-enheter kommer att behöva vara snabbare och kraftfullare för att hantera de beräknings- och energikraven för alltmer komplexa AI- och ML-algoritmer som företag behöver för att blomstra — särskilt när dessa applikationer blir alltmer vanliga. Förmågan hos de dynamiska hårdvarukomponenter som stödjer Edge-applikationer kommer att behöva anpassa sig i takt med detta, och bli mindre, smartare och mer integrerade. FPGAs kommer att behöva bygga vidare på sin befintliga flexibilitet, erbjuda låg latens och låg effektåtgång för högre krav. Med dessa förmågor kommer FPGAs att fortsätta att hjälpa utvecklare att omprogrammera och omkonfigurera med lätthet för att möta behoven hos utvecklande modeller — vare sig det gäller mer avancerade autonoma fordon, industriell automation, smarta städer eller bortom.

Tack för det underbara samtalet, läsare som vill lära sig mer bör besöka Lattice Semiconductor.