Hussein Osman, Segment Marketing Director bij Lattice Semiconductor – Interview Serie

Hussein Osman is een veteraan in de halfgeleiderindustrie met meer dan twee decennia ervaring in het op de markt brengen van silicium- en softwareproducten die sensoren, verwerking en connectiviteitsoplossingen integreren, met een focus op innovatieve ervaringen die waarde bieden aan de eindgebruiker. In de afgelopen vijf jaar heeft hij de strategie en de go-to-market-inspanningen van de sensAI-oplossing geleid bij Lattice Semiconductor, waarmee hij hoge prestaties bereikte met AI/ML-toepassingen. De heer Osman behaalde zijn bachelorgraad in Elektrotechniek aan de California Polytechnic State University in San Luis Obispo.

Lattice Semiconductor (LSCC ) is een aanbieder van lage-stroomprogrammeerbare oplossingen die worden gebruikt in communicatie, computing, industrie, automotive en consumentenmarkten. De lage-stroom FPGAs en softwaretools van het bedrijf zijn ontworpen om de ontwikkeling te versnellen en innovatie te ondersteunen in toepassingen van de Edge tot de Cloud.

Edge AI wint aan populariteit als bedrijven alternatieven zoeken voor cloud-gebaseerde AI-verwerking. Hoe ziet u deze verschuiving en wat is de rol van Lattice Semiconductor in deze transformatie? 

Edge AI wint absoluut aan populariteit en dat is vanwege het potentieel om hele markten te revolutioneren. Organisaties in een breed scala aan sectoren zijn Edge AI aan het omarmen omdat het hen helpt om snellere, efficiëntere en veiligere operaties te bereiken – vooral in real-time-toepassingen – dan mogelijk is met alleen cloud computing. Dat is het stuk waar de meeste mensen zich op focussen: hoe Edge AI bedrijfsoperaties verandert als het wordt geïmplementeerd. Maar er is een andere reis die tegelijkertijd plaatsvindt en die begint ver voordat de implementatie plaatsvindt.

Innovatie in Edge AI zet originele apparatuurfabrikanten ertoe aan om systeemcomponenten te ontwerpen die AI-modellen kunnen uitvoeren ondanks voetafdruknadelen. Dat betekent lichtgewicht, geoptimaliseerde algoritmen, gespecialiseerde hardware en andere verbeteringen die prestaties complementeren en/of versterken. Hier komt Lattice Semiconductor in beeld.

Onze Field Programmable Gate Arrays (FPGAs) bieden de zeer aanpasbare hardware die ontwerpers nodig hebben om strikte systeemeisen te vervullen met betrekking tot latentie, stroom, beveiliging, connectiviteit, grootte en meer. Ze bieden een fundament waarop ingenieurs apparaten kunnen bouwen die in staat zijn om mission-critical Automotive, Industrial en Medical toepassingen functioneel te houden. Dit is een belangrijk focusgebied voor onze huidige innovatie en we zijn enthousiast om klanten te helpen om uitdagingen te overwinnen en de era van Edge AI met vertrouwen te begroeten.

Wat zijn de belangrijkste uitdagingen waarmee bedrijven worden geconfronteerd bij de implementatie van Edge AI en hoe lossen FPGAs deze problemen op een effectievere manier op dan traditionele processoren of GPUs?

U weet, sommige uitdagingen lijken universeel te zijn als elke technologie vordert. Bijvoorbeeld, ontwikkelaars en bedrijven die de kracht van Edge AI willen benutten, zullen waarschijnlijk worstelen met algemene uitdagingen, zoals:

• Resourcebeheer. Edge AI-apparaten moeten complexe processen betrouwbaar uitvoeren terwijl ze werken binnen steeds beperktere reken- en batterijcapaciteiten.
• Hoewel Edge AI de privacyvoordelen van lokale gegevensverwerking biedt, roept het andere beveiligingsproblemen op, zoals de mogelijkheid van fysieke manipulatie of de kwetsbaarheden die komen met kleinere schaalmodellen.
• Edge AI-ecosystemen kunnen extreem divers zijn in hardware-architecturen en rekenvereisten, waardoor het moeilijk is om aspecten zoals gegevensbeheer en modelupdates op grote schaal te stroomlijnen.

FPGAs bieden bedrijven een voorsprong bij het aanpakken van deze belangrijke kwesties door hun combinatie van efficiënte parallelle verwerking, lage stroomverbruik, hardware-beveiligingsfuncties en herconfiguratie. Hoewel deze mogelijk als marketingbuzzwords klinken, zijn ze essentiële functies voor het oplossen van de belangrijkste Edge AI-pijnpunten.

FPGAs worden traditioneel gebruikt voor functies zoals bridging en I/O-uitbreiding. Wat maakt hen bijzonder geschikt voor Edge AI-toepassingen?

Ja, u hebt absoluut gelijk dat FPGAs uitblinken in het domein van connectiviteit – en dat is een deel van wat hen zo krachtig maakt in Edge AI-toepassingen. Zoals u vermeldde, hebben ze aanpasbare I/O-poorten die het mogelijk maken om te communiceren met een breed scala aan apparaten en communicatieprotocollen. Bovendien kunnen ze functies uitvoeren zoals bridging en sensorfusie om een naadloze gegevensuitwisseling, aggregatie en synchronisatie tussen verschillende systeemcomponenten te waarborgen, inclusief legacy- en opkomende standaarden. Deze functies zijn bijzonder belangrijk nu Edge AI-ecosystemen complexer worden en de behoefte aan interoperabiliteit en schaalbaarheid toeneemt.

Hoewel we het hebben over de connectiviteitsvoordelen van FPGAs, gaat het er ook om hoe hun aanpasbaarheid, verwerkingskracht, energoefficiëntie en beveiligingsfuncties resultaten drijven. Bijvoorbeeld, FPGAs kunnen worden geconfigureerd en herconfigureerd om specifieke AI-taken uit te voeren, waardoor ontwikkelaars toepassingen kunnen aanpassen aan hun unieke behoeften en voldoen aan evoluerende vereisten.

Kunt u uitleggen hoe lage-stroom FPGAs zich verhouden tot GPUs en ASICs in termen van efficiëntie, schaalbaarheid en real-time verwerkingsmogelijkheden voor Edge AI?

Ik zal niet doen alsof hardware zoals GPUs en ASICs niet over de rekenkracht beschikken om Edge AI-toepassingen te ondersteunen. Ze doen dat wel. Maar FPGAs hebben echt een “voorsprong” op deze andere componenten op andere gebieden zoals latentie en flexibiliteit. Bijvoorbeeld, zowel GPUs als FPGAs kunnen parallelle verwerking uitvoeren, maar GPU-hardware is ontworpen voor breed appeal en is niet zo goed geschikt om specifieke Edge-toepassingen te ondersteunen als die van FPGAs. Aan de andere kant zijn ASICs wel gericht op specifieke toepassingen, maar hun vaste functionaliteit betekent dat ze een volledige redesign nodig hebben om een significante wijziging in het gebruik aan te kunnen. FPGAs zijn ontworpen om het beste van beide werelden te bieden; ze bieden de lage latentie die komt met aangepaste hardwarepijplijnen en ruimte voor post-implementatieaanpassingen wanneer Edge-modellen moeten worden bijgewerkt.

Natuurlijk is geen enkele optie de enige juiste. Het is aan elke ontwikkelaar om te beslissen wat zin heeft voor hun systeem. Ze moeten zorgvuldig overwegen welke primaire functies de toepassing heeft, welke resultaten ze proberen te bereiken en hoe flexibel het ontwerp moet zijn vanuit een toekomstbestendigheidsperspectief. Dit zal hen in staat stellen om de juiste set hardware- en softwarecomponenten te kiezen om aan hun vereisten te voldoen – we denken alleen dat FPGAs meestal de juiste keuze zijn.

Hoe verhogen Lattices FPGAs AI-gedreven besluitvorming aan de Edge, met name in sectoren zoals automotive, industriële automatisering en IoT?

De parallelle verwerkingsmogelijkheden van FPGAs zijn een goed startpunt. In tegenstelling tot sequentiële processoren, staat de architectuur van FPGAs hen toe om veel taken tegelijk uit te voeren, inclusief AI-berekeningen, met alle configureerbare logische blokken die verschillende operaties tegelijk uitvoeren. Dit maakt hoge doorvoer, lage latentie en verwerking mogelijk die nodig zijn voor real-time-toepassingen in de sleutelverticale die u noemde – of het nu gaat om autonome voertuigen, slimme industriële robots of zelfs slimme thuistoestellen of gezondheidswearables. Bovendien kunnen ze worden aangepast aan specifieke AI-werklasten en gemakkelijk opnieuw worden geconfigureerd in het veld terwijl modellen en vereisten in de loop van de tijd evolueren. Tenslotte bieden ze hardware-beveiligingsfuncties om ervoor te zorgen dat AI-gepowered systemen beveiligd blijven, van opstart tot gegevensverwerking en verder.

Wat zijn enkele real-world use cases waarin Lattices FPGAs de Edge AI-prestaties, beveiliging of efficiëntie aanzienlijk hebben verbeterd?

Goede vraag! Een toepassing die ik echt interessant vind, is de manier waarop ingenieurs Lattice FPGAs gebruiken om de volgende generatie slimme, AI-gepowered robots aan te drijven. Slimme robots vereisen real-time, on-device verwerkingsmogelijkheden om veilige automatisering te waarborgen en dat is iets wat Edge AI is ontworpen om te leveren. Niet alleen neemt de vraag naar deze assistenten toe, maar ook de complexiteit en geavanceerdheid van hun functies. Op een recente conferentie demonstreerde het Lattice-team hoe het gebruik van FPGAs een slimme robot in staat stelde om de baan van een bal te volgen en deze in de lucht te vangen, waarmee werd aangetoond hoe snel en precies deze machines kunnen zijn als ze zijn gebouwd met de juiste technologieën.

Wat dit zo interessant maakt voor mij, vanuit een hardwareperspectief, is hoe ontwerptactieken veranderen om deze toepassingen te accommoderen. Bijvoorbeeld, in plaats van alleen te vertrouwen op CPUs of andere traditionele processoren, beginnen ontwikkelaars FPGAs in de mix te integreren. Het belangrijkste voordeel is dat FPGAs kunnen communiceren met meer sensoren en actuatoren (en een meer diverse reeks van deze componenten), terwijl ze ook lage-niveauverwerkingsTaken kunnen uitvoeren in de buurt van deze sensoren om de hoofdverwerkingsmotor te ontlasten voor geavanceerdere berekeningen.

Met de groeiende vraag naar AI-inferentie aan de Edge, hoe zorgt Lattice ervoor dat zijn FPGAs concurrerend blijven tegenover gespecialiseerde AI-chips die zijn ontwikkeld door grotere halfgeleiderbedrijven?

Er is geen twijfel dat de jacht op AI-chips een groot deel van de halfgeleiderindustrie aandrijft – kijk alleen maar hoe bedrijven als Nvidia (NVDA ) zijn overgestapt van het maken van videospelgrafische kaarten naar het worden van AI-industriegiganten. Toch brengt Lattice unieke sterke punten met zich mee die ons onderscheiden, zelfs als de markt verzadigd raakt.

FPGAs zijn niet alleen een component waarin we investeren omdat de vraag toeneemt; ze zijn een cruciaal onderdeel van onze kernproductlijn. De sterke punten van onze FPGA-aanbod – van latentie en programmeerbaarheid tot stroomverbruik en schaalbaarheid – zijn het resultaat van jarenlange technische ontwikkeling en verfijning. We bieden ook een volledig scala aan industrieleidende software- en oplossingsstacks, ontworpen om het gebruik van FPGAs in AI-ontwerpen en daarbuiten te optimaliseren.

We hebben onze FPGAs verfijnd door middel van continue verbetering, aangedreven door iteratie op onze hardware- en softwareoplossingen en relaties met partners in de halfgeleiderindustrie. We zullen concurrerend blijven omdat we trouw blijven aan dat pad, door samen te werken met ontwerp-, ontwikkelings- en implementatiepartners om ervoor te zorgen dat we onze klanten de meest relevante en betrouwbare technische mogelijkheden bieden.

Wat is de rol van programmeerbaarheid in de mogelijkheid van FPGAs om zich aan te passen aan evoluerende AI-modellen en -werklasten?

In tegenstelling tot vaste functionaliteitshardware, kunnen FPGAs opnieuw worden ingesteld en herprogrammeerd na de implementatie. Deze inherente aanpasbaarheid is waarschijnlijk hun grootste differentiator, vooral bij het ondersteunen van evoluerende AI-modellen en -werklasten. Gezien de dynamiek van het AI-landschap, moeten ontwikkelaars in staat zijn om algoritme-updates, groeiende datasets en andere significante wijzigingen te ondersteunen naarmate ze plaatsvinden zonder zich zorgen te maken over constante hardware-upgrades.

Om een voorbeeld te geven, spelen FPGAs al een cruciale rol in de voortdurende overgang naar post-kwantumcryptografie (PQC). Terwijl bedrijven zich voorbereiden op dreigingen van quantum en werken aan het vervangen van kwetsbare encryptieschema’s met volgende generatie-algoritmen, gebruiken ze FPGAs om een naadloze overgang te faciliteren en ervoor te zorgen dat ze voldoen aan de nieuwe PQC-standaarden.

Hoe helpen Lattices FPGAs bedrijven om de afweging tussen prestaties, stroomverbruik en kosten in Edge AI-implementaties te balanceren?

Uiteindelijk zouden ontwikkelaars niet moeten kiezen tussen prestaties en mogelijkheden. Ja, Edge-toepassingen worden vaak gehinderd door rekenbeperkingen, stroombeperkingen en verhoogde latentie. Maar met Lattice FPGAs zijn ontwikkelaars uitgerust met flexibele, energie-efficiënte en schaalbare hardware die meer dan in staat is om deze uitdagingen te mitigeren. Aanpasbare I/O-interfaces, bijvoorbeeld, maken het mogelijk om verbinding te maken met verschillende Edge-toepassingen terwijl de complexiteit wordt verlaagd.

Post-implementatieaanpassing maakt het ook gemakkelijker om aan te passen om de behoeften van evoluerende modellen te ondersteunen. Bovendien kunnen voorverwerking en gegevensaggregatie op FPGAs plaatsvinden, waardoor de stroom- en rekenbelasting op Edge-processoren wordt verlaagd, latentie wordt verlaagd en de systeemefficiëntie wordt verhoogd.

Hoe ziet u de toekomst van AI-hardware evolueren in de komende 5-10 jaar, met name in relatie tot Edge AI en energie-efficiënte verwerking?

Edge-apparaten zullen sneller en krachtiger moeten zijn om de reken- en energievragen van de steeds complexere AI- en ML-algoritmen te kunnen verwerken die bedrijven nodig hebben om te gedijen – vooral als deze toepassingen meer gemeengoed worden. De capaciteiten van de dynamische hardwarecomponenten die Edge-toepassingen ondersteunen, zullen moeten evolueren in tandem, kleiner, slimmer en meer geïntegreerd worden. FPGAs zullen hun bestaande flexibiliteit moeten uitbreiden, lage latentie en lage stroommogelijkheden moeten bieden voor hogere niveaus van vraag. Met deze capaciteiten zullen FPGAs ontwikkelaars blijven helpen om gemakkelijk te kunnen herprogrammeren en herconfigureren om aan de behoeften van evoluerende modellen te voldoen – of het nu gaat om meer geavanceerde autonome voertuigen, industriële automatisering, slimme steden of verder.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen bezoeken Lattice Semiconductor.