Hussein Osman, Segment Marketing Director at Lattice Semiconductor – Interview Series

Hussein Osman je veterán polovodičového průmyslu s více než dvěma desetiletími zkušeností s uváděním na trh produktů z polovodičů a softwaru, které integrují řešení pro snímání, zpracování a připojení, se zaměřením na inovativní zkušenosti, které přinášejí hodnotu koncovým uživatelům. Během posledních pěti let vedl strategii řešení sensAI a úsilí o uvádění na trh ve společnosti Lattice Semiconductor, vytvářející vysoce výkonné aplikace AI/ML. Pan Osman získal bakalářský titul v oboru elektrotechniky na Kalifornské polytechnické univerzitě v San Luis Obispo.

Lattice Semiconductor (LSCC ) je poskytovatelem nízkonapěťových programovatelných řešení používaných v oblasti komunikací, výpočetní techniky, průmyslu, automobilového průmyslu a spotřebitelských trhů. Společnost nabízí nízkonapěťové FPGAs a software nástroje, které jsou navrženy tak, aby urychlovaly vývoj a podporovaly inovace napříč aplikacemi od okraje až po cloud.

Edge AI získává na popularitě, protože společnosti hledají alternativy k cloudovému zpracování AI. Jak vidíte tento posun ovlivňující polovodičový průmysl a jakou roli hraje Lattice Semiconductor v této transformaci? 

Edge AI absolutně získává na popularitě a je to kvůli jeho potenciálu skutečně revolucionizovat celé trhy. Organizace napříč širokým spektrem sektorů se přiklánějí k Edge AI, protože jim pomáhá dosáhnout rychlejších, efektivnějších a bezpečnějších operací – zejména v reálných aplikacích – než je možné s cloud computingem samotným. To je ta část, na kterou se většina lidí zaměřuje: jak Edge AI mění obchodní operace, když je implementováno. Ale existuje tato další cesta, která se děje současně a začíná dlouho před implementací.

Inovace v Edge AI nutí původní výrobce zařízení navrhovat systémové komponenty, které mohou spouštět modely AI navzdory omezením velikosti. To znamená lehké, optimalizované algoritmy, specializované hardware a další pokroky, které doplňují a/nebo zesilují výkon. Zde vstupuje Lattice Semiconductor do hry.

Naše Field Programmable Gate Arrays (FPGAs) poskytují vysoce přizpůsobitelný hardware, který je nezbytný pro návrháře, aby splnili přísné systémové požadavky související s latencí, výkonem, bezpečností, připojením, velikostí a dalšími. Poskytují základ, na kterém inženýři mohou postavit zařízení schopná udržet funkční kriticky důležité aplikace v oblasti automobilového průmyslu, průmyslu a medicíny. Toto je velký oblastí našeho současného inovování a jsme rádi, že můžeme pomoci zákazníkům překonat výzvy a přivítat éru Edge AI s důvěrou.

Jaké jsou hlavní výzvy, kterým čelí podniky při implementaci Edge AI, a jak vidíte FPGAs řešící tyto problémy účinněji než tradiční procesory nebo GPU?

Víte, některé výzvy se zdají být skutečně univerzální, protože jakákoli technologie postupuje. Například vývojáři a podniky, které doufají, že využijí sílu Edge AI, se pravděpodobně budou potýkat s obecnými výzvami, jako jsou:

• Řízení zdrojů. Zařízení Edge AI musí spolehlivě provádět komplexní procesy, zatímco pracují v rámci stále omezenějších výpočetních a kapacit baterií.
• Přestože Edge AI nabízí výhody ochrany soukromí lokálního zpracování dat, vyvolává také jiné bezpečnostní obavy, jako je možnost fyzického zásahu nebo zranitelnosti, které přicházejí se menšími modely.
• Ekosystémy Edge AI mohou být extrémně rozmanité v hardwarových architekturách a požadavcích na výpočet, což činí obtížným streamovat aspekty, jako je správa dat a aktualizace modelů v měřítku.

FPGAs nabízejí podnikům výhodu v řešení těchto klíčových problémů prostřednictvím kombinace efektivní paralelní zpracování, nízké spotřeby energie, hardwarových bezpečnostních funkcí a přeprogramovatelnosti. Zatímco tyto funkce mohou znít jako marketingové slogany, jsou nezbytné pro řešení hlavních bolestí hlavy Edge AI.

FPGAs se tradičně používaly pro funkce, jako je mostování a rozšíření I/O. Co je zvláštního na FPGAs, že je činí zvlášť vhodnými pro aplikace Edge AI?

Ano, máte pravdu, že FPGAs vynikají v oblasti konektivity – a to je část toho, co je činí tak mocnými v aplikacích Edge AI. Jak jste zmínil, mají přizpůsobitelné I/O porty, které jim umožňují komunikovat s širokou škálou zařízení a komunikačních protokolů. Kromě toho mohou provádět funkce, jako je mostování a fúze senzorů, aby zajistily bezproblémový výměnný, shromažďovací a synchronizační dat mezi různými komponenty systému, včetně legacy a nově vznikajících standardů. Tyto funkce jsou zvláště důležité, protože dnešní ekosystémy Edge AI rostou komplexnější a potřeba interoperability a škálovatelnosti se zvyšuje.

Nicméně, jak jsme diskutovali, přínosy FPGAs pro konektivitu jsou pouze špičkou ledovce; je to také o tom, jak jejich přizpůsobitelnost, výpočetní síla, energetická efektivita a bezpečnostní funkce pohánějí výsledky. Například FPGAs lze nakonfigurovat a rekonfigurovat pro provádění specifických úkolů AI, což umožňuje vývojářům přizpůsobit aplikace svým jedinečným potřebám a splnit se měnícími požadavky.

Můžete vysvětlit, jak se nízkonapěťové FPGAs srovnávají s GPU a ASIC v oblasti efektivity, škálovatelnosti a schopností zpracování v reálném čase pro Edge AI?

Nebudu předstírat, že hardware, jako jsou GPU a ASIC, nemají výpočetní sílu na podporu aplikací Edge AI. Mají. Ale FPGAs skutečně mají “hranu” na těchto dalších komponentech v oblastech, jako je latence a flexibilita. Například jak GPU, tak FPGAs mohou provádět paralelní zpracování, ale hardwarový design GPU je navržen pro širokou atraktivitu a není tak vhodný pro podporu specifických aplikací Edge jako hardwarový design FPGAs. Na druhou stranu jsou ASIC určeny pro specifické aplikace, ale jejich pevná funkčnost znamená, že vyžadují úplné přepracování, aby se přizpůsobily jakékoli významné změně použití. FPGAs jsou navrženy tak, aby poskytovaly nejlepší z obou světů; nabízejí nízkou latenci, která přichází s vlastním hardwarovým potrubím, a prostor pro postnasazení úprav, kdykoli jsou modely Edge aktualizovány.

Samozřejmě, že žádná jediná možnost není jedinou správnou. Je na každém vývojáři, aby rozhodl, co má smysl pro jejich systém. Měli by pečlivě zvážit primární funkce aplikace, konkrétní výsledky, které se snaží dosáhnout, a jak agilní design potřebuje být z hlediska budoucí ochrany. To jim umožní zvolit správnou sadu hardwarových a softwarových komponent, aby splnili své požadavky – my se prostě domníváme, že FPGAs jsou obvykle správnou volbou.

Jak FPGAs od Lattice vylepšují AI poháněné rozhodování na okraji, zejména v odvětvích, jako je automobilový průmysl, průmyslová automatizace a IoT?

Schopnosti FPGAs pro paralelní zpracování jsou dobrým místem pro začátek. Na rozdíl od sekvenčních procesorů umožňuje architektura FPGAs provádět mnoho úkolů paralelně, včetně výpočtů AI, se všemi konfigurovatelnými logickými bloky, které provádějí různé operace současně. To umožňuje vysoký výkon, nízkou latenci a zpracování potřebné pro podporu aplikací v reálném čase v klíčových vertikálách, které jste zmínil – ať už mluvíme o autonomních vozidlech, inteligentních průmyslových robotech nebo dokonce inteligentních domácích zařízeních nebo zdravotnických nositelných zařízeních. Kromě toho lze FPGAs přizpůsobit pro specifické úkoly AI a snadno přeprogramovat v terénu, jakmile se modely a požadavky vyvíjejí over time. Nakonec nabízejí hardwarové bezpečnostní funkce, aby zajistily, že systémy poháněné AI zůstávají zabezpečené, od spuštění až po zpracování dat a dále.

Jaké jsou některé reálné použití, ve kterých FPGAs od Lattice významně zlepšily výkon Edge AI, bezpečnost nebo efektivitu?

Velká otázka! Jednou z aplikací, která mě opravdu fascinuje, je způsob, jakým inženýři používají FPGAs od Lattice k napájení nové generace inteligentních, AI poháněných robotů. Inteligentní roboti vyžadují schopnosti zpracování v reálném čase a na zařízení, aby zajistili bezpečnou automatizaci, a to je něco, co je Edge AI navržen tak, aby dodal. Nejenže je poptávka po těchto asistentech rostoucí, ale také komplexnost a sofistikovanost jejich funkcí. Na nedávné konferenci tým Lattice demonstroval, jak použití FPGAs umožnilo inteligentnímu robotu sledovat dráhu míče a chytit ho uprostřed vzduchu, ukazující, jak rychle a přesně mohou být tyto stroje, když jsou postaveny s pravými technologiemi.

Co mě na tomto fascinuje z hlediska hardwaru, je to, jak se designové taktiky mění, aby podporovaly tyto aplikace. Například místo toho, aby se spoléhali pouze na CPU nebo jiné tradiční procesory, vývojáři začínají integrovat FPGAs do mixu. Hlavní výhodou je, že FPGAs mohou komunikovat s více senzory a akčními členy (a více různorodými komponenty), zatímco také provádějí nízkoúrovňové úkoly zpracování blízko těchto senzorů, aby uvolnili hlavní výpočetní jednotku pro pokročilejší výpočty.

Jak Lattice zajišťuje, aby jeho FPGAs zůstaly konkurenceschopné proti specializovaným AI čipům vyvinutým většími polovodičovými společnostmi?

Není pochyb o tom, že pronásledování AI čipů pohání velkou část polovodičového průmyslu – stačí se podívat, jak se společnosti, jako je Nvidia (NVDA ), otočily od vytváření grafických karet pro videohry k tomu, aby se staly giganty v AI průmyslu. Přesto Lattice přináší jedinečné síly na stůl, které nás činí výjimečnými, i když se trh stává více nasyceným.

FPGAs nejsou pouze komponentou, do které jsme se rozhodli investovat, protože poptávka roste; jsou kritickou součástí naší základní produktové řady. Síla našich nabídek FPGAs – od latence a programovatelnosti po spotřebu energie a škálovatelnost – je výsledkem let technického rozvoje a rafinace a vztahů s partnery napříč polovodičovým průmyslem. Budeme i nadále konkurenceschopní, protože budeme pokračovat v této cestě, pracovat s designéry, vývojáři a implementačními partnery, aby zajistili, že poskytujeme našim zákazníkům nejrelevantnější a nejvěrnější technické schopnosti.

Jakou roli hraje programovatelnost v schopnosti FPGAs přizpůsobit se vyvíjejícím se modelům AI a úlohám?

Na rozdíl od hardwaru s pevnou funkcí mohou být FPGAs přeprogramovány a rekonfigurovány po nasazení. Tato vrozená přizpůsobitelnost je pravděpodobně jejich největší rozlišovačem, zejména při podpoře vyvíjejících se modelů AI a úloh. Uvažujte, jak dynamický je krajina AI, vývojáři potřebují být schopni podporovat aktualizace algoritmů, rostoucí datové sady a další významné změny, jakmile k nim dojde, bez obav o konstantní hardwarové upgrady.

Například FPGAs hrají již zásadní roli v probíhajícím přechodu k postkvantové kryptografii (PQC). Jak podniky čelí hrozícím kvantovým hrozbám a pracují na nahrazení zranitelných šifrovacích schémat novými algoritmy, používají FPGAs k usnadnění bezproblémového přechodu a zajištění souladu s novými standardy PQC.

Jak FPGAs od Lattice pomáhají podnikům vyvážit kompromis mezi výkonem, spotřebou energie a náklady při nasazení Edge AI?

Nakonec by vývojáři neměli muset volit mezi výkonem a možností. Ano, aplikace Edge jsou často brzděny výpočetními omezeními, omezeními energie a zvýšenou latencí. Ale s FPGAs od Lattice jsou vývojáři vybaveni flexibilním, energeticky efektivním a škálovatelným hardwarovým vybavením, které je více než schopné zmírnit tyto výzvy. Přizpůsobitelné I/O rozhraní, například, umožňují připojení k různým aplikacím Edge, zatímco snižují složitost.

Úpravy po nasazení také usnadňují úpravu, aby podporovaly potřeby vyvíjejících se modelů. Kromě toho může předzpracování a agregace dat probíhat na FPGAs, snižující tak energetickou a výpočetní zátěž na procesory Edge, snižující latenci a tím snižující náklady a zvyšující systémovou efektivitu.

Jak si představujete budoucnost AI hardwaru v příštích 5-10 letech, zejména v souvislosti s Edge AI a energeticky efektivním zpracováním?

Zařízení Edge budou potřebovat být rychlejší a výkonnější, aby zvládly výpočetní a energetické nároky stále složitějších algoritmů AI a ML, které podniky potřebují k prosperitě – zejména, když se tyto aplikace stanou více obvyklými. Schopnosti dynamických hardwarových komponent, které podporují aplikace Edge, budou muset se přizpůsobit, stávat se menšími, inteligentnějšími a integrovanějšími. FPGAs budou muset rozšířit svou stávající flexibilitu, nabízející nízkou latenci a nízkou spotřebu energie pro vyšší úrovně poptávky. S těmito schopnostmi budou FPGAs pokračovat v pomoci vývojářům přeprogramovat a rekonfigurovat s lehkostí, aby splnili potřeby vyvíjejících se modelů – ať už se jedná o sofistikovanější autonomní vozidla, průmyslovou automatizaci, chytrá města nebo dál.

Děkuji za skvělý rozhovor, čtenáři, kteří si přejí dozvědět se více, by měli navštívit Lattice Semiconductor.