Myslitelé

Průmyslový edge AI vyžaduje více než jen surovou výpočetní sílu

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Po desetiletích následoval design edge hardwaru přímou hierarchii: maximalizovat propustnost, poté spravovat energii a teplo kolem ní. Surová výpočetní síla byla stropem, pod kterým bylo vše ostatní postaveno. Tato logika měla smysl, když edge zařízení byla stacionární, prostředí byla kontrolována a centralizované zpracování mohlo zpracovat cokoliv, co edge nemohlo. Nicméně, žádné z těchto podmínek neplatí v dnešních průmyslových prostředích a stará hierarchie se rozpadá kvůli tomu.

Provozovatelé průmyslových zařízení nyní tlačí AI-poháněnou automatizaci přímo na výrobní plochu, požadují inteligentní, rozhodující akci co nejblíže k operacím. Ambice je správná. Ale překlad toho do spolehlivého hardwaru, který funguje v reálných průmyslových podmínkách, vyžaduje předefinování designu čipu od základu.

Nová hierarchie omezení

Globální trh průmyslového edge se odhaduje, že poroste z 21 miliard dolarů v roce 2025 na téměř 45 miliard dolarů do roku 2030, a hardwarové požadavky, které se měří spolu s tímto růstem, vypadají fundamentálně jinak, než co čipoví designéři historicky optimalizovali. Když se AI-poháněná automatizace přesouvá z kontrolovaných testovacích prostředí na živé výrobní plochy, hierarchie omezení, která řídí nasazení edge, se efektivní invertuje:

  1. Energie nyní zaujímá první místo. Operace, které jsou vždy zapnuté, vyžadují flexibilní režimy řízení, aby se snížilo plýtvání a minimalizovaly náklady spojené s nasazením edge AI systémů.
  2. Teplotní a environmentální faktory mohou výrazně ovlivnit výkon. Průmyslová zařízení zavádějí environmentální extrémy, jako jsou vysoké teploty a tepelné omezování, stejně jako potenciální nečistoty a vlhkost, které mohou degradovat funkčnost nepředvídatelně.
  3. Latence a determinismus jsou nezbytné v případech, které jsou zaměřeny na přesnost, jako jsou ty, které se nacházejí v průmyslových zařízeních, protože včasné a přesné akce mohou udělat rozdíl mezi úspěchem a odpadním materiálem.
  4. Surová propustnost je poslední v tomto paradigmatu. Ačkoli je důležitá, šířka pásma a propustnost jsou méně kritické, když jsou vestavěné schopnosti dobré. Kritické zpracování a rozumnění probíhají na zařízení, což snižuje potřebu konstantní transmise do centralizovaného zpracování.

Inverze těchto omezení vyžaduje, aby designéři přijali nový přístup při navrhování pro průmyslový edge, který zvažuje více než jen surovou výpočetní sílu.

Nalezení toho, co je “příliš dobré”

Ve vývojových prostředích, například při navrhování průmyslového robota na pracovním stole, mohou GPU fungovat dobře. Jsou vysoce schopné a efektivní komponenty, které mohou zpracovat velké množství dat rychle a přesně. Tyto procesy však probíhají v vysoce kontrolovaných prostředích.

Průmyslová zařízení jsou často instalována na legacy zařízení ve výrobních zařízeních, která jsou již v provozu. Mohou být mobilní. Energie, prostor a tepelná kapacita jsou předem určeny prostředím, nikoli potřebami zařízení. To ponechává pouze design čipu jako proměnnou, a obecný účelový křemík je špatně přizpůsoben k vyplnění této role. Je buď příliš rigidní nebo příliš široký, aby splňoval specifické, udržitelné požadavky průmyslového edge AI.

Například SoC s integrovanými NPU nabízí střední půdu pro tyto druhy staveb, nabízející nízkou spotřebu energie a robustní deterministické funkce. Nicméně, tyto tendence selhávají v náročných edge prostředích kvůli jejich designu, který je optimalizován pro sporadickou funkčnost v tepelně omezených prostředích. Design zaměřený na burst-inferenci je nevhodný pro složitější realitu průmyslových zařízení.

Abyste učinili automatizované průmyslové operace realitou, designéři potřebují něco mezi tím: čipy dostatečně flexibilní, aby vyplnily široké mezery, ale dostatečně specifické, aby zvládly specializované aplikace.

FPGAs: Více schopný společník

Více a více edge vývojářů začíná využívat field-programmable gate arrays (FPGAs) jako odpověď. Zásadně, FPGAs nejsou umístěny jako náhrada za GPU, CPU nebo jiné centrální zpracování. Místo toho fungují jako společní čipy, umístěné vedle primárních procesorů, aby zpracovali úkoly, které obecný účelový křemík zpracovává špatně v polních podmínkách: vždy zapnuté monitorování senzorů, reálné předzpracování, deterministické reakce a řízení spotřeby energie.

V závislosti na architektuře mohou být tyto společní čipy umístěny vedle GPU nebo CPU, nebo umístěny blíže k senzoru samotnému, poskytují designérům flexibilitu v tom, jak a kde se tato zátěž přenese. Kapacita fungovat v této společní roli je tím, co dělá FPGAs tak dobře přizpůsobené pro edge průmyslová prostředí, kde primární procesor potřebuje být chráněn před tím, aby byl přehlcen neustálými nízkoúrovňovými požadavky na zpracování.

Globální trh FPGA byl hodnocen na 11,6 miliard dolarů v roce 2024 a má být rozšířen na 41,6 miliard dolarů do roku 2033, což je trajektorie, která odráží rostoucí uznání právě tohoto druhu kompanionské architektury v průmyslových a edge nasazeních. Jako společní čipy, FPGAs přinášejí specifický soubor schopností, které přímo řeší inverzi hierarchie omezení:

  • Paralelní, dataflow-orientované zpracování, které umožňuje zařízením zpracovat pokročilé předzpracování před přenosem do centralizovaného zpracování. To snižuje objemy dat, snižuje latenci a zajišťuje spolehlivé operace.
  • Deterministické rozumnění schopnosti, které mohou identifikovat známé spouštěcí události, aby ermögňovaly reálné reakce v kritických scénářích.
  • Logicky řízené řízení spotřeby energie, které umožňuje zařízením škálovat spotřebu energie na základě environmentálních spouštěčů (pohybu nebo jiných změn), takže vysoké požadavky na zpracování jsou aktivní pouze tehdy, když jsou potřeba.
  • Vestavěné bezpečnostní funkce, které umožňují FPGAs fungovat jako hardwarový root of trust (HRoT) a pomáhají chránit centrální zpracování před porušením, které pocházejí z zařízení umístěných v veřejně přístupných místech, přidávají další vrstvu zabezpečení pro stále složitější systémy.

Ačkoli jsou tyto funkce kritické pro rozvoj edge AI schopností, versatility FPGAs je nakonec tím, co je dělá optimálními “řešiteli problémů” pro edge stavby. Nejčastěji fungují jako inteligentní předzpracovatelé, zpracovávají reálné, na zařízení融ované senzorické fúze, aby snížily požadavky na přenosem dat a umožnily včasné reakce.

Jejich paralelní zpracování umožňuje jim integrovat a analyzovat data rychle a eskalovat na vyšší úroveň zpracování, nebo fungovat v reálném čase v krizi. Protože FPGA může zpracovat tyto menší úkoly samostatně, centrální zpracování si udržuje více šířky pásma pro zpracování složitějších úkolů, které jsou předávány.

Kromě toho, FPGAs jsou rekonfigurovatelné podle designu, takže manažeři systému mohou aktualizovat své edge AI implementace, jak se mění zátěže, prostředí a potřeby. Zařízení, která používají FPGAs jako společní čipy, mohou evolucí spolu se systémem bez výměny hardwaru nebo opětovného nasazení. Například, poskytují flexibilitu potřebnou k adaptaci, jak post-quantum kryptografie postupuje a stávající kryptografické algoritmy se stávají neúčinnými.

Lepší spolu

Průmyslový edge je tam, kde AI-založená automatizace prokáže svou největší potenciál, a reálné požadavky na automatizaci nečekají, až se obecné účelové čipy dostanou. Edge vývojáři potřebují začít přijímat nové designové principy a budovat optimalizované základy, které vyvažují flexibilitu a specifičnost ve stejné míře.

FPGAs mohou udělat přesně to. Kde GPU a SoC dosahují svých limitů, FPGAs vyplňují mezeru jako schopní společní čipy, poskytují vždy zapnutou inferenci, deterministické řízení, nízkou spotřebu energie a potenciál růstu spolu s rozvojem AI schopností a průmyslových použití. Bez ohledu na to, zda jsou nasazeny samostatně nebo v páru s obecnými účelovými procesory, FPGAs pomáhají vytvořit robustní, spolehlivé a přizpůsobivé základy, které jsou potřebné k tomu, aby se edge AI ekosystémy staly realitou.

Karl Wachswender je Senior Principal System Architect, Industrial ve společnosti Lattice Semiconductor Corp., oregonská specializovaná firma na design a výrobu low power field-programmable gate arrays (FPGAs).