Industriell Edge AI krever mer enn bare rå beregningskraft

I flere tiår har design av edge-hardware fulgt en enkel hierarki: maksimere gjennomstrømming, deretter håndtere kraft og termiske faktorer rundt det. Rå beregningskraft var taket som alt annet var bygget under. Den logikken gjorde mening når edge-enhetene var stasjonære, miljøene var kontrollerte, og sentralisert prosessering kunne håndtere alt som edge-enhetene ikke kunne. Imidlertid gjelder ingen av disse betingelsene i dagens industrielle miljøer, og den gamle hierarkien bryter sammen på grunn av det.

Operatører av industrielle anlegg pusher nå AI-drevne automatiseringsløsninger direkte ut på fabrikkgulvet, og krever intelligente og avgjørende handlinger så nære operasjonene som mulig. Ambisjonen er god. Men å oversette det til pålitelig hardware som fungerer under virkelige industrielle betingelser, krever en omdefinering av chip-design fra bunnen av.

En ny begrensningshierarki

Den globale industrielle edge-markedet ventes å vokse fra 21 milliarder dollar i 2025 til nesten 45 milliarder dollar i 2030, og de hårdvaruelige kravene som følger med denne veksten, ser fundamentalt annerledes ut enn det som chip-designere historisk har optimert for. Når AI-drevne automatiseringsløsninger flytter fra kontrollerte testmiljøer til live-fabrikkgulv, har begrensningshierarkiet som styrer edge-utsteder effektivt snudd på hodet:

1. Kraft er nå på topp. Alltid-på-drift krever fleksible kontrollmoduser for å redusere avfall og minimere utgifter forbundet med å deploye edge-AI-systemer.
2. Termiske og miljømessige faktorer kan påvirke ytelsen betydelig. Industrielle anlegg introduserer miljømessige ekstremtilfeller som høye temperaturer og termisk bremsing, samt potensiell skitt og fuktighet, som alle kan forringe funksjonaliteten uforutsigbart.
3. Latens og determinisme er essensielle i presisjonsbaserte brukstilfeller som de som finnes i industrielle anlegg, da tidlig og nøyaktig handling kan gjøre forskjellen mellom suksess og skraphaugen.
4. Rå gjennomstrømming kommer sist i denne paradigmen. Selv om det er viktig, er båndbredde og gjennomstrømming mindre kritisk når innbygde egenskaper er lydhøre. Kritisk prosessering og resonnering skjer på enheten, og mitigere behovet for konstant overføring til en sentral prosesseringsenhet.

Inversjonen av disse begrensningene krever at designerne adopterer en ny tilnærming når de designer for den industrielle edge, en som tar hensyn til mer enn bare rå beregningskraft.

Finne det som er “rett”

I utviklingsmiljøer, for eksempel når man designer en industriell robot på arbeidsbenken, kan GPU-er fungere godt. De er høyt kapable og effektive komponenter som kan prosessere store mengder data raskt og nøyaktig. Imidlertid skjer disse prosessene i høyt kontrollerte miljøer.

Industrielle enheter installeres ofte på legacy-utstyr i anlegg som allerede er i drift. De kan være mobile. Kraft, plass og termisk kapasitet er forhåndsbestemt av miljøet, ikke av enhetens behov. Det lar bare chip-designet selv som den variable, og generell formål silisium er dårlig egnet til å fylle denne rollen. Det er enten for stivt eller for bredt til å møte de spesifikke, vedvarende kravene til industriell far-edge AI.

For eksempel tilbyr SoC-er med integrierte NPUs en midtpunkt for disse bygningene, og tilbyr lavkraftsegenskaper og robuste deterministiske funksjoner. Imidlertid mangler de i krevende far-edge-miljøer på grunn av deres design, som er optimert for sporadisk funksjonalitet i termisk begrensede miljøer. En burst-inferensfokusert design gjør dem til en upålitelig passende for de mer komplekse realitetene i industrielle anlegg.

For å gjøre automatiserte industrielle operasjoner til virkelighet, trenger designerne noe i mellom: chips fleksible nok til å fylle store gap, men spesifikke nok til å håndtere spesialapplikasjoner.

FPGAs: En mer kapabel kompanjong

Flere og flere edge-utviklere begynner å utnytte feltprogrammerbare gate-arrays (FPGAs) som svaret. Kritisk sett er FPGAs ikke plassert som en hel erstatter for GPU-er, CPU-er eller andre sentralprosesseringsalternativer. I stedet fungerer de som kompanjonschips, som sitter ved siden av primærprosessorer for å håndtere oppgavene som generell formål silisium håndterer dårlig i feltforhold: alltid-på-sensorovervåking, sanntidsforbearbeiding, deterministisk respons og kraftstyring.

Avhengig av arkitekturen kan disse kompanjonsenhetene plasseres ved siden av GPU-en eller CPU-en, eller plasseres nærmere sensoren selv, og gir designerne fleksibilitet i hvordan og hvor denne arbeidsbelastningen blir overført. Evnen til å fungere i denne kompanjonsrollen er det som gjør FPGAs så godt egnet til far-edge-industrielle miljøer, hvor primærprosessorer trenger å beskyttes mot å bli overveldet av kontinuerlig lav-nivå prosessering.

Den globale FPGA-markedet var verdsatt til 11,6 milliarder dollar i 2024 og ventes å nå 41,6 milliarder dollar i 2033, en trajektori som reflekterer en økende anerkjennelse av nettopp denne type kompanjonsarkitektur i industrielle og edge-utsteder. Som kompanjonschips bringer FPGAs en spesifikk sett av egenskaper som direkte adresserer den inverse begrensningshierarkiet:

• Parallell, dataflyt-orientert prosessering, som muliggjør at enheter kan håndtere avansert forbehandling før overføring til sentral prosesseringshardware. Dette reduserer datavolum, mitigere latens og sikrer pålitelige operasjoner.
• Deterministisk resonanskapasitet, som kan identifisere kjente utløsende hendelser for å muliggjøre sanntidsrespons i kritiske scenarioer.
• Logisk drevet kraftstyring, som muliggjør at enheter kan skalerer energibruken basert på miljømessige utløsende hendelser (bevegelse eller andre endringer), så høy-krav-prosesser bare er aktive når de er nødvendige.
• Innbygde sikkerhetsfunksjoner, som lar FPGAs fungere som en maskinvareroot (HRoT) og hjelpe med å beskytte sentral prosesserings fra brudd som oppstår på enheter plassert i offentlig tilgjengelige lokasjoner, og legger til en ekstra sikkerhetslag for stadig mer komplekse systemer.

Selv om disse funksjonene er kritiske for å fremme edge-AI-egenskaper, er FPGAs’ fleksibilitet ultimate det som gjør dem til de optimale “problemløserne” for far-edge-bygginger. De fungerer oftest som intelligente forbehandlere, som håndterer sanntids, på-enhet-sensorfusjon for å både redusere datatransmisjonsbehov og muliggjøre tidlig respons.

Deres parallellprosesseringskapasiteter lar dem integrere og analysere data raskt og eskalere til høyere kraftprosessorer når det er nødvendig, eller fungere i sanntid i en krise. Fordi FPGA-en kan håndtere disse mindre oppgavene på egen hånd, beholder sentral prosesserings mer båndbredde til å håndtere de mer komplekse oppgavene som faktisk blir overført.

I tillegg er FPGAs omprogrammerbare av design, så systemansvarlige kan oppdatere sine edge-AI-implementeringer når arbeidsbelastninger, miljø og behov endrer seg. Enheter som bruker FPGAs som kompanjonschips kan utvikle seg sammen med systembehov uten å erstatte hardware eller gjeninnføre. For eksempel gir de fleksibiliteten som trengs for å tilpasse seg post-kvante-kryptografi og gjør eksisterende kryptografiske algoritmer ineffektive.

Bedre sammen

Den industrielle edge er hvor AI-basert automatisering vil bevise sin største potensiale, og virkelige automatiseringskrav venter ikke på at generell formål-chips skal holde pace. Edge-utviklere må begynne å adoptere nye designprinsipper og bygge optimerte grunnlag som balanserer fleksibilitet og spesifisitet i like mål.

FPGAs kan gjøre nettopp det. Hvor GPU-er og SoC-er når grensene, fyller FPGAs gapet som kapable kompanjonschips, og tilbyr alltid-på-inferens, deterministisk kontroll, lavkraftsdrift og potensialet til å vokse sammen med utviklende AI-egenskaper og industrielle bruksområder. Uansett om de deployes uavhengig eller i par med generell formål-prosessorer, hjelper FPGAs med å legge et robust, pålitelig og tilpasningsdyktig grunnlag som trengs for å gjøre far-edge-AI-økosystemer til virkelighet.