Den ukendte teknologi bag en ny generation af Edge AI-enheder

Du har måske ikke hørt om piezoMEMS — men nye anvendelser af denne lille, spilforandrende teknologi er på vej til at forme fremtiden for AI på kanten.

I 2023 estimerede forskere, at brugen af generativ kunstig intelligens (genAI) til at oprette et billede brugte så meget energi som opladning af en smartphone. Forestil dig nu, at generere AI-billeder med din smartphone.

Da AI flytter til kantenheder som smartphones og AR-briller, vil de mest overbevisende og udbredte anvendelser sandsynligvis dreje sig om realtids-, personlige og kontekstbevidste oplevelser. Disse enheder er altid med os, så AI kan udnytte deres sensorer – kameraer, mikrofoner, GPS, accelerometer – til at levere nærmest øjeblikkelige, lavforsinkede løsninger og oplevelser.

Tænk på AI som en altid tilstedeværende hjælper, der tilbyder realtidskontekstuel assistance. På smartphones kunne dette betyde øjeblikkelig sprogoversættelse under samtaler eller rejser, som at pege kameraet på et skilt og få en overlay på dit modersmål. For AR-briller er det endnu mere tiltrængt – forestil dig, at du går gennem en by og får historiske fakta, restaurantanmeldelser eller navigationshint projiceret ind i din synsvidde, alt tilpasset dine interesser og uden at skulle trække en enhed frem. Da kantens AI-behandling af data sker lokalt, er det en sejr for tillid og dataprivatliv.

mens løftet for kantens AI er åbenlyst og overbevisende, er der stadig hardware-udfordringer.

• Udfordring 1 – Termisk: Ligesom AI-datacentre er kantens AI-enheder termisk begrænsede, ikke MIPS/compute-begrænsede. Smartphones er allerede ved deres termiske grænser; kantens AI-funktioner komplicerer blot problemet. Dette gælder også for AR-briller, da der integreres mere beregning, optik og mikrodisplays.
• Udfordring 2 – Størrelse/Vægt/Formfaktor: Dette er en enorm udfordring for AR-briller, da fabrikanter søger efter den hellige gral af at balancere komforten ved at bære brillerne hele dagen (vægt) med de nødvendige elektronik og batterilevetid (præstation) alt i en fashion-først, stylish formfaktor.
• Udfordring 3 – Konversations-AI-lydkvalitet: Stemme vil være et dominerende grænseflade, især med AR-briller, og giver mulighed for hurtig, håndfri operation. Konventionelle spolehøjttalere er dog tykke og klodsede (se udfordring 2) og fungerer ikke optimalt i små, begrænsede rum. Deres relativt dårlige del-til-del-konsistens påvirker også negativt værditilføjet DSP-funktioner som f.eks. privatlivs- og samtalefokuseringsmodi.

Ikke desto mindre er kapløbet for at udføre genAI på kantenheder – smartphones, AR-briller og andre mobile enheder – i gang. Forskere hos Deloitte estimerer, at andelen af genAI-aktiverede smartphones kan overstige 30 procent af leverancerne ved årets udgang. For slet ikke at nævne en ny kategori af genAI-drevne smartbriller.

I kantenheder kommer en del af løsningen fra at genopfinde elektronikken, der går ind i dem.

PiezoMEMS-komponenter muliggør genAI på kanten

PiezoMEMS-teknologien løser udfordringerne for genAI i kantenheder. Ikke kun på grund af, hvad den gør, men også hvordan den produceres.

PiezoMEMS er en anvendelse af mikro-elektromekanisk systemteknologi, der bruger piezoelektriske materialer til at omdanne elektrisk energi til bevægelse, i virkeligheden en spændingsstyret luftstrøm. PiezoMEMS-komponenter produceres i en pålidelig, stabil og højgradigt ensartet halvlederproces, der muliggør masseproduktion af højeffektive, omkostningseffektive mikroelektronik i små, 1-millimeter tynde chip-pakninger.

Aktiv afkøling til termisk styring af kantens AI

Ultrasoniske piezoMEMS-silicium-aktuatorer findes nu til at pumpe helt stille, vibreringsfrie pulser af luft til formålet med at afkøle tynde, begrænsede elektroniske systemer – grundlæggende en ventilator på en chip.

Konsekvenserne for afkøling af kantens AI-enheder er dybtgående. Den første piezoMEMS-mikroventilator er 96 procent mindre og lettere end traditionelle ventilatorer – og er den eneste aktive termiske styreenhed, der er lille og tynd nok til at kunne være inden i smartphones og AR-briller, og holder overflade- og komponenttemperaturerne 15-30% koldere, samtidig med at beregningen kan køre med topydelighed i længere perioder.

PiezoMEMS-højttalere som konversations-AI-grænseflade

Størrelse og vægt: piezoMEMS-højttalere kan producere tilsvarende eller bedre højhed (lydtrykningsniveau [SPL]) som konventionelle spolehøjttalere, men til en brøkdel af størrelsen, tykkelsen og vægten. At anvende denne nye højttaler til AI-aktiverede briller kan bringe produkt-designere tættere på den hellige gral-balancen, der blev nævnt tidligere i denne artikel.

Her er to eksempler. Først er piezoMEMS-højttaleren ved 1 millimeter tykkelse ~70% tyndere end konventionelle spolehøjttalere, hvilket giver mulighed for, at armene på brillerne kan være tyndere og mere stilfulde.

For det andet er det blevet foreslået, at den ideelle vægt for briller er 30 gram for at opnå komfort ved at bære brillerne hele dagen. I AI-briller vejer konventionelle spolehøjttalere typisk ~2 gram hver. Med en i hver arm (4 gram i alt) bidrager højttalerne med ~15% af den samlede vægt af systemet. PiezoMEMS-højttalere, der vejer ~150 milligram hver, kan fjerne >90% af den vægt, som højttalerne bidrager med, og bringe AR-brillerne tættere på 30-grams-målet.

Lydklarhed. Ud over sin lille størrelse og vægt forbedrer piezoMEMS-højttalere også lydoplevelsen. De genererer ikke kun tilstrækkelig lydstyrke i det åbne rum, men de excellerer også i at reproducere de høje frekvenser, der normalt er forbundet med forbedret taleforståelse og klarhed. Dette skyldes, at piezoMEMS leverer en hurtigere mekanisk respons end traditionelle højttalere med næsten ingen faseforskydning, hvilket betyder, at lyden er klar, detaljeret og præcis.

Forbedrede DSP-funktioner. Til sidst vil DSP-intensiv funktion som f.eks. privatlivsmodi og rettet lyd fungere bedre med piezoMEMS-højttalere. Takket være ensartetheden og konsistensen i halvlederprocessen har disse højttalere næsten ideel del-til-del-højhed og fase-matching, hvilket giver en mere forudsigelig vindue for DSP-algoritmen til at fungere. Med mindre variation fra højttaleren kan DSP-algoritmerne forbedre præstationen med mindre procesoverhead.

At låse potentialet for kantens AI-enheder op

Til sidst kræver det betydelig innovation at bringe kraften af generativ AI til forbruger-kantenheder. Ikke kun skal fabrikanter overvinde fysikken, men de skal også sikre den bedst mulige brugeroplevelse – uden at gå på kompromis med formfaktoren.

Nye innovationer i piezoMEMS-teknologien åbner muligheder for at fjerne termiske begrænsninger, levere forbedret taleforståelse for konversations-AI samt forbedre stil (tykkelse) og komfort (vægt) i kantens AI-smartphones og AR-briller.

GenAI-økosystemet er stort og sammenhængende. PiezoMEMS kan være en nøgleaktiver.