Connect with us

Tankeledere

Den ukjente teknologien bak en ny generasjon av Edge AI-enheter

mm

Du kanskje ikke har hørt om piezoMEMS — men nye anvendelser av denne lille, spillende teknologien er klar til å forme fremtiden for AI på kanten.

I 2023 estimerte forskere at bruk av generativ kunstig intelligens (genAI) for å lage et bilde brukte like mye energi som å lade en smartphone. Nå, forestill deg å generere AI-bilder med din smartphone.

Ettersom AI flytter til kantenheter som smartphones og AR-briller, vil de mest overbevisende og utbredte anvendelsene sannsynligvis dreie seg om sanntids-, personlige og kontekstbevisste opplevelser. Disse enhetene er alltid med oss, så AI kan utnytte deres sensorer – kameraer, mikrofoner, GPS, akselerometre – for å levere ubrutt, lav-forsinkelsesløsninger og opplevelser.

Tenk på AI som en alltid tilstedeværende hjelper som gir sanntids kontekstuell assistanse. På smartphones kan dette bety øyeblikkelig språkoversettelse under samtaler eller reise, som å peke kameraet på et skilt og få en overlagring på ditt morsmål. For AR-briller er det enda mer essensielt – forestill deg å gå gjennom en by og få historiske fakta, restaurantanmeldelser eller navigasjonskoder projisert inn i ditt syn, alle tilpasset dine interesser og uten å måtte trekke ut en enhet. Siden edge AI prosesserer data lokalt, er det en seier for tillit og datapersonvern.

Mens løftet for edge AI er åpenbart og overbevisende, finnes det fortsatt hårdvarerudefordringer.

  • Utfordring 1 – Termisk: Akkurat som AI-datacenter, er edge AI-enheter termisk begrensede, ikke MIPS/beregning-begrensede. Smartphones er allerede på deres termiske grenser; edge AI-funksjoner forverrer bare problemet. Samme sak for AR-briller, ettersom mer beregning, optikk og mikrodisplayer integreres.
  • Utfordring 2 – Størrelse/Vekt/Formfaktor: Dette er en enorm utfordring for AR-briller ettersom produsentene søker den hellige gralen med å balansere komfort for å bære hele dagen (vekt) med nødvendig elektronikk og batteriliv (ytelse) i en mote-først, stylish formfaktor.
  • Utfordring 3 – Konversasjons AI-lydkvalitet: Stemme vil være et dominant grensesnitt, spesielt med AR-briller, som tillater rask, håndfri drift. Men konvensjonelle spolehøyttalere er tykke og bulke (se utfordring 2) og prestere ikke til deres maksimale potensiale i små, begrensede rom. Videre har deres relativt dårlige del-til-del-konsistens en negativ innvirkning på verdi-tillegg DSP-funksjoner som personvern og samtalefokusmoduser.

Likevel er den gale jakten på å utføre genAI på kantenheter – smartphones, AR-briller og andre mobile enheter – i gang. Forskere ved Deloitte estimerer at andelen genAI-aktiverede smartphones kan overstige 30 prosent av leveransene ved årets slutten. For å si ingenting om en ny kategori av genAI-drevne smartbriller.

I kantenheter er en del av løsningen å gjenoppfinne elektronikkene som går inn i dem.

PiezoMEMS-komponenter muliggjør genAI på kanten

PiezoMEMS-teknologien adresserer utfordringene med genAI i kantenheter. Ikke bare på grunn av hva den gjør, men hvordan den lages.

PiezoMEMS er en anvendelse av mikro-elektromekaniske systemteknologier som bruker piezoelektriske materialer til å konvertere elektrisk energi til bevegelse, essensielt en spenning-kontrollert luftstrøm. PiezoMEMS-komponenter produseres i en pålitelig, stabil og høyt uniform prosess, som tillater masseproduksjon av høyeffektive, kostnadseffektive mikroelektroniske enheter i små, 1-millimeter tykke chip-pakker.

Aktiv kjøling for kant AI-termisk styring

Ultrasoniske piezoMEMS-silikon-aktuatorer finnes nå for å pumpe helt stille, vibrasjonsfrie pulser av luft for formålet med å kjøle tynne, rom-begrensede elektroniske systemer – basiskt en vifte på en chip.

Konsekvensene for kjøling av kant AI-enheter er dyptgående. Den første piezoMEMS-mikro-viften er 96 prosent mindre og lettere enn tradisjonelle vifter – og er den eneste aktive termiske styringsenheten som er liten og tynn nok til å passe inn i smartphones og AR-briller, og holder overflate- og komponenttemperaturer 15-30% kjøligere samtidig som den muliggjør beregning å kjøre på topp ytelse i lengre perioder.

PiezoMEMS-høyttalere som konversasjons AI-grensesnitt

Størrelse og vekt: piezoMEMS-høyttalere kan produsere ekvivalent eller bedre høyttalere (lydtrykksnivå [SPL]) som konvensjonelle spolehøyttalere, men til en brøkdel av størrelsen, tykkelsen og vekten. Å anvende denne nye høyttaleren til AI-aktiverede briller kan få produkt-designere nærmere den hellige gralen-balansen nevnt tidligere i denne artikkelen.

Her er to eksempler. Først, på 1 millimeter tykk, er piezoMEMS-høyttaleren ~70% tynnere enn konvensjonelle spolehøyttalere, noe som tillater at armene på brillerne kan være tynnere og mer stilige.

For det andre, har det blitt foreslått at den ideelle vekten for briller er 30 gram for å oppnå komfort for å bære hele dagen. I AI-briller bidrar konvensjonelle spolehøyttalere vanligvis ~2 gram hver. Med en i hver arm (4 gram totalt) bidrar høyttalerne ~15% av den totale vekten av systemet. PiezoMEMS-høyttalere, på ~150 milligram hver, kan fjerne >90% av vekten bidraget av høyttalerne, og bringe AR-briller nærmere 30-grams-målet.

Lydkvalitet. Bortsett fra sin lille størrelse og vekt, forbedrer piezoMEMS-høyttalere lydopplevelsen. De genererer ikke bare tilstrekkelig volum i åpen luft, men de utmerker seg også i å gjengi de høye frekvensene som vanligvis er forbundet med forbedret taleforståelse og klarhet. Dette skyldes at piezoMEMS leverer en raskere mekanisk respons enn tradisjonelle høyttalere-design med nesten ingen faseforskyvning, noe som betyr at lyden er klar, detaljert og nøyaktig.

Forbedrede DSP-funksjoner. Til slutt vil DSP-intensiva funksjoner som personvernsmoduser og rettet lyd fungere bedre med piezoMEMS-høyttalere. Takket være uniformiteten og konsistensen i halvlederprosessen, har disse høyttalerne en nesten ideal del-til-del-løshet og fase-matching, og leverer et mer forutsigbart vindu for DSP-algoritmen å operere. Med mindre variasjon fra høyttaleren, kan DSP-algoritmene forbedre ytelsen med mindre prosesserings-overhead.

Å låse opp potensialet for kant AI-enheter

Til slutt handler det om å bringe den enorme kraften til generativ AI til forbruker-kantenheter. Ikke bare må produsentene overvinne fysikken, men de må også sikre den beste mulige brukeropplevelsen – uten å kompromittere med formfaktoren.

Nye innovasjoner i piezoMEMS-teknologien åpner muligheter for å fjerne termiske begrensninger, levere forbedret taleforståelse for konversasjons-AI samt forbedre stilen (tykkelse) og komforten (vekt) i kant AI-smartphones og AR-briller.

GenAI-økosystemet er stort og sammenkoblet. PiezoMEMS kan være en nøkkel-aktiverer.

Mike Housholder har vært VP Marketing og Business Development i xMEMS Labs, Inc i løpet av de siste fem årene. Før han ble med i xMEMS, hadde han stillinger i TDK InvenSense og Marvell Technology. Han er for tiden basert i San Jose, California.