Den okända tekniken bakom en ny generation av Edge AI-enheter

Du kanske inte har hört talas om piezoMEMS – men nya tillämpningar av denna lilla, banbrytande teknik är redo att omforma framtiden för AI i edge-kretsar.

2023, forskare uppskattade att användningen av generativ artificiell intelligens (genAI) för att skapa en bild förbrukar lika mycket energi som att ladda en smartphone. Tänk dig nu att generera AI-bilder med din smartphone.

I takt med att AI övergår till edge-enheter som smartphones och AR-glasögon, kommer de mest övertygande och utbredda applikationerna sannolikt att kretsa kring realtids-, personliga och kontextmedvetna upplevelser. Dessa enheter finns alltid med oss, så AI:n kan utnyttja sina sensorer – kameror, mikrofoner, GPS, accelerometrar – för att leverera sömlösa lösningar och upplevelser med låg latens.

Tänk på AI som en allestädes närvarande hjälpreda som ger kontextuell hjälp i realtid. På smartphones kan detta innebära omedelbar språköversättning under samtal eller resor, som att rikta kameran mot en skylt och få en överlagring på ditt modersmål. För AR-glasögon är det ännu svårare – tänk dig att gå genom en stad och få historiska fakta, restaurangrecensioner eller navigationsledtrådar projicerade i din synvinkel, allt anpassat efter dina intressen och utan att du behöver ta fram en enhet. Eftersom edge AI bearbetar data lokalt är det en vinst för förtroende och dataintegritet.

Medan löftet för kant AI är uppenbart och övertygande, kvarstår hårdvaruutmaningar.

• Utmaning 1 – TermiskPrecis som AI-datacenter är AI-enheter i edge-miljöer termiskt begränsade, inte MIPS/beräkningsbegränsade. Smartphones har redan nått sina termiska gränser; AI-funktioner i edge-miljöer förvärrar bara problemet. Detsamma gäller AR-glasögon, eftersom fler beräknings-, optik- och mikroskärmar är integrerade.
• Utmaning 2 – Storlek/Vikt/FormfaktorDetta är en enorm utmaning för AR-glasögon eftersom tillverkare söker den heliga graalen att balansera komfort för hela dagen (vikt) med nödvändig elektronik och batteritid (prestanda), allt i en moderiktig och snygg formfaktor.
• Utmaning 3 – Konversationsbaserad AI-ljudkvalitet: Röst kommer att vara ett dominerande gränssnitt, särskilt med AR-glasögon, vilket möjliggör snabb, handsfree-användning. Konventionella spolhögtalare är dock tjocka och skrymmande (se Utmaning 2) och presterar inte maximalt i trånga, begränsade utrymmen. Dessutom påverkar deras relativt dåliga del-till-del-konsistens negativt värdehöjande DSP-funktioner som sekretess och konversationsfokuslägen.

Ändå pågår den galna strävan att utföra genAI på edge-enheter – smartphones, AR-glasögon och andra mobila enheter. Forskare på Deloitte uppskattar att andelen genAI-aktiverade smartphones kan överstiga 30 procent av leveranserna i slutet av året. För att inte tala om en ny kategori av genAI-drivna smarta glasögon.

Inom edge-enheter kommer en del av lösningen från att omforma elektroniken som ingår i dem.

PiezoMEMS-komponenter möjliggör GenAI vid gränsen

PiezoMEMS-tekniken tar itu med utmaningarna med genAI i edge-enheter. Inte bara på grund av vad den gör, utan också hur den är tillverkad.

PiezoMEMS är en tillämpning av mikroelektromekanisk systemteknik som använder piezoelektriska material för att omvandla elektrisk energi till rörelse, i huvudsak en spänningsstyrd luftflödeskälla. PiezoMEMS-komponenter tillverkas i en pålitlig, stabil och mycket enhetlig halvledarprocess, vilket möjliggör massproduktion av högeffektiv och kostnadseffektiv mikroelektronik i små, 1 millimeter tunna chipkapslar.

Aktiv kylning för Edge AI-värmehantering

Ultraljuds-piezoMEMS-kiselställdon finns nu för att pumpa helt tysta, vibrationsfria luftpulser i syfte att kyla tunna, utrymmesbegränsade elektroniksystem – i princip en fläkt på ett chip.

Implikationerna för kylningskanten för AI-kantenheter är djupgående. Den första piezoMEMS-mikrokylfläkten är 96 procent mindre och lättare än traditionella fläktar – och är den enda aktiva värmehanteringsenheten som är liten och tunn nog att passa inuti smartphones och AR-glasögon, vilket håller yt- och komponenttemperaturerna 15–30 % svalare samtidigt som det gör att datorn kan köras med maximal prestanda under längre perioder.

PiezoMEMS-högtalare som konversationsgränssnitt för AI

Storlek och vikt: piezoMEMS-högtalare kan producera motsvarande eller bättre ljudstyrka (ljudtrycksnivå [SPL]) som konventionella spolhögtalare, men med en bråkdel av storleken, tjockleken och vikten. Att tillämpa denna nya högtalare på AI-aktiverade glasögon kan föra produktdesigners närmare den heliga graalbalans som refererades till tidigare i den här artikeln.

Här är två exempel. För det första är piezoMEMS-högtalaren, med en tjocklek på 1 millimeter, ~70 % tunnare än konventionella spolhögtalare, vilket gör att glasögonens armar blir tunnare och snyggare.

För det andra har det föreslagits att den ideala vikten för glasögon är 30 gram för att uppnå komfort hela dagen. I AI-glasögon väger konventionella högtalarspolar vanligtvis ~2 gram styck. Med en spole i varje glasögonarm (totalt 4 gram) bidrar högtalarna med ~15 % av systemets totala vikt. PiezoMEMS-högtalare, med ~150 milligram styck, kan ta bort >90 % av högtalarnas vikt, vilket för AR-glasögon närmare målet på 30 gram.

Ljudklarhet. Förutom sin lilla storlek och vikt förbättrar piezoMEMS-högtalare ljudupplevelsen. De genererar inte bara tillräcklig volym i det fria, utan de utmärker sig också på att återge de höga frekvenser som vanligtvis förknippas med förbättrad taluppfattning och klarhet. Detta beror på att piezoMEMS ger ett snabbare mekaniskt svar än traditionella högtalarkonstruktioner med nästan ingen fasförskjutning, vilket innebär att ljudet är klart, detaljerat och korrekt.

Förbättrade DSP-funktioner. Slutligen kommer DSP-intensiva funktioner som sekretesslägen och riktat ljud att fungera bättre med piezoMEMS-högtalare. Tack vare halvledarprocessens enhetlighet och konsistens har dessa högtalare nästan idealisk ljudstyrka och fasmatchning mellan olika delar, vilket ger ett mer förutsägbart fönster för DSP-algoritmen att fungera. Med mindre variation från högtalaren kan DSP-algoritmerna förbättra prestandan med mindre bearbetningskostnader.

Frigör potentialen hos Edge AI-enheter

I slutändan kommer det att krävas betydande innovation för att få in kraften i generativ AI i konsumenternas enheter. Tillverkare måste inte bara övervinna fysiken, utan de måste också säkerställa bästa möjliga användarupplevelse – allt utan att kompromissa med formfaktorn.

Nya innovationer inom piezoMEMS-teknik öppnar upp möjligheter att ta bort termiska begränsningar, leverera förbättrad taluppfattning för konversations-AI samtidigt som de förbättrar stilen (tunnhet) och komforten (vikt) hos edge AI-smartphones och AR-glasögon.

genAI-ekosystemet är enormt och sammanlänkat. PiezoMEMS kan vara en viktig möjliggörare.