Yubei Chen, medgrundare av Aizip Inc – Intervjuerien

Yubei Chen är medgrundare av Aizip inc., ett företag som bygger världens minsta och mest effektiva AI-modeller. Han är också biträdande professor på avdelningen för elektroteknik vid University of California, Davis. Chens forskning ligger i skärningspunkten mellan beräkningsneurovetenskap och djup unsupervised (självlärande) inlärning, vilket förbättrar vår förståelse av de beräkningsmässiga principer som styr unsupervised representation inlärning i både hjärnor och maskiner, och omformar vår insikt i naturliga signalstatistik.

Före anställningen vid UC Davis gjorde Chen sin postdoktorala studie med professor Yann LeCun vid NYU Center for Data Science (CDS) och Meta Fundamental AI Research (FAIR). Han avslutade sin doktorsexamen vid Redwood Center for Theoretical Neuroscience och Berkeley AI Research (BAIR), UC Berkeley, under handledning av professor Bruno Olshausen.

Aizip utvecklar ultraeffektiva AI-lösningar som är optimerade för edge-enheter, och erbjuder kompakta modeller för vision, ljud, tidsserier, språk och sensorfusionstillämpningar. Deras produkter möjliggör uppgifter som ansikts- och objekterkänning, nyckelordsidentifiering, ECG/EEG-analys och chatbots på enheten, allt driven av TinyML. Genom sin AI-nanofabriksplattform, Aizipline, accelererar företaget modellutveckling med hjälp av grundläggande och generativa modeller för att driva mot fullständig AI-designautomatisering. Aizips Gizmo-serie av små språkmodeller (300M–2B parametrar) stöder en stor mängd enheter och bringar intelligenta funktioner till edge.

Du gjorde din postdoc med Yann LeCun på NYU och Meta FAIR. Hur påverkade arbetet med honom och din forskning vid UC Berkeley din tillvägagångssätt för att bygga realistiska AI-lösningar?

På Berkeley var mitt arbete djupt rotat i vetenskaplig undersökning och matematisk noggrannhet. Min doktorsavhandling, som kombinerade elektroteknik, datavetenskap och beräkningsneurovetenskap, fokuserade på att förstå AI-system från ett “white-box”-perspektiv, eller utveckla metoder för att avslöja de underliggande strukturerna i data och inlärningsmodeller. Jag arbetade med att bygga tolkningsbara, högpresterande AI-modeller och visualiseringstekniker som hjälpte till att öppna upp svarta lådor AI-system.

På Meta FAIR var fokus på att utveckla AI-system för att uppnå topprestationer i stor skala. Med tillgång till världsklassens beräkningsresurser utforskade jag gränserna för självlärande inlärning och bidrog till vad vi nu kallar “världsmodeller” — AI-system som lär sig från data och föreställer sig möjliga miljöer. Denna dubbla erfarenhet — vetenskaplig förståelse på Berkeley och ingenjörsdriven skalning på Meta — har gett mig en omfattande perspektiv på AI-utveckling. Det har betonat vikten av att både teoretisk insikt och praktisk implementering har när du utvecklar AI-lösningar för realistiska tillämpningar

Ditt arbete kombinerar beräkningsneurovetenskap med AI. Hur påverkar insikter från neurovetenskap sättet du utvecklar AI-modeller?

I beräkningsneurovetenskap studerar vi hur hjärnan bearbetar information genom att mäta dess svar på olika stimuli, liknande hur vi provar AI-modeller för att förstå deras inre mekanismer. Tidigt i min karriär utvecklade jag visualiseringstekniker för att analysera ordinbäddningar — att bryta ner ord som “äpple” i deras beståndsdelar, såsom “frukt” och “teknologi”. Senare utvidgades denna metod till mer komplexa AI-modeller som transformerare och stora språkmodeller, vilket hjälpte till att avslöja hur de bearbetar och lagrar kunskap.

Dessa metoder parallellar faktiskt tekniker i neurovetenskap, såsom att använda elektroder eller fMRI för att studera hjärnaktivitet. Att probera en AI-modells inre representationer tillåter oss att förstå dess resonemangstrategier och upptäcka emergenta egenskaper, som konceptneuroner som aktiveras för specifika idéer (såsom Golden Gate Bridge-funktionen Anthropic hittade när de kartlade Claude). Denna forskningslinje är nu allmänt antagen inom branschen eftersom den har visat sig möjliggöra både tolkbarhet och praktiska ingrepp, som att ta bort fördomar från modeller. Så neurovetenskapsinspirerade tillvägagångssätt hjälper oss faktiskt att göra AI mer förklarbar, tillförlitlig och effektiv.

Vad inspirerade dig att medgrundade Aizip? Kan du dela resan från koncept till företagslansering?

Som en fundamental AI-forskare var mycket av mitt arbete teoretiskt, men jag ville överbrygga gapet mellan forskning och realistiska tillämpningar. Jag medgrundade Aizip för att bringa banbrytande AI-innovationer till praktisk användning, särskilt i resursbegränsade miljöer. Istället för att bygga stora grundläggande modeller fokuserade vi på att utveckla världens minsta och mest effektiva AI-modeller som skulle vara optimerade för edge-enheter.

Resan började i princip med en nyckelobservation: Medan AI-förbättringar snabbt skalar upp, kräver realistiska tillämpningar ofta lätta och högeffektiva modeller. Vi såg en möjlighet att bana en ny väg som balanserade vetenskaplig noggrannhet med praktisk distribution. Genom att utnyttja insikter från självlärande inlärning och kompakta modellarkitekturer har Aizip kunnat leverera AI-lösningar som fungerar effektivt på edge och öppnar upp nya möjligheter för AI i inbäddade system, IoT och bortom.

Aizip specialiserar sig på små AI-modeller för edge-enheter. Vilket gap i marknaden såg du som ledde till denna fokus?

AI-branschen har i stor utsträckning fokuserat på att skala upp modeller, men realistiska tillämpningar kräver ofta det motsatta — hög effektivitet, låg effektförbrukning och minimal fördröjning. Många AI-modeller idag är för beräkningskrävande för distribution på små, inbäddade enheter. Vi såg ett gap i marknaden för AI-lösningar som kunde leverera stark prestanda samtidigt som de opererade inom extrema resursbegränsningar.

Vi insåg att det inte är nödvändigt för varje AI-tillämpning att köra på massiva modeller, och att det inte heller skulle vara skalbart att förlita sig på modeller av den storleken för allt. Istället fokuserar vi på att optimera algoritmer för att uppnå maximal effektivitet samtidigt som vi upprätthåller noggrannhet. Genom att utforma AI-modeller anpassade för edge-tillämpningar — antingen i smarta sensorer, wearables eller industriell automation — möjliggör vi att AI körs på platser där traditionella modeller skulle vara opraktiska. Vår tillvägagångssätt gör AI mer tillgänglig, skalbar och energoeffektiv, och låser upp nya möjligheter för AI-driven innovation bortom molnet.

Aizip har varit i framkant av att utveckla Små Språkmodeller (SLM). Hur ser du att SLM tävlar eller kompletterar större modeller som GPT-4?

SLM och större modeller som GPT-4 är inte nödvändigtvis i direkt konkurrens eftersom de tjänar olika behov. Större modeller är kraftfulla när det gäller generalisering och djup resonemang, men kräver betydande beräkningsresurser. SLM är utformade för effektivitet och distribution på lågeffekts edge-enheter. De kompletterar stora modeller genom att möjliggöra AI-funktioner i realistiska tillämpningar där beräkningskraft, fördröjning och kostnadsbegränsningar är viktiga — såsom i IoT-enheter, wearables och industriell automation. När AI-antagandet växer ser vi en hybridtillvägagångssätt som uppstår, där stora, molnbaserade modeller hanterar komplexa frågor medan SLM tillhandahåller realtids, lokal intelligens på edge.

Vad är de största tekniska utmaningarna i att göra AI-modeller tillräckligt effektiva för lågeffekts edge-enheter?

En av de grundläggande utmaningarna är bristen på en fullständig teoretisk förståelse av hur AI-modeller fungerar. Utan en tydlig teoretisk grund är optimeringsansträngningar ofta empiriska, vilket begränsar effektivitetsvinster. Dessutom sker mänskligt lärande på olika sätt som nuvarande maskinlärningsparadigm inte fullständigt fångar, vilket gör det svårt att utforma modeller som imiterar mänsklig effektivitet.

Från ett ingenjörsperspektiv kräver att driva AI att fungera inom extrema begränsningar innovativa lösningar inom modellkomprimering, kvantifiering och arkitekturdesign. En annan utmaning är att skapa AI-modeller som kan anpassa sig till en mängd olika enheter och miljöer samtidigt som de upprätthåller robusthet. När AI alltmer interagerar med den fysiska världen genom IoT och sensorer blir behovet av naturliga och effektiva gränssnitt — såsom röst, gester och andra icke-traditionella inmatningsmetoder — kritiskt. AI på edge handlar om att omdefiniera hur användare interagerar med den digitala världen utan problem.

Kan du dela några detaljer om Aizips arbete med företag som Softbank?

Vi nyligen samarbetade med SoftBank på ett akvakultursprojekt som vann en CES Innovation Award — en som vi är särskilt stolta över. Vi utvecklade en effektiv, edge-baserad AI-modell för en fiskräkningsapplikation som kan användas av akvakulturoperatörer för fiskodlingar. Denna lösning adresserar en kritisk utmaning inom fiskodling som kan skapa hållbarhet, matavfall och lönsamhetsproblem. Branschen har varit långsam att anta AI som en lösning på grund av opålitlig kraft och anslutning till havs, vilket gör molnbaserade AI-lösningar opraktiska.

För att lösa detta utvecklade vi en lösning baserad på enheten. Vi kombinerade SoftBanks datorgenererade simuleringsdata för utbildning med våra kompakta AI-modeller och skapade ett högprecist system som körs på smartphones. I undervattenfälttester uppnådde det en 95-procentig erkännandegrad, vilket dramatiskt förbättrade fiskräkningens noggrannhet. Detta tillät fiskodlare att optimera lagringsförhållanden, bestämma om fisk skulle transporteras levande eller frusen, och upptäcka eventuella sjukdomar eller andra hälsoproblem hos fiskarna.

Den genombrottet förbättrar effektivitet, sänker kostnader och minskar beroendet av manuellt arbete. Mer allmänt visar det hur AI kan ha en påtaglig inverkan på realistiska problem.

Aizip har introducerat ett “AI-nanofabrik”-koncept. Kan du förklara vad det innebär och hur det automatiserar AI-modellutveckling?

AI-nanofabriken är vår interna AI-designautomatiseringspipeline, inspirerad av Electronic Design Automation (EDA) i halvledartillverkning. Tidig utveckling inom något nytt teknikområde involverar mycket manuellt arbete, så automatisering blir nyckeln till att påskynda framsteg och skala lösningar när området mognar.

Vi frågade oss, kan AI påskynda sin egen utveckling? AI-nanofabriken automatiserar varje skede av AI-modellutveckling, från datahantering till arkitekturdesign, modellval, utbildning, kvantifiering, distribution och felsökning. Genom att utnyttja AI för att optimera sig själv har vi kunnat minska utvecklingstiden för nya modeller med en genomsnittsfaktor på 10. I vissa fall med över 1 000 gånger. Det betyder att en modell som tidigare tog över ett år att utveckla nu kan skapas på bara några timmar.

En annan fördel är att denna automatisering också säkerställer att AI-lösningar är ekonomiskt livskraftiga för en stor mängd tillämpningar, vilket gör att realistisk AI-distribution blir mer tillgänglig och skalbar.

Hur ser du att rollen för edge-AI utvecklas under de närmaste fem åren?

Edge-AI lovar att förvandla hur vi interagerar med teknik, liknande hur smartphones revolutionerade internetåtkomst. De flesta AI-tillämpningar idag är molnbaserade, men detta börjar förändras när AI flyttar närmare sensorer och enheter som interagerar med den fysiska världen. Denna förändring betonar ett kritiskt behov av effektiv, realtidsbearbetning på edge.

Under de närmaste fem åren förväntar vi oss att edge-AI kommer att möjliggöra mer naturliga människodatorsinteraktioner, såsom röst- och gesterkänning och andra intuitiva gränssnitt, vilket skulle ta bort beroendet av traditionella barriärer som tangentbord och pekskärmar. AI förväntas också bli mer inbäddad i vardagsmiljöer som smarta hem eller industriell automation för att möjliggöra realtidsbeslut med minimal fördröjning.

En annan viktig trend kommer att vara den ökande autonomi av edge-AI-system. AI-modeller kommer att bli mer självlärande och anpassningsbara tack vare framsteg inom AI-nanofabriksliknande automatisering, så att de kan minska behovet av mänskligt ingripande i distribution och underhåll. Det kommer att öppna nya möjligheter inom en mängd olika branscher som hälsovård, fordonsindustri och jordbruk.

Vilka är några kommande AI-drivna enheter från Aizip som du är mest entusiastisk över?

Vi arbetar för att utöka användningsfall för våra modeller i nya branscher, och en som vi är särskilt entusiastiska över är en AI-agent för fordonssektorn. Det finns en växande trend, särskilt bland kinesiska biltillverkare, att utveckla röstassistenter som drivs av språkmodeller som känns mer som ChatGPT i kupén. Utmaningen är att de flesta nuvarande assistenter fortfarande förlitar sig på molnet, särskilt för naturlig, flexibel dialog. Endast grundläggande kommando- och kontrolluppgifter (såsom “sätt på AC” eller “öppna bagageluckan”) körs vanligtvis lokalt på fordonet, och den rigida naturen hos dessa kommandon kan bli en distraktion för förare om de inte har dem memoriserade med total exakthet.

Vi har utvecklat en serie ultraeffektiva, SLM-drivna AI-agenter som kallas Gizmo, som för närvarande används i en mängd olika tillämpningar för olika branscher, och vi arbetar för att distribuera dem som “co-piloter” i fordon också. Gizmo är utbildad för att förstå avsikt på ett mer nyanserat sätt, och när den fungerar som fordonets AI-agent kunde den utföra kommandon genom konversationsliknande, fritt språk. Till exempel kunde agenten justera kupéns temperatur om föraren bara sa “Jag är kall”, eller svara på en prompt som “Jag kör till Boston i morgon, vad borde jag ha på mig?” genom att kontrollera vädret och ge ett förslag.

Eftersom de körs lokalt och inte förlitar sig på molnet fortsätter dessa agenter att fungera i döda zoner eller områden med dålig anslutning, som tunnlar, berg eller landsbygdsområden. De förbättrar också säkerheten genom att ge förarna fullständig röstbaserad kontroll utan att ta deras uppmärksamhet från vägen. Och, på ett separat och lättsammare not, tänkte jag också nämna att vi för närvarande är i färd med att producera en AI-driven karaoke-modell för fordon och bluetooth-högtalare, som körs lokalt som co-piloten. Det tar vilken ljudinmatning som helst och tar bort mänskliga röster från den, vilket möjliggör att skapa en karaokeversion av vilken låt som helst i realtid. Så, förutom att hjälpa kunder att mer säkert hantera kontroller i bilen, letar vi också efter sätt att göra upplevelsen mer rolig.

Detta slag av lösningar, de som gör en meningsfull skillnad i människors vardagsliv, är de som vi är mest stolta över.

Aizip utvecklar ultraeffektiva AI-lösningar som är optimerade för edge-enheter, och erbjuder kompakta modeller för vision, ljud, tidsserier, språk och sensorfusionstillämpningar. Deras produkter möjliggör uppgifter som ansikts- och objekterkänning, nyckelordsidentifiering, ECG/EEG-analys och chatbots på enheten, allt driven av TinyML. Genom sin AI-nanofabriksplattform, Aizipline, accelererar företaget modellutveckling med hjälp av grundläggande och generativa modeller för att driva mot fullständig AI-designautomatisering. Aizips Gizmo-serie av små språkmodeller (300M–2B parametrar) stöder en stor mängd enheter och bringar intelligenta funktioner till edge.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka Aizip.