Yubei Chen, medgrunnlegger av Aizip Inc – Intervju-serie

Yubei Chen er medgrunnlegger av Aizip Inc., et selskap som bygger verdens minste og mest effektive AI-modeller. Han er også en assistentprofessor i ECE-avdelingen ved University of California, Davis. Chens forskning befinner seg på grensen mellom komputasjonsnevrovitenskap og dyp usupervisert (selv-supervisert) læring, og forbedrer vår forståelse av de komputasjonsprinsippene som styrer usupervisert representasjonslæring i både hjerner og maskiner, og omdefinerer vår innsikt i naturlig signalstatistikk.

Før han begynte ved UC Davis, gjorde Chen sin postdoktor-studie med Prof. Yann LeCun ved NYU Center for Data Science (CDS) og Meta Fundamental AI Research (FAIR). Han fullførte sin doktorgrad ved Redwood Center for Theoretical Neuroscience og Berkeley AI Research (BAIR), UC Berkeley, under veiledning av Prof. Bruno Olshausen.

Aizip utvikler ultra-effektive AI-løsninger som er optimalisert for edge-enheter, og tilbyr kompakte modeller for visjon, lyd, tidsserie, språk og sensorfusjonsapplikasjoner. Deres produkter muliggjør oppgaver som ansikt- og objektgjenkjenning, nøkkelordsgjenkjenning, ECG/EEG-analyse og on-device chatbots, alle drevet av TinyML. Gjennom sin AI-nanofabrikkplattform, Aizipline, akselerer selskapet modellutvikling ved å bruke grunnmodeller og generative modeller for å drive mot full AI-designautomatisering. Aizips Gizmo-serie av små språkmodeller (300M–2B parametre) støtter en rekke enheter, og bringer intelligente egenskaper til kanten.

Du tok postdoktorgraden din hos Yann LeCun ved NYU og Meta FAIR. Hvordan formet arbeidet med ham og forskningen din ved UC Berkeley måten du bygger AI-løsninger for den virkelige verden på?

Ved Berkeley var arbeidet mitt dypt forankret i vitenskapelig undersøkelse og matematisk grundighet. Doktorgradsforskningen min kombinerte elektroteknikk, informatikk og beregningsbasert nevrovitenskap. Jeg prøvde å forstå AI-systemer fra et «white-box»-perspektiv ved å utvikle metoder som avdekker de underliggende strukturene i data og læringsmodeller. Jeg arbeidet med tolkbare AI-modeller med høy ytelse og visualiseringsteknikker som åpnet svarte bokser.

Hos Meta FAIR lå vekten på å konstruere AI-systemer som kunne oppnå topp ytelse i stor skala. Med tilgang til førsteklasses datakraft undersøkte jeg grensene for selvveiledet læring og bidro til det vi nå kaller verdensmodeller: systemer som lærer av data og forestiller seg mulige miljøer. Kombinasjonen av vitenskapelig forståelse ved Berkeley og ingeniørdrevet skalering hos Meta ga meg et helhetlig syn på AI-utvikling. Den viste hvor viktige både teoretisk innsikt og praktisk gjennomføring er i løsninger for den virkelige verden.

Arbeidet ditt kombinerer beregningsbasert nevrovitenskap med AI. Hvordan påvirker innsikt fra nevrovitenskap måten du utvikler AI-modeller på?

I beregningsbasert nevrovitenskap studerer vi hvordan hjernen behandler informasjon ved å måle responsen på ulike stimuli, omtrent slik vi undersøker AI-modeller for å forstå mekanismene på innsiden. Tidlig i karrieren utviklet jeg visualiseringsteknikker for ordrepresentasjoner, der ord som «apple» ble brutt ned i semantiske bestanddeler som frukt og teknologi. Senere ble metoden utvidet til transformere og store språkmodeller og viste hvordan de behandler og lagrer kunnskap.

Metodene ligner teknikker fra nevrovitenskap, som elektroder og fMRI. Ved å undersøke interne representasjoner kan vi forstå resonneringsstrategier og oppdage fremvoksende egenskaper, for eksempel konseptnevroner som aktiveres for bestemte ideer. Et kjent eksempel er Anthropics kartlegging av Golden Gate Bridge-egenskapen i Claude. Denne forskningslinjen brukes nå bredt fordi den støtter både tolkbarhet og praktiske inngrep, som å fjerne skjevheter. Nevrovitenskapelig inspirerte metoder gjør dermed AI mer forklarbar, pålitelig og effektiv.

Hva var det som inspirerte deg til å grunnlegge Aizip, og kan du dele reisen fra konsept til selskapslansering?

Som en grunnleggende AI-forsker var mye av min forskning teoretisk, men jeg ønsket å brygge gapet mellom forskning og virkelige anvendelser. Jeg grunnla Aizip for å bringe fremtredende AI-innovasjoner inn i praktisk bruk, særlig i ressursbegrensede miljøer. I stedet for å bygge store grunnmodeller, fokuserte vi på å utvikle verdens minste og mest effektive AI-modeller som ville være optimalisert for edge-enheter.

Reisen begynte grundig med en nøkkelobservasjon: Mens AI-fremgangen raskt skalert opp, krever mange virkelige anvendelser lette og høyeffektive modeller. Vi så en mulighet til å bane en ny retning som balanserer vitenskapelig stringens med praktisk implementering. Ved å utnytte innsikt fra selv-supervisert læring og kompakt modellarkitektur, har Aizip vært i stand til å levere AI-løsninger som opererer effektivt på kanten og åpner opp nye muligheter for AI i innebygde systemer, IoT og utenfor.

Aizip spesialiserer seg på små AI-modeller for edge-enheter. Hva var det som førte til denne fokuset?

AI-industrien har i stor grad fokusert på å skalle opp modeller, men virkelige anvendelser krever ofte det motsatte — høy effektivitet, lav strømforbruk og minimal forsinkelse. Mange AI-modeller i dag er for komputasjonskrevende for å bli deployert på små, innebygde enheter. Vi så et gap i markedet for AI-løsninger som kunne levere sterk ytelse samtidig som de opererte innen ekstreme ressursbegrensninger.

Vi erkjente at det ikke er nødvendig for alle AI-anvendelser å kjøre på massive modeller, og at det heller ikke ville være skalerbart å avhenge av modeller av den størrelsen for alt. I stedet fokuserer vi på å optimalisere algoritmer for å oppnå maksimal effektivitet samtidig som vi opprettholder nøyaktighet. Ved å designe AI-modeller tilpasset edge-applikasjoner — enten i smarte sensorer, wearables eller industriell automatisering — muliggjør vi at AI kjører på steder hvor tradisjonelle modeller ville være upraktiske. Vår tilnærming gjør AI mer tilgjengelig, skalerbart og energieffektivt, og åpner opp nye muligheter for AI-drevet innovasjon utenfor skyen.

Aizip har vært tidlig ute med små språkmodeller (SLM-er). Hvordan kan de konkurrere med eller utfylle større modeller som GPT-4?

SLM-er og større modeller som GPT-4 konkurrerer ikke nødvendigvis direkte, fordi de dekker ulike behov. Store modeller er sterke på generalisering og dyp resonnering, men krever betydelige dataressurser. SLM-er er laget for effektiv drift på strømgjerrige kantenheter. De utfyller store modeller ved å gi AI-funksjoner der datakraft, forsinkelse og kostnader er avgjørende, blant annet i IoT-enheter, wearables og industriell automatisering. Etter hvert som bruken øker, ser vi en hybrid tilnærming der store skymodeller håndterer komplekse spørsmål, mens SLM-er gir lokal intelligens i sanntid.

Hva er de største tekniske utfordringene i å gjøre AI-modeller effektive nok for lavkraft edge-enheter?

En av de grunnleggende utfordringene er mangelen på en fullstendig teoretisk forståelse av hvordan AI-modeller fungerer. Uten en klar teoretisk basis er optimeringsinnsatsene ofte empiriske, og begrensede effektivitetsgevinster. I tillegg skjer menneskelig læring på mange måter som nåværende maskinlæringsparadigmer ikke fullt ut fanger, og gjør det vanskelig å designe modeller som etterligner menneskelig effektivitet.

Fra et ingeniørperspektiv krever ekstremt begrensede ressurser nyskaping innen modellkomprimering, kvantisering og arkitekturdesign. En annen utfordring er å få modeller til å tilpasse seg mange typer enheter og miljøer uten å miste robusthet. Når AI møter den fysiske verden gjennom IoT og sensorer, blir naturlige og effektive grensesnitt som tale, gester og andre utradisjonelle inndata avgjørende. Edge-AI handler derfor også om å omforme samspillet mellom mennesker og den digitale verden.

Kan du fortelle om Aizips arbeid med selskaper som SoftBank?

Vi samarbeidet nylig med SoftBank om et akvakulturprosjekt som fikk en CES Innovation Award. Vi utviklet en effektiv kantenhetsmodell for telling av fisk på oppdrettsanlegg. Næringen har vært treg med å ta i bruk skybasert AI fordi strøm og nettilgang til sjøs kan være upålitelig, selv om feil telling påvirker bærekraft, matsvinn og lønnsomhet.

Løsningen kjører på enheten. Vi kombinerte SoftBanks datagrafikksimuleringer som treningsdata med våre kompakte modeller og bygget et svært nøyaktig system som kjører på smarttelefoner. I feltprøver under vann oppnådde det 95 prosent gjenkjenningsgrad. Det gjorde det lettere å optimalisere lagringsforhold, avgjøre om fisk skulle transporteres levende eller fryst, og oppdage sykdom eller andre helseproblemer. Gjennombruddet øker effektiviteten, senker kostnader og reduserer behovet for manuelt arbeid.

Aizip har introdusert begrepet «AI Nanofactory». Hva betyr det, og hvordan automatiserer det utviklingen av AI-modeller?

AI Nanofactory er vår interne pipeline for automatisering av AI-design, inspirert av Electronic Design Automation i halvlederindustrien. Nye teknologifelt krever mye manuelt arbeid i starten, og automatisering blir nøkkelen til raskere utvikling og skalering. Vi spurte om AI kunne fremskynde sin egen utvikling, ikke bare andre bransjer.

Nanofabrikken automatiserer hvert trinn fra databehandling til arkitekturdesign, modellvalg, trening, kvantisering, utrulling og feilsøking. Ved å la AI optimalisere seg selv har vi i gjennomsnitt redusert utviklingstiden med en faktor på ti, og i enkelte tilfeller med mer enn tusen ganger. En modell som tidligere tok over ett år, kan da lages på noen timer. Automatiseringen bidrar også til at løsninger blir økonomisk levedyktige for flere bruksområder.

Hvordan tror du rollen til edge-AI vil utvikle seg de neste fem årene?

Edge-AI kan endre samspillet med teknologi slik smarttelefoner endret internettilgang. De fleste AI-applikasjoner er fortsatt skybaserte, men behandlingen flyttes nærmere sensorene og enhetene som møter den fysiske verden. Det øker behovet for effektiv sanntidsbehandling på kanten.

I fremtiden forventer vi at edge-AI vil muliggjøre mer naturlige menneske-maskin-interaksjoner, som tale- og gest-gjenkjenning og andre intuitive grensesnitt, som vil fjerne avhengighet av tradisjonelle barrierer som tastatur og berøringsflate. AI vil også bli mer innebygget i hverdagsmiljøer som smarte hjem eller industriell automatisering for å muliggjøre sanntidsbeslutning med minimal forsinkelse.

En annen viktig utvikling blir økende autonomi. Modellene vil bli mer selvoptimaliserende og tilpasningsdyktige gjennom automatisering i stil med AI Nanofactory, slik at behovet for menneskelig inngrep i utrulling og vedlikehold synker. Det åpner muligheter innen helse, bilindustri, landbruk og flere andre bransjer.

Hva er noen kommende AI-drevne enheter fra Aizip som du er mest spent på?

Vi jobber med å utvide bruksområdene for våre modeller i nye industrier, og en av dem vi er spesielt spent på er en AI-agent for bilindustrien. Det er en økende trend, særlig blant kinesiske bilprodusenter, å utvikle taleassistenter drevet av språkmodeller som føles mer som ChatGPT inne i kupén. Utfordringen er at de fleste nåværende assistenter fortsatt avhenger av skyen, særlig for naturlig og fleksibel dialog. Kun grunnleggende kommando- og kontroll-oppgaver (som “slå på AC” eller “åpne bagasjerommet”) kjører vanligvis lokalt på kjøretøyet, og den rigide naturen til disse kommandoene kan bli en distraksjon for sjåfører hvis de ikke har dem fullstendig memorert.

Vi har utviklet en serie ultra-effektive, SLM-drevne AI-agenter kalt Gizmo som for tiden brukes i en rekke applikasjoner for ulike industrier, og vi jobber med å deployere dem som in-kabin “co-piloter” for kjøretøy også. Gizmo er trent til å forstå intensjon på en mer nyansert måte, og når det fungerer som et kjøretøys AI-agent, kan det utføre kommandoer gjennom konversasjons-, fri-form-språk. For eksempel kan agenten justere kabine-temperaturen hvis sjåføren bare sier “Jeg er kald”, eller svare på en forespørsel som “Jeg kjører til Boston i morgen, hva skal jeg ha på meg?” ved å sjekke været og gi en anbefaling.

Fordi de kjører lokalt og ikke avhenger av skyen, fortsetter disse agentene å fungere i døde soner eller områder med dårlig tilkobling, som tunneler, fjell eller landsbygda. De forbedrer også sikkerheten ved å gi sjåfører fullstendig talebasert kontroll uten å ta bort oppmerksomheten fra veien. Og, på en separat og lettere note, ønsker jeg også å nevne at vi for tiden er i ferd med å sette en AI-drevet karaoke-modell for kjøretøy og bluetooth-høyttalere i produksjon, som kjører lokalt som co-piloten. Det tar inn vilkårlig lydinput og fjerner menneskestemmer fra det, som muliggjør å lage en karaoke-versjon av en sang i sanntid. Så, foruten å hjelpe kundene med å trygt håndtere kontrollene i bilen, ser vi også etter måter å gjøre opplevelsen mer morsom på.

Disse typene løsninger, de som gjør en meningsfull forskjell i folks hverdagsliv, er de vi er mest stolte av.

Aizip utvikler ultra-effektive AI-løsninger som er optimalisert for edge-enheter, og tilbyr kompakte modeller for visjon, lyd, tidsserie, språk og sensorfusjonsapplikasjoner. Deres produkter muliggjør oppgaver som ansikt- og objektgjenkjenning, nøkkelordsgjenkjenning, ECG/EEG-analyse og on-device chatbots, alle drevet av TinyML. Gjennom sin AI-nanofabrikkplattform, Aizipline, akselerer selskapet modellutvikling ved å bruke grunnmodeller og generative modeller for å drive mot full AI-designautomatisering. Aizips Gizmo-serie av små språkmodeller (300M–2B parametre) støtter en rekke enheter, og bringer intelligente egenskaper til kanten.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke Aizip.