Yubei Chen, Aizip Inc:n perustaja – Haastattelusarja

Yubei Chen on Aizip Inc:n perustaja, joka kehittää maailman pienimpiä ja tehokkaimpia tekoälymalli. Hän on myös apulaisprofessori Kalifornian yliopiston sähkötekniikan ja tietotekniikan laitoksessa. Chenin tutkimus keskittyy laskennallisen neurotieteen ja syvän itseohjautuvan (itseopiskelun) oppimisen yhtymäkohtaan, parantaen ymmärrystämme siitä, miten aivot ja koneet oppivat ja prosessoida tietoa.

Ennen siirtymistään UC Davisiin, Chen suoritti jatko-opintojaan Prof. Yann LeCunin johdolla NYU:n tietojenkäsittelytieteen keskuksessa (CDS) ja Meta Fundamental AI Research (FAIR):ssa. Hän suoritti tohtorintutkinnon Redwoodin teoreettisen neurotieteen keskuksessa ja Berkeley AI Research (BAIR):ssä, Kalifornian yliopistossa, Berkeleyssä, jossa häntä ohjasi Prof. Bruno Olshausen.

Aizip kehittää erittäin tehokkaita tekoälyratkaisuja, jotka on optimoitu reunalaiteille. Sen tuotteet mahdollistavat tehtäviä, kuten kasvo- ja esineiden tunnistamisen, avainsanan havaitsemisen, ECG/EEG-analyysin ja laitteiston sisäisiä chatboteja, kaikki käyttäen TinyML:ää. Sen tekoälynanofactory-alustalla, Aizipline, yritys kiihdyttää mallien kehittämistä perustuen ja generatiivisiin malleihin, jotta voidaan edetä kohti täydellistä tekoälysuunnittelun automaatiota. Aizipin Gizmo-sarjan pienet kielimallit (300M–2B parametriä) tukevat laajan valikoiman laitteita ja tuovat älykkyyttä reunalle.

Teit jatko-opintoja Yann LeCunin johdolla NYU:ssa ja Meta FAIR:ssa. Miten työskentely hänen kanssaan ja tutkimuksesi UC Berkeleyssä muovasivat lähestymistapaasi kehittäämään käytännön tekoälyratkaisuja?

Berkeleyssä työni juontui syvälti tieteellisestä tutkimuksesta ja matemaattisesta tarkkuudesta. Väitöskirjatutkimukseni, joka yhdisti sähkötekniikkaa, tietotekniikkaa ja laskennallista neurotiedettä, keskittyi ymmärtämään tekoälyjärjestelmiä “valkoisen laatikon” näkökulmasta, eli kehittämään menetelmiä, joilla voidaan paljastaa tiedon ja oppimismallien sisäinen rakenne. Työskentelin tulkitettavien, suorituskykyisten tekoälymallien ja visualisointitekniikoiden kehittämisellä, jotka auttoivat avaamaan mustan laatikon tekoälyjärjestelmiä.

Meta FAIR:ssa painopiste oli tekoälyjärjestelmien insinöörimäisessä kehittämisessä saavuttaa huipputason suorituskyky mittakaavassa. Maailmanluokan laskentaresurssien saatavilla ollessa tutkin itseohjautuvan oppimisen rajoja ja vaikuttamin osaan, mitä nyt kutsutaan “maailmanmalleiksi” — tekoälyjärjestelmiksi, jotka oppivat tiedosta ja kuvittelevat mahdollisia ympäristöjä. Tämä kaksinkertainen kokemus — tieteellinen ymmärrys Berkeleyssä ja insinöörimäinen skaalaus Meta FAIR:ssa — on antanut minulle kattavan näkemyksen tekoälyn kehittämisestä. Se korostaa sekä teoreettisen ymmärryksen että käytännön toteutuksen tärkeyttä, kun kehitetään tekoälyratkaisuja käytännön sovelluksiin.

Tutkimuksesi yhdistää laskennallisen neurotieteen ja tekoälyn. Miten neurotieteen havainnot vaikuttavat siihen, miten kehität tekoälymalleja?

Laskennallisessa neurotieteessä tutkimme, miten aivot prosessoi tietoa mittaamalla niiden vastauksia erilaisiin ärsykkeisiin, samalla tavoin kuin miten tutkimme tekoälymallien sisäisiä mekanismeja. Urani alussa kehittelin visualisointitekniikoita, joilla analysoin sanaupotuksia — jaettaessa sanoja, kuten “omena”, niiden semanttisiin osatekijöihin, kuten “hedelmä” ja “tekniikka”. Myöhemmin tämä lähestymistapa laajeni monimutkaisempiin tekoälymalleihin, kuten transformer-malleihin ja suuriin kielimalleihin, jotka auttoivat paljastamaan, miten ne prosessoivat ja säilöivät tietoa.

Nämä menetelmät ovat todella rinnastettavissa neurotieteen menetelmiin, kuten sähköden ja fMRI:n avulla tutkimiseen aivotoimintaa. Tekoälymallin sisäisten edustusten tutkiminen mahdollistaa ymmärtää sen päättelystrategioita ja havaita emergoituvia ominaisuuksia, kuten käsitehermoja, jotka aktivoituvat tiettyjen ajatuksien kohdalla (kuten Golden Gate -sillan piirre, jonka Anthropic löysi kartuttaessaan Claudea). Tämä tutkimussuunta on nyt laajasti omaksuttu teollisuudessa, koska se on osoittautunut mahdollistavan sekä tulkitettavuuden että käytännön puuttumisen, poistaen mallien harhaa. Neurotieteen inspiroidut lähestymistavat auttavat siis tekemään tekoälystä selitettävämmästä, luotettavammasta ja tehokkaammasta.

Mikä innoitti sinua perustamaan Aizipin? Voit kertoa matkasta konseptista yrityksen lanseeraukseen?

Tutkijana suurin osa työstäni oli teoreettista, mutta halusin siltaa tieteen ja käytännön sovellusten välistä kuilua. Perustin Aizipin, jotta voisin tuoda edistyneitä tekoälyinnovaatioita käytännön käyttöön, erityisesti resurssirajoitettuihin ympäristöihin. Sen sijaan, että olisin rakentanut suuria perusmalleja, keskityin kehittämään maailman pienimpiä ja tehokkaimpia tekoälymalleja, jotka olisivat optimoituja reunalaiteille.

Matka alkoi avainhavainnolla: Vaikka tekoälykehitys laajeni nopeasti, käytännön sovellukset usein vaativat kevyitä ja erittäin tehokkaita malleja. Näimme mahdollisuuden urata uuden suunnan, jossa yhdisteltiin tieteellinen tiukkuus ja käytännön toteutus. Hyödyntämällä itseohjautuvan oppimisen ja tiivisten mallirakenteiden havaintoja, Aizip on pystynyt toimittamaan tekoälyratkaisuja, jotka toimivat tehokkaasti reunalla ja avaavat uusia mahdollisuuksia tekoälylle upotetuissa järjestelmissä, IoT:ssä ja muualla.

Aizip erikoistuu pieniin tekoälymalliin reunalaiteille. Mikä markkinan aukko sinä näit, joka johti tähän keskittymiseen?

Tekoälyteollisuus on keskittynyt suuresti mallien skaalaamiseen, mutta käytännön sovellukset usein vaativat päinvastoin — korkeaa tehokkuutta, alhaisen virrankulutuksen ja vähäistä viivettä. Monet nykyiset tekoälymallit ovat liian laskennallisesti kalliita käyttöönottamiseksi pienissä, upotetuissa laitteissa. Näimme markkinan aukon tekoälyratkaisuissa, jotka voivat tarjota vahvan suorituskyvyn toimien rajoitettujen resurssien puitteissa.

Tunnistimme, ettei ole välttämätöntä, että jokainen tekoälysovellus toimisi massiivisilla malleilla, eikä se olisi skaalautuva, jos nojataan malleihin, jotka ovat niin suuria. Sen sijaan keskitymme algoritmiensa optimointiin saavuttaaksemme maksimaalisen tehokkuuden säilyttäen tarkin. Suunnittelemalla tekoälymalleja reunatarkoituksiin — olipa kyseessä älykkäät anturit, kannettavat laitteet tai teollinen automaatio — mahdollistamme tekoälyn toimimisen paikoissa, joissa perinteiset mallit olisivat käytännössä mahdottomia. Lähestymistapa tekee tekoälystä helpommin saatavilla, skaalautuvamman ja energiatehokkaamman, avaamalla uusia mahdollisuuksia tekoälyyn perustuvalle innovaatiolle pilven ulkopuolella.

Aizip on ollut edelläkävijä kehittämässä Pieniä Kielimalleja (SLM). Miten näet SLMien kilpailevan tai täydentävän suurempia malleja, kuten GPT-4?

SLM:t ja suuremmat mallit, kuten GPT-4, eivät välttämättä ole suoraan kilpailevia, koska ne palvelevat eri tarpeita. Suuremmat mallit ovat voimakkaita yleistymisen ja syvän päättelyn suhteen, mutta vaativat merkittäviä laskentaresursseja. SLM:t on suunniteltu tehokkuutta ja käyttöä varten reunalaiteilla. Ne täydentävät suurempia malleja mahdollistamalla tekoälyominaisuuksia käytännön sovelluksissa, joissa laskentaresurssit, viive ja kustannukset ovat olennaisia — kuten IoT-laitteissa, kannettavissa laitteissa ja teollisessa automaatiossa. Tekoälyn omaksumisen kasvaessa näemme hybridilähestymistavan, jossa suuret, pilvipohjaiset mallit käsittelevät monimutkaisia kysymyksiä, kun taas SLM:t tarjoavat reaaliaikaisen, paikallisen älykkyyden reunalla.

Mitkä ovat suurimmat tekniset haasteet tekoälymallien tehokkuuden parantamisessa riittävästi matalatehoisille reunalaiteille?

Yksi perustavanlaatuinen haaste on, että tekoälymallien toimintaa ei ymmärretä täysin teoreettisesti. Ilman selkeää teoreettista perustaa optimointityöt ovat usein empiriaa, mikä rajoittaa tehokkuuden parantamista. Lisäksi ihmisen oppiminen tapahtuu monin tavoin, joita nykyiset koneoppimismallit eivät täysin kaapaa, mikä tekee vaikeaksi suunnitella malleja, jotka jäljittelevät ihmisen tehokkuutta.

Insinöörimäisestä näkökulmasta tekoälyn työntäminen äärimmäisiin rajoituksiin vaatii innovatiivisia ratkaisuja mallien pakkaamiseen, kvantifioimiseen ja arkkitehtuurin suunnittelussa. Toinen haaste on luoda tekoälymalleja, jotka voivat sopeutua moniin laitteisiin ja ympäristöihin säilyttäen samalla robustisuutta. Tekoäly vuorovaikuttaa yhä enemmän fyysiseen maailmaan IoT:n ja anturien kautta, mikä korostaa tarvetta luonnollisille ja tehokkaille käyttöliittymille, kuten puhe- ja eleiden tunnistamiselle ja muiden perinteisten esteiden poistamiselle, kuten näppäimistöjen ja kosketusnäyttöjen tarpeelle. Tekoäly reunalla on tekoälyn uudelleenmäärittelyä, miten ihmiset vuorovaikuttavat digitaalisen maailman kanssa vaivattomasti.

Voit kertoa yksityiskohtia Aizipin yhteistyöstä yritysten, kuten Softbankin, kanssa?

Olemme äskettäin yhteistyössä Softbankin kanssa akvakulttuuriprojektissa, joka ansaitsi CES-innovaatiopalkinnon — yhden, josta olemme erityisen ylpeitä. Kehittimme tehokkaan, reunapohjaisen tekoälymallin kalatunnistussovellukseen, jota voidaan käyttää kalankasvattajien kalataloudessa. Tämä ratkaisu ratkaisee kriittisen haasteen kalankasvatuksessa, joka voi lopulta aiheuttaa kestävyyden, ruokahävikin ja kannattavuuden ongelmia. Teollisuus on ollut hitaasti omaksumassa tekoälyä ratkaisuna, koska epäluotettava virta ja yhteys merellä tekevät pilvipohjaisista tekoälyratkaisuista käytännössä mahdottomia.

Ratkaisimme tämän kehittämällä ratkaisun laitteistopuolelle. Yhdistimme Softbankin tietokonegrafiikkasimulaatiot koulutusdataa varten ja kompaktit tekoälymallimme, ja loimme erittäin tarkan järjestelmän, joka toimii älypuhelimilla. Vedenalaisissa kenttäkokeissa se saavutti 95 prosentin tunnistustehokkuuden, parantaen merkittävästi kalatunnistuksen tarkin. Tämä parantaa tehokkuutta, laskee kustannuksia ja vähentää riippuvuutta manuaalisesta työstä.

Tämä läpimurto osoittaa, miten tekoäly voi vaikuttaa konkreettisesti käytännön ongelmiin.

Aizip on esitellyt “Tekoälynanofactory”-konseptin. Voit selittää, mitä se tarkoittaa ja miten se automatisoi tekoälymallien kehittämisen?

Tekoälynanofactory on sisäinen tekoälysuunnittelun automaatio-pipeline, joka on inspiroitu puolijohdeteollisuuden elektroniikkasuunnittelun automaatiosta (EDA). Alkuvaiheessa minkä tahansa uuden teknologian kehittämisessä on paljon manuaalista työtä, joten automaatio on avain nopeuttamaan edistystä ja skaalautumaan ratkaisuja, kun ala kypsyy. Kysyimme, voimmeko tekoälyä käyttää tekoälyn itsensä kehittämiseen? Tekoälynanofactory automatisoi jokaisen vaiheen tekoälymallien kehittämisessä, alkaen datakäsittelystä, arkkitehtuurin suunnittelusta, mallin valinnasta, koulutuksesta, kvantifioinnista, käyttöönotosta ja virheenjäljityksestä. Käyttämällä tekoälyä itsensä optimointiin, olemme pystyneet vähentämään uusien mallien kehittämisaikaa keskimäärin kymmenkertaiseksi. Joidenkin tapausten kohdalla jopa yli tuhatkertaiseksi. Tämä tarkoittaa, että malli, joka aiemmin vaati yli vuoden kehittämisaikaa, voidaan nyt luoda vain muutamassa tunnissa.

Toinen etu on, että tämä automaatio myös varmistaa, että tekoälyratkaisut ovat taloudellisesti kannattavia laajalle sovellusalueelle, tehden käytännön tekoälykäyttöönottamisen helpommaksi ja skaalautuvammaksi.

Miten näet reunatekoälyn roolin kehittyvän seuraavan viiden vuoden aikana?

Reunatekoäly luvaa muuttaa, miten vuorovaikutamme teknologian kanssa, samalla tavoin kuin älypuhelimet vallankumous internetin saatavuuden. Useimmat tekoälysovellukset tänään ovat pilvipohjaisia, mutta tämä on alkanut muuttua, kun tekoäly siirtyy lähemmäs antureita ja laitteita, jotka vuorovaikuttavat fyysiseen maailmaan. Tämä siirtyminen korostaa kriittistä tarvetta tehokkaalle, reaaliajalliselle prosessoinnille reunalla.

Seuraavan viiden vuoden aikana odotamme, että reunatekoäly mahdollistaa enemmän luonnollisia ihmisen ja tietokoneen välisiä vuorovaikutuksia, kuten puhe- ja eleiden tunnistamisen sekä muita intuitiivisia käyttöliittymiä, jotka poistavat perinteiset esteet, kuten näppäimistöt ja kosketusnäytöt. Tekoäly on myös odotettavissa upotettavaksi arkipäiväisiin ympäristöihin, kuten älykkäisiin kotiin ja teolliseen automaatioon, jotta voidaan mahdollistaa reaaliaikainen päätöksenteko vähäisellä viiveellä.

Toinen tärkeä suuntaus on reunatekoälyjärjestelmien kasvava autonomia. Tekoälymallit tulevat olemaan yhä enemmän itseoptimoivia ja sopeutuvia, ansiosta tekoälynanofactory-tyyppisen automaation edistymistä, jolloin ne pystyvät vähentämään tarvetta ihmisen väliintuloon käyttöönotossa ja ylläpidossa. Tämä avaa uusia mahdollisuuksia useilla aloilla, kuten terveydenhuollossa, autoteollisuudessa ja maataloudessa.

Mitkä ovat joitakin tulevia tekoälylaitteita Aizipilta, joista olet erityisen innoissasi?

Töitämme laajentamaan sovelluksia mallejamme uusille aloille, ja yksi, josta olemme erityisen innoissamme, on tekoälyagentti autoteollisuudelle. On kasvava liike, erityisesti kiinalaisten autonvalmistajien keskuudessa, kehittää älykkäitä älyavusteisia järjestelmiä, jotka tuntevat ChatGPT:n kaltaisia kielimalleja. Haaste on, että useimmat nykyiset avustajat riippuvat edelleen pilvestä, erityisesti luonnollisen ja joustavan dialogin osalta. Vain perinteiset, rajoitetut komennot (kuten “käynnistä ilmastointi” tai “avaa takaovet”) toimivat paikallisesti ajoneuvossa, ja näiden komentojen jähmeä luonne voi muodostua häiriöksi kuljettajille, jos he eivät ole oppineet niitä täydellisesti.

Olemme kehittäneet sarjan erittäin tehokkaita, SLM-pohjaisia tekoälyagenteja, jotka on tällä hetkellä käytössä useissa sovelluksissa eri aloilla, ja työskentelemme niiden käyttöönotossa myös ajoneuvon sisäisinä “perämiehinä”. Gizmo on koulutettu ymmärtämään aikomuksia monin tavoin, ja toimien ajoneuvon tekoälyagenttina se voi suorittaa komennot vuorovaikutteisen, vapaan kielen kautta. Esimerkiksi agentti voi säätää matkustamon lämpötilaa, jos kuljettaja sanoo vain “Olen kylmä”, tai vastata kehotukseen “Lähden Bostoniin huomenna, mitä minun pitäisi pitää?” tarkistamalla säätiedot ja antamalla ehdotuksen.

Koska ne toimivat paikallisesti eivätkä riipu pilvestä, nämä agentit jatkavat toimintaa myös alueilla, joilla on heikko tai olematon yhteys, kuten tunnelissa, vuoristoisilla alueilla tai maaseutualueilla. Ne myös parantavat turvallisuutta antamalla kuljettajille täydellisen älypuhelimen käyttöliittymän ilman, että heidän tarvitsee poistaa katseitaan tieltä. Ja, erillisenä, mutta mielenkiintoisena huomautuksena, mainitsen, että olemme parhaillaan kehittämässä myös tekoälyvoittoista karaoke-mallia ajoneuvoille ja Bluetooth-kaiuttimille, joka toimii paikallisesti kuin perämies. Periaatteessa se ottaa minkä tahansa ääni-inputin ja poistaa siitä ihmisten äänet, mikä mahdollistaa karaoke-version minkä tahansa kappaleen luomisen reaaliajassa. Siis, paitsi että autamme asiakkaitamme hallitsemaan turvallisemmin autoa, etsimme myös keinoja tehdä kokemuksesta myös hauskemmaksi.

Nämä ratkaisut, jotka tekevät merkittävän eron ihmisten arkipäiväisessä elämässä, ovat niitä, joista olemme ylpeitä.

Aizip kehittää erittäin tehokkaita tekoälyratkaisuja, jotka on optimoitu reunalaiteille, tarjoten kompaktit mallit näkemiseen, ääneen, aikasarjaan, kieleen ja anturifusion sovelluksiin. Sen tuotteet mahdollistavat tehtäviä, kuten kasvo- ja esineiden tunnistamisen, avainsanan havaitsemisen, ECG/EEG-analyysin ja laitteiston sisäisiä chatboteja, kaikki käyttäen TinyML:ää. Sen tekoälynanofactory-alustalla, Aizipline, yritys kiihdyttää mallien kehittämistä perustuen ja generatiivisiin malleihin, jotta voidaan edetä kohti täydellistä tekoälysuunnittelun automaatiota. Aizipin Gizmo-sarjan pienet kielimallit (300M–2B parametriä) tukevat laajan valikoiman laitteita ja tuovat älykkyyttä reunalle.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Aizipin sivustolla.