Tim Davis, Modular – haastattelusarjan perustaja ja puheenjohtaja

Tim Davis on perustaja ja puheenjohtaja Moduuli-, integroitu, koostettava työkalusarja, joka yksinkertaistaa tekoäly-infrastruktuuriasi, jotta tiimisi voi kehittää, ottaa käyttöön ja innovoida nopeammin. Modulaarinen tunnetaan parhaiten kehittämisestä Mojo, uusi ohjelmointikieli, joka kattaa tutkimuksen ja tuotannon välisen kuilun yhdistämällä Pythonin parhaat puolet järjestelmiin ja metaohjelmointiin.

Toista Yrittäjä ja tuotejohtaja. Tim auttoi rakentamaan, löytämään ja skaalaamaan suuria osia Googlen tekoälyinfrastruktuurista osoitteessa Google Brain ja ydinjärjestelmät sovellusliittymistä (TensorFlow), Kääntäjät (XLA & MLIR) ja palvelimen suoritusajat (CPU/GPU/TPU) ja TF Lite (Mobiili/Mikro/Web), Android ML & NNAPI, laaja malliinfrastruktuuri ja OSS miljardeille käyttäjille ja laitteille. Rakastaa juoksemista, rakentamista ja tuotteiden skaalaaminen auttaa ihmisiäja maailma.

Milloin löysit koodauksen alun perin ja mikä houkutteli sinua siinä?

Kun lapsena kasvoi Australiassa, isäni toi kotiin Commodore 64C:n ja pelit saivat minut koukkuun – Boulder Dash, Maniac Mansion, Double Dragon – mikä aika olla elossa. Tuo tietokone tutustutti minut BASICiin, ja sen kanssa hakkerointi oli ensimmäinen varsinainen johdatukseni ohjelmointiin. Asiat kiihtyivät lukion ja yliopiston myötä, jossa käytin perinteisempiä staattisia kieliä insinöörikursseilla, ja ajan myötä jopa harrastin Javascriptiä ja VBA:ta, ennen kuin päädyin Pythoniin suurimmalle osalle ohjelmointikielenä. tiede ja tekoäly. Kirjoitin joukon koodia aikaisemmissa käynnistyksissäni, mutta nykyään käytän tietysti Mojoa ja sen ympärille luomaamme työkaluketjua.

Työskentelit yli viisi vuotta Googlella vanhempana tuotepäällikkönä ja tuoteryhmän johtajana, ja autoit skaalaamaan suuria osia Googlen tekoälyinfrastruktuurista Google Brainissa. Mitä opit tästä kokemuksesta?

Ihmiset rakentavat maailmaa muuttavia teknologioita ja tuotteita, ja se on omistautunut ryhmä ihmisiä, joita sitoo laajempi visio, joka tuo heidät maailmaan. Google on uskomaton yritys, jolla on upeita ihmisiä, ja minulla oli onni tavata ja työskennellä monia tekoälyn kirkkaimpia mieliä vuosia sitten, kun muutin Brain-tiimiin. Suurin oppimani oli keskittyä aina käyttäjään ja paljastaa asteittain monimutkaisuus, jotta käyttäjät voivat kertoa ainutlaatuisia tarinoitaan maailmalle, kuten korjata Suuri Valliriutta tai auttaa ihmisiä kuten Jason rumpalisekä houkutella ja koota monipuolinen joukko ihmisiä ajamaan kohti yhteistä päämäärää. Massiivisessa erittäin älykkäiden ja lahjakkaiden ihmisten seurassa tämä on paljon vaikeampaa kuin voit kuvitella. Kun ajattelen siellä vietettyä aikaa, ihmiset, joiden kanssa työskentelit, ovat aina todella ikimuistoisia. Aion aina katsoa taaksepäin ja arvostaa sitä, että monet ihmiset ottivat riskejä minussa, ja olen valtavan kiitollinen siitä, että he tekivät, sillä monet näistä riskeistä rohkaisivat minua olemaan parempi johtaja ja ihminen, sukeltamaan syvälle ja ymmärtämään tekoälyjärjestelmiä todella. Se sai minut todella ymmärtämään, kuinka syvästi tekoälyllä on vaikutusta maailmaan, ja juuri tästä syystä minulla oli inspiraatiota ja rohkeutta lähteä Modularin perustamiseen.

Voitko jakaa Modularin syntytarinan?

Chris ja minä tapasimme Googlessa ja toimitimme monia vaikutusvaltaisia ​​teknologioita, jotka ovat vaikuttaneet merkittävästi tekoälyn maailmaan nykyään. Tunsimme kuitenkin, että liian monimutkainen ja hajanainen infrastruktuuri jarrutti tekoälyä, ja näimme omakohtaisesti, kuinka suuria työmääriä miljardeille käyttäjille annettiin. Meitä motivoi halu nopeuttaa tekoälyn vaikutusta maailmaan nostamalla alaa kohti tuotantolaatuisia tekoälyohjelmistoja, jotta meillä globaalina yhteiskunnana voisi olla suurempi vaikutus elämäämme. Ei voi kuin ihmetellä, kuinka monta ongelmaa tekoäly voi auttaa ratkaisemaan, kuinka monta sairautta parantunut, kuinka paljon tuottavampia meistä voi tulla lajina edistääksemme olemassaoloamme tuleville sukupolville lisäämällä tämän uskomattoman teknologian leviämistä.

Olemme työskennelleet yhdessä vuosia suuren mittakaavan kriittisen AI-infrastruktuurin parissa – näimme valtavan kehittäjien tuskan omakohtaisesti – “miksi asiat eivät vain toimi”? Jotta maailma voisi omaksua ja löytää tekoälyn valtavan muuttavan luonteen, tarvitsemme ohjelmisto- ja kehittäjäinfrastruktuurin, joka skaalautuu tutkimuksesta tuotantoon ja on erittäin helppopääsyinen. Tämä antaa meille mahdollisuuden avata seuraavan tavan tehdä tieteellisiä löytöjä – joissa tekoäly on kriittinen – ja on suuri insinöörihaasteTämän motivoivan taustan ansiosta meille kehittyi sisäinen usko siihen, että voisimme rakentaa uuden lähestymistavan tekoälyinfrastruktuurille ja antaa kehittäjille kaikkialla mahdollisuuden käyttää tekoälyä paremman maailman tekemiseksi. Olemme myös erittäin onnekkaita, että monet ihmiset ovat liittyneet seuraamme tällä matkalla, ja sen ansiosta meillä on maailman paras tekoälyinfrastruktuuritiimi.

Voitko keskustella siitä, kuinka Mojo-ohjelmointikieli alun perin rakennettiin omalle tiimillesi?

Modulaariset visio on mahdollistaa tekoälyn käyttö kaikille ja missä tahansa. Kaikki, mitä teemme Modularissa, keskittyy tähän tavoitteeseen, ja me kävelemme siitä taaksepäin, kun rakennamme tuotteitamme ja teknologiaamme. Tässä valossa meidän oma kehittäjä Ensinnäkin nopeus on meille tärkeä, ja kun olemme rakentaneet niin suuren osan olemassa olevasta tekoälyinfrastruktuurista maailmaa varten, meidän piti harkita huolellisesti, mikä auttaisi tiimimme liikkumaan nopeammin. Olemme eläneet tekoälyn kahden maailman kieliongelman läpi – tutkijat asuvat Pythonissa ja tuotanto- ja laitteistoinsinöörit C++:ssa – eikä meillä ollut muuta vaihtoehtoa kuin joko tyrmätä tätä tietä tai ajatella lähestymistapaa kokonaan uudelleen. Valitsimme jälkimmäisen. Oli selvä tarve ratkaista tämä ongelma, mutta monilla eri tavoilla sen ratkaisemiseksi – lähestyimme sitä vahvalla uskollamme kohtaamaan nykyisen ekosysteemin ja mahdollistamaan yksinkertaisemman nostamisen tulevaisuuteen. Tiimimme kantaa suuren mittakaavan ohjelmistojen siirtymisen arvet, emmekä halunneet sen toistuvan. Ymmärsimme myös, että mielestämme nykyään ei ole olemassa kieltä, joka voisi ratkaista kaikki AI-haasteet, joita yritämme ratkaista, ja siksi otimme ensimmäisen periaatteellisen lähestymistavan, ja Mojo syntyi.

Kuinka Mojo mahdollistaa saumattoman skaalauksen ja siirrettävyyden monentyyppisissä laitteissa?

Chris, minä ja Google-tiimimme (monet Modularilla) auttoimme tuomaan MLIR maailmaan vuotta sitten – tavoitteena on auttaa globaalia yhteisöä ratkaisemaan todellisia haasteita mahdollistamalla tekoälymallien johdonmukainen esittäminen ja suorittaminen kaikentyyppisissä laitteissa. MLIR on uudentyyppinen avoimen lähdekoodin kääntäjäinfrastruktuuri, joka on otettu käyttöön laajassa mittakaavassa ja josta on nopeasti tulossa uusi standardi kääntäjien rakentamiseen. llvmOttaen huomioon tiimimme historian tämän infrastruktuurin luomisessa, on luonnollista, että hyödynnämme sitä voimakkaasti Modularilla, ja tämä on perusta huippuluokan lähestymistavallemme uuden tekoälyinfrastruktuurin kehittämisessä maailmalle. Ratkaisevasti, vaikka MLIR otetaan nyt nopeasti käyttöön, Mojo on ensimmäinen kieli, joka todella hyödyntää MLIR:n tehoa ja tuo sen kehittäjille ainutlaatuisella ja helppokäyttöisellä tavalla. Tämä tarkoittaa, että se skaalautuu sovelluksia kirjoittavista Python-kehittäjistä suorituskykyinsinööreihin, jotka käyttävät korkean suorituskyvyn koodia, ja laitteistoinsinööreihin, jotka kirjoittavat erittäin matalan tason järjestelmäkoodia ainutlaatuiselle laitteistolleen.

Viittaukset Mojoon väittävät, että se on pohjimmiltaan Python++, jossa on Pythonin käytettävyys ja C:n korkea suorituskyky. Onko tämä törkeää liiallista yksinkertaistamista? Miten kuvailisit sitä?

Mojon pitäisi tuntua hyvin tutulta jokaiselle Python-ohjelmoijalle, koska se jakaa Pythonin syntaksin. Mutta on olemassa muutamia tärkeitä eroja, jotka näet, kun yksinkertaisen Python-ohjelman siirretään Mojolle, mukaan lukien se, että se toimii heti alusta alkaen. Yksi keskeisistä tavoitteistamme Mojolle on tarjota Python-superjoukko – eli tehdä Mojosta yhteensopiva olemassa olevien Python-ohjelmien kanssa – ja omaksua CPython-toteutus pitkän hännän ekosysteemin tueksi. Sen jälkeen voit lisätä hitaasti koodiasi ja korvata toimimattomia osia Mojon alemman tason ominaisuuksilla, jotta voit hallita selkeästi muistia, lisätä tyyppejä, käyttää automaattista viritystä ja monia muita ominaisuuksia C:n tai paremman suorituskyvyn saavuttamiseksi! Mielestämme Mojo antaa sinulle molempien maailmojen parhaat puolet, eikä sinun tarvitse kirjoittaa ja kirjoittaa uudelleen algoritmejasi useilla kielillä. Arvostamme sitä, että Python++ on valtava tavoite, ja se tulee olemaan monivuotinen yritys, mutta olemme sitoutuneet tekemään siitä totta ja mahdollistamaan legendaarisen yli 140 XNUMX kehittäjän yhteisömme auttamaan meitä rakentamaan tulevaisuutta yhdessä.

Äskettäisessä pääpuheessa esiteltiin, että Mojo on 35,000 XNUMX kertaa nopeampi kuin Python, miten tämä nopeus laskettiin?

Se on itse asiassa nyt 68,000 XNUMX kertaa suurempi! Mutta tunnustetaan, että se on vain yksi Mandelbrot-ohjelma – voit lukea kolmesta blogikirjoituksesta koostuvan sarjan siitä, miten saavutimme tämän – täältä, täältä ja täältä. Olemme toki tehneet tätä jo pitkään ja tiedämme, että suorituskykypelit eivät ole se, mikä ajaa kielten omaksumista (vaikka ne ovatkin hauskoja!) – vaan kehittäjien nopeus, kielen käytettävyys, korkealaatuiset työkaluketjut ja dokumentaatio sekä yhteisö, joka hyödyntää infrastruktuuria keksiäkseen ja rakentaakseen tavoilla, joita emme voi edes kuvitella. Olemme työkalujen rakentajia, ja tavoitteemme on antaa maailmalle mahdollisuus käyttää työkalujamme, luoda upeita tuotteita ja ratkaista tärkeitä ongelmia. Jos keskitymme suurempaan tavoitteeseemme, se on itse asiassa luoda kieli, joka vastaa nykyistä tilannettasi ja nostaa sinut sitten helposti parempaan maailmaan. Mojo mahdollistaa erittäin suorituskykyisen, käytettävän, staattisesti tyypitetyn ja kannettavan kielen, joka integroituu saumattomasti olemassa olevaan Python-koodiisi – antaen sinulle molempien maailmojen parhaat puolet. Sen avulla voit hyödyntää laitteiston todellisen tehon monisäikeisyyden ja rinnakkaistuksen avulla tavoilla, joihin raaka Python ei nykypäivänä pysty – avaamalla globaalille kehittäjäyhteisölle mahdollisuuden käyttää yhtä kieltä, joka skaalautuu ylhäältä alas.

Mojon taika on sen kyky yhdistää ohjelmointikieliä yhdellä työkalulla, miksi tämä on niin tärkeää?

Kielet menestyvät aina ekosysteemiensä ja niiden ympärille muodostuvien yhteisöjen voimalla. Olemme työskennelleet avoimen lähdekoodin yhteisöjen kanssa pitkään, ja olemme uskomattoman harkittuja sitoutuaksemme oikealla tavalla ja varmistaaksemme, että toimimme oikein. Työskentelemme uskomattoman kovasti infrastruktuurimme toimittamiseksi, mutta tarvitsemme aikaa tiimimme laajentamiseen – joten emme saa kaikkia vastauksia heti, mutta selviämme. Taaksepäin tavoitteemme on nostaa Python-ekosysteemiä omaksumalla koko olemassa ekosysteemi, emmekä pyri murtamaan sitä niin kuin monet muut projektit. Yhteentoimivuus vain helpottaa yhteisön kokeilemista infrastruktuuriamme ilman, että heidän tarvitsee kirjoittaa kaikkea koodiaan, ja sillä on paljon merkitystä tekoälylle.

Olemme myös oppineet niin paljon tekoälyinfrastruktuurin ja -työkalujen kehityksestä viimeisen kymmenen vuoden aikana. Nykyiset monoliittiset järjestelmät eivät ole helposti laajennettavissa tai yleistettävissä alkuperäisen toimialueensa ulkopuolelle, ja seurauksena on valtavasti pirstoutunut tekoälyn käyttöönottoteollisuus, jossa on kymmeniä työkaluketjuja, jotka sisältävät erilaisia ​​kompromisseja ja rajoituksia. Nämä suunnittelumallit ovat hidastaneet innovaatiotahtia, koska ne ovat vähemmän käyttökelpoisia, vähemmän kannettavia ja vaikeammin skaalattavissa.

Seuraavan sukupolven tekoälyjärjestelmän on oltava tuotantolaatuista ja tavattava kehittäjät siellä, missä he ovat. Se ei saa vaatia kallista käyttäjäkoodin uudelleenkirjoittamista, uudelleenarkkitehtuuria tai uudelleenperustamista. Sen on oltava natiivisti monikehys, monipilvi ja monilaitteisto. Siinä on yhdistettävä paras suorituskyky ja tehokkuus parhaaseen käytettävyyteen. Tämä on ainoa tapa vähentää pirstoutumista ja avata seuraavan sukupolven laitteisto-, data- ja algoritmiset innovaatiot.

Modulaarinen äskettäin ilmoitti keräävänsä 100 miljoonaa dollaria uutta rahoitusta, jota johtaa General Catalyst ja jonka täyttävät olemassa olevat sijoittajat GV (Google Ventures), SV Angel, Greylock ja Factory. Mitä meidän pitäisi odottaa seuraavaksi?

Tätä uutta pääomaa käytetään ensisijaisesti tiimimme kasvattamiseen, AI-infrastruktuurin parhaiden ihmisten palkkaamiseen ja alustamme kohtaaman valtavan kaupallisen kysynnän tyydyttämiseen. Modverse, yli 130 10 kehittäjän ja XNUMX XNUMX yrityksen muodostama yhteisömme, etsivät kaikki infrastruktuuriamme – joten haluamme varmistaa, että jatkamme skaalausta ja työskentelemme lujasti kehittääksemme sitä heille ja toimittaaksemme sen heille. Pidämme itseämme uskomattoman korkealla tasolla, ja toimittamamme tuotteet heijastavat sitä, keitä olemme tiiminä ja keitä meistä tulee yrityksenä. Jos tunnet jonkun, joka on innostunut, joka rakastaa ohjelmistojen ja laitteistojen rajaa ja joka haluaa auttaa näkemään tekoälyn tunkeutumaan maailmaan mielekkäällä ja positiivisella tavalla – lähetä heidät meille.

Mikä on visiosi ohjelmoinnin tulevaisuudesta?

Ohjelmoinnin tulee olla taito, jota jokainen yhteiskunnassa voi kehittää ja hyödyntää. Monille ohjelmoinnin ”idea” loihtii heti kuvan kehittäjästä, joka kirjoittaa monimutkaista matalan tason koodia, joka vaatii raskasta matematiikkaa ja logiikkaa – mutta sitä ei tarvitse nähdä sillä tavalla. Teknologia on aina ollut suuri tuottavuuden mahdollistaja yhteiskunnalle, ja tekemällä ohjelmoinnista helpommin saavutettavia ja käyttökelpoisempia, voimme saada useammat ihmiset omaksumaan sen. Ihmisten mahdollisuus automatisoida toistuvia prosesseja ja tehdä elämästään yksinkertaisempaa on tehokas tapa antaa ihmisille enemmän aikaa takaisin.

Pythonissa meillä on jo upea kieli, joka on kestänyt ajan kokeen – se on maailman suosituin kieli, jolla on uskomaton yhteisö – mutta sillä on myös rajoituksensa. Uskon, että meillä on valtava tilaisuus tehdä siitä entistä tehokkaampi ja kannustaa useampia ihmisiä maailmasta omaksumaan sen kauneuden ja yksinkertaisuuden. Kuten aiemmin sanoin, kyse on sellaisten tuotteiden rakentamisesta, jotka paljastavat monimutkaisuuden asteittain – mahdollistaen korkean tason abstraktiot, mutta skaalautuen myös uskomattoman matalan tason abstraktioihin. Näemme jo merkittävän harppauksen tekoälymallien avulla, jotka mahdollistavat progressiiviset tekstistä koodiksi -käännökset – ja näistä tulee vain yksilöllisempiä ajan myötä – mutta tämän maagisen innovaation takana on edelleen kehittäjä, joka kirjoittaa ja käyttää koodia sen pyörittämiseksi. Olemme kirjoittaneet tästä Menneisyydessä – tekoäly jatkaa luovuuden ja tuottavuuden vapauttamista monilla ohjelmointikielillä, mutta uskon myös, että Mojo avaa ekosysteemin aukkoa entisestään ja lisää käytettävyyttä, skaalautuvuutta ja laitteiston siirrettävyyttä monille muille kehittäjille ympäri maailmaa.

Lopuksi, tekoäly tunkeutuu elämäämme sanoinkuvaamattomilla tavoilla, ja se tulee olemaan kaikkialla – joten toivon, että Mojo katalysoi kehittäjiä ratkaisemaan ihmiskunnan tärkeimmät ongelmat nopeammin – riippumatta siitä, missä päin maailmaa he asuvat. Mielestäni se on tulevaisuus, jonka puolesta kannattaa taistella.

Kiitos upeasta haastattelusta, lukijoiden, jotka haluavat tietää lisää, kannattaa käydä Moduuli-.