Tim Davis, spoluzakladatel a prezident Modular – Interview Series

Tim Davis je spoluzakladatel a prezident Modular, integrovaného, komponibilního souboru nástrojů, které zjednodušují vaši AI infrastrukturu, aby váš tým mohl vyvíjet, nasazovat a inovovat rychleji. Modular je nejznámější díky vývoji Mojo, nového programovacího jazyka, který mostí mezeru mezi výzkumem a produkcí kombinací nejlepších vlastností Pythonu se systémy a metaprogramováním.

Opakovaný podnikatel a produktový lídr. Tim pomáhal budovat, zakládat a škálovat velké části AI infrastruktury Google (GOOGL ) v Google Brain a Core Systems od API (TensorFlow), kompilátorů (XLA & MLIR) a runtime pro server (CPU/GPU/TPU) a TF Lite (Mobil/Mikro/Web), Android ML & NNAPI, velké modelové infrastruktury & OSS pro miliardy uživatelů a zařízení. Má rád běhání, budování a škálování produktů, aby pomáhal lidem, a světu.

Kdy jste poprvé objevil kódování, a co vás k němu přitáhlo?

Jako dítě, které vyrůstalo v Austrálii, můj otec přinesl domů Commodore 64C a hraní her mě dostalo – Boulder Dash, Maniac Mansion, Double Dragon – jaké to bylo úžasné období. Tento počítač mě seznámil s BASICem a hraním si s ním byla moje první skutečná zkušenost s programováním. Věci se staly intenzivnějšími během střední školy a univerzity, kde jsem používal více tradiční statické jazyky pro inženýrské kurzy, a postupem času jsem dokonce experimentoval až s Javascriptem a VBA, než jsem se usadil na Pythonu jako na jazyku datové vědy a AI. Napsal jsem spoustu kódu ve svých dřívějších startupech, ale dneska samozřejmě využívám Mojo a nástrojový řetězec, který jsme kolem něj vytvořili.

Přes 5 let jste pracoval v Google jako Senior Product Manager a Group Product Leader, kde jste pomáhal škálovat velké části AI infrastruktury Google v Google Brain. Co jste se z této zkušenosti naučil?

Lidé jsou ti, kdo budují svět měnící technologie a produkty, a je to oddaný tým lidí spojený větší vizí, která je přivádí do světa. Google je úžasná společnost s úžasnými lidmi, a měl jsem štěstí, že jsem potkal a pracoval s mnoha z nejjasnějších myslí v AI před lety, když jsem se přestěhoval, aby se připojil k týmu Brain. Největší lekce, které jsem se naučil, byly vždy se soustředit na uživatele a postupně odhalovat složitost, aby uživatelé mohli vyprávět své jedinečné příběhy světu, jako je opravování Greater Barrier Reef nebo pomoc lidem, jako je Jason the Drummer, a přilákat a shromáždit rozmanitý mix lidí, aby se pohybovali směrem k společnému cíli. Ve velké společnosti velmi chytrých a talentovaných lidí je to mnohem těžší, než si můžete představit. Když se ohlédnu zpět, je to vždycky lidé, se kterými jste pracovali, kteří jsou skutečně pamatováni. Budu vždy vzpomínat s úctou a jsem enormně vděčný, že mnoho lidí riskovalo na mě, a jsem jim za to velmi vděčný, protože mnoho z těchto rizik mě povzbudilo, abych se stal lepším lídrem a člověkem, aby se ponořil hluboko a skutečně pochopil AI systémy. To mi skutečně ukázalo, jakou hlubokou sílu má AI na dopad na svět, a to byla ta samá причина, proč jsem měl inspiraci a odvahu opustit a spoluzakládat Modular.

Můžete sdílet příběh o vzniku Modular?

Chris a já se seznámili v Google a odeslali mnoho vlivných technologií, které měly významný dopad na svět AI dnes. Ale cítili jsme, že AI je drženo zpět příliš složitou a fragmentovanou infrastrukturou, kterou jsme viděli při nasazování velkých zátěží na miliardy uživatelů. Byli jsme motivováni touhou urychlit dopad AI na svět zvednutím průmyslu směrem k produkční kvalitě AI softwaru, aby jako globální společnost mohli mít větší dopad na to, jak žijeme. Nemůžete než se divit, kolik problémů může AI pomoci vyřešit, kolik nemocí vyléčit, jak mnohem produktivnější můžeme být jako druh, abychom prodloužili naše existence pro budoucí generace, zvýšením pronikání této úžasné technologie.

Pracovali jsme spolu po mnoho let na velkém měřítku kritické AI infrastruktury – viděli jsme enormní bolesti vývojářů první ruky – „proč nemohou věci prostě fungovat“? Aby svět přijal a objevil enormní transformační povahu AI, potřebujeme software a vývojářskou infrastrukturu, která škáluje od výzkumu k produkci, a je vysoce přístupná. To nám umožní odemknout další způsob vědeckých objevů – z nichž AI bude kritická – a je velkým inženýrským výzvou. S touto motivující historií jsme vyvinuli vnitřní víru, že můžeme vyrazit na stavbu nového přístupu k AI infrastruktuře, a povzbudit vývojáře všude, aby používali AI, aby pomohli udělat svět lepším místem. Jsme také velmi štěstí, že se k nám mnoho lidí připojilo na této cestě, a máme nejlepší AI infrastrukturní tým jako výsledek.

Můžete diskutovat, jak byl programovací jazyk Mojo původně postaven pro váš vlastní tým?

Vize Modular je umožnit AI být použit kýmkoliv, kdekoliv. Vše, co děláme v Modular, je zaměřeno na tento cíl, a jdeme zpět od něj způsobem, jakým stavíme naše produkty a technologie. V tomto světle je naše vlastní vývojářská rychlost tím, co nás zajímá nejprve, a jelikož jsme postavili tolik stávající AI infrastruktury pro svět – potřebovali jsme pečlivě zvážit, co by umožnilo našemu týmu pohybovat se rychleji. Prožili jsme dva-světový jazykový problém v AI – kde výzkumníci žijí v Pythonu, a produkční a hardwaroví inženýři žijí v C++ – a neměli jsme na výběr, než buď jít touto cestou, nebo úplně přehodnotit přístup. Zvolili jsme druhou možnost. Bylo zde jasné potřeba vyřešit tento problém, ale mnohem různých způsobů, jak jej vyřešit – přistupovali jsme k němu s naší silnou vírou v setkání s ekosystémem, kde je dnes, a umožnění jednoduchého zvednutí do budoucnosti. Našemu týmu chybí jizvy softwarové migrace ve velkém měřítku, a nechtěli jsme opakovat to. Také jsme si uvědomili, že není žádný jazyk dnes, podle našeho názoru, který by mohl vyřešit všechny výzvy, kterým čelíme pro AI, a tak jsme se uchýlili k prvnímu principu přístupu, a Mojo se narodil.

Jak Mojo umožňuje bezproblémové škálování a přenositelnost napříč mnoha typy hardwaru?

Chris, já a náš tým v Google (mnozí v Modular) pomohli přivést MLIR do světa před lety – s cílem pomoci globální komunitě vyřešit skutečné výzvy umožněním AI modelům být konzistentně reprezentovanými a spuštěnými na jakémkoli hardwaru. MLIR je nový typ open-source kompilátorové infrastruktury, který byl přijat ve velkém měřítku, a rychle se stává novým standardem pro stavbu kompilátorů prostřednictvím LLVM. Vzhledem k historii našeho týmu při vytváření této infrastruktury je přirozené, že ji využíváme silně v Modular a tato podpora našeho státního přístupu při vývoji nové AI infrastruktury pro svět. Kriticky, zatímco MLIR je nyní rychle přijímán, Mojo je prvním jazykem, který skutečně využívá sílu MLIR a vystavuje ji vývojářům jedinečným a přístupným způsobem. To znamená, že škáluje od Python vývojářů, kteří píší aplikace, po výkonové inženýry, kteří nasazují vysoce výkonný kód, po hardwarové inženýry, kteří píší velmi nízkoúrovňový systémový kód pro jejich jedinečný hardware.

Odkazy na Mojo tvrdí, že je to vlastně Python++, s přístupností Pythonu a vysokým výkonem C. Je to hrubé zjednodušení? Jak byste to popsali?

Mojo by mělo být velmi povědomé pro každého Python programátora, protože sdílí syntaxi Pythonu. Ale existují beberapa důležité rozdíly, které uvidíte, když portujete jednoduchý Python program do Mojo, včetně toho, že to prostě funguje přímo z krabice. Jedním z našich hlavních cílů pro Mojo je poskytnout nadmnožinu Pythonu – to znamená, aby Mojo byl kompatibilní s existujícími Python programy – a aby přijal CPython implementaci pro dlouhodobou podporu ekosystému. Pak vám umožníte pomalu doplnit váš kód a nahradit neperformující části funkcemi Mojo s explicitním řízením paměti, přidáním typů, využitím autotuning a mnoha dalších aspektů, aby získali výkon C nebo lepší! Cítíme, že Mojo vám dává nejlepší z obou světů a nemusíte psát a přepisovat vaše algoritmy v několika jazycích. Oceňujeme, že Python++ je enormní cíl, a bude to mnoholeté úsilí, ale jsme zavázáni k tomu, aby se to stalo realitou a aby naše legendární komunita více než 140K+ vývojářů pomohla budovat budoucnost společně.

V recentní keynote bylo ukázáno, že Mojo je 35 000krát rychlejší než Python, jak byla tato rychlost vypočtena?

Je to vlastně 68 000krát teď! Ale uznáváme, že je to jen jeden program v Mandelbrot – můžete jít a přečíst sérii tří blogových příspěvků o tom, jak jsme to dosáhli – zde, zde a zde. Samozřejmě, že jsme to dělali už dlouho a víme, že výkonové hry nejsou tím, co pohání přijetí jazyka (navzdory tomu, že jsou to zábavné!) – je to vývojářská rychlost, jazyková použitelnost, vysokokvalitní nástrojové řetězce a dokumentace, a komunita, která využívá infrastrukturu k vynálezům a budování způsobů, které nemůžeme ani představit. Jsme nástrojoví stavitelé, a náš cíl je povzbudit svět, aby používal naše nástroje, aby vytvářel úžasné produkty a řešil důležité problémy. Pokud se soustředíme na náš větší cíl, je to vlastně vytvořit jazyk, který vás potká tam, kde jste dnes, a pak vás zvedne do lepšího světa. Mojo vám umožňuje mít vysoce výkonný, použitelný, staticky typovaný a přenositelný jazyk, který bezproblémově integruje s vaším stávajícím Python kódem – dává vám nejlepší z obou světů. Umožňuje vám realizovat skutečnou sílu hardwaru s multithreadingem a paralelizací způsoby, které raw Python dnes nemůže – odemyká globální vývojářskou komunitu, aby měla jeden jazyk, který škáluje od vrcholu k dolnímu.

Mojoova magie spočívá v jeho schopnosti sjednotit programovací jazyky s jedním souborem nástrojů, proč je to tak důležité?

Jazyky vždy uspějí silou svých ekosystémů a komunit, které se kolem nich formují. Pracovali jsme s open-source komunitami po dlouhou dobu, a jsme neuvěřitelně zodpovědní při zapojení se správným způsobem a zajištění toho, že děláme správnou věc pro komunitu. Pracujeme neuvěřitelně tvrdě na odeslání naší infrastruktury, ale potřebujeme čas, aby škálovat náš tým – takže nebudeme mít všechny odpovědi okamžitě, ale dostaneme se tam. Krok zpět, náš cíl je zvednout Python ekosystém přijetím celého stávajícího ekosystému, a nebudeme se snažit roztrhat ho, jako mnoho jiných projektů. Přenositelnost prostě dělá to snazší pro komunitu, aby vyzkoušela naši infrastrukturu, bez nutnosti přepisovat veškerý kód, a to záleží hodně pro AI.

Také jsme se naučili tolik z vývoje AI infrastruktury a nástrojů za posledních deset let. Stávající monolitické systémy nejsou snadno rozšiřitelné nebo obecně použitelné mimo jejich počáteční doménu cíle a důsledkem je enormně fragmentovaná AI nasazovací průmysl s desítkami nástrojových řetězců, které nesou různé kompromisy a omezení. Tyto návrhové vzory zpomalily tempo inovací tím, že jsou méně použitelné, méně přenositelné a těžší škálovat.

Další generace AI systému musí být produkční kvality a musí potkat vývojáře tam, kde jsou. Nemusí vyžadovat drahý přepis, re-architekturu nebo re-bázi uživatelského kódu. Musí být nativně multi-framework, multi-cloud a multi-hardware. Musí kombinovat nejlepší výkon a efektivitu s nejlepší použitelností. To je jediný způsob, jak snížit fragmentaci a odemknout další generaci hardwaru, dat a algoritmických inovací.

Modular nedávno ohlásil získání 100 milionů dolarů v novém financování, vedeném General Catalyst a doplněném stávajícími investory GV (Google Ventures), SV Angel, Greylock a Factory. Co bychom měli očekávat dál?

Toto nové kapitál bude primárně použito pro růst našeho týmu, najímání nejlepších lidí v AI infrastruktuře, a pokračování v setkávání enormního komerčního požadavku, který vidíme pro naši platformu. Modverse, naše komunita více než 130K+ vývojářů a 10 000 podniků, všechny hledají naši infrastrukturu – takže chceme se ujistit, že budeme pokračovat ve škálování a tvrdé práci na vývoji pro ně, a dodání jim. Držíme se neuvěřitelně vysokého standardu, a produkty, které odesíláme, jsou odrazem toho, kým jsme jako tým, a kým se stáváme jako společnost. Pokud znáte někoho, kdo je poháněn, kdo miluje hranici softwaru a hardwaru, a kdo chce pomoci vidět AI proniknout do světa pozitivním způsobem – pošlete je naší cestou.

Jaký je váš pohled na budoucnost programování?

Programování by mělo být dovedností, kterou může vyvinout a využít každá společnost. Pro mnoho lidí „nápad“ programování okamžitě vyvolává obraz vývojáře, který píše komplexní nízkoúrovňový kód, který vyžaduje těžkou matematiku a logiku – ale nemusí to být vnímáno tímto způsobem. Technologie vždy byla velkým produktivním enablerem pro společnost, a děláním programování více přístupným a použitelným, můžeme povzbudit více lidí, aby ho přijali. Povzbuzení lidí, aby automatizovali opakující se procesy a dělali jejich životy jednodušší, je silným způsobem, jak dát lidem více času zpět.

A v Pythonu už máme úžasný jazyk, který stál test času – je to nejpopulárnější jazyk na světě, s úžasnou komunitou – ale také má omezení. Cítím, že máme obrovskou příležitost, aby ho učinit ještě silnějším, a aby povzbudit více světa, aby přijal jeho krásu a jednoduchost. Jako jsem řekl dříve, je to o budování produktů, které mají progresivní odhalení složitosti – povzbuzení vysokých abstrakcí, ale škálování až na velmi nízkoúrovňové také. Už jsme svědky významného skoku s AI modely, které umožňují progresivní text-to-kód překlady – a tyto budou pouze více personalizované s časem – ale za touto magickou inovací je stále vývojář, který autorizuje a nasazuje kód, aby ho napájel. Napsali jsme o tom v minulosti – AI bude pokračovat v odemykání kreativity a produktivity napříč mnoha programovacími jazyky, ale také věřím, že Mojo otevře ekosystémovou aperturu ještě dále, povzbuzující více přístupnosti, škálovatelnosti a hardwarové přenositelnosti pro více vývojářů po celém světě.

Na konci, AI pronikne do našich životů nepovědomitelnými způsoby, a bude existovat všude – takže doufám, že Mojo povzbudí vývojáře, aby šli a vyřešili nejvýznamnější problémy pro lidstvo rychleji – bez ohledu na to, kde žijí ve нашém světě. Cítím, že to je budoucnost, za kterou stojí za to bojovat.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Modular.