Varun Mohan, spoluzakladatel a CEO Codeium – Interview Series

Varun Mohan je spoluzakladatel a CEO Codeium, nástroje pro urychlení kódu postaveného na nejnovější technologii umělé inteligence. V současné době má Codeium dvě hlavní funkce: Autocomplete, která navrhuje kód, který chcete napsat, a tím vám ušetří čas na všechno od boilerplate k unit testům, a Search, která vám umožňuje procházet váš repozitář pomocí přirozených jazykových dotazů.

Můžete sdílet příběh vzniku Codeium jako platformy pro zvýšení efektivity hlubokých učících se zátěží?

Když Douglas Chen a já založili společnost v roce 2021, nazvali jsme ji Exafunction, společnost zaměřenou na software pro virtualizaci GPU. V té době jsme spravovali deset tisíc GPU napříč veřejným cloudem. Za krátkou dobu Exafunction získala zákaznickou trakci velmi rychle a stala se lídrem v nasazování modelů hlubokého učení v měřítku.

Ale naše rozsáhlé zkušenosti s technologiemi AR, VR a autonomních vozidel – oblastmi, které představují významné, reálné aplikace hlubokého učení – nás nakonec přivedly k většímu uvědomění. S příchodem generativních modelů, zejména modelů podobných transformátorům, jsme předpověděli zásadní posun v odvětví.

Pozorovali jsme, že ve světě, který je stále více ovlivňován generativními modely umělé inteligence, hodnota pro koncové uživatele nebude spočívat pouze ve poskytování infrastruktury. Místo toho bylo jasné, že skutečný potenciál pro dopad spočívá v využití této infrastruktury pro vytváření aplikací, které přímo zvyšují produktivitu a efektivitu pro vývojáře. To je důvod, proč jsme se rozhodli zaměřit na vývoj nástroje pro urychlení kódu na základě naší vlastní infrastruktury. To byl vznik Codeium.

Tato strategická změna nebyla pouze reakcí na vývoj technologického prostředí, ale také proaktivním krokem k umístění Codeium do čela aplikací umělé inteligence ve softwarovém vývoji. Zaměřením se na urychlení kódu jsme cílem umožnit vývojářům, aby mohli využít sílu umělé inteligence k zefektivnění svých pracovních postupů a inovovat v dosud nevídaném tempu.

Do poloviny roku 2022 jsme neměli žádné uživatele, ale v roce 2023 Codeium vzrostl na 300 000 aktivních uživatelů a 100 podnikových zákazníků. Vzali jsme riziko, ale rychle se vyplatilo.

Původně jste učinili platformu Codeium zcela zdarma pro vývojáře, jaké byly některé logistické a technické výzvy spojené s touto volbou?

Rozhodnutí nabízet Codeium zdarma vývojářům vzešlo z vize široké dostupnosti a přijetí, ale představovalo sadu logistických a technických překážek.

Nejprve finanční důsledky udržování platformy založené na hlubokém učení představovaly významnou výzvu, protože náklady na infrastrukturu by se mohly spirálovitě zvyšit bez pečlivého optimalizování – podobné výzvy, kterým čelí konkurenti. Proto bylo důležité optimalizovat infrastrukturu pro maximální nákladovou efektivitu, zatímco zajištění, že platforma může poskytovat vysoce kvalitní služby bez nutnosti prohibitivně drahého hardwaru pro společnost i její uživatele.

To vedlo k “GPU lehkému” přístupu, který umožňuje efektivní provoz s minimální investicí do hardwaru. Nakonec udržení bezplatné služby, která je škálovatelná a výkonná, vyžadovalo infrastrukturu, která může podporovat rostoucí základnu uživatelů bez degradace kvality služby.

Byly také bezpečnostní a soukromí, které jsme museli vyřešit, a které jsou nezbytné pro ochranu uživatelských dat proti neoprávněnému přístupu.

Je to všechno komplexní rovnováha inovací, strategického řízení zdrojů a pevného závazku k hodnotě uživatele.

Codeium nabízí možnost být self-hosted, proč je to pro podniky výhodné?

Bezpečnost duševního vlastnictví je kritická pro podniky. Naše self-hosting возможности řeší jejich potřeby pro bezpečnost, přizpůsobení a kontrolu dat – zejména pro ty, kteří jsou váháni s ohledem na potenciální zranitelnosti externě spravovaných služeb.

Mimo bezpečnost Codeium vyniká svou přizpůsobitelností; může být personalizován podle soukromých dat a pracovních postupů organizace, zajišťuje, že platforma nejenom integruje do stávajících procesů, ale také je optimalizuje.

Tato úroveň přizpůsobení se rozšiřuje na kompatibilitu s různými nástroji pro správu zdrojového kódu, poskytující flexibilitu pro společnosti, které nepoužívají hlavní platformy jako GitHub, a tím rozšiřuje jeho použitelnost.

Self-hosting možnost, navzdory potenciálně vyšším počátečním nákladům, se ukazuje jako nákladově efektivní volba v dlouhodobém horizontu. Minimalizuje potřebu drahého hardwaru prostřednictvím GPU-lehkého prostředí a vyhýbá se opakujícím se poplatkům typickým pro cloudové služby, což z něj činí ekonomicky smysluplné řešení pro velké podniky.

Jedná se o další důležitou věc: Codeium nabízí rozsáhlý soubor funkcí, který podporuje širokou škálu programovacích jazyků, vývojových prostředí a specializovaných nástrojů, jako jsou Jupyter Notebooks, zajišťuje, že splňuje rozmanité potřeby různých oddělení uvnitř organizace. Tato úroveň podpory nejenom zefektivňuje různé vývojové úkoly, ale také zvyšuje produktivitu napříč celou deskou, což z Codeium činí nepostradatelný nástroj pro podniky, které se snaží udržet kontrolu nad svými vývojovými infrastrukturami, zatímco využívají pokročilé funkce urychlení kódu.

Nástroje pro generování kódu jsou velmi konkurenčním odvětvím, jak se vaše platforma odlišuje od konkurentů, jako je GitHub?

Existuje mnoho odlišujících faktorů, které jsem uvedl výše, ale shrnuto, jedním z velkých je, že nejsme vázáni na GitHub nebo jakýkoli nástroj pro správu zdrojového kódu. Poskytujeme personalizované zkušenosti, aby vyhovovaly tomu, jak chce vývojář pracovat, odkudkoli chce pracovat.

Mluvili jste dříve o zlepšení personalizace produktu, můžete se podrobněji zabývat současnou personalizací, kterou nabízí, a co je váš konečný cíl?

Personalizace pro nás znamená přizpůsobení Codeium konkrétním postupům, preferencím a technickému stacku organizace nebo jednotlivce. To znamená, že můžeme přizpůsobit návrhy, dokončování kódu a další funkce na základě jedinečných dat a vzorců organizace nebo jednotlivce.

Například, pokud společnost převážně používá určitý programovací jazyk nebo framework, Codeium by priorizoval podporu a optimalizaci pro tyto technologie. Tento přístup se rozšiřuje na integraci s různými nástroji pro správu zdrojového kódu a prostředí, zajišťuje, že platforma funguje bezproblémově, bez ohledu na stávající infrastrukturu uživatelů. Personalizace se také projevuje podporou konkrétních nástrojů, jako jsou Jupyter Notebooks pro datové vědce, jako příklad.

To vše znamená, že společnosti mohou umožnit svým nejlepším inženýrům dělat vysoce hodnotnou práci. Mohou psát více softwaru a poskytovat více hodnoty společnosti, trávíce více času tím, co jim skutečně záleží, a to je budování produktů, ne psaní boilerplate.

Jak vidíte dopad Codeium na postupy softwarového vývoje?

Všichni jsme viděli filmy, kde jedinec náhle získá super sílu a musí se naučit ji ovládat, aby zachránil galaxii. Codeium je super síla, kterou inženýři naučí velmi efektivně, ale super síla je nikdy nenahrazuje.

Inženýři budou generovat větší část svého kódu pomocí Codeium, rychleji a snadněji, s menším počtem oprav, ale jejich kód stále vyžaduje testování. Codeium dramaticky zvyšuje schopnosti a efektivitu inženýrů. Učiní jejich den více příjemným a uspokojivým. Vývojáři budou psát více a lepší kód, aby uspokojili neustálou poptávku, a bude se stále zlepšovat.

Máte nějaké rady pro vývojáře, kteří integrují Codeium do svého pracovního postupu?

Dumám, že největší rada je pochopit, že tyto programovací nástroje jsou čistě určeny k posílení vývojářů, ne k jejich nahrazení.

Tak by měli uvažovat o těchto nástrojích jako o pomocnících, kteří automatizují rutinní úkoly, aby ušetřili čas, jako je asistent. Neměli by používat tyto nástroje k úplnému generování kódu bez přezkumu softwaru.

Zatímco vývojáři budou příjemně překvapeni, jak dobře může nástroj jako Codeium předpovědět jejich myšlenky a být dalším svalovým orgánem. Například v současné době Codeium generuje více než 45 % všech softwarových vývojářů. Je to tedy určitě obrovská pomoc a urychluje vývoj právě teď.

Můžete sdílet úspěch, jak Codeium prospělo konkrétnímu projektu nebo organizaci?

Codeium je již aktivně používán více než 300 000 vývojáři. Ale úspěch neleží pouze v číslech. Velké společnosti, jako Dell, Anduril a Clearwater Analytics (CWAN ) přísahají na nás.

Tito zdůraznili hodnotu Codeium v rámci svého softwarového vývojového cyklu a také vyjádřili nadšení mezi svými vývojáři.

Bez ohledu na to, zda jste samostatný nezávislý vývojář nebo někdo, kdo píše hardcore podnikový software, Codeium poskytuje hodnotu napříč celou deskou.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Codeium.