Varun Mohan, współzałożyciel i CEO Codeium – seria wywiadów

Varun Mohan jest współzałożycielem i CEO Codeium, narzędzia do przyspieszania kodu opartego na najnowszej technologii sztucznej inteligencji. Obecnie Codeium ma dwie główne funkcjonalności: Autocomplete, która sugeruje kod, który chcesz wpisać, oszczędzając czas na wszystko, od kodu podstawowego do testów jednostkowych, oraz Search, która pomaga wyszukiwać w repozytorium przy użyciu naturalnego języka.

Czy mógłbyś podzielić się historią powstania Codeium jako platformy, która ma na celu uczynienie obciążeń głębokiego uczenia się bardziej efektywnymi?

Kiedy Douglas Chen i ja założyliśmy firmę w 2021 roku, nazwaliśmy ją Exafunction, firmą zajmującą się oprogramowaniem do wirtualizacji GPU. W tym czasie zarządzaliśmy dziesięcioma tysiącami GPU w chmurze publicznej. W krótkim czasie Exafunction zdobyła szybko uznanie klientów i stała się liderem w wdrażaniu modeli głębokiego uczenia się w skali.

Ale nasze rozległe doświadczenie w dziedzinach AR, VR i pojazdów autonomicznych – obszarach, które reprezentują znaczące, rzeczywiste zastosowania głębokiego uczenia się – ostatecznie doprowadziło nas do większego zrozumienia. Z wprowadzeniem modeli generatywnych, w szczególności modeli podobnych do transformatorów, przewidzieliśmy przełomową zmianę w branży.

Stwierdziliśmy, że w świecie, który coraz bardziej dominowany jest przez modele sztucznej inteligencji generatywnej, wartość dla użytkowników końcowych nie będzie polegała wyłącznie na dostarczaniu infrastruktury. Zamiast tego stało się jasne, że prawdziwy potencjał wpływu tkwi w wykorzystaniu tej infrastruktury do tworzenia aplikacji, które bezpośrednio zwiększają produktywność i efektywność dla deweloperów. Dlatego zdecydowaliśmy się skoncentrować na budowaniu narzędzia do przyspieszania kodu na naszej własnej infrastrukturze. To było narodziny Codeium.

Ten strategiczny zwrot nie był tylko odpowiedzią na ewoluujący krajobraz technologiczny, ale także proaktywnym posunięciem, aby umieścić Codeium na czele zastosowania sztucznej inteligencji w rozwoju oprogramowania. Koncentrując się na przyspieszaniu kodu, zamierzaliśmy umożliwić deweloperom wykorzystanie mocy sztucznej inteligencji do usprawnienia ich workflow i innowacji w niezwykłym tempie.

Do połowy 2022 roku mieliśmy zero użytkowników, ale w 2023 roku Codeium osiągnęło 300 000 aktywnych użytkowników i 100 klientów korporacyjnych. Podjęliśmy ryzyko, ale szybko się opłaciło.

Początkowo zdecydowaliście się na udostępnienie platformy Codeium całkowicie za darmo dla deweloperów, jakie były największe wyzwania logistyczne i techniczne związane z tym wyborem?

Decyzja o udostępnieniu Codeium za darmo dla deweloperów wynikała z wizji powszechnej dostępności i przyjęcia, jednak wprowadziła to szereg wyzwań logistycznych i technicznych.

Po pierwsze, implikacje finansowe utrzymania platformy opartej na głębokim uczeniu się stanowiły znaczące wyzwanie, ponieważ koszty infrastruktury mogły szybko wzrosnąć bez starannej optymalizacji – podobne wyzwania spotkały naszych konkurentów. Dlatego też optymalizacja infrastruktury pod kątem maksymalnej efektywności kosztowej była kluczowa, przy jednoczesnym zapewnieniu, że platforma może świadczyć usługi wysokiej jakości bez wymagania zbyt drogiego sprzętu dla firmy i jej użytkowników.

To doprowadziło do podejścia “GPU light”, które pozwala na skuteczne działanie z minimalnymi inwestycjami w sprzęt. Ostatecznie, utrzymanie bezpłatnej usługi, która jest skalowalna i wydajna, wymagało infrastruktury, która może wspierać rosnącą bazę użytkowników bez obniżania jakości usługi.

Istniały również kwestie bezpieczeństwa i prywatności, które musieliśmy rozwiązać, co jest niezbędne do zabezpieczenia danych użytkowników przed nieautoryzowanym dostępem.

To wszystko jest skomplikowanym aktem balansowania innowacji, strategicznego zarządzania zasobami i niezachwianej deklaracji wartości dla użytkownika.

Codeium oferuje możliwość samodzielnego hostowania, dlaczego jest to korzystne dla przedsiębiorstw?

Bezpieczeństwo własności intelektualnej jest kluczowe dla przedsiębiorstw. Nasze możliwości samodzielnego hostowania odpowiadają na ich potrzeby w zakresie bezpieczeństwa, dostosowania i kontroli danych – zwłaszcza dla tych, którzy są nieufni wobec zewnętrznych usług zarządzanych i ich potencjalnych luk w zabezpieczeniach.

Ponadto Codeium wyróżnia się na tle innych dzięki swojej elastyczności; może być personalizowany zgodnie z danymi i workflow organizacji, zapewniając, że platforma nie tylko integruje się bezproblemowo z istniejącymi procesami, ale także je optymalizuje.

Ten poziom dostosowania rozciąga się na kompatybilność z różnymi narzędziami do zarządzania kodem źródłowym, zapewniając elastyczność dla firm, które nie używają popularnych platform takich jak GitHub, a tym samym rozszerzając ich zastosowanie.

Opcja samodzielnego hostowania, pomimo potencjalnie wyższych kosztów początkowych, okazuje się być opłacalnym wyborem w dłuższej perspektywie. Minimalizuje potrzebę drogiego sprzętu dzięki doświadczeniu “GPU light” i unika powtarzających się opłat typowych dla usług chmurowych, czyniąc ją ekonomicznie uzasadnionym rozwiązaniem dla dużych przedsiębiorstw.

Jeszcze jedną ważną rzeczą do zauważenia jest to, że Codeium posiada obszerny zestaw funkcji, który wspiera szeroki zakres języków programowania, środowisk deweloperskich i specjalistycznych narzędzi, takich jak Jupyter Notebooks. Zapewnia to, że spełnia różnorodne potrzeby różnych departamentów w ramach organizacji. Ten poziom wsparcia nie tylko usprawnia różne zadania deweloperskie, ale także zwiększa produktywność na całym froncie, czyniąc Codeium niezastąpionym narzędziem dla przedsiębiorstw, które chcą utrzymać kontrolę nad swoją infrastrukturą deweloperską, jednocześnie wykorzystując zaawansowane możliwości przyspieszania kodu.

Narzędzia do generowania kodu to bardzo konkurencyjna branża, jak Codeium wyróżnia się na tle konkurentów, takich jak GitHub?

Istnieje wiele różnic, które wymieniłem powyżej, ale aby to podsumować, jednym z największych jest to, że nie jesteśmy związani z GitHubem lub jakimkolwiek innym narzędziem do zarządzania kodem źródłowym. Zapewniamy personalizowane doświadczenie, dostosowane do tego, jak deweloper chce pracować i skąd chce pracować.

Mówiłeś wcześniej o poprawie personalizacji produktu, mógłbyś się poszerzyć na temat bieżącej personalizacji, którą oferujecie, i jaki jest twój cel końcowy?

Personalizacja dla nas oznacza adaptację Codeium do konkretnych praktyk programistycznych, preferencji i stosowanego przez organizację lub osobę technologicznego stacku. Oznacza to, że możemy dostosowywać sugestie, uzupełnienia kodu i inne funkcje na podstawie unikalnych danych i wzorców organizacji lub jednostki.

Na przykład, jeśli firma głównie korzysta z określonego języka programowania lub frameworka, Codeium priorytetowo traktuje wsparcie i optymalizację dla tych technologii. To podejście rozciąga się na integrację z różnymi narzędziami do zarządzania kodem źródłowym i środowiskami, zapewniając bezproblemowe działanie niezależnie od istniejącej infrastruktury użytkowników. Personalizacja objawia się również poprzez wsparcie konkretnych narzędzi, takich jak Jupyter Notebooks dla data scientistów, jako przykład.

To wszystko oznacza, że firmy mogą umożliwić swoim najlepszym inżynierom wykonywanie prac o wysokiej wartości. Mogą pisać więcej oprogramowania i zapewniać więcej wartości firmie, poświęcając więcej czasu na tworzenie produktów, a nie na pisanie kodu podstawowego.

Jak widzisz wpływ Codeium na praktyki rozwoju oprogramowania?

Widzieliśmy filmy, w których osoba nagle zyskuje supermoce i musi nauczyć się je kontrolować, aby uratować galaktykę. Codeium jest supermocą, którą inżynierowie uczą się wykorzystywać bardzo skutecznie, ale ta supermoc nigdy nie zastępuje ich.

Inżynierowie będą generować większą część swojego kodu przy użyciu Codeium, szybciej i łatwiej, z mniejszą ilością poprawek, ale ich kod nadal wymaga testowania. Codeium dramatycznie zwiększa możliwości i efektywność inżynierów. Ułatwia im dzień, czyniąc go bardziej przyjemnym i satysfakcjonującym. Deweloperzy będą pisać więcej i lepszy kod, aby zaspokoić nieustanną potrzebę, i będzie to coraz lepiej.

Jaki masz radę dla deweloperów integrujących Codeium ze swoim workflow?

Myślę, że największa rada to zrozumienie, że te narzędzia programistyczne są czysto przeznaczone do uzupełnienia deweloperów, a nie ich zastąpienia.

Powinni więc myśleć o tych narzędziach jako o pomocnikach, które automatyzują rutynowe zadania, aby zaoszczędzić czas. Nie powinni używać tych narzędzi do całkowitego generowania kodu bez przeglądu oprogramowania.

Jednocześnie deweloperzy będą miło zaskoczeni, jak dobrze narzędzie takie jak Codeium może przewidywać ich myśli i być dodatkowym wsparciem. Na przykład, Codeium obecnie generuje ponad 45% wszystkich kodów dla deweloperów. Jest to więc naprawdę ogromna pomoc i przyspiesza rozwój oprogramowania.

Czy mógłbyś podzielić się historią sukcesu, jak Codeium przyniosło korzyści konkretnemu projektowi lub organizacji?

Codeium jest już aktywnie używany przez ponad 300 000 deweloperów. Ale sukces nie leży tylko w liczbach. Duże firmy, takie jak Dell, Anduril i Clearwater Analytics (CWAN ), przysięgają na nas.

Te firmy podkreśliły wartość Codeium w swoim cyklu rozwoju oprogramowania i wyraziły entuzjazm wśród swoich deweloperów.

Niezależnie od tego, czy jesteś single indie deweloperem, czy kimś, kto pisze oprogramowanie korporacyjne, Codeium zapewnia wartość na całym froncie.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Codeium.