Varun Mohan, współzałożyciel i CEO Codeium – seria wywiadów

Varun Mohan jest współzałożycielem i CEO Codeium, narzędzia przyspieszania kodu zbudowanego w oparciu o najnowszą technologię sztucznej inteligencji. Obecnie Codeium ma dwie główne funkcjonalności: Autocomplete, która sugeruje kod, który chcesz wpisać, oszczędzając czas na wszystko, od kodu standardowego do testów jednostkowych, oraz Search, która pomaga wyszukiwać w repozytorium przy użyciu naturalnych pytań językowych.

Czy mógłbyś podzielić się historią powstania Codeium jako platformy, która ma na celu uczynienie obciążeń głębokiego uczenia się bardziej efektywnymi?

Kiedy Douglas Chen i ja założyliśmy firmę w 2021 roku, nazwaliśmy ją Exafunction, firmą zajmującą się oprogramowaniem wirtualizacji GPU. Wówczas zarządzaliśmy dziesięcioma tysiącami GPU w chmurze publicznej. W krótkim czasie Exafunction zdobył klientów bardzo szybko i stał się liderem w wdrażaniu modeli głębokiego uczenia się w dużych ilościach.

Jednak nasze rozległe doświadczenie w dziedzinach AR, VR i pojazdów autonomicznych – dziedzinach, które reprezentowały znaczące, rzeczywiste zastosowania głębokiego uczenia się – ostatecznie doprowadziło nas do większego zrozumienia. Z wdrożeniem modeli generatywnych, w szczególności modeli podobnych do transformerów, przewidzieliśmy znaczącą zmianę w branży.

Zauważyliśmy, że w świecie coraz bardziej zdominowanym przez modele sztucznej inteligencji generatywnej wartość dla użytkowników końcowych nie leżała już tylko w dostarczaniu infrastruktury. Zamiast tego stało się jasne, że prawdziwy potencjał wpływu leży w wykorzystaniu tej infrastruktury do tworzenia aplikacji, które bezpośrednio zwiększają produktywność i efektywność dla deweloperów. Dlatego zdecydowaliśmy się skoncentrować na budowaniu narzędzia przyspieszania kodu na naszej własnej infrastrukturze. To było narodziny Codeium.

Ta strategiczna zmiana nie była tylko odpowiedzią na ewoluujący krajobraz technologiczny, ale także proaktywnym ruchem, aby umieścić Codeium na czele zastosowań sztucznej inteligencji w rozwoju oprogramowania. Koncentrując się na przyspieszaniu kodu, chcieliśmy umożliwić deweloperom wykorzystanie mocy sztucznej inteligencji do usprawnienia swoich workflow i innowacji w niezwykłym tempie.

Do połowy 2022 roku mieliśmy zero użytkowników, ale w 2023 roku Codeium wzrosło do 300 000 aktywnych użytkowników i 100 klientów przedsiębiorstw. Podjęliśmy ryzyko, ale szybko się opłaciło.

Początkowo zrobiliście platformę Codeium całkowicie bezpłatną dla deweloperów, jakie były niektóre z logistycznych i technicznych wyzwań związanych z tym wyborem?

Decyzja o zaoferowaniu Codeium bezpłatnie dla deweloperów wynikała z wizji powszechnej dostępności i przyjęcia, jednak wprowadziła to szereg logistycznych i technicznych przeszkód.

Po pierwsze, finansowe implikacje utrzymania platformy opartej na głębokim uczeniu się przedstawiały znaczące wyzwanie, ponieważ koszty infrastruktury mogły wzrosnąć bez starannej optymalizacji – podobne wyzwania stanęły przed konkurentami. Dlatego też optymalizacja infrastruktury pod kątem maksymalnej efektywności kosztowej była kluczowa, przy jednoczesnym zapewnieniu, że platforma może świadczyć usługi wysokiej jakości bez wymagania zbyt drogiego sprzętu dla firmy i jej użytkowników.

To doprowadziło do podejścia “GPU light”, które pozwala na efektywną pracę z minimalnymi inwestycjami w sprzęt. Ostatecznie utrzymanie bezpłatnej usługi, która jest skalowalna i wydajna, wymagało infrastruktury, która mogłaby obsłużyć rosnącą bazę użytkowników bez obniżania jakości usługi.

Istniały również kwestie bezpieczeństwa i prywatności, które musieliśmy rozwiązać, co jest niezbędne do ochrony danych użytkowników przed nieautoryzowanym dostępem.

To wszystko jest skomplikowanym balansem innowacji, strategicznego zarządzania zasobami i niezachwianej deklaracji wartości dla użytkownika.

Codeium oferuje możliwość samodzielnego hostowania, dlaczego jest to korzystne dla przedsiębiorstw?

Bezpieczeństwo własności intelektualnej jest kluczowe dla przedsiębiorstw. Nasze możliwości samodzielnego hostowania odpowiadają na ich potrzeby w zakresie bezpieczeństwa, dostosowania i kontroli danych – zwłaszcza dla tych, którzy są niepewni potencjalnych słabości usług zarządzanych zewnętrznie.

Poza bezpieczeństwem Codeium wyróżnia się na tle innych dzięki swojej elastyczności; może być dostosowany zgodnie z prywatnymi danymi i workflow organizacji, zapewniając, że platforma nie tylko integruje się bezproblemowo z istniejącymi procesami, ale także je optymalizuje.

Ten poziom dostosowania rozciąga się na jego zgodność z różnymi narzędziami do zarządzania kodem źródłowym, zapewniając elastyczność firmom, które nie używają popularnych platform takich jak GitHub, a tym samym rozszerzając ich zastosowanie.

Opcja samodzielnego hostowania, pomimo potencjalnie wyższych kosztów początkowych, okazuje się być wyborem ekonomicznym w dłuższej perspektywie. Minimalizuje potrzebę drogiego sprzętu poprzez doświadczenie “GPU light” i unika comiesięcznych opłat typowych dla usług chmurowych, czyniąc ją ekonomicznie uzasadnionym rozwiązaniem dla dużych przedsiębiorstw.

Inną ważną rzeczą do zauważenia jest to, że obszerny zestaw funkcji Codeium, który obsługuje szeroki zakres języków programowania, środowisk rozwojowych i specjalistycznych narzędzi, takich jak Jupyter Notebooks, zapewnia, że spełnia on różnorodne potrzeby różnych departamentów w ramach organizacji. Ten poziom wsparcia nie tylko usprawnia różne zadania rozwojowe, ale także zwiększa produktywność na wszystkich poziomach, czyniąc Codeium niezastąpionym narzędziem dla przedsiębiorstw, które szukają kontroli nad swoją infrastrukturą rozwojową, jednocześnie wykorzystując zaawansowane możliwości przyspieszania kodu.

Narzędzia do generowania kodu to bardzo konkurencyjna branża, jak Twoja platforma wyróżnia się na tle konkurentów, takich jak GitHub?

Istnieje wiele różnic, które wymieniłem powyżej, ale aby to podsumować, jedną z dużych różnic jest to, że nie jesteśmy związani z GitHubem ani żadnym innym narzędziem do zarządzania kodem źródłowym. Zapewniamy spersonalizowane doświadczenie, dostosowane do tego, w jaki sposób deweloper chce pracować i skąd chce pracować.

Mówiłeś wcześniej o poprawie personalizacji produktu, czy mógłbyś wejść w szczegóły dotyczące obecnej personalizacji, jaką oferujecie, i jaki jest Twój ostateczny cel?

Personalizacja dla nas oznacza dostosowanie Codeium do konkretnych praktyk kodowania, preferencji i stosowanego przez organizację lub osobę stosu technologicznego. Oznacza to, że możemy dostosować sugestie, uzupełnienia kodu i inne funkcje na podstawie unikalnych danych i wzorców organizacji lub osoby.

Na przykład, jeśli firma głównie używa określonego języka programowania lub frameworka, Codeium priorytetowo traktuje wsparcie i optymalizację dla tych technologii. To podejście rozciąga się na integrację z różnymi narzędziami do zarządzania kodem źródłowym i środowiskami, zapewniając bezproblemową pracę niezależnie od istniejącej infrastruktury użytkowników. Personalizacja objawia się również poprzez wsparcie konkretnych narzędzi, takich jak Jupyter Notebooks dla naukowców danych, jako przykład.

To wszystko oznacza, że firmy mogą umożliwić swoim najlepszym inżynierom wykonywanie pracy o wysokiej wartości. Mogą pisać więcej oprogramowania i zapewniać więcej wartości firmie, poświęcając więcej czasu na rzeczy, które naprawdę lubią robić, czyli budowanie produktów, a nie pisanie kodu standardowego.

Jak widzisz wpływ Codeium na praktyki rozwoju oprogramowania?

Wszyscy widzieliśmy filmy, w których osoba nagle zyskuje supermoce i musi nauczyć się ich kontrolować, aby uratować galaktykę. Codeium jest supermocą, którą inżynierowie uczą się wykorzystywać bardzo skutecznie, ale supermoc nigdy nie zastępuje ich.

Inżynierowie będą generować większą część swojego kodu przy użyciu Codeium, szybciej i łatwiej, z mniejszą ilością poprawek, ale ich kod nadal wymaga testowania. Codeium dramatycznie zwiększa możliwości i efektywność inżynierów. Robi ich dzień bardziej przyjemnym i satysfakcjonującym. Deweloperzy będą pisać więcej i lepszy kod, aby zaspokoić niezmienną potrzebę, i będzie to tylko coraz lepiej.

Jakie masz porady dla deweloperów integrujących Codeium ze swoim workflow?

Myślę, że największa rada to zrozumienie, że te narzędzia programistyczne są przeznaczone wyłącznie do uzupełnienia deweloperów, a nie do ich zastąpienia.

Dlatego powinni myśleć o tych narzędziach jako o pomocy w automatyzacji rutynowych zadań, aby zaoszczędzić czas, jak asystent. Nie powinni używać tych narzędzi do całkowitego generowania kodu bez przeglądu oprogramowania.

Jednocześnie deweloperzy będą miło zaskoczeni tym, jak dobrze narzędzie takie jak Codeium może przewidywać ich myśli i być dodatkowym “mięśniem”. Na przykład, obecnie Codeium generuje ponad 45% wszystkich oprogramowań deweloperów. To zdecydowanie ogromna pomoc i przyspiesza rozwój w tej chwili.

Czy mógłbyś podzielić się historią sukcesu, jak Codeium przyniósł korzyści konkretnemu projektowi lub organizacji?

Codeium jest już aktywnie używany przez ponad 300 000 deweloperów. Ale sukces nie leży tylko w liczbach. Duże firmy, takie jak Dell, Anduril i Clearwater Analytics, przysięgają na nas.

Te firmy podkreśliły wartość Codeium w swoim cyklu rozwoju oprogramowania i wyraziły entuzjazm wśród swoich deweloperów.

Niezależnie od tego, czy jesteś single indywidualnym deweloperem, czy kimś, kto pisze oprogramowanie dla przedsiębiorstw, Codeium zapewnia wartość na wszystkich poziomach.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Codeium.