Varun Mohan, Co-Fondatore & CEO di Codeium – Serie di Interviste

Varun Mohan, è il Co-Fondatore & CEO di Codeium, un toolkit di accelerazione del codice basato su tecnologia AI all’avanguardia. Attualmente, Codeium ha due principali funzionalità: Autocomplete, che suggerisce il codice che si desidera digitare, risparmiando tempo su tutto, dalle parti comuni ai test unitari, e Ricerca, che aiuta a cercare nel repository utilizzando domande in linguaggio naturale.

Potresti condividere la storia di come è nata l’idea di lanciare Codeium come piattaforma per rendere più efficienti i carichi di lavoro di deep learning?

Quando Douglas Chen e io abbiamo fondato l’azienda nel 2021, l’abbiamo chiamata Exafunction, un’azienda focalizzata su software di virtualizzazione GPU. Gestivamo all’epoca diecimila GPU sulla nuvola pubblica. In poco tempo, Exafunction ha guadagnato una forte presa sui clienti e si è affermata come leader nel deploy di modelli di deep learning su larga scala.

Ma la nostra vasta esperienza con tecnologie AR, VR e veicoli autonomi – domini che rappresentavano applicazioni significative e reali di deep learning – ci ha portato a una più grande consapevolezza. Con l’avvento dei modelli generativi, in particolare modelli simili ai transformer, abbiamo previsto un cambiamento cruciale nell’industria.

Abbiamo osservato che, in un mondo sempre più dominato da modelli di intelligenza artificiale generativa, il valore per gli utenti finali non si sarebbe limitato a fornire infrastrutture. Invece, è diventato chiaro che il vero potenziale per avere un impatto sarebbe stato nel sfruttare questa infrastruttura per creare applicazioni che migliorassero direttamente la produttività e l’efficienza degli sviluppatori. È per questo che abbiamo deciso di concentrarci sulla costruzione di uno strumento di accelerazione del codice sulla nostra stessa infrastruttura. Questo è stato il battesimo di Codeium.

Questa svolta strategica non è stata solo una risposta al paesaggio tecnologico in evoluzione, ma anche una mossa proattiva per posizionare Codeium all’avanguardia dell’applicazione dell’AI nello sviluppo del software. Concentrandoci sull’accelerazione del codice, abbiamo mirato a potenziare gli sviluppatori, consentendo loro di sfruttare il potere dell’AI per semplificare i loro flussi di lavoro e innovare a un ritmo senza precedenti.

A metà del 2022 non avevamo nessun utente, ma nel 2023 Codeium è schizzato a 300.000 utenti attivi e 100 clienti aziendali. Abbiamo corso un rischio, ma si è rapidamente rivelato un successo.

Inizialmente avete reso la piattaforma Codeium interamente gratuita per gli sviluppatori, quali sono stati alcuni degli sfidi logistici e tecnici dietro a questa scelta?

La decisione di offrire Codeium gratuitamente agli sviluppatori è scaturita da una visione di accessibilità e adozione su larga scala, tuttavia ha introdotto una serie di sfide logistiche e tecniche.

Innanzitutto, le implicazioni finanziarie relative al mantenimento di una piattaforma basata su deep learning hanno presentato una sfida significativa, poiché i costi di infrastruttura potevano lievitare senza un’ottimizzazione meticolosa – sfide simili a quelle affrontate dai competitor. Quindi, raffinare l’infrastruttura per una massimale efficienza dei costi è stato cruciale, assicurandosi che la piattaforma potesse offrire servizi di alta qualità senza richiedere hardware proibitivamente costosi sia per l’azienda che per gli utenti.

Ciò ha portato a un approccio “GPU light”, che consente un funzionamento efficace con un investimento hardware minimizzato. In ultima analisi, sostenere un servizio gratuito che fosse scalabile e performante ha richiesto un’infrastruttura in grado di supportare una base di utenti in crescita senza degradare la qualità del servizio.

C’erano anche considerazioni relative alla sicurezza e alla privacy che abbiamo dovuto risolvere, essenziali per proteggere i dati degli utenti dall’accesso non autorizzato.

Tutto ciò è un complesso equilibrio di innovazione, gestione strategica delle risorse e impegno costante per il valore dell’utente.

Codeium offre la possibilità di essere self-hosted, perché è questo benefico per le aziende?

La sicurezza dell’IP è critica per le aziende. Le nostre capacità di self-hosting rispondono alle loro esigenze di sicurezza, personalizzazione e controllo dei dati – specialmente per coloro che sono restii a utilizzare servizi gestiti esterni a causa delle loro potenziali vulnerabilità.

Oltre alla sicurezza, Codeium si distingue per la sua adattabilità; può essere personalizzato in base ai dati e ai flussi di lavoro privati di un’organizzazione, assicurando che la piattaforma non solo si integri perfettamente nei processi esistenti, ma li ottimizzi anche.

Questo livello di personalizzazione si estende alla sua compatibilità con vari strumenti di gestione del codice sorgente, offrendo flessibilità per le aziende che non utilizzano piattaforme mainstream come GitHub, e quindi ampliando la sua applicabilità.

L’opzione self-hosted, nonostante i potenziali costi iniziali più elevati, emerge come una scelta economicamente sensata a lungo termine. Riduce la necessità di hardware costoso attraverso un’esperienza “GPU light” ed evita le tariffe ricorrenti tipiche dei servizi cloud, rendendolo una soluzione economicamente sostenibile per grandi aziende.

Un’altra cosa importante da notare: l’ampio set di funzionalità di Codeium, che supporta una vasta gamma di linguaggi di programmazione, ambienti di sviluppo e strumenti specializzati come Jupyter Notebooks, assicura che soddisfi le diverse esigenze dei vari dipartimenti all’interno di un’organizzazione. Questo livello di supporto non solo semplifica vari compiti di sviluppo, ma aumenta anche la produttività a livello generale, rendendo Codeium uno strumento indispensabile per le aziende che cercano di mantenere il controllo sulla loro infrastruttura di sviluppo, sfruttando al contempo avanzate funzionalità di accelerazione del codice.

Gli strumenti di generazione di codice sono un’industria molto competitiva, come si differenzia la tua piattaforma da competitor come GitHub?

Ci sono molti fattori di differenziazione che ho elencato sopra, ma per riassumere, uno dei più grandi è che non siamo vincolati a GitHub o a qualsiasi strumento di gestione del codice sorgente. Offriamo un’esperienza personalizzata per adattarci a come lo sviluppatore vuole lavorare, da dove vuole lavorare.

Avete parlato in precedenza di migliorare la personalizzazione del prodotto, potreste entrare nei dettagli della personalizzazione attualmente offerta e qual è il vostro obiettivo finale?

La personalizzazione per noi significa adattare Codeium alle specifiche pratiche di codifica, preferenze e stack tecnico di ogni utente o organizzazione. Ciò significa che possiamo personalizzare suggerimenti, completamenti di codice e altre funzionalità in base ai dati e ai modelli unici dell’organizzazione o dell’individuo.

Ad esempio, se un’azienda utilizza prevalentemente un certo linguaggio di programmazione o framework, Codeium darebbe priorità al supporto e alle ottimizzazioni per quelle tecnologie. Questo approccio si estende all’integrazione con vari strumenti di gestione del codice sorgente e ambienti, assicurando un funzionamento senza problemi indipendentemente dalle infrastrutture esistenti degli utenti. La personalizzazione si manifesta anche attraverso il supporto di strumenti specifici, come Jupyter Notebooks per gli scienziati dei dati, ad esempio.

Ciò significa che le aziende possono abilitare i loro migliori ingegneri a svolgere lavori ad alto valore. Possono scrivere più software e fornire più valore all’azienda trascorrendo più tempo a fare le cose che realmente amano fare, ovvero costruire prodotti, non scrivere codice boilerplate.

Come pensate che Codeium impatterà sulle pratiche di sviluppo del software?

Tutti noi abbiamo visto film in cui un individuo acquista improvvisamente un superpotere e deve imparare a controllarlo per salvare la galassia. Codeium è un superpotere che gli ingegneri imparano a utilizzare molto efficacemente, ma il superpotere non li sostituisce.

Gli ingegneri genereranno una porzione più grande del loro codice utilizzando Codeium, più velocemente e facilmente, con meno correzioni necessarie, ma il loro codice richiederà comunque test. Codeium aumenta notevolmente le capacità e l’efficienza degli ingegneri. Rende la loro giornata più piacevole e soddisfacente. Gli sviluppatori scriveranno più codice e migliore, per soddisfare un bisogno costante, e sarà sempre meglio.

Qual è il vostro consiglio per gli sviluppatori che integrano Codeium nel loro flusso di lavoro?

Penso che il più grande consiglio sia capire che questi strumenti di programmazione sono destinati a potenziare gli sviluppatori, non a sostituirli.

Quindi, dovrebbero pensare a questi strumenti come aiuti per automatizzare le attività di routine per risparmiare tempo, come un assistente. Non dovrebbero utilizzare questi strumenti per generare codice senza revisione del software.

Allo stesso tempo, gli sviluppatori saranno piacevolmente sorpresi da quanto bene uno strumento come Codeium possa prevedere i loro pensieri e essere un aiuto aggiuntivo. Ad esempio, attualmente Codeium genera oltre il 45% di tutto il codice degli sviluppatori. Quindi, è sicuramente un aiuto enorme e accelera lo sviluppo in questo momento.

Potreste condividere una storia di successo su come Codeium ha beneficiato un particolare progetto o organizzazione?

Codeium è già utilizzato attivamente da oltre 300.000 sviluppatori. Ma il successo non si limita solo ai numeri. Grandi aziende come Dell, Anduril e Clearwater Analytics giurano sulla nostra piattaforma.

Queste aziende hanno sottolineato il valore di Codeium all’interno del loro ciclo di vita di sviluppo del software e hanno anche espresso l’entusiasmo tra i loro sviluppatori.

Sia che siate un singolo sviluppatore indipendente o qualcuno che scrive software aziendale di livello enterprise, Codeium fornisce valore su tutta la linea.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Codeium.