Varun Mohan, Co-Founder & CEO von Codeium – Interview-Serie

Varun Mohan ist der Co-Founder und CEO von Codeium, einem Code-Acceleration-Toolkit, das auf modernster KI-Technologie basiert. Derzeit bietet Codeium zwei Hauptfunktionen: Autocomplete, das den Code vorschlägt, den Sie eingeben möchten, und damit Zeit bei allem von Boilerplate-Code bis hin zu Unit-Tests spart, und Search, das Ihnen hilft, Ihre Repository mithilfe natürlicher Sprachfragen zu durchsuchen.

Könnten Sie die Entstehungsgeschichte von Codeium als Plattform zur Effizienzsteigerung von Deep-Learning-Workloads teilen?

Als Douglas Chen und ich das Unternehmen 2021 gründeten, nannten wir es Exafunction, ein Unternehmen, das sich auf GPU-Virtualisierungssoftware konzentrierte. Wir verwalteten zu diesem Zeitpunkt 10.000 GPUs in der öffentlichen Cloud. Exafunction erlangte in kurzer Zeit Kundenakzeptanz und wurde zu einem Leader bei der Bereitstellung von Deep-Learning-Modellen im großen Maßstab.

Aber unsere umfangreichen Erfahrungen mit AR-, VR- und autonomen Fahrzeugtechnologien – Bereiche, die bedeutende, realweltliche Anwendungen von Deep Learning darstellen – führten uns letztendlich zu einer größeren Erkenntnis. Mit dem Aufkommen von generativen Modellen, insbesondere transformer-ähnlichen Modellen, sahen wir einen entscheidenden Wandel in der Branche voraus.

Wir stellten fest, dass in einer Welt, die zunehmend von generativen KI-Modellen dominiert wird, der Nutzen für Endbenutzer nicht nur darin liegen würde, Infrastruktur bereitzustellen. Stattdessen wurde klar, dass der wahre Einfluss darin bestand, diese Infrastruktur zu nutzen, um Anwendungen zu erstellen, die die Produktivität und Effizienz von Entwicklern direkt verbessern. Deshalb entschieden wir uns, ein Code-Acceleration-Tool auf unserer eigenen Infrastruktur aufzubauen. Das war die Geburt von Codeium.

Diese strategische Neuausrichtung war nicht nur eine Reaktion auf die sich entwickelnde technologische Landschaft, sondern auch ein proaktiver Schritt, um Codeium an die Spitze der Anwendung von KI in der Softwareentwicklung zu setzen. Durch die Konzentration auf Code-Acceleration wollten wir Entwickler befähigen, die Macht von KI zu nutzen, um ihre Workflows zu rationalisieren und mit unvergleichlicher Geschwindigkeit zu innovieren.

Bis Mitte 2022 hatten wir keine Nutzer, aber 2023 schoss Codeium auf 300.000 aktive Nutzer und 100 Unternehmenskunden. Wir nahmen ein Risiko, aber es zahlte sich schnell aus.

Sie haben ursprünglich die Codeium-Plattform für Entwickler vollständig kostenlos angeboten. Welche logistischen und technischen Herausforderungen gab es bei dieser Entscheidung?

Die Entscheidung, Codeium für Entwickler kostenlos anzubieten, resultierte aus einer Vision weit verbreiteter Zugänglichkeit und Akzeptanz, aber sie stellte auch eine Reihe logistischer und technischer Hürden dar.

Erstens stellten die finanziellen Auswirkungen der Aufrechterhaltung einer auf Deep Learning basierenden Plattform eine erhebliche Herausforderung dar, da die Infrastrukturkosten ohne sorgfältige Optimierung sprunghaft ansteigen konnten – ähnliche Herausforderungen, denen auch Wettbewerber gegenüberstanden. Die Optimierung der Infrastruktur für maximale Kosteneffizienz war daher von entscheidender Bedeutung, während sichergestellt werden musste, dass die Plattform hochwertige Dienste ohne prohibitiv teure Hardware für das Unternehmen und seine Nutzer bereitstellen konnte.

Dies führte zu einem “GPU-leichten” Ansatz, der einen effektiven Betrieb mit minimalem Hardwareeinsatz ermöglichte. Letztendlich erforderte die Aufrechterhaltung eines kostenlosen Dienstes, der skalierbar und leistungsfähig war, eine Infrastruktur, die in der Lage war, eine wachsende Nutzerbasis ohne Verschlechterung der Dienstqualität zu unterstützen.

Es gab auch Sicherheits- und Datenschutzaspekte, die gelöst werden mussten, die für den Schutz von Benutzerdaten vor unbefugtem Zugriff von entscheidender Bedeutung sind.

Es ist alles ein komplexes Gleichgewicht zwischen Innovation, strategischem Ressourcenmanagement und unerschütterlichem Engagement für den Nutzen der Benutzer.

Codeium bietet die Möglichkeit, selbst gehostet zu werden. Warum ist dies für Unternehmen von Vorteil?

Die Sicherheit des geistigen Eigentums ist für Unternehmen von entscheidender Bedeutung. Unsere Selbsthosting-Fähigkeiten decken ihre Bedürfnisse an Sicherheit, Anpassungsfähigkeit und Kontrolle über Daten ab – insbesondere für diejenigen, die sich vor potenziellen Schwachstellen externer Managed Services fürchten.

Darüber hinaus zeichnet sich Codeium durch seine Anpassungsfähigkeit aus; es kann an die privaten Daten und Workflows einer Organisation angepasst werden, was sicherstellt, dass die Plattform nicht nur nahtlos in bestehende Prozesse integriert wird, sondern diese auch optimiert.

Diese Anpassungsfähigkeit erstreckt sich auch auf die Kompatibilität mit verschiedenen Quellcode-Management-Tools, was Flexibilität für Unternehmen bietet, die nicht auf mainstream-Plattformen wie GitHub setzen, und somit ihre Anwendbarkeit erweitert.

Die selbst gehostete Option, die möglicherweise höhere anfängliche Kosten mit sich bringt, erweist sich langfristig als kosteneffiziente Wahl. Sie minimiert den Bedarf an teurer Hardware durch ein GPU-leichtes Erlebnis und vermeidet die wiederkehrenden Gebühren, die typischerweise mit Cloud-Diensten verbunden sind, was sie zu einer wirtschaftlich sinnvollen Lösung für große Unternehmen macht.

Ein weiterer wichtiger Aspekt: Codeiums umfangreiches Funktionsangebot, das eine breite Palette von Programmiersprachen, Entwicklungsumgebungen und speziellen Tools wie Jupyter Notebooks unterstützt, stellt sicher, dass es den vielfältigen Bedürfnissen verschiedener Abteilungen innerhalb einer Organisation gerecht wird. Diese Unterstützung rationalisiert nicht nur verschiedene Entwickleraufgaben, sondern erhöht auch die Produktivität über den gesamten Bereich hinweg, was Codeium zu einem unverzichtbaren Werkzeug für Unternehmen macht, die die Kontrolle über ihre Entwicklungsumgebung behalten und gleichzeitig fortschrittliche Code-Acceleration-Funktionen nutzen möchten.

Code-Generierungstools sind ein sehr wettbewerbsintensives Feld. Wie unterscheidet sich Ihre Plattform von Wettbewerbern wie GitHub?

Es gibt viele Unterschiede, die ich oben aufgeführt habe, aber um es zusammenzufassen, einer der größten Unterschiede ist, dass wir nicht an GitHub oder ein anderes Quellcode-Management-Tool gebunden sind. Wir bieten eine personalisierte Erfahrung, die es Entwicklern ermöglicht, auf ihre Weise und von überall aus zu arbeiten.

Sie haben sich zuvor über die Verbesserung der Personalisierung des Produkts geäußert. Könnten Sie einige Details zu der aktuellen Personalisierung, die angeboten wird, und was Ihr Endziel ist, erläutern?

Personalisierung bedeutet für uns, Codeium an die spezifischen Codierpraktiken, Vorlieben und die technische Umgebung anzupassen, in der eine Organisation oder ein Einzelner tätig ist. Das bedeutet, dass wir Vorschläge, Code-Vervollständigungen und andere Funktionen basierend auf den einzigartigen Daten und Mustern der Organisation oder des Einzelnen anpassen können.

Beispielsweise kann Codeium, wenn ein Unternehmen hauptsächlich eine bestimmte Programmiersprache oder ein bestimmtes Framework verwendet, die Unterstützung und Optimierung für diese Technologien priorisieren. Dieser Ansatz erstreckt sich auch auf die Integration mit verschiedenen Quellcode-Management-Tools und -Umgebungen, um einen nahtlosen Betrieb unabhängig von der bestehenden Infrastruktur der Nutzer zu gewährleisten. Personalisierung zeigt sich auch durch die Unterstützung spezifischer Tools wie Jupyter Notebooks für Data Scientists.

Das bedeutet, dass Unternehmen ihre besten Ingenieure für hochwertige Arbeiten einsetzen können. Sie können mehr Software erstellen und mehr Wert für das Unternehmen schaffen, indem sie mehr Zeit mit der Erstellung von Produkten verbringen, anstatt Boilerplate-Code zu schreiben.

Wie sehen Sie die Auswirkungen von Codeium auf die Software-Entwicklungspraktiken?

Wir haben alle Filme gesehen, in denen eine Person plötzlich eine Superkraft erlangt und lernen muss, sie zu kontrollieren, um das Universum zu retten. Codeium ist eine Superkraft, die Ingenieure sehr effektiv einsetzen, aber diese Superkraft ersetzt sie nicht.

Ingenieure werden einen größeren Teil ihres Codes mithilfe von Codeium erstellen, schneller und einfacher, mit weniger Korrekturen, aber ihr Code erfordert immer noch Tests. Codeium erhöht die Fähigkeiten und Effizienz von Ingenieuren dramatisch. Es macht ihren Tag angenehmer und zufriedenstellender. Entwickler werden mehr und besseren Code schreiben, um einen nie endenden Bedarf zu decken, und es wird einfach immer besser.

Welche Ratschläge haben Sie für Entwickler, die Codeium in ihre Arbeitsabläufe integrieren?

Ich denke, der größte Rat ist, diese Programmierwerkzeuge als reine Ergänzung der Entwickler zu verstehen, nicht als Ersatz.

Sie sollten über diese Werkzeuge nachdenken, als ob sie Routineaufgaben automatisieren würden, um Zeit zu sparen, wie ein Assistent. Sie sollten diese Werkzeuge nicht verwenden, um Code vollständig ohne Überprüfung zu generieren.

Gleichzeitig werden Entwickler angenehm überrascht sein, wie gut ein Werkzeug wie Codeium ihre Gedanken vorhersagen und wie eine zusätzliche Kraft wirken kann. Zum Beispiel generiert Codeium derzeit über 45 % aller Software-Entwicklungen. Es ist also definitiv eine massive Hilfe und beschleunigt die Entwicklung gerade.

Können Sie eine Erfolgsgeschichte teilen, wie Codeium einem bestimmten Projekt oder einer Organisation zugutegekommen ist?

Codeium wird bereits von über 300.000 Entwicklern aktiv genutzt. Aber der Erfolg liegt nicht nur in den Zahlen. Große Unternehmen wie Dell, Anduril und Clearwater Analytics (CWAN ) schwören auf uns.

Sie haben den Wert von Codeium in ihrem Software-Entwicklungslebenszyklus betont und haben auch die Begeisterung unter ihren Entwicklern zum Ausdruck gebracht.

Ob Sie ein einzelner Indie-Entwickler sind oder jemand, der Hardcore-Unternehmenssoftware schreibt, Codeium bietet überall Wert.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Codeium besuchen.