Etienne Bernard, Mitgründer und CEO von NuMind – Interview-Serie

Etienne Bernard ist der Mitgründer und CEO von NuMind, einem Softwareunternehmen, das im Juni 2022 gegründet wurde und sich auf die Entwicklung von Machine-Learning-Tools spezialisiert hat. Etienne ist ein Experte für KI und Machine Learning. Nach einem PhD (ENS) und einem Postdoc (MIT) in statistischer Physik trat Etienne Wolfram Research bei, wo er zum Leiter des Machine-Learning-Teams für 7 Jahre wurde. Während dieser Zeit leitete Etienne die Entwicklung von automatischen Lernalgorithmen, einer benutzerfreundlichen Deep-Learning-Plattform und verschiedenen Machine-Learning-Anwendungen.

Was hat Sie ursprünglich zum Machine Learning geführt?

Das erste Mal, als ich den Begriff “Machine Learning” hörte, war 2009, glaube ich, dank des Netflix-Preises. Ich fand die Idee, dass Maschinen lernen können, faszinierend und leistungsfähig. Es war bereits klar, dass dies zu vielen wichtigen Anwendungen führen würde – einschließlich der spannenden Möglichkeit, künstliche Intelligenz zu schaffen. Ich entschied mich sofort, mich damit zu beschäftigen, und kam nie wieder zurück.

Nach Ihrem PhD (ENS) und Postdoc (MIT) in statistischer Physik traten Sie Wolfram Research bei, wo Sie zum Leiter des Machine-Learning-Teams für 7 Jahre wurden. Welche waren einige der interessanteren Projekte, an denen Sie gearbeitet haben?

Mein Lieblingsprojekt bei Wolfram war die Entwicklung von automatischen Machine-Learning-Funktionen für die Wolfram Language (auch bekannt als Mathematica). Die erste davon war Classify, bei der man einfach die Daten angibt und eine Klassifizierung erhält. Für mich war Machine Learning immer schon darum, automatisch zu sein. Man stellt nicht die Hyperparameter eines menschlichen Schülers ein, und man sollte es auch nicht für eine Maschine tun! Es war sehr herausfordernd, sowohl aus wissenschaftlicher als auch aus softwaretechnischer Sicht, wirklich robuste und effiziente automatische Machine-Learning-Funktionen zu erstellen.

Die Erstellung einer High-Level-Neural-Network-Plattform war auch ein sehr interessantes Projekt. Viele schwierige Designentscheidungen darüber, wie man neuronale Netze symbolisch darstellt, wie man sie visualisiert und wie man sie manipuliert (z.B. indem man einige Teile abschneidet, andere zusammenfügt, Schichten ersetzt usw.). Ich denke, wir haben das ziemlich gut gemacht, und wenn es Open-Source wäre, wäre es sicherlich stark genutzt 😉

Während dieser Zeit haben Sie auch ein grundlegendes Buch mit dem Titel “Introduction to Machine Learning” geschrieben. Welche waren einige der Herausforderungen bei der Erstellung eines so umfassenden Buches?

Ach, es gab viele! Es dauerte zwei Jahre, um es zu schreiben. Ich könnte mich entschieden haben, einfach ein “Wie-man”-Buch zu schreiben, was einfacher gewesen wäre, aber ein Teil meiner Reise bei Wolfram bestand darin, Machine Learning zu lernen, und ich fühlte den Bedarf, dies zu vermitteln. Also bestand die Hauptschwierigkeit darin, herauszufinden, worüber ich genau sprechen sollte und in welcher Reihenfolge, um es interessant und leicht verständlich zu machen. Dann gab es die pädagogischen Details: Sollte ich für dieses Konzept eine mathematische Formel verwenden? Oder etwas Code? Oder einfach eine Visualisierung? Ich wollte dieses Buch so zugänglich wie möglich machen, und das gab mir viele Kopfschmerzen. Insgesamt bin ich zufrieden mit dem Ergebnis. Ich hoffe, es wird vielen nützlich sein!

Können Sie die Entstehungsgeschichte hinter NuMind teilen?

Okay. Ich wollte schon seit einiger Zeit ein Startup gründen, ursprünglich 2012, um ein Auto-ML-Tool zu entwickeln, aber die Arbeit bei Wolfram war zu viel Spaß. Dann, um 2019-2020, tauchten die ersten großen Sprachmodelle (LLMs) auf, wie GPT-2 und dann GPT-3. Es war ein Schock für mich, wie gut sie Text verstehen und generieren konnten. Gleichzeitig konnte ich sehen, wie schmerzhaft es war, NLP-Modelle zu erstellen: man musste mit einer Annotationsmannschaft umgehen, Experten für viele Experimente benötigen usw. Ich dachte, es sollte eine Möglichkeit geben, diese LLMs durch ein Tool zu nutzen, um die Erfahrung beim Erstellen von NLP-Modellen dramatisch zu verbessern. Mein Mitgründer, Samuel (der zufällig mein Cousin ist), teilte die gleiche Vision, und so entschieden wir uns, dieses Tool zu entwickeln.

Das Ziel von NuMind ist es, den Einsatz von Machine Learning und künstlicher Intelligenz im Allgemeinen durch die Erstellung einfacher, aber leistungsfähiger Tools zu fördern. Welche Tools sind derzeit verfügbar?

Ja. Unser erstes Tool ist für die Erstellung von benutzerdefinierten NLP-Modellen. Zum Beispiel möchte man vielleicht die Stimmung der Benutzer aus deren Feedback analysieren. Die Verwendung eines Standardmodells ist normalerweise nicht gut, da es auf anderen Daten trainiert wurde und für eine leicht andere Aufgabe (Stimmungsanalysen sind überraschend unterschiedlich voneinander!). Stattdessen möchte man ein benutzerdefiniertes Modell trainieren, das gut auf den eigenen Daten funktioniert. Unser Tool ermöglicht dies auf eine extrem einfache und effiziente Weise. Man lädt einfach die Daten, führt eine kleine Annotation durch und erhält ein Modell, das man über eine API bereitstellen kann. Dies ist dank der Verwendung von LLMs und dieser neuen Lernparadigmen, die wir Interactive AI Development nennen, möglich.

Welche benutzerdefinierten Modelle sehen Sie derzeit bei den ersten NuMind-Kunden?

Es gab einige Stimmungsanalysen. Zum Beispiel überwacht ein Kunde die Stimmung in Gruppenchats, in denen Menschen sich gegenseitig helfen, ihre Sucht zu überwinden. Diese Analyse ist erforderlich, um im seltenen Fall, in dem die Stimmung sinkt, einzugreifen. Ein anderer Kunde verwendet uns, um herauszufinden, welche Stellenangebote für ein bestimmtes Lebenslauf am besten geeignet sind – und ich glaube, es gibt ein großes Potenzial in solchen Vermittlungs-AIs. Wir haben auch Kunden, die Informationen aus medizinischen und juristischen Dokumenten extrahieren.

Wie viel Zeitersparnis können Unternehmen durch die Verwendung von NuMind-Tools sehen?

Es hängt natürlich von der Anwendung ab, aber im Vergleich zu herkömmlichen Lösungen (Daten beschriften und ein Modell trainieren) sehen wir bis zu 10-mal schnellere Verbesserungen, um ein Modell zu erhalten und es in Produktion zu setzen. Ich erwarte, dass diese Zahl verbessert wird, wenn wir das Produkt weiterentwickeln. Schließlich glaube ich, dass Projekte, die Monate gedauert hätten, in Tagen abgeschlossen werden können, mit besserer Leistung.

Können Sie erklären, wie NuMinds Interactive AI Development funktioniert?

Die Idee von Interactive AI Development kommt von der Art und Weise, wie Menschen einander unterrichten. Zum Beispiel, wenn man einen Praktikanten einstellt, um E-Mails zu klassifizieren. Man würde zunächst die Aufgabe und ihren Zweck beschreiben. Dann würde man vielleicht einige gute Beispiele geben, einige Randfälle vielleicht. Dann würde der Praktikant mit dem Klassifizieren von E-Mails beginnen, und eine Konversation würde beginnen. Der Praktikant würde zurückkommen mit Fragen wie “Wie soll ich diese klassifizieren?” oder “Ich denke, wir sollten eine neue Klassifizierung für diese erstellen” oder sogar fragen “Warum” wir sie auf eine bestimmte Weise klassifizieren sollten. Ähnlich könnten Sie dem Praktikanten Fragen stellen, um Wissenslücken zu identifizieren und zu korrigieren. Diese Art des Unterrichtens ist sehr natürlich und extrem effizient in Bezug auf den Informationsaustausch. Wir versuchen, diese Arbeitsweise nachzuahmen, um Menschen zu ermöglichen, Maschinen effizient zu unterrichten.

In technischer Hinsicht ist diese Arbeitsweise eine niedrigverzögerte, hochbandbreite, multimodale und bidirektionale Kommunikation zwischen Mensch und Maschine, und wir entschieden uns, sie Interactive AI Development zu nennen, um die Bidirektionalität und Niedrigverzögerung zu betonen. Ich sehe dies als drittes Paradigma, um Maschinen zu unterrichten, nach klassischer Programmierung und klassischem Machine Learning (wo man einfach eine Menge Beispiele für die Aufgabe gibt, die der Computer ausführen soll).

Dieses neue Paradigma wird durch LLMs ermöglicht. Man benötigt nämlich etwas, das bereits intelligent ist, um effizient mit ihm zu interagieren. Ich glaube, dass dieses Paradigma in naher Zukunft allgemein werden wird, und wir können bereits Ansätze davon in chatbasierten LLMs und unserem Tool sehen.

Wir wenden dieses Paradigma auf die Lehre von NLP-Aufgaben an, aber es kann – und wird – für viel mehr verwendet, einschließlich der Entwicklung von Software.

Gibt es noch etwas, das Sie über NuMind teilen möchten?

Vielleicht, dass es ein Tool ist, das sowohl von Experten als auch von Nicht-Experten im Bereich Machine Learning verwendet werden kann, dass es mehrsprachig ist, dass man seine eigenen Modelle besitzt und dass die Daten auf dem eigenen Rechner bleiben können!

Wir sind derzeit in einer privaten Beta-Phase, also wenn Sie NLP-Bedürfnisse haben, würden wir uns freuen, mit Ihnen zu sprechen und herauszufinden, ob und wie wir Ihnen helfen können!

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten NuMind besuchen.