Etienne Bernard, Co-Fondateur & PDG de NuMind – Série d’entretiens

Etienne Bernard, est le Co-Fondateur & PDG de NuMind une entreprise de logiciels fondée en juin 2022 spécialisée dans le développement d’outils d’apprentissage automatique. Etienne est un expert en intelligence artificielle et en apprentissage automatique. Après un doctorat (ENS) et un postdoctorat (MIT) en physique statistique, Etienne a rejoint Wolfram Research où il est devenu le responsable de l’apprentissage automatique pendant 7 ans. Pendant cette période, Etienne a dirigé le développement d’outils d’apprentissage automatique, d’un cadre de deep learning convivial et de diverses applications d’apprentissage automatique.

Qu’est-ce qui vous a initialement attiré vers l’apprentissage automatique ?

La première fois que j’ai entendu le terme « apprentissage automatique » était en 2009, je crois, grâce au prix Netflix. J’ai trouvé l’idée que les machines puissent apprendre fascinante et puissante. Il était déjà clair pour moi que cela allait conduire à de nombreuses applications importantes – y compris la possibilité d’ créer des intelligences artificielles. J’ai immédiatement décidé de plonger dedans et je n’en suis jamais revenu.

Après avoir obtenu un doctorat (ENS) et un postdoctorat (MIT) en physique statistique, vous avez rejoint Wolfram Research où vous êtes devenu le responsable de l’apprentissage automatique pendant 7 ans. Quels étaient certains des projets les plus intéressants sur lesquels vous avez travaillé ?

Mon type de projet préféré chez Wolfram était le développement de fonctions d’apprentissage automatique pour le langage Wolfram (a.k.a. Mathematica). Le premier était Classify, où vous lui donnez les données et il retourne un classificateur. Pour moi, l’apprentissage automatique a toujours été question d’être automatique. Vous n’ajustez pas les hyperparamètres de votre étudiant humain, et vous ne devriez pas le faire pour votre machine non plus ! C’était assez difficile d’un point de vue scientifique et d’ingénierie logicielle pour créer des fonctions d’apprentissage automatique vraiment robustes et efficaces.

La création d’un cadre de réseau neuronal de haut niveau était également un projet très intéressant. Beaucoup de décisions de conception difficiles sur la façon de représenter les réseaux neuronaux de manière symbolique, de les visualiser et de les manipuler (c’est-à-dire être capable de couper certaines parties, de les coller ensemble, de remplacer des couches, etc.). Je pense que nous avons fait un bon travail, et si c’était open source, je suis sûr qu’il serait très utilisé 😉

Pendant cette période, vous avez également écrit un livre fondateur intitulé « Introduction to Machine Learning », quels étaient certains des défis derrière la rédaction d’un tel livre complet ?

Oh, il y en a eu beaucoup ! Cela a pris deux ans au total pour écrire. J’aurais pu décider d’écrire simplement un livre « comment faire », ce qui aurait été plus facile, mais une partie de mon parcours chez Wolfram a été d’apprendre l’apprentissage automatique, et je me sentais le besoin de transmettre cela. Le principal problème était de déterminer de quoi parler exactement, et dans quel ordre, pour le rendre intéressant et facile à comprendre. Ensuite, il y avait les détails pédagogiques : devais-je utiliser une formule mathématique pour ce concept ? Ou du code ? Ou simplement une visualisation ? Je voulais rendre ce livre aussi accessible que possible et cela m’a donné beaucoup de maux de tête. Dans l’ensemble, je suis heureux du résultat. J’espère qu’il sera utile à beaucoup !

Pouvez-vous partager l’histoire de la création de NuMind ?

D’accord. Je voulais créer une startup depuis un certain temps, à l’origine en 2012 pour créer un outil d’apprentissage automatique, mais le travail chez Wolfram était trop amusant. Ensuite, vers 2019-2020, les premiers grands modèles de langage (LLM) ont commencé à apparaître, comme GPT-2 et puis GPT-3. C’était un choc pour moi de voir à quel point ils pouvaient comprendre et générer du texte. En même temps, je pouvais voir à quel point il était douloureux de créer des modèles de NLP : vous deviez faire face à une équipe d’annotation, avoir des experts qui effectuent de nombreuses expériences, etc. Je pensais qu’il devait y avoir un moyen d’utiliser ces LLM pour améliorer dramatiquement l’expérience de création de modèles de NLP. Mon co-fondateur, Samuel (qui se trouve être mon cousin), partageait la même vision, et nous avons donc décidé de créer cet outil.

L’objectif de NuMind est de diffuser l’utilisation de l’apprentissage automatique – et de l’intelligence artificielle en général – en créant des outils simples mais puissants. Quels sont certains des outils qui sont actuellement disponibles ?

En effet. Notre premier outil est pour la création de modèles de NLP personnalisés. Par exemple, disons que vous voulez analyser le sentiment de vos utilisateurs à partir de leurs commentaires. Utiliser un modèle standard n’est généralement pas très bon, car il a été formé sur un type de données différent et pour une tâche légèrement différente (les tâches d’analyse de sentiment sont étonnamment différentes les unes des autres !). Au lieu de cela, vous voulez former un modèle personnalisé qui fonctionne bien sur vos données. Notre outil permet de le faire de manière extrêmement simple et efficace. Fondamentalement, vous chargez vos données, effectuez une petite quantité d’annotation et obtenez un modèle que vous pouvez déployer via une API. C’est possible grâce à l’utilisation des LLM, mais également à ce nouveau paradigme d’apprentissage que nous appelons le développement d’IA interactif.

Quels sont certains des modèles personnalisés que vous voyez développés à partir du premier tour de clients de NuMind ?

Il y a eu quelques analyseurs de sentiment. Par exemple, un client surveille le sentiment de groupes de discussion où les gens s’aident mutuellement à lutter contre leurs addictions. Cette analyse est nécessaire pour intervenir dans les rares cas où le sentiment est en déclin. Un autre client utilise notre outil pour trouver quels postes de travail sont les mieux adaptés à un CV donné – et à propos, je pense qu’il y a beaucoup de potentiel dans ces types de IA de mise en correspondance. Nous avons également des clients qui extraient des informations de documents médicaux et juridiques.

Quel est le gain de temps que les entreprises peuvent voir en utilisant les outils de NuMind ?

Cela dépend bien sûr de l’application, mais par rapport aux solutions traditionnelles (étiquetage des données et formation d’un modèle séparément), nous voyons une amélioration de la vitesse pouvant aller jusqu’à 10 fois pour obtenir un modèle et le mettre en production. Je m’attends à ce que ce chiffre s’améliore à mesure que nous continuons à développer le produit. Finalement, je pense que des projets qui auraient pris des mois seront terminés en quelques jours, et avec de meilleures performances.

Pouvez-vous expliquer comment fonctionne le développement d’IA interactif de NuMind ?

L’idée du développement d’IA interactif vient de la façon dont les humains s’enseignent les uns aux autres. Par exemple, disons que vous embauchez un stagiaire pour classer vos e-mails. Vous lui décririez d’abord la tâche et son objectif. Ensuite, vous lui donneriez quelques bons exemples, peut-être des cas limites. Ensuite, votre stagiaire commencerait à étiqueter les e-mails, et une conversation commencerait. Votre stagiaire reviendrait avec des questions telles que « Comment devrais-je étiqueter celui-ci ? » ou « Je pense que nous devrions créer une nouvelle étiquette pour celui-ci », ou même vous demander « pourquoi » nous devrions étiqueter d’une certaine manière. De même, vous pourriez poser des questions à votre stagiaire pour identifier et corriger les lacunes dans ses connaissances. Cette façon d’enseigner est très naturelle et extrêmement efficace en termes d’échange d’informations. Nous essayons de reproduire ce flux de travail pour que les humains puissent enseigner efficacement aux machines.

Sur le plan technique, ce flux de travail est une communication à faible latence, à large bande passante, multimodale et bidirectionnelle entre l’humain et la machine, et nous avons décidé de l’appeler le développement d’IA interactif pour souligner les aspects de bidirectionnalité et de faible latence. Je le vois comme un troisième paradigme pour enseigner aux machines, après la programmation classique et l’apprentissage automatique classique (où vous donnez simplement un ensemble d’exemples de la tâche pour que l’ordinateur découvre ce qu’il doit faire).

Ce nouveau paradigme est débloqué par les LLM. En effet, vous avez besoin de quelque chose qui soit déjà un peu intelligent dans la machine pour interagir efficacement avec elle. Je pense que ce paradigme deviendra courant dans un avenir proche, et nous pouvons déjà en voir des bribes avec les LLM basés sur le chat et avec notre outil, bien sûr.

Nous appliquons ce paradigme pour enseigner des tâches de NLP, mais cela peut – et sera – utilisé pour bien plus, y compris le développement de logiciels.

Y a-t-il autre chose que vous aimeriez partager sur NuMind ?

Peut-être que c’est un outil qui peut être utilisé à la fois par des experts et des non-experts en apprentissage automatique, qu’il est multilingue, que vous possédez vos modèles, et que les données peuvent rester sur votre machine !

Autrement, nous sommes en phase de bêta privée, donc si vous avez des besoins en NLP, nous serions ravis de discuter et de déterminer si/nous pouvons vous aider !

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter NuMind.