Etienne Bernard, Co-Fondatore & CEO di NuMind – Serie di Interviste

Etienne Bernard, è il Co-Fondatore & CEO di NuMind una società di software fondata nel giugno 2022 specializzata nello sviluppo di strumenti di apprendimento automatico. Etienne è un esperto di intelligenza artificiale e apprendimento automatico. Dopo un dottorato (ENS) e un post-dottorato (MIT) in fisica statistica, Etienne si è unito a Wolfram Research dove è diventato il capo dell’apprendimento automatico per 7 anni. Durante questo periodo, Etienne ha guidato lo sviluppo di strumenti di apprendimento automatico, un framework di apprendimento profondo facile da usare e varie applicazioni di apprendimento automatico.

Cosa ti ha inizialmente attirato verso l’apprendimento automatico?

La prima volta che ho sentito il termine “apprendimento automatico” è stata nel 2009, credo, grazie al premio Netflix. Ho trovato l’idea che le macchine possano imparare affascinante e potente. Era già chiaro per me che questo avrebbe portato a molte applicazioni importanti, compresa la possibilità emozionante di creare intelligenze artificiali. Ho immediatamente deciso di immergermi in questo campo e non ne sono più uscito.

Dopo aver ottenuto un dottorato (ENS) e un post-dottorato (MIT) in fisica statistica, ti sei unito a Wolfram Research dove sei diventato il capo dell’apprendimento automatico per 7 anni. Quali sono stati alcuni dei progetti più interessanti su cui hai lavorato?

Il mio tipo di progetti preferito a Wolfram era lo sviluppo di funzioni di apprendimento automatico automatiche per il linguaggio Wolfram (noto anche come Mathematica). Il primo è stato Classify, dove basta darti i dati e restituisce un classificatore. Per me, l’apprendimento automatico è sempre stato questione di essere automatico. Non si regolano i parametri iper di uno studente umano e non si dovrebbe fare neanche per una macchina! È stato abbastanza impegnativo dal punto di vista scientifico e di ingegneria del software creare funzioni di apprendimento automatico veramente robuste ed efficienti.

Creare un framework di reti neurali di alto livello è stato anche un progetto molto interessante. Molti difficili decisioni di progettazione su come rappresentare le reti neurali simbolicamente, come visualizzarle e come manipolarle (ad esempio, essere in grado di tagliare alcuni pezzi, incollare altri insieme, sostituire livelli, ecc.). Credo che abbiamo fatto un buon lavoro, e se fosse open source, sono abbastanza sicuro che sarebbe molto utilizzato 😉

Durante questo periodo di tempo hai anche scritto un libro seminale intitolato “Introduzione all’apprendimento automatico“, quali sono stati alcuni degli sfidi dietro la scrittura di un libro così completo?

Oh, ce ne sono stati molti! Ci sono voluti due anni in totale per scriverlo. Avrei potuto decidere di scrivere solo un libro “come fare”, che sarebbe stato più facile, ma parte del mio percorso a Wolfram è stato imparare l’apprendimento automatico, e ho sentito il bisogno di trasmetterlo. Quindi la principale difficoltà è stata capire di cosa parlare esattamente e in che ordine, per renderlo interessante e facile da capire. Poi c’erano i dettagli pedagogici: dovevo usare una formula matematica per questo concetto? O del codice? O solo una visualizzazione? Volevo rendere questo libro il più accessibile possibile e questo mi ha dato molti mal di testa. Nel complesso sono felice del risultato. Spero che sarà utile a molti!

Puoi condividere la storia di genesi dietro NuMind?

Okay. Volevo creare una startup da un po’ di tempo, originariamente nel 2012 per creare uno strumento di apprendimento automatico, ma il lavoro a Wolfram era troppo divertente. Poi intorno al 2019-2020, i primi grandi modelli linguistici (LLM) hanno iniziato a comparire, come GPT-2 e poi GPT-3. È stato uno shock per me vedere quanto bene potessero comprendere e generare testo. Allo stesso tempo, potevo vedere quanto fosse doloroso creare modelli NLP: dovevi avere a che fare con un team di annotazione, avere esperti che eseguivano molti esperimenti, ecc. Ho pensato che ci dovesse essere un modo per utilizzare questi LLM attraverso uno strumento per migliorare drasticamente l’esperienza di creazione di modelli NLP. Il mio co-fondatore, Samuel (che per caso è mio cugino), condivideva la stessa visione, e quindi abbiamo deciso di creare questo strumento.

L’obiettivo di NuMind è diffondere l’uso dell’apprendimento automatico – e dell’intelligenza artificiale in generale – creando strumenti semplici ma potenti. Quali sono alcuni degli strumenti attualmente disponibili?

Sì. Il nostro primo strumento è per la creazione di modelli NLP personalizzati. Ad esempio, supponiamo che tu voglia analizzare il sentimento dei tuoi utenti dai loro feedback. Utilizzare un modello preconfezionato non è generalmente buono, perché è stato addestrato su un tipo diverso di dati e per una task leggermente diversa (le task di analisi del sentimento sono sorprendentemente diverse l’una dall’altra!). Invece, vuoi addestrare un modello personalizzato che funzioni bene sui tuoi dati. Il nostro strumento ti consente di farlo in modo estremamente semplice ed efficiente. Fondamentalmente carichi i tuoi dati, esegui una piccola quantità di annotazione e ottieni un modello che puoi distribuire attraverso un’API. Ciò è possibile grazie all’uso di LLM, ma anche a questo nuovo paradigma di apprendimento che chiamiamo Sviluppo di intelligenza artificiale interattiva.

Quali sono alcuni dei modelli personalizzati che stai vedendo sviluppare dai primi clienti di NuMind?

Ci sono stati alcuni analizzatori di sentimento. Ad esempio, un cliente sta monitorando il sentimento di chat di gruppo dove le persone si aiutano a vicenda a combattere le loro dipendenze. Questa analisi è necessaria per intervenire nel raro caso in cui il sentimento è in declino. Un altro cliente ci utilizza per trovare quali annunci di lavoro sono migliori per un dato curriculum – e a proposito, credo che ci sia molto potenziale in questi tipi di intelligenze artificiali di abbinamento. Abbiamo anche clienti che stanno estraendo informazioni da documenti medici e legali.

Quanto tempo di risparmio possono vedere le aziende utilizzando gli strumenti di NuMind?

Dipende naturalmente dall’applicazione, ma rispetto alle soluzioni tradizionali (etichettare i dati e addestrare un modello separatamente), vediamo fino a un miglioramento della velocità del 10x per ottenere un modello e metterlo in produzione. Mi aspetto che questo numero migliori man mano che continuiamo a sviluppare il prodotto. Alla fine, credo che progetti che avrebbero richiesto mesi saranno completati in giorni, e con prestazioni migliori.

Puoi spiegare come funziona lo Sviluppo di intelligenza artificiale interattiva di NuMind?

L’idea di Sviluppo di intelligenza artificiale interattiva deriva da come gli esseri umani si insegnano a vicenda. Ad esempio, supponiamo che tu assuma uno stagista per classificare le tue email. Inizieresti descrivendo il compito e il suo scopo. Poi potresti darti alcuni buoni esempi, alcuni casi limite forse. Poi il tuo stagista inizierebbe a etichettare le email e inizierebbe una conversazione. Il tuo stagista tornerebbe con domande come “Come dovrei etichettare questo?” o “Credo che dovremmo creare un nuovo etichetta per questo” o anche chiedendo “perché” dovremmo etichettare in un certo modo. Allo stesso modo, potresti fare domande al tuo stagista per identificare e correggere le lacune di conoscenza. Questo modo di insegnare è molto naturale ed estremamente efficiente in termini di scambio di informazioni. Stiamo cercando di emulare questo flusso di lavoro per consentire agli esseri umani di insegnare efficientemente alle macchine.

In termini tecnici, questo flusso di lavoro è una comunicazione a bassa latenza, ad alta larghezza di banda, multimodale e bidirezionale tra l’essere umano e la macchina, e abbiamo deciso di chiamarlo Sviluppo di intelligenza artificiale interattiva per sottolineare gli aspetti di bidirezionalità e bassa latenza. Lo vedo come un terzo paradigma per insegnare alle macchine, dopo la programmazione classica e l’apprendimento automatico classico (dove si danno solo esempi del compito per il computer per capire cosa fare).

Questo nuovo paradigma è sbloccato dai LLM. Infatti, hai bisogno di avere qualcosa che sia già in qualche modo intelligente nella macchina per interagire efficientemente con essa. Credo che questo paradigma diventerà comune in un prossimo futuro, e possiamo già vedere accenni di esso con LLM basati su chat e con il nostro strumento, naturalmente.

Stiamo applicando questo paradigma per insegnare compiti NLP, ma ciò può – e sarà – utilizzato per molto altro, compreso lo sviluppo di software.

C’è qualcos’altro che ti piacerebbe condividere su NuMind?

Forse che è uno strumento che può essere utilizzato sia da esperti che da non esperti di apprendimento automatico, che è multilingue, che possiedi i tuoi modelli e che i dati possono rimanere sulla tua macchina!

Altrimenti, siamo in una fase di beta privata, quindi se hai bisogno di NLP, saremmo felici di parlare e capire se e come possiamo aiutarti!

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare NuMind.