Etienne Bernard, Co-Fondatore e Amministratore Delegato di NuMind – Serie di Interviste

Etienne Bernard, è il Co-Fondatore e Amministratore Delegato di NuMind una società di software fondata nel giugno 2022 specializzata nello sviluppo di strumenti di apprendimento automatico. Etienne è un esperto di intelligenza artificiale e apprendimento automatico. Dopo un dottorato (ENS) e un post-dottorato (MIT) in fisica statistica, Etienne si è unito a Wolfram Research dove è diventato il capo dell’apprendimento automatico per 7 anni. Durante questo periodo, Etienne ha guidato lo sviluppo di strumenti di apprendimento automatico, un framework di apprendimento profondo facile da usare e varie applicazioni di apprendimento automatico.

Cosa ti ha inizialmente attratto verso l’apprendimento automatico?

La prima volta che ho sentito il termine “apprendimento automatico” è stata nel 2009, credo, grazie al premio Netflix. Ho trovato l’idea che le macchine possano imparare affascinante e potente. Era già chiaro per me che questo avrebbe portato a molte applicazioni importanti, compresa la possibilità di creare intelligenze artificiali. Ho immediatamente deciso di immergermi in questo campo e non sono più uscito.

Dopo aver ottenuto un dottorato (ENS) e un post-dottorato (MIT) in fisica statistica, ti sei unito a Wolfram Research dove sei diventato il capo dell’apprendimento automatico per 7 anni. Quali sono stati alcuni dei progetti più interessanti su cui hai lavorato?

I miei progetti preferiti a Wolfram erano lo sviluppo di funzioni di apprendimento automatico automatiche per il linguaggio Wolfram (noto anche come Mathematica). Il primo è stato Classify, dove si dà solo i dati e restituisce un classificatore. Per me, l’apprendimento automatico è sempre stato questione di essere automatico. Non si regolano i parametri iper di uno studente umano e non si dovrebbe fare lo stesso per una macchina! È stato abbastanza impegnativo dal punto di vista scientifico e di ingegneria del software creare funzioni di apprendimento automatico veramente robuste ed efficienti.

Creare un framework di reti neurali ad alto livello è stato anche un progetto molto interessante. Molte decisioni difficili sulla rappresentazione simbolica delle reti neurali, su come visualizzarle e su come manipolarle (ad esempio, essere in grado di tagliare alcuni pezzi, incollare altri insieme, sostituire strati, ecc.). Credo che abbiamo fatto un buon lavoro, e se fosse open source, sono sicuro che sarebbe ampiamente utilizzato 😉

Durante questo periodo hai anche scritto un libro fondamentale intitolato “Introduzione all’apprendimento automatico“, quali sono stati alcuni degli sfidi dietro la stesura di un libro così completo?

Oh, ce ne sono stati molti! Ci sono voluti due anni in totale per scriverlo. Avrei potuto decidere di scrivere solo un libro “come fare”, che sarebbe stato più facile, ma parte del mio percorso a Wolfram è stato imparare l’apprendimento automatico, e ho sentito il bisogno di trasmetterlo. Quindi la principale difficoltà è stata capire cosa parlare esattamente e in che ordine, per renderlo interessante e facile da capire. Poi c’erano i dettagli pedagogici: dovevo usare una formula matematica per questo concetto? O del codice? O solo una visualizzazione? Volevo rendere questo libro il più accessibile possibile e questo mi ha dato molti mal di testa. Nel complesso sono felice del risultato. Spero che sarà utile a molti!

Puoi condividere la storia di come è nata NuMind?

Okay. Volevo creare una startup da un po’ di tempo, originariamente nel 2012 per creare uno strumento di apprendimento automatico, ma il lavoro a Wolfram era troppo divertente. Poi, intorno al 2019-2020, i primi grandi modelli linguistici (LLM) hanno iniziato a comparire, come GPT-2 e poi GPT-3. È stato uno shock per me vedere quanto bene potessero comprendere e generare testo. Allo stesso tempo, potevo vedere quanto fosse doloroso creare modelli di NLP: dovevi avere a che fare con un team di annotazione, avere esperti che eseguivano molti esperimenti, ecc. Ho pensato che ci dovesse essere un modo per utilizzare questi LLM attraverso uno strumento per migliorare drasticamente l’esperienza di creazione di modelli di NLP. Il mio co-fondatore, Samuel (che per caso è mio cugino), condivideva la stessa visione, e quindi abbiamo deciso di creare questo strumento.

L’obiettivo di NuMind è diffondere l’uso dell’apprendimento automatico e dell’intelligenza artificiale in generale creando strumenti semplici ma potenti. Quali sono alcuni degli strumenti attualmente disponibili?

Infatti. Il nostro primo strumento è per la creazione di modelli di NLP personalizzati. Ad esempio, supponiamo che tu voglia analizzare il sentimento dei tuoi utenti dai loro feedback. Utilizzare un modello predefinito non è generalmente buono, perché è stato addestrato su un tipo di dati diverso e per una task leggermente diversa (le task di analisi del sentimento sono sorprendentemente diverse l’una dall’altra!). Invece, vuoi addestrare un modello personalizzato che funzioni bene sui tuoi dati. Il nostro strumento consente di farlo in modo estremamente semplice ed efficiente. Fondamentalmente carichi i tuoi dati, esegui una piccola quantità di annotazione e ottieni un modello che puoi distribuire attraverso un’API. Ciò è possibile grazie all’utilizzo di LLM e anche a questo nuovo paradigma di apprendimento che chiamiamo Sviluppo di intelligenza artificiale interattivo.

Quali sono alcuni dei modelli personalizzati che stai vedendo sviluppare dai primi clienti di NuMind?

Ci sono stati alcuni analizzatori del sentimento. Ad esempio, un cliente sta monitorando il sentimento di chat di gruppo dove le persone si aiutano a vicenda a combattere le loro dipendenze. Questa analisi è necessaria per intervenire nel raro caso in cui il sentimento sta calando. Un altro cliente utilizza il nostro strumento per trovare quali offerte di lavoro sono migliori per un dato curriculum – e credo che ci sia un grande potenziale in questo tipo di intelligenze artificiali di abbinamento. Abbiamo anche clienti che stanno estraendo informazioni da documenti medici e legali.

Quanto tempo di risparmio possono vedere le aziende utilizzando gli strumenti di NuMind?

È dipendente dall’applicazione, naturalmente, ma rispetto alle soluzioni tradizionali (etichettare i dati e addestrare un modello separatamente), vediamo fino a un miglioramento della velocità del 10x per ottenere un modello e metterlo in produzione. Mi aspetto che questo numero migliori mentre continuiamo a sviluppare il prodotto. Alla fine, credo che progetti che avrebbero richiesto mesi saranno completati in giorni, e con prestazioni migliori.

Puoi spiegare come funziona lo Sviluppo di intelligenza artificiale interattivo di NuMind?

L’idea di Sviluppo di intelligenza artificiale interattivo deriva da come gli esseri umani si insegnano a vicenda. Ad esempio, supponiamo che tu assuma uno stagista per classificare le tue email. Prima descriveresti il compito e il suo scopo. Poi potresti darti alcuni esempi, alcuni casi limite forse. Poi il tuo stagista inizierebbe a etichettare le email e inizierebbe una conversazione. Il tuo stagista tornerebbe con domande come “Come dovrei etichettare questo?” o “Credo che dovremmo creare una nuova etichetta per questo”, o anche chiederti “perché” dovremmo etichettare in un certo modo. Allo stesso modo, potresti chiedere domande al tuo stagista per identificare e correggere le lacune nella sua conoscenza. In questo modo di insegnamento è molto naturale e estremamente efficiente in termini di scambio di informazioni. Stiamo cercando di emulare questo flusso di lavoro per consentire agli esseri umani di insegnare alle macchine in modo efficiente.

In termini tecnici, questo flusso di lavoro è una comunicazione a bassa latenza, ad alta larghezza di banda, multimodale e bidirezionale tra l’essere umano e la macchina, e abbiamo deciso di chiamarlo Sviluppo di intelligenza artificiale interattivo per sottolineare gli aspetti di bidirezionalità e bassa latenza. Lo vedo come un terzo paradigma per insegnare alle macchine, dopo la programmazione classica e l’apprendimento automatico classico (dove si dà solo un mucchio di esempi del compito per il computer per capire cosa fare).

Questo nuovo paradigma è sbloccato dai LLM. Infatti, hai bisogno di avere qualcosa di già abbastanza intelligente nella macchina per poter interagire con essa in modo efficiente. Credo che questo paradigma diventerà comune in un prossimo futuro e possiamo già vedere accenni di esso con LLM basati su chat e con il nostro strumento, naturalmente.

Stiamo applicando questo paradigma per insegnare compiti di NLP, ma ciò potrà – e sarà – utilizzato per molto di più, compreso lo sviluppo di software.

C’è qualcos’altro che vorresti condividere su NuMind?

Forse che è uno strumento che può essere utilizzato sia da esperti che da non esperti di apprendimento automatico, che è multilingue, che tu possiedi i tuoi modelli e che i dati possono rimanere sulla tua macchina!

Altrimenti, siamo in una fase di beta privata, quindi se hai bisogno di NLP, saremmo felici di parlare e capire se e come possiamo aiutarti!

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare NuMind.