Etienne Bernard, medgrunnlegger og CEO av NuMind – Intervju-serie

Etienne Bernard er medgrunnlegger og CEO av NuMind, et programvareselskap som ble grunnlagt i juni 2022 og som spesialiserer seg på å utvikle maskinlæringsverktøy. Etienne er en ekspert på AI og maskinlæring. Etter en doktorgrad (ENS) og postdoktor (MIT) i statistisk fysikk, ble Etienne ansatt i Wolfram Research, hvor han ble leder for maskinlæring i 7 år. I denne perioden ledet Etienne utviklingen av automatisk læringsverktøy, et brukervennlig dypt læringsrammeverk og ulike maskinlæringsapplikasjoner.

Hva var det som først tiltalte deg til maskinlæring?

Jeg hørte om begrepet “maskinlæring” for første gang i 2009, tror jeg, takket være Netflix-prisen. Jeg fant ideen om at maskiner kan lære fascinerende og kraftfull. Det var allerede tydelig for meg at dette ville føre til mange viktige applikasjoner – inkludert muligheten til å skape AI. Jeg bestemte meg umiddelbart for å dykke ned i det, og kom aldri tilbake.

Etter å ha fått en doktorgrad (ENS) og postdoktor (MIT) i statistisk fysikk, ble du ansatt i Wolfram Research, hvor du ble leder for maskinlæring i 7 år. Hva var noen av de mer interessante prosjektene du arbeidet med?

Mine favorittprosjekter i Wolfram var å utvikle automatisk maskinlæringsfunksjoner for Wolfram-språket (også kjent som Mathematica). Det første var Classify, hvor du bare gir det data og det returnerer en klassifiserer. For meg har maskinlæring alltid handlet om å være automatisk. Du justerer ikke hyperparametrene for din menneskelige student, og du bør ikke gjøre det for din maskin heller! Det var ganske utfordrende fra et vitenskapelig og programvareteknisk perspektiv å skape sannt robuste og effektive automatisk maskinlæringsfunksjoner.

Å skape et høynivå-neuralt nettverksrammeverk var også et veldig interessant prosjekt. Mange vanskelige designbeslutninger om hvordan man skal representere neurale nettverk symbolisk, hvordan man skal visualisere dem og hvordan man skal manipulere dem (dvs. å kunne kutte noen deler, lime andre sammen, erstatte lag, osv.). Jeg tror vi gjorde en god jobb, og hvis det var åpent kilde, er jeg ganske sikker på at det ville bli mye brukt 😉

I denne perioden skrev du også en banebrytende bok med tittelen “Introduction to Machine Learning“, hva var noen av utfordringene med å skrive en så omfattende bok?

Oh, det var mange! Det tok to år i alt å skrive. Jeg kunne ha bestemt meg for å bare skrive en “hvordan-gjøre-det”-bok, som ville ha vært enklere, men en del av min reise i Wolfram har vært å lære maskinlæring, og jeg følte behov for å formidle det. Så det største problemet var å finne ut hva jeg skulle snakke om eksakt, og i hvilken rekkefølge, for å gjøre det interessant og lett å forstå. Så var det pedagogiske detaljene: skulle jeg bruke en matematisk formel for dette konseptet? Eller noen kode? Eller bare en visualisering? Jeg ville gjøre denne boken så tilgjengelig som mulig, og det ga meg mange problemer. Jeg er glad for resultatet. Jeg håper det vil være nyttig for mange!

Kunne du dele historien bak NuMind?

Okay. Jeg ville skape et startup i en stund, opprinnelig i 2012 for å skape et auto ML-verktøy, men arbeidet i Wolfram var for mye moro. Så rundt 2019-2020 begynte de første store språkmodellene (LLM) å dukke opp, som GPT-2 og deretter GPT-3. Det var et sjokk for meg hvor godt de kunne forstå og generere tekst. Samtidig kunne jeg se hvor smertefullt det var å skape NLP-modeller: du måtte håndtere en annotasjonsteam, ha eksperter som kjørte mange eksperimenter, osv. Jeg tenkte at det måtte finnes en måte å bruke disse LLM-ene gjennom et verktøy for å dramatisk forbedre erfaringen med å skape NLP-modeller. Min medgrunnlegger, Samuel (som tilfeldigvis er min fetter), delte den samme visjonen, og så bestemte vi oss for å skape dette verktøyet.

Målet med NuMind er å spre bruken av maskinlæring – og kunstig intelligens generelt – ved å skape enkle, men kraftfulle verktøy. Hva er noen av verktøyene som er tilgjengelige nå?

Ja. Vårt første verktøy er for å skape tilpassede NLP-modeller. For eksempel, la oss si at du vil analysere holdningen til dine brukere fra deres tilbakemeldinger. Å bruke en standardmodell er vanligvis ikke så bra, fordi den er trent på en annen type data og for en litt annen oppgave (holdningsanalyseoppgaver er overraskende forskjellige fra hverandre!). I stedet ønsker du å trene en tilpasset modell som fungerer bra på dine data. Vårt verktøy lar deg gjøre nettopp det, på en ekstremt enkel og effektiv måte. Du laster opp dine data, utfører en liten mengde annotering og får en modell som du kan distribuere gjennom en API. Dette er mulig takket være bruk av LLM-er, men også denne nye læringsparadigmet som vi kaller Interaktiv AI-utvikling.

Hva er noen av de tilpassede modellene du ser utviklet fra de første kundene til NuMind?

Det har vært noen holdningsanalyser. For eksempel er en kunde vår overvåker holdningen i gruppesamtaler hvor folk hjelper hverandre å kjempe mot avhengighet. Denne analysen er nødvendig for å gripe inn i de sjeldne tilfellene hvor holdningen synker. En annen kunde bruker oss til å finne hvilke jobbåpninger som er best for en gitt CV – og forresten, jeg tror det er mye potensiale i slike matchmaking-AI-er. Vi har også kunder som trekker ut informasjon fra medisinske og juridiske dokumenter.

Hvor mye tid kan bedrifter spare ved å bruke NuMind-verktøy?

Dette er selvsagt avhengig av applikasjonen, men sammenlignet med tradisjonelle løsninger (merking av data og trening av en modell separat), ser vi opp til 10 ganger bedre hastighet for å få en modell og sette den i produksjon. Jeg forventer at dette tallet vil forbedres når vi fortsetter å utvikle produktet. Til slutt tror jeg at prosjekter som ville ha tatt måneder, vil bli fullført på dager, og med bedre ytelse.

Kunne du forklare hvordan NuMinds Interaktiv AI-utvikling fungerer?

Ideen bak Interaktiv AI-utvikling kommer fra hvordan mennesker lærer hverandre. For eksempel, la oss si at du hyrer en praktikant for å klassifisere dine e-poster. Du ville først beskrive oppgaven og dens formål. Så ville du kanskje gi noen gode eksempler, noen hjørnetilfeller kanskje. Så ville din praktikant begynne å merke e-poster, og en samtale ville begynne. Din praktikant ville komme tilbake med spørsmål som “Hvordan skal jeg merke denne?” eller “Jeg tror vi bør lage en ny merking for denne”, eller til og med spørre deg “hvorfor” vi skal merke på en bestemt måte. Liksom du ville spørre spørsmål til din praktikant for å identifisere og korrigere deres kunnskapsluker. Denne måten å lære på er veldig naturlig og ekstremt effektiv i terms of informasjonsutveksling. Vi prøver å etterligne denne arbeidsflyten for å få mennesker til å effektivt lære maskiner.

I tekniske termer er denne arbeidsflyten en lav-forsinkelse, høy-båndbredde, multimodal og toveiskommunikasjon mellom menneske og maskin, og vi bestemte oss for å kalle det Interaktiv AI-utvikling for å understreke toveiskommunikasjon og lav-forsinkelse. Jeg ser på dette som en tredje paradigme for å lære maskiner, etter klassisk programmering og klassisk maskinlæring (hvor du bare gir en mengde eksempler av oppgaven for datamaskinen å finne ut hva den skal gjøre).

Dette nye paradigmet er låst av LLM-er. Du trenger å ha noe som allerede er noenlunde smart i maskinen for å kunne effektivt kommunisere med den. Jeg tror dette paradigmet vil bli vanlig i nær fremtid, og vi kan allerede se glimt av det med chat-baserte LLM-er og med vårt verktøy selvsagt.

Vi anvender dette paradigmet til å lære NLP-oppgaver, men dette kan – og vil – bli brukt til mye mer, inkludert utvikling av programvare.

Er det noe annet du ville like å dele om NuMind?

Kanskje at det er et verktøy som kan brukes av både eksperter og ikke-eksperter i maskinlæring, at det er flerspråklig, at du eier dine egne modeller, og at dataene kan forbli på din maskin!

Ellers er vi i en privat beta-fase, så hvis du har noen NLP-behov, vil vi gjerne snakke og finne ut om/hvordan vi kan hjelpe deg!

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke NuMind.