Etienne Bernard, medstifter og administrerende direktør i NuMind – Intervju-serie

Etienne Bernard er medstifter og administrerende direktør i NuMind, et softwarefirma grundlagt i juni 2022, der specialiserer sig i udvikling af maskinlæringsværktøjer. Etienne er ekspert i AI og maskinlæring. Efter en ph.d. (ENS) og postdoc (MIT) i statistisk fysik, sluttede Etienne sig til Wolfram Research, hvor han blev leder af maskinlæring i 7 år. Under denne periode ledede Etienne udviklingen af automatiske læringsværktøjer, et brugervenligt dybtlæringsrammeværk og forskellige maskinlæringsapplikationer.

Hvad var det, der oprindeligt tiltrak dig til maskinlæring?

Den første gang, jeg hørte om begrebet “maskinlæring”, var i 2009, tror jeg, takket være Netflix-prisen. Jeg fandt ideen om, at maskiner kan lære, fascinerende og kraftfuld. Det var allerede tydeligt for mig, at dette ville føre til mange vigtige anvendelser – herunder den spændende mulighed for at skabe AI’er. Jeg besluttede straks at dykke ned i det og kom aldrig tilbage.

Efter at have fået en ph.d. (ENS) og postdoc (MIT) i statistisk fysik, sluttede du dig til Wolfram Research, hvor du blev leder af maskinlæring i 7 år. Hvad var nogle af de mere interessante projekter, du arbejdede på?

Mit yndlingsprojekt hos Wolfram var udviklingen af automatiske maskinlæringsfunktioner til Wolfram Language (a.k.a. Mathematica). Den første var Classify, hvor du bare giver det data og får en klassifikator tilbage. For mig har maskinlæring altid været om at være automatisk. Du justerer ikke hyperparametrene for din menneskelige elev, og du bør ikke gøre det for din maskine heller! Det var ret udfordrende fra et videnskabeligt og softwareteknisk synspunkt at skabe rigtigt robuste og effektive automatiske maskinlæringsfunktioner.

At skabe et højt niveau neuralnetværksrammeværk var også et meget interessant projekt. Mange svære designbeslutninger om, hvordan man repræsenterer neuralnetværk symbolisk, hvordan man visualiserer dem og hvordan man manipulerer dem (dvs. kan klippe nogle stykker, lime andre sammen, erstatte lag, osv.). Jeg tror, vi gjorde en ordentlig job, og hvis det var open source, er jeg ret sikker på, at det ville blive brugt meget 😉

Under denne periode skrev du også en grundlæggende bog med titlen “Introduction to Machine Learning“, hvad var nogle af udfordringerne med at skrive en sådan omfattende bog?

Oh, der var mange! Det tog to år i alt at skrive. Jeg kunne have besluttet mig for bare at skrive en “hvordan-gør-man”-bog, hvilket ville have været lettere, men en del af min rejse hos Wolfram har været om at lære maskinlæring, og jeg følte behov for at videregive det. Så det største problem var at finde ud af, hvad jeg skulle tale om, og i hvilken rækkefølge, for at gøre det interessant og let at forstå. Så var der de pædagogiske detaljer: skulle jeg bruge en matematisk formel til dette begreb? Eller nogen kode? Eller bare en visualisering? Jeg ville gøre denne bog så tilgængelig som muligt, og det gav mig mange headaches. Overordnet set er jeg tilfreds med resultatet. Jeg håber, det vil være nyttigt for mange!

Kunne du dele historien bag NuMind?

Okay. Jeg ville have lavet en startup i en længere periode, oprindeligt i 2012 for at skabe et auto ML-værktøj, men arbejdet hos Wolfram var for sjovt. Så omkring 2019-2020 begyndte de første store sprogmodeller (LLM’er) at dukke op, som GPT-2 og derefter GPT-3. Det var et chok for mig, hvor godt de kunne forstå og generere tekst. På samme tid kunne jeg se, hvor smertefuldt det var at skabe NLP-modeller: du skulle have en annotationshold, have eksperter, der kører masser af eksperimenter, osv. Jeg tænkte, at der burde være en måde at bruge disse LLM’er gennem et værktøj til at dramatisk forbedre oplevelsen af at skabe NLP-modeller. Min medstifter, Samuel (der tilfældigvis er min fætter), delte den samme vision, og så besluttede vi at skabe dette værktøj.

Målet med NuMind er at sprede brugen af maskinlæring – og kunstig intelligens generelt – ved at skabe simple, men kraftfulde værktøjer. Hvad er nogle af de værktøjer, der i øjeblikket er tilgængelige?

Ja. Vores første værktøj er til at skabe brugerdefinerede NLP-modeller. For eksempel, lad os sige, at du vil analysere sentimentet hos dine brugere fra deres feedback. At bruge en standardmodel er generelt ikke godt, fordi den er trænet på en anden type data og til en lidt anden opgave (sentimentanalyseopgaver er overraskende forskellige fra hinanden!). I stedet vil du træne en brugerdefineret model, der fungerer godt på dine data. Vores værktøj giver dig mulighed for at gøre det på en ekstremt simpel og effektiv måde. Grundlæggende loader du dine data, udfører en lille mængde annotation og får en model, du kan installere gennem en API. Dette er muligt takket være brugen af LLM’er, men også denne nye læringsparadigme, som vi kalder Interaktiv AI-udvikling.

Hvad er nogle af de brugerdefinerede modeller, du ser blive udviklet fra de første NuMind-kunder?

Der har været nogle få sentimentanalyser. For eksempel er en kunde, der overvåger sentimentet i gruppechats, hvor folk hjælper hinanden med at bekæmpe deres afhængighed. Denne analyse er nødvendig for at gribe ind, hvis sentimentet falder. En anden kunde bruger os til at finde, hvilke jobåbninger der er bedst for en given CV – og jeg tror, der er stor potentiale i denne type matchings-AI’er. Vi har også kunder, der udtrækker informationer fra medicinske og juridiske dokumenter.

Hvor meget tid kan virksomheder spare ved at bruge NuMind-værktøjer?

Det afhænger selvfølgelig af anvendelsen, men i forhold til traditionelle løsninger (mærkning af data og træning af en model separat) ser vi op til 10 gange hurtigere forbedring til at få en model og sætte den i produktion. Jeg forventer, at dette tal vil forbedres, når vi fortsætter med at udvikle produktet. Til sidst tror jeg, at projekter, der ville have taget måneder, vil blive gennemført på få dage og med bedre præstation.

Kunne du forklare, hvordan NuMinds Interaktiv AI-udvikling fungerer?

Idéen bag Interaktiv AI-udvikling kommer fra, hvordan mennesker underviser hinanden. For eksempel, lad os sige, at du ansætter en praktikant til at klassificere dine emails. Du ville først beskrive opgaven og dens formål. Så ville du måske give nogle gode eksempler, nogle hjørnetilfælde måske. Så ville din praktikant begynde at mærke emails, og en samtale ville begynde. Din praktikant ville komme tilbage med spørgsmål som “Hvordan skal jeg mærke denne?” eller “Jeg tror, vi skal oprette en ny mærkning for denne”, eller endda spørge dig “hvorfor” vi skal mærke på en bestemt måde. På samme måde ville du måske stille spørgsmål til din praktikant for at identificere og korrigere deres videnlacuner. Denne måde at undervise på er meget naturlig og ekstremt effektiv i forhold til informationsudveksling. Vi prøver at efterligne denne arbejdsgang for at få mennesker til at undervise maskiner effektivt.

I tekniske termer er denne arbejdsgang en lav-forsinkelses-, høj-båndbredde-, multimodal og to-vejs kommunikation mellem menneske og maskine, og vi besluttede at kalde det Interaktiv AI-udvikling for at understrege de to-vejs- og lav-forsinkelsesaspekter. Jeg ser dette som en tredje paradigme for at undervise maskiner, efter klassisk programmering og klassisk maskinlæring (hvor du bare giver en masse eksempler på opgaven, så computeren kan finde ud af, hvad den skal gøre).

Dette nye paradigme er låst op af LLM’er. Du har nemlig brug for noget, der allerede er lidt intelligent i maskinen for at kunne interagere effektivt med den. Jeg tror, dette paradigme vil blive almindeligt i nærmeste fremtid, og vi kan allerede se glimt af det med chat-baserede LLM’er og med vores værktøj, selvfølgelig.

Vi anvender dette paradigme til at undervise NLP-opgaver, men det kan – og vil – blive brugt til meget mere, herunder udvikling af software.

Er der noget andet, du gerne vil dele om NuMind?

Maybe, at det er et værktøj, der kan bruges af både eksperter og ikke-eksperter i maskinlæring, at det er multilingvalt, at du ejer dine modeller, og at data kan blive på din maskine!

Ellers er vi i en privat beta-fase, så hvis du har brug for NLP, vil vi gerne tale og se, om vi kan hjælpe dig!

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge NuMind.