Etienne Bernard, NuMindin perustaja ja toimitusjohtaja – Haastattelusarja

Etienne Bernard on NuMindin perustaja ja toimitusjohtaja. NuMind on ohjelmistoyhtiö, joka on perustettu kesäkuussa 2022 ja erikoistunut koneoppimisen työkalujen kehittämiseen. Etienne on asiantuntija tekoälyssä ja koneoppimisessa. Hän on suorittanut tohtorin tutkinnon (ENS) ja post doc -tutkinnon (MIT) tilastofysiikassa, ja sen jälkeen hän liittyi Wolfram Researchiin, jossa hänestä tuli koneoppimisen johtaja seitsemäksi vuodeksi. Tuona aikana Etienne johti automaattisten oppimistyökalujen kehittämistä, käyttäjäystävällisen syväoppimisrakenin kehittämistä ja erilaisia koneoppimisen sovelluksia.

Mikä aluksi kiinnosti sinua koneoppimisessa?

Kuulin termejä “koneoppiminen” ensimmäisen kerran vuonna 2009, kiitos Netflix-palkinnon. Minusta se oli mielenkiintoinen ja voimakas ajatus, että koneet voivat oppia. Olin jo silloin vakuuttunut, että tämä johtaisi moniin tärkeisiin sovelluksiin, mukaan lukien mahdollisuuden luoda tekoälyjä. Päätin heti tutustua tähän aiheeseen, ja en ole koskaan katkaistu siitä.

Sen jälkeen, kun olet suorittanut tohtorin tutkinnon (ENS) ja post doc -tutkinnon (MIT) tilastofysiikassa, liityit Wolfram Researchiin, jossa tulit koneoppimisen johtajaksi seitsemäksi vuodeksi. Mitkä olivat joistakin mielenkiintoisimmista projekteista, joissa työskentelit?

Lemmikkiprojektejani Wolframilla oli kehittää automaattisia koneoppimisfunktioita Wolfram Languageen (aikaisemmin tunnettu nimellä Mathematica). Ensimmäinen niistä oli Classify, johon riittää antaa data, ja se palauttaa luokittelijan. Minusta koneoppiminen on aina ollut automaattista. Et tarvitse säätää koneoppimisen hyperparametrejä, eikä sinun pidä tehdä sitä koneellesi. Se oli haasteellista sekä tieteellisesti että ohjelmistosuunnittelun kannalta luoda todella luotettavia ja tehokkaita automaattisia koneoppimisfunktioita.

Myös korkean tason neuroverkko-kehys oli mielenkiintoinen projekti. Monia vaikeita suunnittelupäätöksiä siitä, miten edustaa neuroverkkoja symbolisesti, miten visualisoida niitä ja miten manipuloida niitä (esim. leikata joitakin osia, liittää toisia yhteen, korvata kerroksia jne.). Luulen, että teimme siinä kohtuullisen hyvän työn, ja jos se olisi avoimen lähdekoodin, olen varma, että sitä käytettäisiin paljon 😉

Tänä aikana kirjoitit myös merkittävän kirjan nimeltä “Introduction to Machine Learning“, mitkä olivat joitakin haasteita kirjan kirjoittamisessa?

Oh, niitä oli monia! Kirjan kirjoittaminen kesti kaiken kaikkiaan kaksi vuotta. Voisin olisi päättänyt kirjoittaa vain “miten tehdä” -kirjan, joka olisi ollut helpompi, mutta osa matkani Wolframilla on ollut oppia koneoppimista, ja halusin välittää sen. Suurin vaikeus oli päättää, mistä puhua tarkalleen ja missä järjestyksessä, jotta se olisi mielenkiintoista ja helppoa ymmärtää. Sitten oli pedagogiset yksityiskohdat: pitäisikö käyttää matemaattista kaavaa tähän käsitteeseen? Vai joitakin koodia? Vai vain visualisointia? Halusin tehdä tästä kirjasta mahdollisimman helposti ymmärrettävän, ja se aiheutti minulle paljon päänsärkyä. Kaiken kaikkiaan olen tyytyväinen lopputulokseen. Toivon, että se on hyödyllinen monille!

Voitko kertoa NuMindin syntytarinaa?

Ok. Halusin perustaa startupin jo vuonna 2012, alun perin luomaan automaattisen koneoppimistyökalun, mutta työ Wolframilla oli liian hauskaa. Sitten vuosina 2019-2020 ilmestyivät ensimmäiset suuret kielen mallit (LLM), kuten GPT-2 ja GPT-3. Se oli shokki minulle, kuinka hyvin ne voivat ymmärtää ja generoida tekstiä. Samalla näin, kuinka vaikeaa oli luoda NLP-malleja: sinun piti käsitellä annotaatiotiimiä, asiantuntijoiden suorittamaa monia kokeita jne. Ajattelin, että pitäisi olla tapa käyttää näitä LLM:ejä työkalun kautta dramaattisesti parantamaan NLP-mallien luomisen kokemusta. Minun perustajakumppani, Samuel (joka sattuu olemaan minun serkkuni), jakoi saman vision, ja päättimme luoda tämän työkalun.

NuMindin tavoitteena on levittää koneoppimisen ja tekoälyn käyttöä yleisesti luomalla yksinkertaisia mutta voimakkaita työkaluja. Mitkä ovat joitakin työkaluja, jotka ovat tällä hetkellä saatavilla?

Totuudenmukaisesti. Ensimmäinen työkalumme on mukautettujen NLP-mallien luomiseen. Esimerkiksi, jos haluat analyysin asiakkaiden palautteen mielialasta. Valmiin mallin käyttäminen on yleensä huono, koska se on koulutettu toisestalaisesta datasta ja hieman erilaiselle tehtävälle (mielialan analyysitehtävät ovat yllättävän erilaisia toisistaan!). Sen sijaan haluat kouluttaa mukautettua mallia, joka toimii hyvin omalla datallasi. Meidän työkalumme mahdollistaa tämän erittäin yksinkertaisella ja tehokkaalla tavalla. Periaatteessa sinun tarvitsee vain ladata data, tehdä pieni määrä annotaatiota, ja saat mallin, jonka voit ottaa käyttöön API:n kautta. Tämä on mahdollista LLM:ien ansiosta, mutta myös tämän uuden oppimisparadigman, jonka kutsun Interactive AI Developmentiksi.

Mitkä ovat joitakin mukautettuja malleja, joita olet nähnyt kehitettävän NuMindin ensimmäisistä asiakkaista?

On ollut muutamia mielialan analyysirejä. Esimerkiksi yksi asiakkaamme seuraa mielialaa ryhmäkeskusteluissa, joissa ihmiset auttavat toisiaan voittamaan riippuvuutensa. Tätä analyysiä tarvitaan voidakseen puuttua harvoihin tapauksiin, joissa mieliala on heikentymässä. Toisella asiakkaalla on käytössä meidän työkalumme parhaan työpaikan etsimiseen tietylle ansioluettelolle – ja uskon, että on paljon potentiaalia tämänkaltaisissa välimies-Teppoissa. Meillä on myös asiakkaita, jotka poistavat tietoa lääketieteellisistä ja oikeudellisista asiakirjoista.

Kuinka paljon aikaa yritykset voivat säästää käyttämällä NuMindin työkaluja?

Se riippuu sovelluksesta, mutta verrattuna perinteisiin ratkaisuihin (datan annotointi ja mallin koulutus erikseen), näemme jopa 10-kertaisen nopeuden parantumisen saadakseen mallin ja ottaakseen sen tuotantoon. Odotan, että tämä luku paranee, kun jatkamme tuotteen kehittämistä. Lopulta uskon, että projektit, jotka olisivat kestäneet kuukausia, valmistuvat päivissä, ja niiden suorituskyky on parempi.

Voitko selittää, miten NuMindin Interactive AI Development toimii?

Interactive AI Developmentin idea tulee siitä, miten ihmiset opettavat toisiaan. Esimerkiksi, jos palkkaat harjoittelijan luokittamaan sähköposteja. Sinun ensin selittäisi tehtävän ja sen tarkoituksen. Sitten antaisit joitakin hyviä esimerkkejä, ehkä joitakin erityistapauksia. Sitten harjoittelijasi alkaisi merkitä sähköposteja, ja keskustelu alkaisi. Harjoittelijasi tulisi takaisin kysymyksillä, kuten “Miten minun pitäisi merkitä tämä?” tai “Minun pitäisi luoda uusi merkintä tähän” tai jopa kysymyksillä, kuten “Miksi meidän pitäisi merkitä tietyllä tavalla?” Samoin sinä voisit kysyä harjoittelijaltasi kysymyksiä, jotta voit tunnistaa ja korjata heidän tietämättömyyksiä. Tämä opettamisen tapa on erittäin luonnollinen ja tehokas tiedonvaihtoa ajatellen.

Teknisesti tämä työnkulku on matalan viiveen, korkean kaistanleveyden, monitapahtumainen ja kaksisuuntainen viestintä ihmisen ja koneen välillä, ja päättänyt kutsua sitä Interactive AI Developmentiksi korostamaan kaksisuuntaisuutta ja matalaa viivettä. Näen tämän kolmanneksi paradigman opettaa koneita, klassisen ohjelmoinnin ja klassisen koneoppimisen jälkeen (jossa annat koneelle joukon esimerkkejä tehtävästä, jotta se voi päätellä, mitä tehdä).

Tämä uusi paradigma on lukittu LLM:ien ansiosta. Totuudenmukaisesti tarvitset jotakin, joka on jo jollain tavoin älykästä koneessa, voidaksesi viestiä sen kanssa tehokkaasti. Uskon, että tämä paradigma tulee yleiseksi lähitulevaisuudessa, ja voimme jo nyt nähdä siitä aavistuksia chat-pohjaisissa LLM:issä ja meidän työkalussamme.

Sovellamme tätä paradigman opettamaan NLP-tehtäviä, mutta sitä voidaan – ja tullaan – käyttämään paljon muuhun, mukaan lukien ohjelmistojen kehittämiseen.

Onko mitään muuta, mitä haluaisit jakaa NuMindista?

Ehkä se, että se on työkalu, jota sekä asiantuntijat että ei-asiantuntijat koneoppimisessa voivat käyttää, että se on monikielinen, että omistat mallisi, ja että data voi pysyä koneellasi! Muuten meillä on yksityinen beetatestausvaihe, joten jos sinulla on NLP-tarpeita, olisimme iloisia keskustelemaan ja selvittämään, voimmeko auttaa sinua!

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla NuMindissa.