Etienne Bernard, spoluzakladatel a CEO NuMind – rozhovor

Etienne Bernard je spoluzakladatel a CEO společnosti NuMind, softwarové firmy založené v červnu 2022, specializující se na vývoj nástrojů pro strojové učení. Etienne je odborník v oblasti umělé inteligence a strojového učení. Po dokončení doktorátu (ENS) a postdoku (MIT) ve statistické fyzice se Etienne připojil k Wolfram Research, kde se stal vedoucím týmu strojového učení na 7 let. Během této doby Etienne vedl vývoj automatických učících se nástrojů, uživatelsky přívětivého frameworku pro hluboké učení a různých aplikací strojového učení.

Co vás původně přitáhlo ke strojovému učení?

Poprvé jsem slyšel termín „strojové učení“ v roce 2009, díky soutěži Netflix (NFLX ) Prize. Nápad, že stroje mohou učit, mi přišel fascinující a silný. Už tehdy bylo jasné, že to povede k mnoha důležitým aplikacím – včetně možnosti vytvářet umělé inteligence. Okamžitě jsem se rozhodl se tomu věnovat a nikdy se nevrátil.

Po dokončení doktorátu (ENS) a postdoku (MIT) ve statistické fyzice jste se připojil k Wolfram Research, kde jste se stal vedoucím týmu strojového učení na 7 let. Jaké byly některé z nejzajímavějších projektů, na kterých jste pracoval?

Mé oblíbené projekty ve Wolframu byly vývoj automatických funkcí strojového učení pro jazyk Wolfram (také známý jako Mathematica). První z nich byla funkce Classify, kde jste pouze zadali data a ona vrátila klasifikátor. Pro mě bylo strojové učení vždy o automatickém učení. Není třeba nastavovat hyperparametry pro vaše lidské studenty a neměl by je nastavovat ani pro stroj!

Vytvoření frameworku pro hluboké učení bylo také velmi zajímavým projektem. Bylo mnoho difícilních rozhodnutí o tom, jak reprezentovat neuronové sítě symbolicky, jak je vizualizovat a jak je manipulovat (tj. být schopen odstranit některé části, přidat jiné, nahradit vrstvy atd.). Myslím, že jsme to udělali poměrně dobře a kdyby to bylo open source, jsem si jistý, že by to bylo hojně používáno 😉

Během této doby jste také napsal základní knihu s názvem „Introduction to Machine Learning“, jaké byly některé z výzev spojených s psaním takové komplexní knihy?

Bylo jich mnoho! Psaní trvalo dva roky. Mohl jsem se rozhodnout napsat pouze „jak-to-dělat“ knihu, což by bylo snazší, ale část mé cesty ve Wolframu spočívala v učení se strojovému učení a cítil jsem potřebu to předat. Hlavní obtíž spočívala v tom, aby se rozhodlo, o čem přesně mluvit a v jakém pořadí, aby to bylo zajímavé a snadno pochopitelné. Poté byly pedagogické detaily: měl bych použít matematický vzorec pro tento koncept? Nebo nějaký kód? Nebo pouze vizualizaci? Chtěl jsem, aby tato kniha byla co nejvíce přístupná a to mi dalo mnoho bolestí hlavy. Celkově jsem spokojen s výsledkem. Doufám, že bude užitečná pro mnoho lidí!

Můžete sdílet příběh o vzniku NuMind?

Okay. Chtěl jsem založit startup už nějakou dobu, původně v roce 2012, abych vytvořil automatický nástroj pro strojové učení, ale práce ve Wolframu byla příliš zábavná. Poté, kolem roku 2019-2020, se objevily první velké jazykové modely (LLM), jako GPT-2 a poté GPT-3. Bylo to pro mě šok, jak dobře mohli porozumět a generovat text. Současně jsem viděl, jak bolestivé bylo vytvářet modely NLP: musel jste mít tým anotátorů, odborníky, kteří běželi spoustu experimentů atd. Myslel jsem, že by mělo existovat nějaké řešení, jak použít tyto LLM k dramatickému zlepšení zkušeností s vytvářením modelů NLP. Můj spoluzakladatel, Samuel (který se náhodou stal mým bratranec), sdílel stejnou vizi a rozhodli jsme se tuto věc vytvořit.

Cílem NuMind je šířit používání strojového učení a umělé inteligence obecně vytvořením jednoduchých, ale silných nástrojů. Jaké jsou některé z nástrojů, které jsou aktuálně k dispozici?

Skutečně. Naším prvním nástrojem je tvorba vlastních modelů NLP. Například, pokud chcete analyzovat sentiment vašich uživatelů z jejich zpětné vazby. Použití hotového modelu obecně není dobré, protože byl trénován na jiném typu dat a pro slightly jiný úkol (úkoly sentiment analýzy jsou překvapivě rozdílné!). Místo toho chcete trénovat vlastní model, který funguje dobře na vašich datech. Naše nástroj umožňuje to udělat velmi jednoduchým a efektivním způsobem. Základní je načíst vaše data, provést malou část anotace a získat model, který můžete nasadit přes API. To je možné díky použití LLM a novému paradigmatu učení, které nazýváme Interaktivní vývoj AI.

Jaké jsou některé z vlastních modelů, které vidíte vyvíjené z prvních zákazníků NuMind?

Byly tam beberapa sentiment analyzérů. Například jeden klient monitoruje sentiment skupinových chatů, kde lidé pomáhají jeden druhému bojovat proti svým závislostem. Tato analýza je potřebná k zásahu v případě, kdy sentiment klesá. Další klient používá nás k nalezení nejlepších pracovních nabídek pro konkrétní životopis – a mimochodem, věřím, že existuje velký potenciál v těchto typech matchmaking AI. Máme také zákazníky, kteří extrahují informace z lékařských a právních dokumentů.

Jak velkou úsporu času mohou společnosti vidět, když používají nástroje NuMind?

To samozřejmě závisí na aplikaci, ale ve srovnání s tradičními řešeními (označování dat a trénování modelu zvlášť) vidíme až 10x zlepšení rychlosti, abychom získali model a nasadili ho do produkce. Očekávám, že toto číslo se bude zlepšovat, jak budeme dále vyvíjet produkt. Nakonec věřím, že projekty, které by jinak trvaly měsíce, budou dokončeny za dny a s lepšími výsledky.

Můžete vysvětlit, jak funguje Interaktivní vývoj AI od NuMind?

Nápad Interaktivního vývoje AI pochází z toho, jak lidé učí jeden druhého. Například, pokud najmete stážistu, aby klasifikoval vaše e-maily. Nejprve byste popsali úkol a jeho účel. Poté byste možná poskytli několik dobrých příkladů, některé krajní případy možná. Poté by váš stážista začal označovat e-maily a začala by konverzace. Váš stážista by se vrátil s otázkami, jako „Jak mám označit tento?“ nebo „Myslím, že bychom měli vytvořit novou značku pro tento“. Podobně byste mohli položit otázky vašemu stážistovi, aby identifikoval a opravil mezery ve znalostech. Tento způsob učení je velmi přirozený a extrémně efektivní z hlediska výměny informací. Snažíme se napodobit tento workflow, aby lidé mohli efektivně učit stroje.

V technických termínech je tento workflow nízká latence, vysoká šířka pásma, multimodální a oboustranná komunikace mezi člověkem a strojem a rozhodli jsme se nazvat to Interaktivní vývoj AI, abychom zdůraznili oboustrannou a nízkou latenci aspekty. Vidím to jako třetí paradigma pro učení strojů, po klasickém programování a klasickém strojovém učení (kde prostě dáte počítači spoustu příkladů úkolu, aby se dozvěděl, co má dělat).

Toto nové paradigma je odemčeno LLM. Skutečně, potřebujete mít něco, co je již nějak chytré ve stroji, aby jste s ním mohli efektivně komunikovat. Věřím, že toto paradigma se stane běžným v blízké budoucnosti a už můžeme vidět jeho náznaky v chat-based LLM a našich nástrojích.

Aplikujeme toto paradigma na učení úkolů NLP, ale to může – a bude – být použito pro mnohem více, včetně vývoje softwaru.

Je něco jiného, co byste chtěl sdílet o NuMind?

Možná to, že je to nástroj, který může být použit jak odborníky, tak i laiky ve strojovém učení, že je multijazyčný, že vlastníte své modely a že data mohou zůstat na vašem stroji!

Jinak jsme v soukromé betaverzi, takže pokud máte nějaké potřeby NLP, rádi bychom s vámi mluvili a zjistili, zda a jak vám můžeme pomoci!

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit NuMind.