Etienne Bernard, spoluzakladatel a CEO NuMind – série rozhovorů

Etienne Bernard, je spoluzakladatelem a generálním ředitelem společnosti NuMind softwarová společnost založená v červnu 2022, která se specializuje na vývoj nástrojů strojového učení. Etienne je odborníkem na umělou inteligenci a strojové učení. Po doktorandském (ENS) a postdoku (MIT) ve statistické fyzice se Etienne připojil k Wolfram Research, kde se stal na 7 let vedoucím strojového učení. Během této doby vedl Etienne vývoj nástrojů pro automatické učení, uživatelsky přívětivého rámce hlubokého učení a různých aplikací strojového učení.

Co vás zpočátku přitahovalo ke strojovému učení?

Poprvé jsem termín „strojové učení“ slyšel v roce 2009, myslím, díky ceně Netflix. Myšlenka, že se stroje mohou učit, mi připadala fascinující a výkonná. Už mi bylo jasné, že to povede ke spoustě důležitých aplikací – včetně vzrušující možnosti vytváření AI. Okamžitě jsem se rozhodl do toho ponořit a už jsem se nevrátil.

Po získání titulu PhD (ENS) a postdoka (MIT) ve statistické fyzice jste nastoupil do Wolfram Research, kde jste se stal na 7 let vedoucím strojového učení. Jaké byly některé ze zajímavějších projektů, na kterých jste pracoval?

Můj oblíbený druh projektů ve Wolframu byl vývoj funkcí automatického strojového učení pro Wolfram Language (aka Mathematica). První byl Classify, kde mu stačí dát data a vrátí klasifikátor. Pro mě bylo strojové učení vždy automatické. Nenaladíte hyperparametry svého lidského studenta a neměli byste vyladit ani váš stroj! Z vědeckého a softwarového inženýrství bylo poměrně náročné vytvořit skutečně robustní a efektivní funkce automatického strojového učení.

Velmi zajímavým projektem bylo také vytvoření rámce neuronové sítě na vysoké úrovni. Spousta obtížných návrhových rozhodnutí o tom, jak symbolicky reprezentovat neuronové sítě, jak je vizualizovat a jak s nimi manipulovat (tj. být schopni některé kusy rozřezat, jiné slepit dohromady, nahradit vrstvy atd.) Myslím, že jsme odvedli slušnou práci tím, způsobem, a pokud by to byl open source, jsem si docela jistý, že by byl hodně využíván 😉

Během této doby jste také napsal klíčovou knihu s názvem „Úvod do strojového učení“, jaké byly některé z výzev stojících za napsáním tak komplexní knihy?

Ach, bylo jich mnoho! Psaní trvalo dva roky. Mohl jsem se rozhodnout napsat knihu „jak na to“, což by bylo jednodušší, ale část mé cesty ve Wolframu byla o učení se strojovému učení a cítil jsem potřebu to předat dál. Hlavním problémem tedy bylo zjistit, o čem přesně mluvit a v jakém pořadí, aby to bylo zajímavé a snadno pochopitelné. Pak tu byly pedagogické detaily: mám pro tento koncept použít matematický vzorec? Nebo nějaký kód? Nebo jen vizualizace? Chtěl jsem, aby byla tato kniha co nejpřístupnější, a to mě hodně bolelo. Celkově jsem s výsledkem spokojený. Doufám, že to bude pro mnohé užitečné!

Mohl byste se podělit o příběh geneze za NuMind?

Dobře. Chvíli jsem chtěl založit startup, původně v roce 2012, abych vytvořil nástroj pro automatické ML, ale práce ve Wolframu byla příliš zábavná. Pak se kolem roku 2019-2020 začaly objevovat první velké jazykové modely (LLM), jako GPT-2 a poté GPT-3. Byl to pro mě šok, jak dobře uměli rozumět a generovat text. Zároveň jsem viděl, jak bolestivé bylo vytvářet NLP modely: potřebovali jste jednat s anotačním týmem, mít odborníky, kteří provádějí spoustu experimentů atd. Myslel jsem, že by měl existovat způsob, jak tyto LLM využít prostřednictvím nástroj k výraznému zlepšení zkušeností s vytvářením modelů NLP. Můj spoluzakladatel Samuel (který je shodou okolností můj bratranec) sdílel stejnou vizi, a tak jsme se rozhodli vytvořit tento nástroj.

Cílem NuMind je rozšířit využití strojového učení – a umělé inteligence obecně – vytvářením jednoduchých, ale výkonných nástrojů. Jaké jsou některé nástroje, které jsou v současné době k dispozici?

Vskutku. Náš první nástroj je pro vytváření vlastních modelů NLP. Řekněme například, že chcete analyzovat sentiment svých uživatelů z jejich zpětné vazby. Použití standardního modelu obecně není skvělé, protože byl trénován na jiném druhu dat a pro trochu jiný úkol (úlohy analýzy sentimentu se od sebe překvapivě liší!). Místo toho chcete trénovat vlastní model, který dobře funguje na vašich datech. Náš nástroj to umožňuje extrémně jednoduchým a efektivním způsobem. V podstatě načtete svá data, provedete malé množství anotací a získáte model, který můžete nasadit prostřednictvím rozhraní API. To je možné díky použití LLM, ale také díky tomuto novému paradigmatu učení, které nazýváme Interactive AI Development.

Jaké jsou některé z vlastních modelů, které vidíte, vyvinuté z prvního kola zákazníků NuMind?

Bylo tu několik analyzátorů sentimentu. Jeden klient například sleduje náladu skupinových chatů, kde si lidé pomáhají v boji se závislostmi. Tato analýza je potřebná pro zásah ve vzácných případech, kdy sentiment klesá. Jiný klient nás využívá k tomu, aby zjistil, která pracovní místa jsou pro daný životopis nejlepší – a mimochodem, věřím, že v těchto typech dohazovacích AI je velký potenciál. Máme také zákazníky, kteří získávají informace z lékařských a právních dokumentů.

Jakou úsporu času mohou společnosti vidět při používání nástrojů NuMind?

Je to samozřejmě závislé na aplikaci, ale ve srovnání s tradičními řešeními (označení dat a samostatné trénování modelu) vidíme až 10x rychlejší zrychlení získání modelu a jeho uvedení do výroby. Očekávám, že se toto číslo bude s dalším vývojem produktu zlepšovat. Nakonec věřím, že projekty, které by trvaly měsíce, budou dokončeny ve dnech a s lepším výkonem.

Mohl byste vysvětlit, jak funguje interaktivní vývoj AI společnosti NuMind?

Myšlenka interaktivního vývoje umělé inteligence pochází z toho, jak se lidé navzájem učí. Řekněme například, že si najmete stážistu, aby klasifikoval vaše e-maily. Nejprve byste popsali úkol a jeho účel. Pak můžete uvést několik dobrých příkladů, možná nějaké rohové případy. Poté by váš stážista začal označovat e-maily a začala konverzace. Váš stážista by se vrátil s otázkami jako „Jak bych měl označit tohle?“ nebo „Myslím, že bychom pro tento měli vytvořit nový štítek“, nebo se vás dokonce zeptat „proč“ bychom měli štítkovat určitým způsobem. Podobně můžete klást otázky svému stážistovi, abyste identifikovali a opravili mezery ve znalostech. Tento způsob výuky je velmi přirozený a mimořádně efektivní z hlediska výměny informací. Snažíme se napodobit tento pracovní postup, aby lidé mohli efektivně učit stroje.

Z technického hlediska je tento pracovní postup nízkolatenční, širokopásmová, multimodální a obousměrná komunikace mezi člověkem a strojem a rozhodli jsme se jej nazvat Interaktivní vývoj AI, abychom zdůraznili aspekty obousměrnosti a nízké latence. Vnímám to jako třetí paradigma pro výuku strojů po klasickém programování a klasickém strojovém učení (kde jen dáte spoustu příkladů úkolu, aby počítač zjistil, co má dělat).

Toto nové paradigma odemykají LLM. Ve skutečnosti musíte mít ve stroji něco, co je již nějakým způsobem chytré, abyste s ním mohli efektivně komunikovat. Věřím, že toto paradigma se v blízké budoucnosti stane běžným a již nyní můžeme vidět jeho záblesky s LLM založenými na chatu a samozřejmě s naším nástrojem.

Toto paradigma používáme k výuce úkolů NLP, ale toto může být – a bude – použito pro mnohem více, včetně vývoje softwaru.

Je ještě něco, co byste chtěli o NuMind sdílet?

Možná, že je to nástroj, který mohou používat odborníci i laici ve strojovém učení, že je vícejazyčný, že vlastníte své modely a že data mohou zůstat na vašem stroji!

Jinak jsme v soukromé beta fázi, takže pokud máte nějaké potřeby NLP, rádi si promluvíme a zjistíme, zda/jak vám můžeme pomoci!

Děkuji za skvělý rozhovor, čtenáři, kteří se chtějí dozvědět více, by měli navštívit NuMind.