Etienne Bernard, współzałożyciel i CEO NuMind – seria wywiadów

Etienne Bernard jest współzałożycielem i CEO NuMind, firmy założonej w czerwcu 2022 roku, specjalizującej się w tworzeniu narzędzi do uczenia maszynowego. Etienne jest ekspertem w dziedzinie sztucznej inteligencji i uczenia maszynowego. Po ukończeniu studiów doktoranckich (ENS) i postdoktoranckich (MIT) z fizyki statystycznej, Etienne dołączył do Wolfram Research, gdzie został kierownikiem zespołu ds. uczenia maszynowego na okres 7 lat. W tym czasie Etienne kierował rozwojem automatycznych narzędzi do uczenia, przyjaznego frameworku do głębokiego uczenia oraz różnych aplikacji związanych z uczeniem maszynowym.

Czym było to, co pierwotnie przyciągnęło Cię do uczenia maszynowego?

Pierwszy raz usłyszałem termin “uczenie maszynowe” w 2009 roku, dzięki nagrodzie Netflix. Zafascynowała mnie idea, że maszyny mogą się uczyć i jest to bardzo potężne. Było już dla mnie jasne, że ta idea doprowadzi do wielu ważnych zastosowań, w tym do stworzenia sztucznej inteligencji. Natychmiast postanowiłem zagłębić się w tę dziedzinę i nie wróciłem do poprzednich zajęć.

Po ukończeniu studiów doktoranckich (ENS) i postdoktoranckich (MIT) z fizyki statystycznej, dołączyłeś do Wolfram Research, gdzie zostałeś kierownikiem zespołu ds. uczenia maszynowego na okres 7 lat. Jakie były najciekawsze projekty, nad którymi pracowałeś?

Mój ulubiony rodzaj projektów w Wolframie to rozwój automatycznych funkcji do uczenia maszynowego dla języka Wolfram (znany również jako Mathematica). Pierwszym z nich była funkcja Classify, która pozwalała na klasyfikację danych bez konieczności ręcznego ustawiania hiperparametrów. Uważam, że uczenie maszynowe powinno być automatyczne. Nie ustawiamy hiperparametrów dla naszego studenta, a nie powinniśmy tego robić również dla maszyn. Było to bardzo wyzwanie z punktu widzenia naukowego i inżynierskiego, aby stworzyć naprawdę solidne i wydajne automatyczne funkcje do uczenia maszynowego.

Stworzenie wysokopoziomowego frameworku do sieci neuronowych było również bardzo interesującym projektem. Wiele trudnych decyzji dotyczących sposobu reprezentowania sieci neuronowych w sposób symboliczny, wizualizacji i manipulacji nimi (np. możliwość cięcia niektórych części, łączenia innych, zastępowania warstw itp.). Uważam, że zrobiliśmy przyzwoitą robotę, a gdyby to było oprogramowanie open source, byłoby ono bardzo popularne.

Podczas tego okresu napisałeś także książkę pt. “Introduction to Machine Learning“, jakie były największe wyzwania przy pisaniu tak wszechstronnej książki?

Och, było ich wiele! Całość zajęła mi dwa lata. Mógłbym zdecydować się na napisanie tylko “jak to zrobić”, co byłoby łatwiejsze, ale część mojej drogi w Wolframie polegała na uczeniu się uczenia maszynowego, a ja czułem potrzebę przekazania tej wiedzy. Główną trudnością było określenie, o czym mówić i w jakiej kolejności, aby było to interesujące i łatwe do zrozumienia. Następnie były szczegóły pedagogiczne: czy użyć matematycznego wzoru dla tego pojęcia, czy może kodu, czy po prostu wizualizacji? Chciałem, aby ta książka była jak najbardziej dostępna i to sprawiło mi wiele bólów głowy. Ogólnie jestem zadowolony z wyniku. Mam nadzieję, że będzie przydatna dla wielu!

Czy mógłbyś opowiedzieć o genezie NuMind?

Ok. Chciałem założyć startup od dawna, początkowo w 2012 roku, aby stworzyć narzędzie do automatycznego uczenia maszynowego, ale praca w Wolframie była zbyt przyjemna. Następnie, około 2019-2020 roku, pojawiły się pierwsze duże modele językowe (LLM), takie jak GPT-2 i GPT-3. Było to dla mnie szokujące, jak dobrze potrafiły one zrozumieć i wygenerować tekst. W tym samym czasie widziałem, jak bolesne było tworzenie modeli NLP: trzeba było zajmować się zespołem anotatorów, mieć ekspertów prowadzących wiele eksperymentów itp. Pomyślałem, że powinno być możliwe wykorzystanie tych LLM do stworzenia narzędzia, które znacznie poprawiłoby doświadczenie tworzenia modeli NLP. Mój współzałożyciel, Samuel (który akurat jest moim kuzynem), podzielał tę same wizję, więc postanowiliśmy stworzyć to narzędzie.

Celem NuMind jest upowszechnienie stosowania uczenia maszynowego i sztucznej inteligencji poprzez tworzenie prostych, lecz potężnych narzędzi. Jakie narzędzia są obecnie dostępne?

Rzeczywiście. Nasze pierwsze narzędzie służy do tworzenia niestandardowych modeli NLP. Na przykład, jeśli chcesz analizować nastawienie Twoich użytkowników na podstawie ich opinii. Używanie gotowego modelu zazwyczaj nie jest zbyt dobre, ponieważ został on wyszkolony na innym rodzaju danych i do nieco innego zadania (zadania analizy nastawienia są do siebie podobne, ale różnią się!). Zamiast tego, chcesz wyszkolić niestandardowy model, który działa dobrze na Twoich danych. Nasze narzędzie pozwala na to w sposób ekstremalnie prosty i wydajny. Podstawowo ładujesz swoje dane, wykonujesz niewielką ilość adnotacji i otrzymujesz model, który możesz wdrożyć za pomocą API. Jest to możliwe dzięki wykorzystaniu LLM i nowemu paradygmatowi, który nazywamy Interaktywnym Rozwojem AI.

Jakie niestandardowe modele widzisz, które są tworzone przez pierwszych klientów NuMind?

Było kilka analizatorów nastawienia. Na przykład jeden z naszych klientów monitoruje nastawienie grupy rozmów, w których ludzie pomagają sobie nawzajem w walce z uzależnieniami. Ta analiza jest potrzebna, aby interweniować w rzadkich przypadkach, gdy nastawienie się pogarsza. Inny klient używa naszego narzędzia, aby znaleźć, które oferty pracy są najlepsze dla danego CV – i uważam, że jest duży potencjał w tego rodzaju AI do dopasowywania. Mamy również klientów, którzy wykorzystują nasze narzędzie do ekstrakcji informacji z dokumentów medycznych i prawnych.

Jakie oszczędności czasu mogą firmy uzyskać, używając narzędzi NuMind?

To zależy oczywiście od aplikacji, ale w porównaniu z tradycyjnymi rozwiązaniami (adnotowanie danych i szkolenie modelu oddzielnie), widzimy do 10-krotną poprawę szybkości uzyskania modelu i jego wdrożenia. Oczekuję, że ta liczba poprawi się, gdy będziemy dalej rozwijać produkt. Ostatecznie uważam, że projekty, które zajmowałyby miesiące, będą teraz wykonywane w ciągu dni, z lepszą wydajnością.

Czy mógłbyś wyjaśnić, jak działa Interaktywny Rozwój AI w NuMind?

Pomysł Interaktywnego Rozwoju AI pochodzi z tego, jak ludzie uczą się nawzajem. Na przykład, gdy zatrudniasz stażystę do klasyfikacji Twoich e-maili. Najpierw opisujesz zadanie i jego cel. Następnie możesz dać kilka dobrych przykładów, może kilka przypadków brzegowych. Następnie Twój stażysta zacznie klasyfikować e-maile, a rozpocznie się rozmowa. Twój stażysta wróci z pytaniami, takimi jak “Jak mam zaklasyfikować ten e-mail?” lub “Uważam, że powinniśmy utworzyć nową kategorię dla tego e-maila”, lub nawet spyta “dlaczego” mamy klasyfikować w taki sposób. Podobnie możesz zadać pytania swojemu stażyście, aby zidentyfikować i poprawić luki w jego wiedzy. Ten sposób nauczania jest bardzo naturalny i wydajny pod względem wymiany informacji. Staramy się naśladować ten proces, aby ludzie mogli wydajnie uczyć maszyny.

W technicznych słowach, ten proces jest niską latencją, wysokopasmową, wielomodalną i dwukierunkową komunikacją między człowiekiem a maszyną, i postanowiliśmy nazwać to Interaktywnym Rozwojem AI, aby podkreślić dwukierunkowość i niską latencję. Widzę to jako trzeci paradygmat nauczania maszyn, po klasycznym programowaniu i klasycznym uczeniu maszynowym (gdzie po prostu dajesz komputerowi przykłady zadania, aby mógł samodzielnie dowiedzieć się, co robić).

Ten nowy paradygmat jest odblokowany przez LLM. Rzeczywiście, potrzebujesz czegoś, co jest już w jakiś sposób inteligentne w maszynie, aby móc z nią efektywnie współpracować. Uważam, że ten paradygmat stanie się powszechny w niedalekiej przyszłości, a już teraz widzimy jego zarys w chatbotach z LLM i w naszym narzędziu.

Stosujemy ten paradygmat do nauczania zadań NLP, ale można go wykorzystać do o wiele więcej, w tym do tworzenia oprogramowania.

Czy jest coś jeszcze, co chciałbyś podzielić się na temat NuMind?

Może to, że jest to narzędzie, które może być używane zarówno przez ekspertów, jak i nieekspertów w dziedzinie uczenia maszynowego, że jest to narzędzie wielojęzyczne, że użytkownicy posiadają prawa do swoich modeli, i że dane mogą pozostać na ich maszynie!

Inaczej jesteśmy w fazie prywatnej bety, więc jeśli masz jakieś potrzeby związane z NLP, będziemy радzi zadowoleni porozmawiać i sprawdzić, czy możemy Ci pomóc!

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić NuMind.