Ali Ansari, założyciel i dyrektor generalny micro1 – seria wywiadów

Ali Ansari jest założycielem i dyrektorem generalnym micro1, gdzie koncentruje się na przekształcaniu ludzkiej wiedzy eksperckiej w dane treningowe i zestawy ewaluacyjne dla zaawansowanych systemów AI. Jego doświadczenie przedsiębiorcze obejmuje założenie agencji tworzącej oprogramowanie oraz firmy peerlinc, jeszcze przed uruchomieniem micro1 w 2022 roku. Studiował informatykę na UC Berkeley i Stanfordzie, koncentrując się na uczeniu ze wzmocnieniem. Obecnie pracuje nad systemami niezbędnymi do pozyskiwania i oceny wkładu ekspertów oraz koordynowania ich udziału w rozwoju AI.

micro1 to laboratorium danych, które pomaga trenować czołowe modele AI i oceniać agentów AI, wykorzystując wiedzę ekspertów oraz realistyczne środowiska pracy. Platforma łączy rekrutację specjalistów, tworzenie danych, kontrolę jakości i ewaluację modeli w takich dziedzinach jak prawo, ochrona zdrowia, finanse, inżynieria i nauka. W tym wywiadzie Ansari opowiada o tym, dlaczego rośnie zapotrzebowanie na ludzką wiedzę ekspercką, jak dane operacyjne wspierają uczenie ze wzmocnieniem oraz jakie możliwości zawodowe pojawiają się w związku z trenowaniem i ewaluacją AI.

Założyłeś micro1 w 2022 roku, wcześniej tworząc i sprzedając peerlinc. Jaki problem początkowo chciałeś rozwiązać i jak micro1 przekształciło się w firmę zajmującą się trenowaniem i ewaluacją czołowych modeli AI?

Początkowo był to problem, z którym mierzyłem się we własnej firmie. Prowadziłem agencję tworzącą oprogramowanie, a każdy nowy projekt oznaczał konieczność znalezienia i przeprowadzenia rozmów kwalifikacyjnych z kolejnymi inżynierami. Poświęcałem na to ogromną część swojego czasu. Dlatego stworzyliśmy rekrutera AI o imieniu Zara, który miał nam pomóc. Z czasem właśnie z tego pomysłu powstało micro1.

Zaczęliśmy od sprzedaży oprogramowania rekrutacyjnego i budowy platformy skupiającej zweryfikowanych kandydatów. Potem zgłosił się do nas klient, który potrzebował setek inżynierów do trenowania modeli AI. Zaczęliśmy zgłębiać przyczyny tak dużego zapotrzebowania na pracowników i zdaliśmy sobie sprawę, że za rozwojem modeli stoi ogromne zapotrzebowanie na ludzką wiedzę ekspercką.

Już wcześniej przez lata rozwijaliśmy umiejętność pozyskiwania i weryfikowania kandydatów na dużą skalę. Wykorzystanie ludzkiej wiedzy do tworzenia danych okazało się bardzo wartościowym zastosowaniem tej infrastruktury. Postawiliśmy więc na ten kierunek, użyliśmy naszego rekrutera AI do pozyskiwania i weryfikowania ekspertów oraz stworzyliśmy wokół niego inne platformy danych i systemy kontroli jakości. Dziś pomagamy laboratoriom przekładać tę wiedzę na lepsze możliwości modeli.

Twierdzisz, że w miarę wzrostu możliwości modeli AI zapotrzebowanie na ludzką wiedzę ekspercką rośnie, zamiast zanikać. Co napędza tę zależność?

Dzieje się kilka rzeczy. Po pierwsze, w miarę jak modele stają się lepsze, powierzamy im trudniejsze zadania. Model, który potrafi odpowiedzieć na pytanie, jest przydatny. Model, który może zająć się całym procesem pracy, jest znacznie bardziej użyteczny, ale osiągnięcie tego wymaga znacznie większego wkładu ekspertów.

Po drugie, ludzie wciąż tworzą nowe rodzaje pracy. Jeśli prawnik może wykorzystać AI do wielu zadań zajmujących mu większość dnia, zyskuje więcej czasu na rozwiązywanie bardziej złożonych problemów lub opracowanie nowej usługi dla klientów. Te zupełnie nowe zadania również chcemy następnie przełożyć na modele. To właśnie mamy na myśli, mówiąc o „braku ostatniej mili”. Praca stale się zmienia.

Dane syntetyczne sprawiają, że jest to jeszcze ciekawsze. Można ich użyć do rozwijania zadań i informacji zwrotnych przygotowanych przez ekspertów, dzięki czemu pierwotny wkład człowieka staje się bardziej użyteczny. Uważam, że właśnie dlatego zapotrzebowanie na ludzką wiedzę ekspercką rośnie równolegle z możliwościami modeli.

micro1 współpracuje z ekspertami z takich dziedzin jak prawo, ochrona zdrowia, finanse, inżynieria i nauka. Co ci specjaliści mogą wnieść do systemów AI, czego nie da się po prostu nauczyć na podstawie istniejących danych dostępnych w internecie?

Wiele z tego, co sprawia, że ktoś jest świetnym lekarzem, prawnikiem czy inżynierem, wynika z osądu wypracowanego w praktyce. Część tej wiedzy jest udokumentowana, ale często ujawnia się ona w sposobie, w jaki dana osoba radzi sobie z nietypowym przypadkiem, dostrzega brakujące informacje lub decyduje, który szczegół naprawdę ma znaczenie.

Ma to ogromną wartość przy trenowaniu modeli. Ekspert może opracować trudne zadanie, wyjaśnić, jak powinien wyglądać dobry wynik, i dokładnie wskazać, w czym model sobie nie radzi. Odpowiedź może brzmieć bardzo przekonująco, a mimo to pomijać to, co dla osoby wykonującej daną pracę jest najważniejsze.

Potrzebujemy ekspertów, którzy potrafią dostrzec te różnice. Potrzebujemy też wielu perspektyw i solidnego procesu weryfikacji, ponieważ osąd jednej osoby nie uwzględni każdego przypadku. Celem jest przekształcenie tego doświadczenia w sygnał, na podstawie którego model może się uczyć. W każdej dziedzinie występuje też ogromne zróżnicowanie. Wiedza prawnicza nie jest jednolita: zależy od obszaru praktyki, stanu lub jurysdykcji, a także od systemu prawnego danego kraju. Każda z tych warstw wymaga bardziej specjalistycznej wiedzy i osądu. Podobna głębia występuje w każdej dziedzinie i jej licznych poddziedzinach, dlatego potrzebujemy ekspertów, którzy rozumieją, co te różnice oznaczają w praktyce.

Wraz ze wzrostem zainteresowania dostrajaniem modeli po treningu, uczeniem ze wzmocnieniem i ewaluacją, gdzie dostrzegasz dziś największe bariery w doskonaleniu czołowych modeli?

Uważam, że dostęp do realistycznych danych jest jedną z największych barier. Firmy przez lata rozwiązywały problemy, podejmowały decyzje i radziły sobie z wyjątkowymi sytuacjami, a doświadczenia te zostały zapisane w ich dokumentach, systemach i przepływach pracy. To niezwykle cenne, jeśli chcemy nauczyć model wykonywania rzeczywistej pracy.

Dlatego uruchomiliśmy program Company Data Partnerships, czyli CDP. Płacimy firmom za licencjonowanie ich danych operacyjnych. Mogą to być wewnętrzna dokumentacja, historia projektów, dane z systemów CRM oraz procedury, których pracownicy przestrzegają, wykonując swoje zadania. Za wartościowe zbiory danych firmowych płacimy ponad 2 mln USD; kwota zależy od danych i warunków współpracy.

Wykorzystujemy te materiały do tworzenia realistycznych środowisk treningowych i ewaluacyjnych. Wyobraźmy sobie rozwiązywanie problemu klienta: trzeba przejrzeć historię jego konta, znaleźć odpowiednią politykę i ustalić, jakie działanie podjąć. Środowisko zaprojektowane wokół takiego procesu daje modelowi przestrzeń do przećwiczenia kolejnych kroków. Eksperci definiują zadanie oraz sposób oceny, czy zostało pomyślnie wykonane. To właśnie dzięki ich informacji zwrotnej środowisko jest przydatne w uczeniu przez wzmacnianie.

Firmy zachowują własność swoich danych źródłowych. Uzgadniamy zakres współpracy i wymagania dotyczące postępowania z danymi, w tym zabezpieczenia prywatności, a następnie przygotowujemy dane do zamierzonego zastosowania.

Wartość tkwi w doświadczeniu odzwierciedlonym w tych zapisach. CDP pozwala firmom czerpać przychody z tego doświadczenia, a jednocześnie pomaga modelom uczyć się działania w znacznie bardziej realistycznych warunkach.

Jakie rodzaje ludzkiego osądu lub wiedzy eksperckiej, twoim zdaniem, pozostaną szczególnie trudne do odtworzenia przez systemy AI, nawet gdy modele staną się znacznie bardziej zaawansowane?

Uważam, że ludzki gust i kreatywność to obszary, w których modelom będzie szczególnie trudno dorównać człowiekowi. Wynika to ze sposobu, w jaki tworzymy dane treningowe.

W przypadku wielu zadań możemy zebrać ekspertów i uzyskać ich zgodę co do tego, jak powinien wyglądać dobry rezultat. Dzięki temu zyskujemy przydatny sygnał do trenowania modeli. Jeśli jednak zapytamy ludzi, co sprawia, że obraz jest znakomity, film świetny, a projekt przekonujący, im dłużej będą o tym rozmawiać, tym bardziej mogą się różnić ich opinie. Nie zawsze istnieje jedna odpowiedź, co do której można się zgodzić.

AI może być w tych obszarach bardzo przydatna. Jednak decyzja o tym, co chce się stworzyć, dla kogo jest to przeznaczone i czy rzeczywiście trafia do odbiorców, wymaga dużego zaangażowania ludzkiego osądu. Sądzę, że ten osąd staje się jeszcze ważniejszy, gdy narzędzia ułatwiają tworzenie różnych rzeczy.

Coraz częściej widzisz, że specjaliści traktują trenowanie i ewaluację AI jako poważną pracę zawodową, a nie zajęcie dodatkowe. Czy może z tego powstać zupełnie nowa kategoria zatrudnienia i jak mogłyby wyglądać kariery w tej dziedzinie?

Zdecydowanie. To już nowa, wielomiliardowa kategoria pracy. Eksperci wykorzystują wiedzę zdobytą w trakcie kariery zawodowej, aby pomagać w trenowaniu i ewaluacji AI. Dla niektórych osób staje się to istotną częścią życia zawodowego.

Sama ta praca może być bardzo wymagająca merytorycznie. Prawnik może opracować trudny scenariusz i określić, jak oceniać odpowiedź modelu. Inżynier może zbudować zadanie, które przeprowadzi agenta przez cały proces pracy z oprogramowaniem. Są też osoby, które weryfikują dane, ulepszają kryteria ewaluacji i kierują zespołami ekspertów. Taka praca może również dać ludziom więcej przestrzeni, by skupić się na tym, co pierwotnie przyciągnęło ich do danej dziedziny. W większości zawodów wiele czasu pochłaniają zadania administracyjne i obowiązki niezwiązane z tym, co pracownicy uważają za najbardziej wartościową część swojej pracy. Trenowanie AI w swojej dziedzinie może sprawić, że ich wiedza ekspercka stanie się kluczowym elementem codziennych obowiązków: będą rozwiązywać trudne problemy, korzystać z własnego osądu i dzielić się doświadczeniem. To szansa, by poświęcać więcej czasu temu, na czym ludziom zależy i co robią najlepiej, a zarazem pomagać kształtować sposób, w jaki AI podchodzi do tych zadań.

Sądzę, że wokół tych działań powstaną konkretne ścieżki kariery. Można zdobyć biegłość w przekładaniu wiedzy eksperckiej z własnej dziedziny na dane treningowe albo w prowadzeniu potoku danych i rozpoznawaniu obszarów, w których modele potrzebują wsparcia. To cenne umiejętności, a my dopiero zaczynamy odkrywać, jak będą wyglądać wszystkie te stanowiska.

Firmy zatrudniają lekarzy, prawników, inżynierów, naukowców i innych specjalistów, by ulepszać modele AI. Jak weryfikujecie ich wiedzę i dbacie o to, by tworzone na jej podstawie dane treningowe były dokładne i spójne?

Zbudowaliśmy cały system, który to umożliwia. Jego działanie zaczyna się od Zary, naszej rekruterki AI, która pomaga nam wyszukiwać ekspertów i weryfikować, czy mają umiejętności wymagane w danym projekcie. Następnie nasze narzędzie Merit pomaga nam śledzić jakość, szybkość i rzetelność ich wkładu w miarę upływu czasu. Trzeba rozumieć zarówno czyjąś wiedzę ekspercką, jak i to, jak przekłada się ona na tworzone przez tę osobę dane.

Nasza platforma flow łączy pracę ekspertów z modelami, które stworzyliśmy, aby wspierać generowanie i weryfikację danych. Eksperci definiują zadania i określają, jak powinien wyglądać dobry wynik. Następnie flow gen rozwija ten punkt wyjścia, tworząc nowe przykłady i warianty. flow qc sprawdza dane pod kątem problemów, takich jak brak dowodów lub niezgodność między zadaniem a kryteriami jego oceny. Z kolei flow grader ocenia, jak model radzi sobie w odniesieniu do tych kryteriów.

Najważniejsze jest to, co dzieje się, gdy ekspert wykryje błąd. Taka korekta może poprawić dane treningowe, ale może też pomóc nam ulepszyć same generatory i mechanizmy kontroli jakości. Powtarzające się błędy możemy przekształcać w testy dla kolejnej wersji.

Na tym polega samonapędzający się mechanizm tworzenia danych syntetycznych, który budujemy. Wiedza ekspertów daje nam punkt wyjścia i pozwala dokonywać trafnych ocen. Nasze narzędzia pomagają zwiększać skalę tego procesu, a opinie ekspertów usprawniają jego kolejny cykl. Następnie sprawdzamy, czy wprowadzone zmiany rzeczywiście poprawiają działanie modeli. To właśnie sprawia, że ta pętla jest wartościowa.

Agenci AI coraz częściej muszą wykonywać złożone, wieloetapowe zadania, a nie tylko generować odpowiedzi. Czym różni się trenowanie i ocenianie tych systemów od pracy potrzebnej do doskonalenia tradycyjnych dużych modeli językowych?

Najważniejsza różnica dotyczy długości zadania. Agent może musieć wykonać wiele działań w różnych narzędziach, zanim uzyska przydatny wynik. Może dobrze poradzić sobie z kilkoma pierwszymi krokami, a mimo to nie wykonać całego zadania, ponieważ błędy się kumulują.

Potrzebujemy więc środowisk, w których model może ćwiczyć cały proces, oraz testów, które pokażą nam, na jakim etapie zawodzi. Czy znalazł właściwe informacje? Czy prawidłowo użył narzędzia? Czy rzeczywiście osiągnął oczekiwany rezultat?

Znaczenie ma też kontekst konkretnej firmy. Agent działający w danym przedsiębiorstwie musi rozumieć obowiązujące w nim procesy i oczekiwania. Ogólne kompetencje pozwalają zajść tylko do pewnego momentu.

Właśnie dlatego eksperci w danej dziedzinie są tak ważni. Pomagają nam diagnozować błędy i tworzyć dane, które pozwolą je eliminować. Oceniamy system, znajdujemy luki, trenujemy go z myślą o ich uzupełnieniu, a potem ponownie oceniamy. Proces ten trwa nadal, w miarę jak agent przejmuje kolejne zadania.

W miarę jak najbardziej zaawansowane modele stają się coraz bardziej zdolne, jak zmienia się rodzaj generowanych przez ludzi danych, których potrzebują? Jakie rodzaje wiedzy eksperckiej lub metod oceny będą, Twoim zdaniem, znacznie cenniejsze w ciągu najbliższych kilku lat?

Coraz większe znaczenie mają dwie rzeczy: długość zadania i to, jak wiernie odzwierciedla ono rzeczywistość. W miarę doskonalenia modeli przydatne dane treningowe dotyczą coraz bardziej złożonych procesów, obejmujących więcej decyzji, bogatszy kontekst i więcej okazji do popełnienia błędu.

Dlatego wiedza o funkcjonowaniu organizacji jest bardzo cenna. Osoba, która od lat wykonuje daną pracę, zna wyjątki i zależności, które łatwo przeoczyć podczas projektowania zadania z zewnątrz. Potrafi też ocenić, czy wynik pracy agenta rzeczywiście sprawdziłby się w firmie.

Myślę, że z czasem ocena systemów wdrażanych w przedsiębiorstwach stanie się ogromnym rynkiem, wartym potencjalnie bilion dolarów rocznie. Każda firma wdrażająca agentów będzie musiała wiedzieć, w czym sobie radzą, gdzie zawodzą i jak można je ulepszyć. Osoby potrafiące przekuć swoją wiedzę w przydatne metody oceny będą odgrywać w tym kluczową rolę. Potrzeba ta będzie stale aktualna, ponieważ firmy, modele i sama praca nieustannie się zmieniają.

Niektórzy specjaliści mogą w praktyce pomagać trenować systemy AI do wykonywania części własnej pracy. Jak postrzegasz związane z tym napięcie i jak, Twoim zdaniem, będzie wyglądać relacja między wiedzą ekspercką ludzi a AI w ciągu najbliższych trzech do pięciu lat?

Myślę, że nie doceniamy, jak wiele nowych rodzajów pracy ludzie stworzą dzięki tym narzędziom.

Weźmy rekrutację. Jeśli agent będzie mógł przejąć większą część wstępnej selekcji kandydatów, rekruter będzie mógł poświęcić więcej czasu na budowanie relacji z kandydatami albo zastanawianie się, jak dotrzeć do osób, do których firma wcześniej nie miała dostępu. Rola rekrutera się zmieni, a w tym samym czasie będzie mógł zrobić więcej.

Spodziewam się podobnych zmian w wielu zawodach. W ciągu najbliższych trzech do pięciu lat agenci będą coraz częściej stawać się współpracownikami, którym ludzie będą wyznaczać zadania, przekazywać kontekst i których pracę będą oceniać. Wraz z tym ludzie będą podejmować się nowych obowiązków.

Dlatego jestem optymistą. Już obserwujemy powstawanie nowych rodzajów pracy związanych z trenowaniem i ocenianiem AI, a myślę, że będzie ich znacznie więcej, gdy ludzie odkryją, co mogą dzięki niej tworzyć i osiągać.

Dziękuję za świetny wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej o danych treningowych tworzonych z udziałem ekspertów, ocenie AI i możliwościach wykorzystania swojej wiedzy dziedzinowej, powinni odwiedzić stronę micro1.