Yu Su, współzałożyciel i CEO NeoCognition – seria wywiadów

Yu Su, współzałożyciel i CEO NeoCognition, jest długoletnim badaczem sztucznej inteligencji, którego kariera obejmuje akademickie środowisko AI, przedsiębiorstwa AI i zaawansowane systemy agentów. Oprócz kierowania NeoCognition, pełni funkcję profesora associate i Innovation Scholar na Uniwersytecie Stanu Ohio, gdzie jego praca koncentruje się na agentach AI, systemach wnioskowania i uczeniu maszynowym. Jego doświadczenie obejmuje również ponad sześć lat jako starszy badacz w firmie Microsoft, gdzie pracował wraz z wiodącymi badaczami, w tym Percy Liang, nad systemami AI do obsługi poczty elektronicznej Outlook przy użyciu technik parsowania semantycznego. W różnych rolach w firmie Microsoft, środowisku akademickim i instytucjach badawczych, takich jak IBM T.J. Watson Research Center, Yu Su zbudował reputację jako osoba, która przyczynia się do rozwoju systemów AI, które mogą wnioskować, uczyć się i wchodzić w interakcje z złożonymi cyfrowymi środowiskami, pomagając zniwelować lukę między najnowocześniejszymi badaniami a rzeczywistymi zastosowaniami.

NeoCognition to firma badawcza agentów AI, która koncentruje się na tworzeniu tego, co określa jako „specjalistyczną inteligencję” — systemy AI, które ciągle uczą się i poprawiają poprzez doświadczenie. Założona przez wiodących badaczy AI, firma ta realizuje wizję, która wykracza poza statyczne duże modele językowe w kierunku agentów, które mogą rozwijać głęboką ekspertyzę w określonych dziedzinach. Jej badania koncentrują się na obszarach takich jak ciągłe uczenie się, wnioskowanie, planowanie, używanie narzędzi i współpraca między agentami, z celem tworzenia systemów AI, które stają się coraz bardziej zdolne i niezawodne w czasie. Łącząc postępy w uczeniu maszynowym z wnioskowaniem strukturalnym i adaptacyjnymi technikami uczenia, NeoCognition dąży do ukształtowania następnej generacji agentów AI, które będą w stanie podejmować coraz bardziej złożone zadania świata rzeczywistego.

Wiele firm spieszyło się, aby wydać ogólne pilotażowe systemy AI, ale coraz częściej słyszymy obawy dotyczące niezawodności, gdy te systemy wchodzą do środowisk produkcyjnych. Dlaczego uważasz, że tak wiele obecnych agentów AI ma trudności poza kontrolowanymi demonstracjami?

Większość obecnych agentów AI ma trudności w produkcji, ponieważ nadal są fundamentalnymi ogólnikami, działającymi bez trwałego zrozumienia środowiska, w którym działają. Mogą często wykonać zadanie raz w demonstracji, ale to jest bardzo różne od rozwoju powtarzalnego osądu wewnątrz rzeczywistego systemu operacyjnego.

Współczesne modele są imponującymi dopasowaniami wzorców, ale nadal brakuje im mechanizmów, których ludzie używają, aby stać się niezawodnymi ekspertami. Ludzie nie stają się godni zaufania, memorując izolowane zadania. Specjalizujemy się, ucząc się struktury określonego świata: przepływów pracy, ograniczeń, relacji, narzędzi, priorytetów i konsekwencji, które definiują zawód lub organizację. Z czasem budujemy wewnętrzny model roboczy tego środowiska, a ten model pozwala na podejmowanie dobrych decyzji w sposób ciągły i powtarzalny.

Większość agentów AI dzisiaj nie buduje tego rodzaju zrozumienia operacyjnego. Bardzo często polegają na warstwach promptingu, odzyskiwania lub orchestracji, które pomagają im wykonać izolowane akcje, ale nadal w dużej mierze improwizują każdego razu, gdy napotykają nową sytuację. Dlatego wydajność często się psuje, gdy środowisko ulega zmianie, a jeszcze bardziej, gdy staje się brudne, dynamiczne lub o wysokich stawkach.

Brakującym elementem jest specjalizacja. Ludzie prosperują, ponieważ możemy ciągle adaptować się do zmieniających się środowisk i stawać się ekspertami w nich poprzez ciągłe uczenie się. Uważamy, że agenci AI potrzebują podobnej zdolności do uczenia się: zdolności do nauki lokalnej struktury dziedziny na tyle głęboko, aby działać z prawdziwą biegłością.

NeoCognition opisało swoją wizję jako budowanie agentów, które mogą ciągle uczyć się i adaptować się bardziej jak ludzie. Co to tak naprawdę wygląda technicznie w porównaniu z podejściami opartymi na statycznym dostosowaniu lub odzyskiwaniu, których używają wiele przedsiębiorstw dzisiaj?

Większość systemów AI przedsiębiorstw dzisiaj poprawia wydajność albo przez dostosowanie modelu raz, albo przez odzyskiwanie odpowiednich informacji w czasie inferencji. Te podejścia mogą być przydatne, ale nie pozwalają agentowi na fundamentalny rozwój ewoluującej ekspertyzy wewnątrz dziedziny.

Dostosowanie jest zwykle statyczne po szkoleniu. Systemy odzyskiwania pomagają wyświetlić informacje, ale odzyskiwanie wiedzy nie jest tym samym, co rozwój ekspertyzy dziedziny lub adaptacja zachowania na podstawie doświadczenia w czasie. W wielu przypadkach agent nadal brakuje trwałego modelu środowiska, w którym działa.

Gdy człowiek dołącza do firmy, nie staje się skuteczny tylko dlatego, że może przeszukiwać dokumenty. Stopniowo rozwija osąd, rozumiejąc, jak organizacja naprawdę funkcjonuje, a ekspertyza wynika z ciągłego doskonalenia tego wewnętrznego modelu.

Uważamy, że następna generacja agentów potrzebuje podobnego mechanizmu uczenia się. W NeoCognition koncentrujemy się na umożliwieniu agentom tworzenia tych rodzajów ewoluujących modeli operacyjnych, aby mogli ciągle specjalizować się i poprawiać wewnątrz dziedziny w czasie, zamiast zaczynać od zera lub polegać na ciągłym ponownym inżynierii przez ludzi.

Wygląda na to, że rośnie przepaść między eksperymentowaniem AI a zaufaniem operacyjnym. Przedsiębiorstwa mogą z powodzeniem prototypować agenty wewnętrznie, ale wdrożenie ich w skali jest zupełnie innym wyzwaniem. Co organizacje zaniżają w tej transformacji?

Wiele organizacji zaniża, jak dynamiczne są rzeczywiste środowiska operacyjne. Agent, który działa z 85% dokładnością, może brzmieć dobrze w teście, ale w skali przedsiębiorstwa to masih przekłada się na ciągły strumień błędów i sytuacji odzyskiwania, których zespoły ludzkie muszą zarządzać. Wyzwanie staje się jeszcze bardziej znaczące w wieloetapowych przepływach pracy, gdzie awarie kumulują się w systemach i zadaniach, co sprawia, że nadzór, interwencja i odpowiedzialność są o wiele trudniejsze, niż wiele organizacji początkowo oczekuje.

Przedsiębiorstwa nadal traktują wdrożenie jako problem orchestracji lub promptingu, kiedy w rzeczywistości jest to również problem uczenia się. Trudna część nie polega tylko na tym, aby agent wykonał zadanie. Polega na umożliwieniu systemowi rozwoju trwałej kompetencji i osądu wewnątrz dynamicznego środowiska operacyjnego.

Obciążenie dostosowywania, promptingu, nadzorowania i ponownej inżynierii nadal spoczywa ciężko na zespołach ludzkich dzisiaj. To często znak, że system nadal brakuje zrozumienia operacyjnego; są one sterowane ręcznie przez nie każdego razu. To nie jest droga do skali lub zaufania.

Jednym z głównych tematów pojawiających się w branży AI jest zarządzanie, barierki i egzekwowanie polityki. NeoCognition twierdzi jednak, że zarządzanie samemu w sobie nie jest wystarczające. Dlaczego uważasz, że niezawodność ostatecznie wymaga systemów, które ciągle adaptują się do swojego środowiska, zamiast po prostu przestrzegać statycznych reguł?

Zarządzanie i barierki są niezwykle ważne, ale same statyczne reguły nie mogą w pełni rozwiązać problemu niezawodności w złożonych środowiskach.

Systemy operacyjne na poziomie produkcji ciągle się zmieniają. Przepływy pracy ewoluują, narzędzia są aktualizowane, polityki się zmieniają, a nieoczekiwane sytuacje pojawiają się, których nie zawsze można przewidzieć z wyprzedzeniem. Jeśli agent wie tylko, jak postępować zgodnie z przeddefiniowanymi regułami bez zrozumienia środowiska, w którym działa, w końcu napotka sytuacje, na które te reguły nie przewidziały.

Niezawodność ludzi pochodzi z osądu, a nie tylko ze sztywnego przestrzegania skryptów, ale dlatego, że rozwijamy osąd poprzez zrozumienie struktury i ograniczeń świata wokół nas. Uczymy się, kiedy eskalować, kiedy coś wygląda niezwykle, a kiedy kontekst zmienia odpowiednią linię działania.

Uważamy, że agenci AI potrzebują podobnej zdolności do adaptacji i zrozumienia środowiska. Bezpieczniejsze systemy będą pochodzić z uczynienia ich bardziej kompetentnymi i wyspecjalizowanymi wewnątrz wyraźnie określonych światów operacyjnych. Tego rodzaju system obserwuje swoje własne środowisko i własne dane wyjściowe, śledzi, gdzie zawodzi, i aktualizuje swoje zachowanie.

Branża AI często podkreśla większe modele i szersze możliwości, ale NeoCognition wydaje się skupiać na specjalizacji i kontekstowym uczeniu się. Czy uważasz, że przyszłość agentów AI w przedsiębiorstwach będzie wyglądać bardziej jak wysoko wyspecjalizowani cyfrowi pracownicy niż powszechni asystenci?

Stale wierzymy, że przyszłość będzie napędzana przez specjalizację. Branża słusznie skupiła się na coraz bardziej ogólnych modelach, ponieważ szeroka zdolność jest imponująca. Ale w środowiskach przedsiębiorstw prawdziwym wyzwaniem nie jest to, czy agent może zrobić trochę wszystkiego. Jest to to, czy może wykonać określoną rolę w sposób niezawodny i z dobrym osądem w czasie. Nasza siła nie polega na tym, że jesteśmy urodzonymi ekspertami w każdym środowisku. Polega na tym, że możemy nauczyć się struktury określonego świata na tyle głęboko, aby działać skutecznie wewnątrz niego.

W NeoCognition wierzymy, że przyszłość nie będzie jednym superagentem, który robi wszystko. Będzie to obfitość wyspecjalizowanych agentów, z których każdy uczy się określonego świata na tyle głęboko, aby działać z ekspertowską biegłością, niezawodnością i osądem. Ich celem nie jest zastąpienie ludzkiej ekspertyzy, ale uczynienie jej bardziej obfitą: umieszczenie możliwości przedniej granicy w o wiele więcej rąk i podniesienie poziomu bazowego, co może zrobić osoba lub organizacja.

Jednym z największych obaw dotyczących autonomicznych agentów jest to, jak zachowują się, gdy środowiska ulegają nieoczekiwanym zmianom. Jak ważne jest rzeczywiste adaptowanie się i świadomość środowiska w zapobieganiu awariom, halucynacjom lub niebezpiecznym działaniom?

Jest to absolutnie krytyczne. Bez świadomości środowiska agenci mogą nadal działać z pewnością, nawet gdy ich zrozumienie sytuacji jest nieaktualne lub niepełne. To jest tam, gdzie pojawiają się awarie operacyjne.

Uważamy, że niezawodność wymaga, aby agenci ciągle uczyli się lokalnej struktury środowiska, w którym działają, i aktualizowali swoje zrozumienie w czasie. Niezwodność zmienia się i ewoluuje w czasie: co wydawało się niezawodne we wrześniu, może nie wyglądać tak samo w maju. Im głębiej agent rozumie systemy, ograniczenia, przepływy pracy i relacje wokół siebie, tym bardziej staje się zdolny do rozpoznawania, kiedy warunki uległy zmianie lub kiedy niepewność wymaga eskalacji.

Jak blisko, uważasz, że branża jest do wdrożenia systemów AI, które mogą prawdziwie poprawiać się poprzez ciągłe interakcje z rzeczywistymi środowiskami operacyjnymi?

Jeszcze jesteśmy na wczesnym etapie budowania podstawowych mechanizmów uczenia się wymaganych do niezawodnego ciągłego uczenia się i samodoskonalenia, ale branża jest o wiele bliżej tej transformacji, niż wiele osób zdaje sobie sprawę. Żyjemy w skompresowanym czasie. Składniki następnego przełomu technologicznego są gotowe. Może to nastąpić dość szybko.

To, co się liczy, to nie tylko samodoskonalenie w abstrakcji, ale strukturalna specjalizacja wewnątrz rzeczywistych środowisk. Oznacza to naukę przepływów pracy, ograniczeń, relacji i wzorców skutecznego zachowania w sposób stabilny, zarządzalny i odporny na katastrofalne zapominanie. To jest problem, na którym się skupiamy w NeoCognition.

Patrząc w przyszłość przez kilka lat, co, uważasz, ostatecznie oddzieli godne zaufania agenty AI w przedsiębiorstwach od fali eksperymentalnych systemów, które obecnie zalewają rynek?

Systemy, które odnoszą sukces, będą tymi, które wydają się mniej jak scenariusze zabawek i bardziej jak godni zaufania operatorzy.

Samą zdolność modelu nie będzie wystarczająca. Przedsiębiorstwa ostatecznie będą dbać o to, czy agenci mogą działać w sposób ciągły wewnątrz ich rzeczywistych środowisk, zrozumieć lokalne przepływy pracy i ograniczenia, szanować granice i uprawnienia, adaptować się bezpiecznie w czasie i dostarczać powtarzalne wyniki.

Przyszli zwycięzcy w AI przedsiębiorstw nie będą po prostu systemami, które mogą odpowiedzieć na najszerszy zakres pytań. Będą to systemy, które mogą nauczyć się określonego świata operacyjnego na tyle głęboko, aby działać z prawdziwą biegłością, osądem i niezawodnością wewnątrz niego.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić NeoCognition.