Wywiady
Ryan McDonald, Chief Scientist at ASAPP – Wywiad

Ryan McDonald jest Chief Scientistem w firmie ASAPP. Jest odpowiedzialny za ustalenie kierunku badań i grup naukowych, aby osiągnąć wizję ASAPP, która polega na pozytywnym wspomaganiu ludzkiej aktywności poprzez rozwój sztucznej inteligencji. Grupa ta jest obecnie skupiona na rozwoju dziedziny zorientowanej na zadania dialogu w sytuacjach rzeczywistych, takich jak opieka klienta. W takich dynamicznych środowiskach istnieje wiele wzajemnie powiązanych części: rozmowa między klientem a agentem; środowisko i narzędzia, których używa agent; różne miary sukcesu; szeroki zakres potrzeb i sytuacji klientów. Optymalizacja tego środowiska w celu osiągnięcia jakościowych wyników dla klientów, agentów i firm wymaga znaczących inwestycji badawczych w zakresie odzyskiwania, generowania języka, optymalizacji z ograniczeniami, uczenia i, co najważniejsze, oceny.
Ryan pracował nad zrozumieniem języka i uczeniem maszynowym przez ponad 20 lat. Jego praca doktorska na Uniwersytecie Pensylwanii koncentrowała się na nowych metodach uczenia maszynowego dla predykcji strukturalnej w NLP, szczególnie wyciąganiu informacji i analizie składniowej. W Penn, jego badania przyczyniły się do rozwoju dziedziny analizy zależności i adaptacji domenowej w społeczności NLP. Po ukończeniu studiów doktoranckich Ryan dołączył do grupy badawczej Google (GOOGL ). Tam badał analizę nastrojów i modele podsumowujące dla recenzji konsumenckich, co doprowadziło do jednego z pierwszych dużych systemów podsumowujących dla milionów użytkowników każdego dnia.
Następnie badania Ryana skupiły się na języku zrozumieniu w skali masowej. Początkowo jego badania koncentrowały się na poprawie tłumaczenia maszynowego, ale rosnące znaczenie wielojęzyczności w wyszukiwaniu informacji i asystentach cyfrowych skierowało jego badania w stronę międzynarodowych technologii. Zespół Ryana odegrał instrumentalną rolę w rozwoju Asystenta Google jako globalnej technologii. W tym czasie również zainicjował konsorcjum Universal Dependencies z dużą grupą współpracowników akademickich. Jest to największe konsorcjum danych wielojęzycznych ukierunkowane na zasoby językowe składniowe. Po ponad dekadzie pracy nad produktami konsumenckimi Ryan zmienił swój kierunek ku przedsiębiorstwom i poprowadził wiele projektów NLP i ML, aby poprawić usługi Google Cloud, w tym podstawowy interfejs API NLP, rozwiązania dla Call Center AI i odkrywanie wiedzy z literatury naukowej. Badania Ryana nad NLP i ML w przedsiębiorstwach kontynuowane są w ASAPP.
Ryan opublikował ponad 100 prac badawczych w najlepszych czasopismach i konferencjach, które zostały cytowane tysiące razy. Otrzymał nagrody za najlepsze prace na premierowych międzynarodowych konferencjach (EMNLP, NAACL) za swoją pracę nad analizą składniową wielojęzyczną. Jego książka „Analiza zależności” służyła jako jeden z głównych pedagogicznych zasobów w analizie składniowej przez ponad dekadę. Oprócz pełnienia funkcji przewodniczącego na prawie wszystkich konferencjach NLP i ML, był redaktorem dwóch najlepszych czasopism w tej dziedzinie – Transactions of the Association for Computational Linguistics i Computational Linguistics. Doradzał wielu studentom doktoranckim i stażystom oraz wygłaszał zaproszone prelekcje na najlepszych konferencjach, warsztatach i uniwersytetach na całym świecie.
Czym było to, co początkowo zainteresowało Cię uczeniem maszynowym i konkretnie przetwarzaniem języka naturalnego?
Byłem studentem z podwójnym specjalizacją w dziedzinie informatyki i filozofii. Byłem szczególnie zainteresowany filozofią sztucznej inteligencji, a także bardziej praktycznymi aspektami, jak działa AI. Miałem szczęście uzyskać projekt badawczy z Geraldem Pennem na Uniwersytecie w Toronto, który koncentrował się na podsumowaniu wiadomości na telefonach komórkowych. To było ponad 20 lat temu i używało bardzo prymitywnych metod według dzisiejszych standardów. Gerald był wspaniałym mentorem i zainteresował mnie formalnymi modelami struktury języka (składnią i semantyką). Byłem fascynowany złożonością języka i matematycznymi ramami, które wyjaśniają zjawiska, które ludzie naturalnie parsują każdego dnia. W tym czasie wyszukiwarki były wszechobecne, i widziałem ogromny potencjał NLP i ML w przyszłości.
Opublikowałeś ponad 100 prac badawczych w najlepszych czasopismach i konferencjach, które zostały cytowane tysiące razy. Która z tych prac uważasz za najbardziej wpływową?
To zawsze jest trudne do odpowiedzenia. I z czasem myślę, że moja odpowiedź się zmienia. Jeśli mnie o to zapytałeś kilka lat temu, powiedziałbym, że jest to praca, którą wykonałem nad używaniem algorytmów grafowych do analizy zależności. Ta praca, wraz z pracą Joakima Nivre, wywołała ponad dekadę szybkiego rozwoju analizy zależności składniowej, co miało duży wpływ na przyjęcie NLP w firmach technologicznych, w tym ogromną ilość pracy, którą wykonałem w Google dla Search, Translate, Assistant itd.
Jednak z szybkim przyjęciem sieci neuronowych, użycie dyskretnych reprezentacji składniowych języka stało się mniej popularne. Teraz powiedziałbym, że jest to pionierska praca, którą wykonałem z Johnem Blitzerem i Fernandem Pereirą na temat adaptacji domenowej. Metody, które użyliśmy w tej pracy, nie są już zbyt istotne dzisiaj, jednak uważam, że ta praca (wraz z pracą Hal Daume) ugruntowała ramy problemu i jego znaczenie dla tej dziedziny. Teraz, gdy pracuję wyłącznie w przedsiębiorstwach, jestem bardzo świadomy problemów, które podniosłem wtedy, i które nadal musimy rozwiązać.
Spędziłeś większość swojej kariery w Google, pomagając budować najnowocześniejsze technologie NLP i ML i wdrażając je do produkcji. Jakie były Twoje najważniejsze wnioski z tego doświadczenia?
Mój najważniejszy wniosek był taki, że przy budowaniu modeli NLP i ML nie można przewidzieć, kiedy coś pójdzie nie tak. Trzeba być obsesjonowanym danymi, analizą błędów, metrykami itd. we wszystkich punktach procesu. Próbowanie przewidzenia punktów bólowych jest często bezcelowe, a często jest bardziej wydajne budowanie modeli od początku do końca jak najszybciej i dostosowywanie.
Jako badacze NLP i ML koncentrujemy się na tym, gdzie model może się zawieść i jakie założenia modelowania nie będą działać, gdy „guma spotyka się z drogą”. Ale często jest to przetwarzanie danych lub UX, które jest kluczem do tworzenia udanych produktów NLP/ML. Dopiero gdy te elementy są solidne, możemy naprawdę iterować nad jakością, aby wydobyć całą wartość modeli.
Na początku 2021 roku dołączyłeś do ASAPP jako Chief Scientist, firma, która oferuje narzędzia AI, aby wspomagać agentów obsługi klienta, co Cię przyciągnęło do tej pozycji?
Aby uzyskać bardziej kompletną odpowiedź, przeczytaj mój post na blogu na ten temat. Ale aby to podsumować, główne powody to:
- Problemy są trudne. Agenci, którzy są zaangażowani w trudne interakcje z klientami, muszą posiadać wiele informacji i doświadczenia, aby rozwiązać problemy klientów. Budowanie modeli, które dodają wartość do ogromnej ilości wiedzy domenowej, jest trudne, szczególnie gdy sygnały są słabe. Na przykład, czy niski wynik satysfakcji klienta wynikał z tego, że agent coś zrobił źle, czy klient był po prostu ogólnie zirytowany?
- Firmy i agenci, którzy pracują w tym sektorze, są bardzo zainteresowani AI, które pomoże im poprawić doświadczenie klienta. Nie walczą z postępem, ale widzą go jako kluczowe narzędzie do rozwiązywania prawdziwych problemów, z którymi się zmagają. Posiadanie tak zaangażowanego partnera jest niesamowite.
- Wreszcie, w przeciwieństwie do technologii konsumenckich, zestaw domen i problemów w środowisku przedsiębiorstwa jest tak zróżnicowany, że adaptacja (patrz moja odpowiedź na pytanie 2) jest problemem, który musi być rozwiązany. Nie możemy po prostu budować usług dla jednej firmy lub jednej branży, ale dla wszystkich. To jest tak wielki test dla stanu AI dzisiaj.
- ASAPP jest wyjątkowo skupiony na tym problemie.
Czy mógłbyś omówić wizję ASAPP, aby wspomagać ludzką aktywność w pozytywny sposób poprzez rozwój AI?
Nasza podstawowa hipoteza w ASAPP jest taka, że AI nie powinno zastępować ludzi, ale wspomagać ich w pozytywny i produktywny sposób. Ta wizja jest szeroka i mamy ambicje, aby ją zastosować we wszystkich odpowiednich dziedzinach ludzkiej aktywności. Jednakże, ponieważ jest to szeroka misja, pierwszym obszarem, na który się skoncentrowaliśmy, jest domena doświadczenia klienta.
Domena doświadczenia klienta uosabia wszystkie wyzwania i korzyści, które wynikają ze wspomagania ludzkiej aktywności. Agenci są zaangażowani w skomplikowane zadania rozwiązywania problemów, które wymagają od nich śledzenia przepływów pracy, pobierania istotnych informacji z bazy klientów i adaptacji do nuansowych sytuacji, w jakich może się znajdować klient. To daje początek ogromnej liczbie możliwości, aby AI poprawiło ten proces. Jednak uważamy, że jest ważne, aby to zrobić w pozytywny sposób, przez co rozumiemy:
- Wspomaganie następuje w punktach, które są naturalne i płynne w trakcie pracy agenta. To jest krytyczne. Jeśli AI przeszkadza lub interweniuje w niewłaściwych momentach lub z słabą latencją, to będzie miało negatywny wpływ na doświadczenie agenta, ponieważ będą musieli świadomie ignorować AI.
- Bardziej krytycznie, chcemy, aby AI osiągało pozytywne wyniki dla wszystkich ludzi zaangażowanych. W tym przypadku jest to klient, agent i organizacja. Klienci chcą, aby ich problemy były rozwiązywane sprawnie i skutecznie. Agenci chcą to zrobić dla klientów. Dodatkowo, agenci wykonują trudną pracę, często mając do czynienia z niezadowolonymi klientami. AI powinno pomóc im zbalansować pracę i obciążenie poznawcze, aby zmniejszyć zmęczenie i wypalenie, oraz zwiększyć satysfakcję z pracy. W końcu, chcemy pozytywnych wyników biznesowych dla firmy, która prowadzi centrum kontaktowe. Może to być satysfakcja klienta, przepływ problemów, które mogą być rozwiązane w ciągu dnia, lub nawet ilość sprzedaży.
Dla centrów kontaktowych często myślimy o pozytywnych wynikach między klientem, agentem i firmą jako sprzecznych ze sobą. Ale dobre AI pomoże zoptymalizować wszystkie trzy.
Czy mógłbyś omówić bieżącą anatomię AI w centrum kontaktowym?
Dzisiaj prawie każdy etap kontaktu z centrum kontaktowym ma jakąś formę AI, która napędza lub informuje, w jaki sposób problem jest rozwiązywany.
Pierwszym etapem jest interaktywna odpowiedź głosowa (IVR) lub czatbot. Jest to w pełni automatyczne i jego głównym celem jest zrozumienie, dlaczego klient dzwoni, i skierowanie go odpowiednio. Potencjalnie te systemy mogą również zbierać jak najwięcej informacji przed wysłaniem klienta do agenta, aby maksymalizować szansę, że agent może szybko rozwiązać problem. Wiele nowoczesnych botów może również bezpośrednio rozwiązać problem klienta bez potrzeby interwencji agenta – nazywa się to „zawężeniem”, ponieważ połączenie nie wymaga interwencji człowieka. Może to być osiągnięte przez zalecenie często zadawanych pytań lub po prostu wykonanie prostej czynności dla klienta.
Po tym połączenie jest kierowane do agenta. Główną rolą AI jest wtedy prowadzenie i sugerowanie agentowi. Co powinien powiedzieć następnie? Jaki przepływ powinien on śledzić? Jakie artykuły z bazy wiedzy pomogą rozwiązać problem? Te modele są zwykle trenowane na danych historycznych i zoptymalizowane pod kątem niektórych wskaźników wydajności, które mogą być czasem obsługi (jak szybko problem został rozwiązany) lub wynikiem satysfakcji klienta (czy klient był zadowolony z doświadczenia).
Po zakończeniu połączenia lub czatu AI nadal działa. W większości centrów kontaktowych agent pozostawi strukturalne informacje i notatki o tym, co się wydarzyło podczas połączenia. To jest dla celów analitycznych, ale także dla każdego kolejnego agenta, który podejmie problem, jeśli nie został on rozwiązany. AI pomaga we wszystkich tych krokach.
Wreszcie, w centrum kontaktowym są przełożeni, którzy są tam, aby pomóc agentom i rozwijać ich umiejętności. AI może być tutaj kluczowe. W centrum kontaktowym z setkami agentów, którzy obsługują tysiące połączeń każdego dnia, jak przełożony może zidentyfikować problemy, które wymagają jego interwencji? Jak może on zrozumieć, co się wydarzyło w ciągu dnia? Jak może znaleźć obszary poprawy dla agentów, aby rozwijać ich umiejętności?
Jak ASAPP pomaga zmniejszyć rotację pracowników w centrum kontaktowym?
Duże firmy oferujące towary i usługi konsumenckie wydają miliony, a czasem miliardy dolarów każdego roku na centra kontaktowe, które obsługują ich klientów, a koszt pracy stanowi 80-90% wszystkich kosztów. To jest duży problem, który powoduje, że rotacja agentów wynosi 40% – a czasem nawet 100% lub więcej – każdego roku.
Często istnieje karykatura, że agenci są obojętni na Twoje problemy i przechodzą przez ruchy. W najgorszym przypadku nawet utrudniają Twoją możliwość rozwiązania problemu. Nic nie może być dalsze od prawdy. Agenci, jak wszyscy ludzie, czerpią satysfakcję z pomagania klientom w rozwiązywaniu ich problemów. Jak byś wolał spędzić dzień, słysząc serdeczne „dziękuję” czy słysząc krzyki niezadowolonych klientów? W niedawnym badaniu, które przeprowadziliśmy, stwierdziliśmy, że 90% agentów zgłosiło, że połączenia z klientami sprawiły, że ich dzień był lepszy, a większość z nich powiedziała, że są zadowoleni ze swojej pracy. Ale agenci chcą mieć narzędzia i szkolenia niezbędne do tego, aby zrobić klientom przyjemność. Nieszczęśliwi klienci prowadzą do sfrustrowanych, zmęczonych i zestresowanych agentów. To jest główny powód rotacji.
AI, które wspomaga agentów podczas połączenia (jak opisano wcześniej), już pomaga. Jeśli agent ma narzędzia i wskazówki, jak skutecznie i szybko rozwiązać problem klienta, to szanse, że klient będzie zadowolony, mogą być tylko wyższe, co z kolei powinno prowadzić do wyższej satysfakcji z pracy.
Jednak ASAPP nie zaczyna się tam. Podczas gdy dynamiczne wskazówki w czasie rzeczywistym są kluczowe, ważne jest również bardziej ustrukturyzowane szkolenie, coaching i feedback. Wiele agentów szkoli się na nowe problemy lub procedury „na żywo”. To znaczy, że otrzymują opis procedury, ale widzą ją w praktyce dopiero, gdy rozmawiają z klientem. Wyobraź sobie, że dajesz pilotom instrukcję obsługi samolotu, a potem mówisz im, aby lecieli z 300 pasażerami do Denver? Z tego powodu koncentrujemy się na używaniu AI, aby pomóc zbudować narzędzia dla agentów do ćwiczeń procedur i obsługi trudnych sytuacji przed tym, zanim będą mieli do czynienia z klientami. Kiedy to jest połączone z ukierunkowanym feedbackiem (albo przez przełożonego, albo automatycznie), to pozwoli agentom na rozwój ich umiejętności w mniej stresującym środowisku.
Lepsze AI, aby poprawić satysfakcję klienta w dynamicznych sytuacjach, a także AI do ugruntowanego szkolenia – to jest sposób, w jaki ASAPP koncentruje się na agencie, z ostatecznym celem zmniejszenia rotacji.
Jakie są przykłady wyników, które można osiągnąć dzięki wdrożeniu AI w centrum kontaktowym?
Jak już wspomniano, AI może być przełomową technologią w zwiększaniu produktywności. Dla linii lotniczych w USA, z którymi współpracujemy, widzieliśmy wzrost produktywności agentów o 86% i wzrost wydajności organizacyjnej (łącznej liczby interakcji przez wszystkie kanały obsługi klienta podzielonej przez czas pracy potrzebny do zaspokojenia tych potrzeb) o 127%. Dla operatora sieci globalnej, który używa usług ASAPP, wynik net promoter score (chęć klienta do polecenia produktów lub usług firmie innym) wzrósł o 45%. Dla jednego z najlepszych dostawców kablowych, który używa usług ASAPP, koszt na interakcję zmniejszył się o 52%. Te przykłady pokazują, jak AI może zwiększyć produktywność, poprawić jakość obsługi klienta i zmniejszyć koszty biznesowe.
Jakie jest Twoje osobiste wizje przyszłości AI w miejscu pracy?
AI jest już dość powszechne w miejscu pracy. Podczas pisania tego tekstu, sprawdzający pisownię i gramatykę, a także automatyczne uzupełnianie tekstu, pomagają mi. Mam filtry spamu i klasyfikatory wiadomości na moim poczcie i messangerze. Używam AI, aby znaleźć odpowiednie informacje, które potrzebuję do wykonania. To będzie rosło, a także moje przyjęcie, wraz ze wzrostem liczby funkcji AI i ich jakości.
Jednakże, nazwałbym to rodzajem AI „atomistycznym”. Jest to pewnie pomocne, ale tylko w bardzo precyzyjnych momentach, które pozwalają na wysoką precyzję predykcji. Zdecydowanie nie mogę poprosić AI, aby odpowiedziało na te pytania na przykład – jeszcze nie 🙂
Poważniej, moje wizje to zobaczyć przyjęcie AI na całym obszarze miejsca pracy. Nie mam na myśli end-to-end w sensie modelowania machine learning. Mam na myśli, że AI będzie napędzać całościowo duże i złożone zadania, zoptymalizowane pod kątem ogólnego celu, a nie tylko atomistycznych punktów w procesie. ASAPP już wprowadza to w centrach kontaktowych. Na przykład, optymalizujemy to, co agent powinien powiedzieć następnie, na podstawie holistycznych czynników dotyczących tego, gdzie agent jest w rozmowie i jaki jest ostateczny cel. Ale poza tym, wyobraź sobie naukowca, który pisze systematyczny przegląd ważnego tematu, inżyniera oprogramowania, który buduje platformę lub integruje złożone systemy, prawnika, który pisze prawniczą notatkę itd. W przyszłości każdy z tych profesjonalistów będzie polegał na AI, aby szybko zwiększyć ich skuteczność w tych zadaniach i zoptymalizować pożądane wyniki, uwalniając ich od bardziej krytycznych wyzwań.
Czy jest coś jeszcze, co chciałbyś podzielić się o ASAPP?
Nasz zespół badawczy w ASAPP ma wyraźny focus: rozwijamy AI, aby wspomagać ludzką aktywność i rozwiązywać prawdziwe problemy w przedsiębiorstwach. Nasi badacze w ASAPP pracują nad fundamentalnym rozwojem NLP i ML, aby osiągnąć nasz cel – wdrożenie rozwiązań AI specyficznych dla domeny w świecie rzeczywistym, i stosują te postępy w naszych produktach. Wykorzystują ogromne ilości danych generowanych przez nasze produkty, oraz naszą zdolność do wdrożenia funkcji AI w świecie rzeczywistym, aby zadać i rozwiązać podstawowe pytania badawcze w nowy sposób. Odkryj nasze ostatnie prace na https://www.asapp.com/ai-research/.
Dziękujemy za szczegółowe odpowiedzi, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić ASAPP.












