Alon Eirew, CTO (AI) of MCE Systems – Wywiad

Alon Eirew, CTO (AI) of MCE Systems, kieruje strategią AI i technologią firmy, obejmując architekturę, rozwój modeli, infrastrukturę, integrację produktów i szersze wdrożenie AI w operacjach wewnętrznych. Przedtem spędził ponad dziewięć lat w Intel (INTC ), awansując z senior software engineer i software architect do Lead Natural Language Processing (NLP) Research Scientist, gdzie kierował badaniami nad wydobywaniem wiedzy, zabezpieczał finansowanie dla projektów wieloletnich, publikował prace na głównych konferencjach NLP i mentorował startupy przez Intel Ignite. Wcześniej w swojej karierze Eirew pomagał rozwijać technologię asystentów osobistych w Telmap, która później stała się częścią Intel, i od tego czasu doradzał firmom na wczesnym etapie rozwoju AI, jednocześnie wykładając nauki komputerowe, programowanie obiektowe, data mining i informacyjne odzyskiwanie w kilku izraelskich uniwersytetach.

MCE Systems rozwija warstwę doświadczeń AI dla dostawców usług telekomunikacyjnych, łącząc systemy legacy, dane w czasie rzeczywistym i inteligentne przepływy pracy, aby wspierać interakcje z klientami na wielu punktach styku. Założona w 2005 roku, firma zbudowała swoją działalność wokół zarządzania cyklem życia urządzeń cyfrowych, z technologią obejmującą diagnostykę i opiekę nad urządzeniami, programy trade-in, zdalną ocenę urządzeń i zwroty. MCE coraz częściej stosuje generatywne i agenty AI w tych przepływach, pomagając operatorom wykrywać problemy z urządzeniami, prowadzić klientów przez potencjalne rozwiązania i koordynować bardziej złożone podróże usługowe na kanałach cyfrowych i asystowanych.

Spędziłeś prawie dekadę w Intel, pracując nad NLP, wydobywaniem wiedzy, odzyskiwaniem informacji i nawet wczesnymi technologiami asystentów, które powstały w Telmap, zanim stały się częścią Intel. Wspominając, które pomysły z tych wczesnych systemów AI okazały się przedwcześnie, a które założenia przemysł całkowicie źle zrozumiał?

Jednym z pomysłów, które okazały się przedwcześnie, była technologia asystentów, nad którą pracowaliśmy przed erą LLM. Były to systemy, które rozumiały intencje, łączyły kontekst między zadaniami i pomagały użytkownikom osiągać cele w naturalny sposób. Miały one te same ambicje, co dzisiejsze agenci. Różnica polegała na podejściu: zamiast modeli językowych, polegaliśmy na kombinacji uczenia maszynowego i algorytmów, aby wnioskować o intencjach użytkownika. Ten sposób okazał się jednak trudny do zastosowania w skali, biorąc pod uwagę różne sposoby, w jakie użytkownicy wyrażają tę samą prośbę.

Wyobraź sobie zatrudnienie przedstawiciela serwisu, który ma obsłużyć tysiące zapytań klientów, ale może obsłużyć tylko zapytania sformułowane w określonej strukturze zdania. Jak można się spodziewać, obejmowałoby to tylko wąski zakres przypadków użycia i byłoby trudne do rozwiązania wielu problemów klientów. LLM całkowicie zmieniły wszystko. Dziś rozumiemy już w dużej mierze intencje użytkownika. Więc w naszym przykładzie przedstawiciel jest teraz elastyczny i może rozmawiać z milionami klientów.

Chociaż nie powiedziałbym, że przemysł całkowicie źle zrozumiał coś, uważam, że wiele firm zaniżało znaczenie modeli językowych. Duży skok nastąpił, gdy wprowadzono pierwsze modele językowe, takie jak ELMo, BERT i RoBERTa. W tamtym czasie niewiele firm prawdziwie zrozumiało wagę transformacji, która miała nastąpić. Były to podstawowe modele nowoczesnych LLM, których używamy każdego dnia i których ledwo możemy sobie wyobrazić bez nich.

Większość firm widziała te wczesne modele jako użyteczne komponenty w wąskich aplikacjach, a nie jako podstawę dla całkowicie nowego paradygmatu obliczeniowego. W retrospekcji wiele z nich przegapiło okazję, aby umieścić się jako główni gracze AI.

Podczas Twojej kariery badawczej skupiłeś się na wielodokumentowym wydobywaniu wiedzy i zrozumieniu zdarzeń. Jak AI może pomóc w rozwiązaniu tych problemów?

LLM są potężnymi narzędziami do rozwiązania szeregu tematów, ale aplikacje przedsiębiorstw i użytkownicy końcowi potrzebują ekspertyzy, aby rozwiązać konkretny problem, co wymaga dostępu do wiedzy. Ta kontekstowa wiedza własna nie jest zwykle danymi szkoleniowymi modelu, więc wdrożenie LLM w przedsiębiorstwie oznacza zbieranie zrozumienia na potencjalnie milionach wewnętrznych punktów danych. Dzisiejsze LLM w dużej mierze mają trudności z tym, pomijając znaczną ilość kontekstu z powodu ograniczeń technicznych i dostępu, a ta luka ogranicza ich wpływ.

W MCE, na przykład, dostarczamy rozwiązanie AI dla opieki klienta. Jeden z jego celów polega na tym, aby umożliwić operatorom telekomunikacyjnym pomóc ich klientom w rozwiązaniu problemów technicznych z urządzeniami mobilnymi bez potrzeby interwencji człowieka. Bez podania AI agentowi kontekstowych informacji technicznych o urządzeniu, wszystko, co zrobi agent AI, to dostarczenie ogólnych wyników, które nie rozwiązują problemu lub są nieistotne, a następnie zmuszają klienta do poszukiwania pomocy u człowieka. To jest rodzaj problemu wydobywania wiedzy, który musieliśmy pokonać, aby wdrożyć AI u naszych klientów, i jest to miejsce, w którym organizacje często nie osiągają pożądanych wyników.

Moje własne badania dotyczyły wydobywania wiedzy i odzyskiwania informacji z dużych zbiorów dokumentów, badając relację między „zdarzeniami”, terminem w dziedzinie AI, który definiuje podstawową przyczynowość i ramy czasowe wszelkich reprezentacji informacji. Stosujemy to w MCE w ramach naszych rozwiązań AI do interakcji człowieka, budując strukturalne zrozumienie, które może pomóc LLM lepiej podsumowywać, reprezentować i wyszukiwać wiedzę, aby rozwiązać problem klienta.

Jakie przełomy w ciągu ostatnich pięciu lat miały największy wpływ na świat rzeczywisty, a które powszechnie nagłośnione postępy uważasz za przereklamowane?

Jednym z przełomów, które wyróżniają się, jest tuning instrukcji i inżynieria podpowiedzi. To musiało być rozwiązane najpierw, zanim możliwe było szersze wdrożenie. Wszyscy byliśmy w sytuacji, w której prosimy LLM o coś konkretnego, a on idzie w kółko, zbliżając się, ale nie dostarczając nam odpowiedzi, której potrzebujemy. Więc rozwiązanie, w jaki sposób modele mogą zrozumieć podpowiedź i dostarczyć dokładne wyniki, było pierwszym dużym krokiem.

W dalszym ciągu, następnym przełomem było dla agentów, które potrzebowały LLM, aby wykonywać więcej niż tylko jednorazowe zadania i mogły tworzyć plany, interakcje z użytkownikiem końcowym, używać narzędzi, pamiętać i dostępować do wiedzy. To było niezbędne do tego, gdzie jesteśmy dzisiaj.

Co jest przereklamowane, to stopień autonomii, o którym mówi się, że agenci powinni ją posiadać. W pełni autonomiczne systemy działające w złożonych środowiskach biznesowych bez nadzoru człowieka są nadal niewystarczająco niezawodne w moim odczuciu. To, co uważam za bardziej produktywne, to projektowanie AI do wykonywania zadań o wysokiej wartości, eskalacji niepewności i wyjaśniania swojego rozumowania, bez zrzeczenia się kontroli człowieka nad ogólnym przepływem. To jest miejsce, w którym AI agenci będą tworzyć największą wartość w krótkim terminie.

Jak Twoja definicja sukcesu w AI ewoluowała na przestrzeni różnych etapów Twojej kariery?

Przez całą moją karierę nauczyłem się, że definicja sukcesu w AI ciągle ewoluuje, a różne wartości rdzeniowe są rozproszone po różnych dyscyplinach. Zastosowana nauka i architektura nauczyły mnie, że AI musi działać w ramach ograniczeń świata rzeczywistego. Badania akademickie nauczyły mnie znaczenia rygoru i oceny. Przywództwo inżynierskie pokazało mi, że wykonanie i dyscyplina operacyjna mają tak samo wielkie znaczenie, jak sam model. Doradzanie startupom nauczyło mnie, że AI tworzy największy wpływ, gdy rozwiązuje prawdziisty problem i ma wyraźną ścieżkę do adopcji.

Dziś, jako szef AI w MCE, definiuję sukces jako AI, które tworzy wymierne korzyści, jednocześnie zyskując zaufanie użytkownika końcowego. Musi ono poprawiać wyniki dla klientów, pracowników i biznesu, być wystarczająco niezawodnym do produkcji, przejrzystym do zarządzania i użytecznym, aby ludzie go naprawdę przyjęli. W tym sensie moja definicja ewoluowała od „Czy technologia działa?” do „Czy tworzy wartość odpowiedzialnie, wielokrotnie i na dużą skalę?”

MCE Systems stosuje AI w celu poprawy doświadczenia klienta, opieki klienta i marketingu w branży telekomunikacyjnej. Jakie są najbardziej przekonywujące przypadki użycia AI, które obecnie wyłaniają się w tej branży?

Dostawcy usług telekomunikacyjnych (CSP) znajdują się w trudnej sytuacji, gdzie cena jest główną siłą przyciągającą nowych klientów lub utrzymującą ich. Jeśli spojrzymy na innych gigantów, którzy sprzedają produkty konsumenckie lub usługi, takich jak Apple (AAPL ), Amazon (AMZN ) lub Netflix (NFLX ), zbudowali oni wspaniały produkt i doświadczenie wokół niego. To się odbyło wyraźnie w finansach, na przykład, gdzie banki były zmuszone przez nowych, zwinnych graczy do przeniesienia się z posiadania oszczędności ludzi i oferowania produktów inwestycyjnych do oferowania pełnego cyfrowego doświadczenia wokół nich. To samo dotyczy telekomunikacji.

Nasza wizja polega na tym, aby pomóc CSP w dostarczeniu dodatkowej wartości ich klientom poprzez lepsze doświadczenie na szczycie Already wielkiego produktu łączności, który już oferują. Oznacza to być bardziej proaktywnym i komunikatywnym z klientami na temat ich ogólnego doświadczenia sieci i urządzenia. A dla nas AI jest tym, co w końcu pozwala im to zrobić dobrze.

W branży jednak stało się to głównie defensywnym narzędziem do cięcia kosztów pracy w centrach kontaktowych lub zwiększania produktywności pracowników. Ale dla nas AI jest również ofensywnym narzędziem, aby być proaktywnym w opiece klienta i personalizować usługi, i to wszystko na urządzeniu mobilnym klienta.

Jak MCE podejmuje wyzwanie stania się „rodzimym dla AI” lub „gotowym do AI”?

Co wiele firm przegapia, to fakt, że transformacja AI nie jest tylko wdrożeniem technologii, ale również zmianą modus operandi. Najlepsze okazje pojawiają się tam, gdzie adopcja wydaje się naturalna: przepływ pracy już istnieje, ból jest mierzalny, a AI może wyraźnie poprawić szybkość, jakość lub podejmowanie decyzji. MCE podejmuje ten paradygm z kilkoma pomysłami.

Zaczęliśmy od pytania o dojrzałość narzędzi AI i wdrożenia AI w sposób, który pomnożyłby produktywność pracowników. Zapytaliśmy, jak możemy edukować nasze zespoły, określić wyraźne wytyczne użytkowania i połączyć wewnętrzne systemy z AI, gdzie mogłoby to naprawdę mieć znaczenie w codziennym życiu.

W jaki sposób MCE Systems balansuje personalizację z rosnącymi obawami dotyczącymi prywatności, przejrzystości i zaufania użytkowników?

Ponieważ AI wydaje się tak ludzkie, użytkownicy naturalnie wchodzą z nim w interakcje w sposób, który naraża ich na więcej, niż czasem powinni. To stawia przed organizacjami prawdziwą odpowiedzialność za to, aby być czujnymi i przejrzystymi w odniesieniu do danych, które są zbierane. Prosty przykład: gdy klient przesyła zrzut ekranu jako część procesu rozwiązywania problemu, ten obraz może nieumyślnie ujawnić informacje osobiste na jego ekranie. Jest niezbędne, aby organizacje stosowały zabezpieczenia, aby przyciąć ten obraz i usunąć niepotrzebny widoczny kontent, utrzymując focus na tym, co jest istotne dla interakcji, i zmniejszając niepotrzebne narażenie danych.

Dla mnie każde zebrane dane powinny wyraźnie służyć interesom i potrzebom klienta. Powinny one być zbierane tylko wtedy, gdy wspierają konkretny cel, taki jak rozwiązanie zapytania klienta lub dostarczenie odpowiedniego stopnia personalizacji. Jednocześnie dane powinny być przetwarzane w sposób zachowujący prywatność, unikając niepotrzebnego powiązania z prawdziwą tożsamością klienta.

Jakie są najczęstsze błędy, które popełniają założyciele, budując produkty AI, a co odróżnia firmy, które udanie przechodzą od prototypu do produkcji?

Najczęstszym błędem, jaki widzę, jest to, że zakochują się w technologii, zanim naprawdę zrozumieją problem, swojego klienta lub ścieżkę do adopcji. Bliskim drugim jest to, że nie znają ograniczeń AI wystarczająco dobrze, więc zmuszają ją do użycia w przypadkach, w których jeszcze nie jest dojrzała.

To, co odróżnia założycieli, którzy osiągają sukces w produkcji, to głęboka ekspertyza branżowa i nastawienie badawcze. Najlepsze produkty AI pochodzą od założycieli, którzy rozumieją konkretny pionier wystarczająco dobrze, aby zidentyfikować prawdziłą lukę technologiczną. Nie zaczynają od „co możemy zrobić z AI?”, ale od „oto konkretny problem, oto dlaczego istniejące rozwiązania na rynku nie są wystarczające, a oto dlaczego AI może teraz to rozwiązać w sposób trwały”.

Ponadto, udane założyciele ciągle uczą się od klientów, konkurentów, doradców i nieudanych prób. Studiują, jak są podejmowane decyzje, jak budżety się poruszają i co tworzy zaufanie dla ich docelowej publiczności. Ostatecznie nie budują tylko produktu, ale coś, co musi przetrwać w prawdziwym środowisku, a nie tylko dla samego siebie.

Spójrzając w przyszłość, uważasz, że największy wpływ AI nastąpi dzięki bardziej potężnym modelom podstawowym, systemom agencji, AI wielomodalnej, inteligencji na urządzeniu, czy może zupełnie innemu trendowi, który przemysł obecnie niedocenia?

Największy wpływ nie nastąpi tylko dzięki ulepszonym modelom podstawowym, ale dzięki temu, jak modele te są wbudowane w systemy, które mogą obserwować i działać w ramach prawdziwych przepływów pracy, jednocześnie poprawiając się. To przejście od potężnego modelu do zdolnego systemu jest miejscem, w którym oczekuję najbardziej znaczącego postępu w najbliższej przyszłości.

To stanie się szczególnie silne, gdy systemy staną się w pełni wielomodalne, rozumiejąc tekst, głos, obrazy, wideo i inne sygnały kontekstowe w sposób, który ściśle naśladuje, jak ludzie rozumieją świat. To otworzy nowe możliwości w obsłudze klienta, opiece zdrowotnej, produkcji itd.

Inną wschodzącą technologią, która – moim zdaniem – stanie się przełomowa, są agenci, którzy interaktywnie oddziałują z światem fizycznym. Firmy jak Boston Dynamics już pokazują, co jest możliwe, i potencjał, gdy postrzeganie, rozumowanie, planowanie i fizyczne działanie się zbiegają. Czy to w postaci humanoidów, czy specjalistycznych systemów robotycznych, agenci z ciałem mogą okazać się jednym z najbardziej namacalnych i rewolucyjnych wyrazów AI, które zobaczymy w ciągu najbliższych pięciu lat. Dla MCE tworzy to możliwości w logistyce i operacjach, gdzie wiele powtarzalnych, niskozłożonych zadań wciąż wymaga fizycznej interakcji człowieka. Przykłady obejmują podnoszenie urządzenia, naciskanie przycisków, łączenie kabli lub przenoszenie urządzeń między stacjami. Są to idealni kandydaci do automatyzacji za pomocą robotyki i AI, pozwalającej systemom być bardziej wydajnymi, spójnymi i radzącymi sobie z o wiele większym obciążeniem.

Dla telekomunikacji możliwość przewidzenia churnu klienta i podjęcia działań z użyciem modeli AI jest miejscem, gdzie pieniądze będą w najbliższych latach. Jeśli możesz zbudować niezawodny model, który łączy dane z wszystkich różnych punktów klienta, może dokładnie ocenić prawdopodobieństwo churnu, a następnie podjąć działania, rozwiązałeś stagnujący problem dla dostawców.

Dziękujemy za wspaniały wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić MCE Systems.