Alon Eirew, CTO (AI) z MCE Systems – rozhovor

Alon Eirew, CTO (AI) z MCE Systems, vede společnost AI strategii a technologický stack, od architektury, vývoje modelů, infrastruktury, integrace produktů a širšího uplatňování AI v interních operacích. Předtím strávil více než devět let v Intelu (INTC ), postupoval od senior softwarového inženýra a softwarového architekta na vedoucího výzkumu Natural Language Processing (NLP), kde řídil výzkum extrakce znalostí, zajišťoval financování pro víceleté projekty, publikoval články na hlavních NLP konferencích a mentoroval startupy prostřednictvím Intel Ignite. Na počátku své kariéry pomáhal Eirew vyvíjet technologii osobního asistenta v Telmap, která se později stala součástí Intelu, a od té doby radil začínajícím společnostem s AI, zatímco učil počítačové vědy, objektově orientované programování, data mining a informační vyhledávání na několika izraelských univerzitách.

MCE Systems vyvíjí AI-nativní vrstvu pro poskytovatele telekomunikačních služeb, spojující starší systémy, data v reálném čase a inteligentní pracovní postupy pro podporu interakcí zákazníků napříč několika kontaktními body. Založena v roce 2005, společnost postavila své podnikání kolem digitálního životního cyklu zařízení, s technologií pokrývající diagnostiku zařízení a péči, programy výměny, vzdálené hodnocení zařízení a vrácení. MCE stále více uplatňuje generativní a agentic AI v těchto pracovních postupech, pomáhající operátorům detekovat problémy se zařízením, vést zákazníky prostřednictvím potenciálních řešení a koordinovat složitější servisní cesty napříč digitálními a asistovanými kanály.

Strávili jste téměř deset let v Intelu, kde jste pracoval na NLP, extrakci znalostí, informačním vyhledávání a dokonce i na raných technologiích osobního asistenta, které původně vznikly v Telmap a později se staly součástí Intelu. Ohlédněte se zpět, které nápady z těch raných AI systémů se ukázaly být předčasnými, a které předpoklady měla tato oblast zcela špatně?

Jedna myšlenka byla jasně předčasná – osobního asistenta, na kterém jsme pracovali před érou LLM. Tyto systémy rozuměly záměru, propojovaly kontext napříč úkoly a pomáhaly uživatelům dosáhnout cílů přirozeně. Tyto měly stejné ambice jako dnešní agenti. Rozdíl spočíval v podkladovém přístupu: místo jazykových modelů jsme se spoléhali na kombinaci strojového učení a algoritmů pro odvození záměru uživatele. Tato metoda se však ukázala být obtížnou, když se uplatňovala ve velkém měřítku, s ohledem na různé způsoby, jak uživatelé vyjádří stejnou žádost.

Představte si, že zaměstnáte servisního zástupce, aby zpracoval tisíce dotazů zákazníků, ale on může zpracovat pouze dotazy, které jsou formulovány s konkrétní strukturou vět. Jak můžete vidět, pokrylo by to pouze poměrně úzký rozsah případů použití a bylo by obtížné zpracovat mnoho problémů zákazníků. LLM kompletně změnilo vše. Dnes je pochopení záměru uživatele z velké části vyřešeno. Takže v naší analogii je zástupce nyní flexibilní a může mluvit s miliony zákazníků.

Zatímco bych neřekl, že oblast zcela špatně pochopila něco, věřím, že mnohé podceňovaly, jak centrální budou jazykové modely. Hlavní skok nastal, když byly zavedeny první jazykové modely, jako ELMo, BERT a RoBERTa. V té době málo lidí skutečně pochopilo závažnost transformace, která byla na cestě. Tyto byly základem moderních LLM, které používáme každý den a které bychom si už skoro nedokázali představit bez nich.

Většina společností považovala tyto počáteční modely za užitečné komponenty v úzkých aplikacích, nikoli za základ pro zcela novou výpočetní paradigmou. Vzhledem k tomu, že mnohé z nich zmeškaly příležitost, aby se umístily jako hlavní hráči AI.

Během své výzkumné kariéry jste se zaměřil na extrakci znalostí z více dokumentů a porozumění událostem. Jak se společnosti stále více spoléhají na velké jazykové modely, proč stále považujete strukturovanou extrakci znalostí za tak kritickou výzvu?

LLM jsou mocnými nástroji pro řešení širokého spektra témat, ale podnikové aplikace a koncoví uživatelé potřebují odborné znalosti, aby vyřešili konkrétní problém, což vyžaduje přístup ke znalostem. Tyto kontextové proprietární znalosti nejsou obvykle součástí trénovacích dat modelu, takže nasazení LLM v podniku znamená shromažďování porozumění napříč potenciálně miliony interních datových bodů. Dnes LLM většinou zápasí s touto výzvou, chybí podstatný kontext z důvodu technických a přístupových omezení, a tato mezera omezuje jejich dopad.

V MCE, například, poskytujeme zákaznickou péči AI agenta. Jedním z jeho cílů je umožnit telekomunikačním operátorům pomoci svým zákazníkům vyřešit technické problémy s mobilními zařízeními bez nutnosti lidského zásahu. Bez krmení AI agenta kontextuálními technickými informacemi o zařízení by vše, co by AI agent udělal, bylo poskytnout obecné výsledky, které nevyřeší problém nebo budou irelevantní, a poté by donutil zákazníka hledat lidskou pomoc. To je typ problému s extrakcí znalostí, se kterým jsme se museli vypořádat, abychom mohli nasadit AI se svými zákazníky, a je to místo, kde organizace často selhávají při získávání výsledků, které chtějí.

Můj vlastní výzkum se zaměřil na extrakci znalostí a informační vyhledávání z velkých sbírek dokumentů, zkoumající vztah mezi „událostmi“, termínem v oboru AI, který definuje základní kauzalitu a časový rámec jakékoli reprezentace informací. Používáme to v MCE v našich AI řešeních pro interakci člověka tím, že budujeme strukturální porozumění, které může pomoci LLM lépe shrnout, reprezentovat a vyhledávat znalosti pro vyřešení problému zákazníka.

Publikovali jste výzkum na předních NLP konferencích, včetně ACL, EMNLP a NAACL. Jaké průlomy v posledních pěti letech měly největší skutečný dopad, a které veřejně proklamované pokroky považujete za přehnané?

Existuje několik průlomů, které se mi vybavují, a ty se vyskytují v postupu, jak se LLM vyvíjely.

Prvním z nich bylo kolem instrukční úpravy a inženýrství promptů. To muselo být vyřešeno jako první, než se dosáhlo širšího uplatňování. Všichni jsme byli tam, kde jste požádali LLM o něco konkrétního a šel do kruhů, dostal se blízko, ale nedostal jste odpověď, kterou jste potřebovali. Takže zjištění, jak modely mohou pochopit prompt a poskytnout přesné výsledky, bylo prvním velkým krokem.

Druhým průlomem, který následoval, bylo pro agenty, kteří potřebovali LLM, aby šli za hranice jednorázových úkolů a skutečně dělali několik věcí: vytvořit plány, interagovat s koncovým uživatelem, používat nástroje, používat paměť a přístup ke znalostem. To bylo nezbytné pro to, kde jsme dnes.

Třetím průlomem, který je pouze částečně vyřešen, ale stále probíhá, je kompletní řešení problému halucinace. Dosud bylo dosaženo dostatečného pokroku, abychom se mohli na LLM více spolehnout než dříve. Ale stále je co dohánět a další důvod, proč je lidský dohled a ochranná opatření stále nezbytná.

Co je přehnané, je stupeň autonomie, o kterém lidé prohlašují, že by agenti měli mít. Plně autonomní systémy, které fungují napříč složitými obchodními prostředími bez lidského dohledu, nejsou dosud dostatečně spolehlivé podle mého názoru. Co považuji za produktivnější, je navrhnout AI tak, aby prováděl vysoké hodnotové úkoly, eskalovat nejistotu a vysvětlovat své myšlení, aniž by se vzdal lidské kontroly celkového toku. To je místo, kde agentic AI vytvoří největší skutečný hodnotu v krátké době.

Pracoval jste jako výzkumník, softwarový architekt, technologický líder, poradce startupů a nyní jako Chief AI Officer. Jak se vaše definice úspěšného AI změnila během různých fází vaší kariéry?

Během své kariéry jsem se naučil, že definice úspěšného AI neustále evoluuje a různé jádrové hodnoty jsou napříč obory. Aplikovaný výzkum a architektura mě naučily, že AI musí fungovat v reálném světě. Akademický výzkum mě naučil důležitost přísnosti a hodnocení. Technologický leadership ukázal, že realizace a provozní disciplína záleží stejně jako samotný model. Poradenství startupům mě naučilo, že AI vytváří největší dopad, když řeší skutečný problém a má jasnou cestu k uplatnění.

Dnes, jako AI šéf v MCE, definuji úspěch jako AI, které vytváří měřitelnou hodnotu, zatímco získává důvěru koncového uživatele. Musí zlepšit výsledky pro zákazníky, zaměstnance a podnik, být spolehlivé pro produkci, transparentní pro správu a užitečné, aby je lidé skutečně přijali. V tomto smyslu se má definice změnila z „funguje technologie?“ na „vytvoří hodnotu zodpovědně, opakovaně a ve velkém měřítku?“

Tento přechod jsme provedli v MCE, který začal před dvěma lety a vedl nás sem. Druhá hodnota je, jak o AI uvažujeme nyní pro interní použití i pro naše zákazníky v telekomunikacích.

MCE Systems uplatňuje AI pro zákaznickou zkušenost, zákaznickou péči a marketing v telekomunikacích. Jaké jsou nejvíce přesvědčivé AI použití, které v současné době vznikají v telekomunikačním průmyslu?

Poskytovatelé komunikačních služeb (CSP), nebo „operátoři“, jak se jim obvykle říká, jsou v obtížné situaci, kde čelí problému komoditizace. Cena je skutečnou přitažlivou silou pro získání nových zákazníků nebo udržení stávajících, ale není to udržitelné. Pokud se podíváte na jiné giganty, kteří prodávají spotřebitelské produkty nebo služby, jako je Apple (AAPL ), Amazon (AMZN ) nebo Netflix (NFLX ), postavili skvělý produkt a zkušenost kolem něj. To se stalo jasně ve financích, například, kde banky byly nuceny novými agilními hráči, aby se přesunuly od držby úspor lidí a nabídky investičních produktů k nabídce plné digitální zkušenosti kolem něj. Stejně jako v telekomunikacích.

Naše vize je pomoci přinést další hodnotu zákazníkům CSP s lepší zkušeností nad rámec skvělého produktu, který již poskytují. To znamená být proaktivní a komunikativní se zákazníky o jejich celkovém síťovém a zařízením prožívání. A pro nás je AI tím, co jim to konečně umožňuje udělat dobře.

V odvětví se to stalo většinou obranným nástrojem pro snížení nákladů na call centra nebo zvýšení produktivity zaměstnanců. Ale pro nás je AI také ofenzivním nástrojem pro proaktivní zákaznickou péči a personalizaci služeb a nabídek zákazníkům, vše na mobilním zařízení zákazníka.

Například zachycení problému se zařízením nebo problémem s připojením nebo degradací baterie, než si to zákazník uvědomí, a pomoci jim to vyřešit. Tyto zkušenosti budují skutečnou loajalitu. Vědět situaci zákazníka dostatečně dobře, aby mu nabídl správnou sadu širokopásmového připojení, datový doplněk nebo produkt životního stylu ve správný okamžik, vede k vyšší konverzi. A shromažďování signálů napříč síťovými aktivy, CRM a daty zařízení pro přesné předpovědi odchodu zákazníka a následné jednání je možná nejvýkonnějším případem použití z nich. CSP, které to zvládnou, budou mít významnou výhodu.

Existuje spousta hype kolem toho, stát se „AI-nativním“ nebo „AI-připraveným“. Jak MCE přistupuje k tomuto paradigmatu a co jsou nejvýznamnější body, které organizace přehlížejí v této transformaci?

Co mnohé přehlížejí, je, že transformace AI není pouze technologickým nasazením, ale také změnou modus operandi. Nejlepší příležitosti jsou tam, kde adopce feels přirozená: pracovní postup již existuje, bolest je měřitelná a AI může jasně zlepšit rychlost, kvalitu nebo rozhodování. MCE přistupuje k tomuto paradigmatu několika způsoby.

Začali jsme tím, že jsme se zeptali na zralost AI nástrojů a adopci AI způsobem, který násobí produktivitu zaměstnanců. Zeptali jsme se, jak můžeme vzdělat naše týmy, definovat jasná směrnice pro použití a propojit interní systémy s AI, kde by to skutečně mohlo udělat rozdíl den ze dne.

Jakmile jsme vyhodnotili naši základnu nástrojů, podívali jsme se na automatizaci pracovních postupů a identifikovali, kde agenty mohli snížit manuální práci. Přirozeně jsme zjistili, že můžeme dramaticky snížit čas potřebný pro vývoj. V jednom příkladu vysoce funkční, prototyp aplikace trval pár dní na vytvoření, zatímco by to jinak trvalo dva nebo tři týdny.

Co je často podceňováno pro interní produktivitu, je demokratizace dat. Pracovali jsme na a pokračujeme v lepší utilizaci našich interních dat, aby lidé i AI systémy mohli učinit lepší rozhodnutí. To zahrnuje porozumění potřebám zákazníků, zlepšení operací a budování produktů, které se učí z předchozích zkušeností. Je to stále proces, který vyžaduje iteraci a analýzu, aby vyhodnotil, co funguje a co nefunguje.

Mnohé organizace závodí, aby nasadily AI agenty. Jaké praktické zkušenosti jste získali o tom, kde autonomní AI může skutečně vytvářet hodnotu, a kde lidský dohled zůstává nezbytný?

Je snadné se nechat unést hype kolem automatizace. Ale věřím v přístup k agentům metodicky. Doporučil bych nikdy nezačínat s cílovou úrovní automatizace; místo toho začít identifikací pracovních postupů, kde agenty mohou vytvářet hodnotu, rozdělit je na menší části a zeptat se, které z nich lze plně automatizovat, které semi-automatizovat a kde je lidské úsudku zapotřebí.

V praxi zjistíme, že agenty vytvářejí největší hodnotu, když se používají pro vysoce definované úkoly, které sahají od shromažďování informací po analýzu vstupů, generování doporučení a přípravu výstupů pro další krok. Jemně vyladěná automatizace, kde je úkol dostatečně jednoduchý, funguje mnohem lépe než pokusy o automatizaci celého komplexního procesu.

Tam, kde lidé zůstávají nezbytní, je dohled, zpracování výjimek, zákaznicky citlivé rozhodnutí a obecně situace, kde záleží na odpovědnosti. Cílem není nikdy nahradit lidské rozhodování, ale nechat agenty zpracovat části, kde mohou spolehlivě vytvářet hodnotu, zatímco lidé zpracovávají rozhodnutí, která vyžadují odpovědnost.

MCE mluvil o použití AI pro poskytování personalizovanějších zařízením a zlepšení provozní efektivity pro mobilní operátory. Jak vyvažujete personalizaci s rostoucími obavami kolem soukromí, transparentnosti a důvěry uživatelů?

Protože AI feels tak lidsky, uživatelé s ním přirozeně interagují způsoby, které odhalují více, než někdy chtějí. To klade skutečnou odpovědnost na organizace, aby byly bdělé a transparentní ohledně shromažďovaných dat. Jeden jednoduchý příklad: když zákazník odesílá snímek obrazovky jako součást procesu řešení problémů, může tato obrazovka neúmyslně zachytit osobní informace na obrazovce. Je nezbytné, aby organizace aplikovaly ochrany, aby ořezaly obraz, odstranily nadbytečný viditelný obsah a soustředily se na přesně to, o co se interakce týká, a snížily zbytečné expozici dat.

Pro mě by jakékoli shromažďované údaje měly jasně sloužit zájmům a potřebám zákazníků. Měly by být shromažďovány pouze tehdy, pokud podporují konkrétní účel, jako je řešení dotazu zákazníka nebo poskytování odpovídajícího stupně personalizace. Současně by údaje měly být zpracovávány způsobem, který zachovává soukromí, vyhýbá se zbytečnému propojení s reálnou identitou zákazníka.

Jinými slovy, porozumět profilu zákazníka a jeho konkrétním potřebám, jak se vztahují k našemu podnikání. V našem případě, jako organizace, která dodržuje soukromí, je to o porozumění stavu mobilního zařízení a chování uživatele, jak se vztahuje konkrétně k poskytovateli, ne o identitě zákazníka a jiných typech chování.

Co také záleží, je interakce se zákazníkem samotným. Ochranná opatření jsou zde kritická, aby se zůstalo v rámci účelu, brandu a skutečně se vyhnulo odchýlení se od toho, co organizace jsou připraveny řídit. V praxi ochranná opatření pomáhají vyhnout se porušením předpisů a negativní zkušenosti zákazníků. Někdy to mohou být únavné procesy, ale jsou nezbytné.

Učili jste předměty od základů počítačových věd po informační vyhledávání a data mining. Pokud byste navrhovali AI kurikulum pro studenty vstupující do pracovního procesu dnes, jaké předměty byste priorizovali a které zastaralé koncepty byste odstranili?

Kurikulum potřebuje změnu ve dvou směrech. Předměty, které byly dříve omezeny na postgraduální programy, jako neuronové sítě, transformátory, velké jazykové modely, generace s retrieve-augmentací, hodnocení, zarovnání a odpovědné AI, by se měly stát základními předměty pro bakaláře. Studenti vstupující do pracovního procesu potřebují rozumět, jak tyto systémy fungují a jak je kriticky hodnotit.

Studenti také potřebují naučit se, jak používat AI odpovědně jako nástroj pro učení a výzkum. To znamená zpochybňovat výstupy, ověřovat zdroje, chápat omezení a pohlížet na AI jako na partnera pro myšlení, spíše než jako na zkratku, jak udělat domácí úkoly.

Co bych nekrátit, jsou matematika a algoritmické základy. Argumentoval bych, že jsou stejně důležité jako kdykoli předtím. Co bych snížil, jsou úkoly, které odměňují mechanickou implementaci bez prokázání kritického myšlení. Zaměření by se mělo posunout směrem k formулиrování problémů, hodnocení, návrhu systému a odpovědnému použití.

Po poradenství mnoha startupům ohledně AI strategie, jaké jsou nejčastější chyby, kterých se zakladatelé dopouštějí, když budují AI produkty, a co odlišuje společnosti, které úspěšně přecházejí z prototypu do produkce?

Nejčastější chyba, kterou vidím, je zamilovanost do technologie, dříve než skutečně pochopíte problém, zákazníka nebo cestu k adopci. Druhá nejběžnější chyba je nepochopení omezení AI dostatečně dobře, takže se AI nutí do použití, kde ještě není dostatečně zralá.

Co odlišuje zakladatele, kteří dosahují úspěšné produkce, je hluboká odbornost v konkrétní oblasti a výzkumný postoj. Nejlepší AI produkty pocházejí od zakladatelů, kteří rozumějí konkrétní vertikále dostatečně dobře, aby identifikovali skutečnou technologickou mezeru. Nezahajují od „co můžeme udělat s AI?“, ale od „zde je konkrétní problém, zde je proč stávající řešení na trhu selhávají a zde je proč AI může nyní udržitelně vyřešit“.

Kromě toho úspěšní zakladatelé neustále učí zákazníky, konkurenty, poradců a neúspěšných pokusů. Studují, jak se dělají rozhodnutí, jak se pohybují rozpočty a co vytváří důvěru pro jejich cílové publikum. Na konci dne nestaví pouze produkt, ale něco, co musí přežít v reálném prostředí a ne pro svou vlastní sake.

Pohledem do budoucna, věříte, že největší dopad AI bude pocházet z výkonnějších základních modelů, agentic systémů, multimodálních AI, inteligence na zařízení nebo z úplně jiného trendu, který je v současné době podceňován?

Největší dopad nebude pocházet pouze z vylepšení základních modelů, ale z toho, jak jsou modely začleněny do systémů, které mohou pozorovat a jednat v reálných pracovních postupech, zatímco také zlepšují. Tento posun od mocného modelu k schopnému systému je tam, kde očekávám nejvýznamnější pokrok v blízké budoucnosti.

To se stane obzvláště silným, když systémy půjdou plně multimodální, rozumět textu, hlasu, obrazům, videu a jiným kontextovým reálným signálům, mohou těsně emulovat, jak lidé chápou svět. To otevře nové možnosti v zákaznické podpoře, zdravotnictví, výrobě atd.

Další vyvíjející se technologie, o které jsem přesvědčen, že budou mít disruptivní dopad, jsou agenti, kteří interagují s fyzickým světem. Společnosti jako Boston Dynamics již ukazují umění možného a potenciál, když vnímání, rozumění, plánování a fyzická akce konvergují. Bez ohledu na to, zda je to v humanoidní formě nebo specializovaných robotických systémech, agenti s těly mohou se ukázat jako jeden z nejvíce hmatatelných a revolučních projevů AI, které uvidíme v příštích pěti letech. Pro MCE to vytváří příležitosti v logistice a operativních pracovních postupech, kde stále existuje mnoho opakujících se, nízkokomplexních úkolů, které vyžadují fyzickou lidskou interakci. Příklady zahrnují zvednutí zařízení, stisknutí tlačítek, připojení kabelů nebo přesunutí zařízení mezi stanicemi. Tyto jsou ideální kandidáti pro automatizaci prostřednictvím robotiky a AI, která umožňuje systémům být efektivnější, konzistentnější a zpracovávat mnohem více objemu.

Pro telekomunikace je předpověď odchodu zákazníka a jednání na základě AI modelů místem, kde bude peníze v příštích letech. Pokud můžete postavit spolehlivý model, který zahrnuje data ze všech různých bodů zákazníků, může přesně vyhodnotit pravděpodobnost odchodu a poté jednat na základě toho, budete vyřešili stagnující problém pro poskytovatele. Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit MCE Systems.