Alon Eirew, CTO (AI) på MCE Systems – Intervjuserie

Alon Eirew, CTO (AI) på MCE Systems, leder företagets AI-strategi och teknologi-stack, från arkitektur till modellutveckling, infrastruktur, produktintegration och bredare antagande av AI inom interna operationer. Han tillbringade tidigare mer än nio år på Intel (INTC ), och avancerade från senior mjukvaruutvecklare och mjukvaruarkitekt till ledande forskare inom naturlig språkbehandling (NLP), där han ledde kunskapsutvinning, säkrade finansiering för fleråriga projekt, publicerade artiklar på stora NLP-konferenser och handledde startups genom Intel Ignite. Tidigare i sin karriär hjälpte Eirew till att utveckla personlig assistent-teknologi på Telmap som senare blev en del av Intel, och han har sedan dess rådgivit tidiga AI-företag medan han undervisade i datavetenskap, objektorienterad programmering, datautvinning och informationsåtervinning på flera israeliska universitet.

MCE Systems utvecklar en AI-nativ upplevelse för telekommunikationsleverantörer, som kopplar samman äldre system, realtidsdata och intelligenta arbetsflöden för att stödja kundinteraktioner över flera kontaktytor. Grundat 2005, byggde företaget sin verksamhet kring digital enhetslivscykelhantering, med teknologi som täcker enhetsdiagnostik och vård, bytesprogram, fjärr enhetsgradering och returer. MCE tillämpar alltmer generativ och agentbaserad AI på dessa arbetsflöden, vilket hjälper operatörer att upptäcka enhetsproblem, vägleda kunder genom potentiella lösningar och samordna mer komplexa service-resor över digitala och assisterade kanaler.

Du tillbringade nästan ett decennium på Intel och arbetade med NLP, kunskapsutvinning, informationsåtervinning och tidiga personliga assistent-teknologier som ursprungligen kom från Telmap innan de blev en del av Intel. När du ser tillbaka, vilka idéer från dessa tidiga AI-system visade sig vara före sin tid, och vilka antaganden fick industrin helt fel?

En idé som tydligt visade sig vara före sin tid var den personliga assistenten vi arbetade med före LLM-eran. Dessa system förstod avsikt, kopplade samman kontext över uppgifter och hjälpte användare att uppnå mål på ett naturligt sätt. De hade samma ambitioner som dagens agenter. Skillnaden var den underliggande metoden: Istället för språkmodeller, förlitade vi oss på en kombination av maskinlärande och algoritmer för att härleda användaravsikt. Denna metod visade sig dock vara svår att tillämpa i stor skala med tanke på de olika sätten användare uttrycker samma begäran.

Föreställ dig att du anställer en kundtjänstrepresentant för att hantera tusentals kunders förfrågningar, men de kan bara hantera förfrågningar som är formulerade med specifik meningssyntax. Som du kan föreställa dig, skulle det bara täcka en ganska liten delmängd av användningsfall och det skulle vara svårt att hantera många kundproblem. LLM:er förändrade allt. Idag är förståelsen av användaravsikt i stor utsträckning löst. Så i vår analogi är representanten nu flexibel och kan tala med miljontals kunder.

Medan jag inte skulle påstå att industrin fick något helt fel, tror jag att många underskattade hur centrala språkmodeller skulle bli. Det stora språnget kom när de första språkmodellerna som ELMo, BERT och RoBERTa introducerades. Vid den tiden förstod få verkligen tyngden av den förändring som var på väg. Dessa var ryggradsmodellerna för de moderna LLM:er vi använder varje dag och som vi knappt kan föreställa oss utan.

De flesta företag såg dessa initiala modeller som användbara komponenter i smala applikationer, inte som grunden för en helt ny beräkningsparadigm. I efterhand missade många av dem chansen att positionera sig som stora AI-spelare.

Under din forskarkarriär fokuserade du på multi-dokument kunskapsutvinning och händelseförståelse. När företag alltmer förlitar sig på stora språkmodeller, varför tror du att strukturerad kunskapsutvinning fortfarande är en sådan kritisk utmaning?

LLM:er är kraftfulla verktyg för att hantera en mängd olika ämnen, men företagsapplikationer och slutanvändare behöver expertis för att lösa ett specifikt problem, vilket kräver tillgång till kunskap. Denna kontextuella, proprietära kunskap är inte vanligtvis en modells träningsdata, så att distribuera en LLM i ett företag innebär att samla förståelse över potentiellt miljontals interna datapunkter. Idag kämpar LLM:er i stor utsträckning med detta, saknar betydande kontext på grund av tekniska och åtkomstbegränsningar, och det gapet begränsar deras inverkan.

På MCE, till exempel, erbjuder vi en kundtjänst AI-lösning. Ett av dess mål är att låta telekomoperatörer hjälpa sina kunder att lösa tekniska mobil enhetsproblem utan mänsklig inblandning. Utan att mata AI-agenten kontextuell teknisk information om enheten, skulle allt AI-agenten göra vara att ge generiska resultat som inte löser problemet eller är irrelevanta och sedan tvinga kunden att söka mänsklig hjälp. Detta är den typen av kunskapsutvinningsproblem vi var tvungna att övervinna för att distribuera AI med våra kunder och det är där organisationer ofta misslyckas med att få de resultat de vill ha.

Min egen forskning gick in på kunskapsutvinning och informationsåtervinning från stora dokumentssamlingar, och utforskade relationen mellan “händelser”, en term i AI-disciplinen som definierar den underliggande orsaken och tidsramen för all slags representation av information. Vi tillämpar detta på MCE inom våra AI-lösningar för mänsklig interaktion genom att bygga en strukturerad förståelse som kan hjälpa LLM:er att bättre sammanfatta, representera och söka kunskap för att lösa ett kundproblem.

Du har publicerat forskning på topp-NLP-konferenser, inklusive ACL, EMNLP och NAACL. Vilka genombrott under de senaste fem åren har haft den största verkliga inverkan, och vilka allmänt publicerade framsteg tror du är överhypade just nu?

Det finns några genombrott som sticker ut för mig och de sker i en progression när LLM:er utvecklades.

Det första var runt instruktionsjustering och promptteknik. Detta måste lösas först innan man kunde nå en bredare antagande. Vi har alla varit där där man ber en LLM om något specifikt och den går i cirklar, kommer nära men inte riktigt ger det svar man behöver. Så att figurera ut hur modeller kunde förstå prompten och leverera precisa resultat var ett stort steg.

Genom förlängning var det nästa genombrottet för agenter, som behövde LLM:er för att gå utöver enskilda uppgifter och faktiskt göra flera saker: skapa planer, interagera med en slutanvändare, använda verktyg, använda minne och komma åt kunskap. Detta var avgörande för var vi är idag.

Men det nästa genombrottet, som bara delvis är löst men pågår, är att helt lösa hallucinationsproblemet. Hittills har det varit gott framsteg här för att vi kan lita på LLM:er mycket mer än tidigare. Men det finns fortfarande arbete att göra och en annan anledning till varför mänsklig tillsyn och skyddsräler förblir avgörande.

Vad som är överhypat är den grad av autonomi som människor påstår att agenter bör ha. Fullt autonoma system som opererar i komplexa affärsmiljöer utan mänsklig tillsyn är fortfarande inte tillräckligt tillförlitliga enligt min mening. Vad jag finner mer produktivt är att utforma AI för att utföra högvärdesuppgifter, eskalera osäkerhet och förklara sin resonemang, utan att avstå från mänsklig kontroll över den övergripande flödesprocessen. Det är där agentbaserad AI kommer att skapa den mest verkliga värde på kort sikt.

Du har arbetat som forskare, mjukvaruarkitekt, teknikledare, startup-rådgivare, föreläsare och nu som Chief AI Officer. Hur har din definition av framgångsrik AI förändrats under dessa olika stadier i din karriär?

Under hela min karriär har jag lärt mig att definitionen av framgångsrik AI fortsätter att utvecklas och de olika kärnvärdena är över discipliner. Tillämpad forskning och arkitektur lärde mig att AI måste fungera under verkliga begränsningar. Akademisk forskning lärde mig vikten av rigor och utvärdering. Teknikledning visade mig att genomförande och operativ disciplin är lika viktiga som modellen i sig. Rådgivning till startups lärde mig att AI skapar den största inverkan när den löser ett verkligt problem och har en tydlig väg till antagande.

Idag, som AI-chef på MCE, definierar jag framgång som AI som skapar mätbar värde samtidigt som den vinner förtroende hos slutanvändaren. Den måste förbättra kundresultat, anställda och affären, vara tillräckligt tillförlitlig för produktion, transparent nog för att kunna styras och användbar nog så att människor faktiskt antar den. I den meningen har min definition utvecklats från “Fungerar tekniken?” till “Skapar den värde på ett ansvarsfullt, upprepat och skalfbart sätt?”

Detta är också den övergång vi gjorde på MCE, en som började för två år sedan och ledde till var vi är idag. Det senare värdet är hur vi tänker på AI nu för interna användningsfall och för våra kunder inom telekommunikation.

MCE Systems tillämpar AI för telekommunikation, kundtjänst och marknadsföring. Vilka är de mest övertygande AI-användningsfallen som för närvarande dyker upp inom telekommunikationsindustrin?

Telekommunikationstjänsteleverantörer (CSP:er), eller “operatörer” som de vanligtvis kallas, befinner sig i en svår situation, där de står inför en kommoditisering. Pris är den verkliga attraktionskraften för att locka till sig nya kunder eller behålla dem, men det är inte hållbart. Om man tittar på andra jättar som säljer konsumentprodukter eller tjänster, som Apple (AAPL ), Amazon (AMZN ) eller Netflix (NFLX ), byggde de en fantastisk produkt och en upplevelse runt den. Detta spelade ut tydligt i finans, till exempel, där banker tvingades av nya, smidiga spelare att flytta från att bara hålla människors besparingar och erbjuda investeringsprodukter till att också erbjuda en fullständig digital upplevelse runt det. Samma sak med telekommunikation.

Vår vision är att hjälpa till att bringa ytterligare värde till CSP:ers kunder med en bättre upplevelse ovanpå den fantastiska anslutningsprodukt de redan tillhandahåller. Detta innebär att vara mer proaktiv och kommunikativ med kunderna om deras övergripande nätverks- och enhetsupplevelse. Och för oss är AI det som slutligen tillåter dem att göra det bra.

I branschen har det dock blivit mest en defensiv verktyg för att skära ner callcenterkostnader eller göra anställda mer produktiva. Men för oss är AI också ett offensivt verktyg för att vara proaktiv med kundtjänst och personanpassa service och vad man erbjuder kunder, allt på kundens mobil enhet.

Till exempel, att upptäcka en enhets- eller anslutningsproblem eller batteridegraderingsproblem innan kunden märker det och hjälpa dem att lösa det. Sådana upplevelser bygger äkta lojalitet. Att känna till en kunds situation tillräckligt bra för att erbjuda rätt bredbandspaket, data-tillägg eller livsstilsprodukt vid rätt tillfälle driver högre konvertering. Och att samla signaler över nätverksresurser, CRM och enhetsdata för att korrekt förutsäga avhopp och sedan agera tidigt, är kanske det mest kraftfulla användningsfallet av alla. CSP:er som lyckas med detta kommer att ha en betydande fördel.

Det finns mycket hype kring att bli “AI-nativ” eller “AI-klar”. Hur närmar sig MCE denna paradigm och vad tror du är de viktigaste punkterna som organisationer missar i denna transformation?

Vad många missar är att AI-transformation inte bara är en teknologiutveckling, utan också en förändring av modus operandi. De bästa möjligheterna är där antagandet känns naturligt: arbetsflödet finns redan, smärtan är mätbar och AI kan tydligt förbättra hastighet, kvalitet eller beslutsfattning. MCE närmar sig denna paradigm med några idéer.

Vi började med att fråga om AI-verktygs mognad och anta AI på sätt som multiplicerar anställdas produktivitet. Vi frågade hur vi kunde utbilda våra team, definiera tydliga användningsriktlinjer och koppla samman interna system till AI där det faktiskt kunde göra en skillnad i den dagliga verksamheten.

När vi utvärderat vår bas av verktyg, tittade vi på arbetsflödesautomatisering och identifierade var agenter kunde minska manuellt arbete. Naturligtvis fann vi att vi kunde drastiskt minska tiden till utveckling. I ett exempel tog en högt fungerande, prototyp-app bara ett par dagar att skapa, medan det annars skulle ha tagit två eller tre veckor.

Vad som ofta underskattas för intern produktivitet är data-demokratisering. Vi arbetade på och fortsätter att arbeta med att göra bättre användning av vår interna data så att både människor och AI-system kan fatta bättre beslut. Detta inkluderar att förstå kundbehov, förbättra verksamheten och bygga produkter som lär av tidigare erfarenheter. Det är fortfarande en pågående process, eftersom det är en iterativ och analytisk process att utvärdera vad som fungerar och vad som inte fungerar.

Många organisationer är på väg att distribuera AI-agenter. Vilka praktiska lärdomar har du om var autonom AI verkligen kan skapa värde kontra där mänsklig tillsyn förblir avgörande?

Det är lätt att bli uppslukad av automationens hype. Men jag tror på att tillvägagångssättet metodiskt. Jag skulle råda att aldrig börja med ett mål för automatiseringsnivå; istället börja med att identifiera arbetsflöden där agenter kan skapa värde, bryta dem ner i mindre delar och fråga vilka av dessa delar som kan fullständigt automatiseras, vilka som kan semi-automatiseras och var mänskligt omdöme behövs.

I praktiken finner vi att agenter skapar mest värde när de används i högt definierade uppgifter, som sträcker sig från att samla information till att analysera indata, generera rekommendationer och förbereda utdata för nästa steg. Finjusterad automation där uppgiften är tillräckligt enkel fungerar mycket bättre än att försöka automatisera en hel komplex process.

Där människor förblir avgörande är i tillsyn, undantagshantering, kundkänsliga beslut och, generellt, situationer där ansvarighet spelar roll. Målet är aldrig att ersätta mänskligt beslutsfattande, utan att låta agenter hantera de delar där de kan tillförlitligt skapa värde medan människor hanterar de beslut som kräver ansvar.

MCE har talat om att använda AI för att leverera mer personanpassade enhetsupplevelser och förbättra operativ effektivitet för mobiloperatörer. Hur balanserar du personanpassning med växande bekymmer kring integritet, transparens och användarförtroende?

Eftersom AI känns så mänsklig, interagerar användare naturligt med den på sätt som avslöjar mer än de ibland borde. Det lägger ett verkligt ansvar på organisationer att vara vaksamma och transparenta om vilken data som samlas in. Ett enkelt exempel: när en kund skickar en skärmdump som en del av en felsökningsprocess, kan den bilden oavsiktligt fånga personlig information på skärmen. Det är avgörande att organisationer tillämpar skyddsåtgärder för att beskära bilden och ta bort onödig synlig innehåll, hålla fokus på exakt vad interaktionen handlar om och minska onödig dataexponering.

För mig bör all data vi samlar in tydligt tjäna kundens intressen och behov. Den bör samlas in endast när den stödjer ett specifikt syfte, som att lösa kundens förfrågan eller tillhandahålla en lämplig grad av personanpassning. Samtidigt bör data hanteras på ett integritetsbevarande sätt, undvika all onödig koppling till kundens verkliga identitet.

Med andra ord, förstå kundprofiler specifika behov i relation till vår verksamhet. I vårt fall, som en integritetskompatibel organisation, handlar det om att känna till enhetens tillstånd och användarbeteende i relation till leverantören, inte om kundens identitet och andra typer av beteende.

Vad som också spelar roll är interaktionen med kunden i sig. Skyddsräler är avgörande här för att stanna inom syfte, varumärkesröst och verkligen undvika att glida utanför vad organisationer är redo att styra. I praktiken hjälper skyddsräler till att undvika juridiska eller regulatoriska brott och negativa kundupplevelser. Ibland kan dessa vara mödosamma processer, men de är avgörande.

Du har undervisat ämnen som sträcker sig från datavetenskapsgrunder till informationsåtervinning och datautvinning. Om du skulle designa en AI-kurriculum för studenter som går in i arbetslivet idag, vilka ämnen skulle du prioritera och vilka föråldrade koncept skulle du ta bort?

Kurriculum behöver förändras på två sätt. Ämnen som tidigare var begränsade till doktorandprogram, som neurala nätverk, transformerare, stora språkmodeller, återvinning-förstärkt generering, utvärdering, justering och ansvarsfull AI, behöver bli kärnämnen på grundnivå. Studenter som går in i arbetslivet behöver förstå hur dessa system fungerar och hur man kritiskt utvärderar dem.

Studenter behöver också lära sig att använda AI på ett ansvarsfullt sätt som ett verktyg för lärande och forskning. Det innebär att ifrågasätta utdata, verifiera källor, förstå begränsningar och behandla AI som en tänkande partner snarare än en genväg för att göra läxor.

Vad jag inte skulle ta bort är matematik och algoritmiska grunder. Jag skulle argumentera för att de är lika viktiga som någonsin. Vad jag skulle minska är uppgifter som belönar mekanisk implementering utan att visa kritiskt tänkande. Fokus bör skifta mot problemformulering, utvärdering, systemdesign och ansvarsfull användning.

Haft under rådgivning till många startups om AI-strategi, vad är de vanligaste misstagen grundare gör när de bygger AI-produkter, och vad skiljer företag som framgångsrikt flyttar från prototyp till produktion?

Det vanligaste misstaget jag ser är att bli kär i tekniken innan man verkligen förstår problemet, kunden eller vägen till antagande. En nära andra är att inte känna till AI:s begränsningar tillräckligt bra, så att man tvingar AI in i användningsfall där den inte är moget nog ännu.

Vad som skiljer grundare som når framgångsrik produktion är djup branschkompetens och en forskningsattityd. De bästa AI-produkterna kommer från grundare som förstår en specifik vertikal tillräckligt bra för att identifiera en verklig teknisk lucka. De börjar inte med “Vad kan vi göra med AI?” utan med “Här är ett specifikt problem, här är varför befintliga lösningar på marknaden brister och här är varför AI nu kan lösa det på ett hållbart sätt.”

Dessutom lär sig framgångsrika grundare ständigt av kunder, konkurrenter, rådgivare och misslyckade försök. De studerar hur beslut fattas, hur budgetar rör sig och vad som skapar förtroende för deras målgrupp. Till slut bygger de inte bara en produkt, de bygger något som måste överleva i en verklig miljö och inte bara för sin egen skull.

Om fem år, tror du att den största inverkan av AI kommer från kraftfullare grundmodeller, agentbaserade system, multimodal AI, enhetsbaserad intelligens eller en helt annan trend som branschen för närvarande underskattar?

Den största inverkan kommer inte enbart från förbättringar av grundmodeller, utan från hur modeller integreras i system som kan observera och agera inom verkliga arbetsflöden samtidigt som de förbättrar. Den övergången från kraftfull modell till kapabel system är där jag förväntar mig den mest meningsfulla nära framtida framstegen.

Detta kommer att bli särskilt starkt när system blir fullständigt multimodala, kan resonera över text, röst, bilder, video och andra kontextuella verkliga signaler och kan nära emulera hur människor förstår världen. Detta kommer att öppna upp nya möjligheter inom kundtjänst, hälsovård, tillverkning, etc.

En annan framväxande teknik som jag tror kommer att bli revolutionerande är agenter som interagerar med den fysiska världen. Företag som Boston Dynamics visar redan konsten med det möjliga och potentialen när perception, resonemang, planering och fysisk handling konvergerar. Antingen i humanoid form eller specialiserade robotiska system, kan agenter med kroppar visa sig vara en av de mest tangibla och revolutionerande uttrycken för AI som vi kommer att se under de närmaste fem åren. För MCE skapar detta möjligheter inom logistik och operativa arbetsflöden, där många repetitiva, lågkomplexa uppgifter fortfarande kräver mänsklig fysisk interaktion. Exempel inkluderar att plocka upp en enhet, trycka på knappar, ansluta kablar eller flytta enheter mellan stationer. Dessa är idealiska kandidater för automatisering genom robotik och AI som tillåter system att vara mer effektiva, konsekventa och hantera mycket mer volym.

För telekommunikation är att kunna förutsäga kundavhopp och agera på det med AI-modeller där pengarna kommer att ligga under de närmaste åren. Om du kan bygga en tillförlitlig modell som integrerar data från alla olika kundpunkter, kan korrekt utvärdera avhoppssannolikhet och sedan agera på det, kommer du att ha löst ett stagnationproblem för leverantörer.

Tack för den utmärkta intervjun, läsare som vill lära sig mer bör besöka MCE Systems.