Alon Eirew, CTO (AI) i MCE Systems – Intervju-serie

Alon Eirew, CTO (AI) i MCE Systems, leder selskapets AI-strategi og teknologi-stakk, fra arkitektur til modellutvikling, infrastruktur, produkt-integrasjon og bredere anvendelse av AI i interne operasjoner. Han tilbragte tidligere over ni år i Intel (INTC ), hvor han gikk fra senior programvare-ingeniør og programvare-arkitekt til leder for Natural Language Processing (NLP) Research Scientist, hvor han ledet forskning på kunnskaps-uttrekk, sikret midler til flerårige prosjekter, publiserte artikler på større NLP-konferanser og veiledet start-ups gjennom Intel Ignite. Tidligere i sin karriere hjalp Eirew med å utvikle personlig-assistent-teknologi hos Telmap, som senere ble en del av Intel, og han har siden rådgitt tidlige AI-selskaper samtidig som han underviste i datavitenskap, objektorientert programmering, data-mining og informasjons-uttrekk ved flere israelske universiteter.

MCE Systems utvikler en AI-nativ erfaring-lag for telekommunikasjon-leverandører, som kobler sammen legacy-systemer, sanntids-data og intelligente arbeidsflyter for å støtte kunde-interaksjoner på flere punkter. Grunnlagt i 2005, bygde selskapet sin forretning rundt digital enhet-livssyklus-håndtering, med teknologi som dekket enhet-diagnostikk og -omsorg, handelsprogrammer, fjern-enhet-gradert og retur. MCE anvender stadig mer generativ og agens-basert AI på disse arbeidsflytene, som hjelper operatører med å oppdage enhets-problemer, guide kunder gjennom mulige løsninger og koordinere mer komplekse service-reiser på tvers av digitale og assisterte kanaler.

Du tilbragte nesten et tiår i Intel og arbeidet med NLP, kunnskaps-uttrekk, informasjons-uttrekk og tidlige personlig-assistent-teknologier som opprinnelig kom fra Telmap før de ble en del av Intel. Ser du tilbake, hvilke ideer fra disse tidlige AI-systemene viste seg å være foran sin tid, og hvilke antagelser feilerte industrien fullstendig?

En ide som klart var foran sin tid var den personlige assistenten vi arbeidet med før LLM-æraen. Disse systemene forsto intensjon, koblet sammen kontekst på tvers av oppgaver og hjalp brukerne med å oppnå mål på en naturlig måte. Disse hadde de samme ambisjonene som dagens agenter. Forskjellen lå i den underliggende tilnærmingen: I stedet for språk-modeller, baserte vi oss på en kombinasjon av maskinlæring og algoritmer for å slutte bruker-intensjon. Denne metoden viste seg å være vanskelig å anvende i stor skala, når man tok hensyn til de forskjellige måtene brukerne uttrykte samme forespørsel.

Forestall deg å ansette en kundeservice-representant for å håndtere tusenvis av kunders forespørsler, men de kan bare håndtere forespørsler som er formulert med en bestemt setningsstruktur. Som du kan forestille deg, ville det bare dekke et ganske lite utvalg av brukstilfeller og ville være vanskelig å håndtere mange kunde-problemer. LLM-er endret alt dette. I dag er det største problemet å forstå bruker-intensjonen, og det er i stor grad løst. Så i vår analogi er representanten nå fleksibel og kan snakke med millioner av kunder.

Jeg ville ikke påstå at industrien feilerte fullstendig, men jeg tror mange undervurderte hvor sentrale språk-modellene ville bli. Det store spranget kom når de første språk-modellene som ELMo, BERT og RoBERTa ble introdusert. På den tiden forsto få virkelig tyngden av den transformasjonen som var på vei. Disse var ryggraden i de moderne LLM-er vi bruker hver dag, og det er vanskelig å forestille seg en tid uten dem.

De fleste selskaper så disse første modellene som nyttige komponenter i smale applikasjoner, ikke som grunnlaget for en helt ny datamaskin-paradigme. I etterkant ser det ut til at mange av dem gikk glipp av muligheten til å posisjonere seg selv som større AI-aktører.

I din forskningskarriere, fokuserte du på multi-dokument kunnskaps-uttrekk og hendelse-forståelse. Ettersom bedrifter stadig mer avhenger av store språk-modeller, hvorfor tror du at strukturert kunnskaps-uttrekk fortsatt er en kritisk utfordring?

LLM-er er kraftfulle verktøy for å håndtere en rekke emner, men bedrifts-applikasjoner og slutt-brukere trenger ekspertise for å løse et bestemt problem, som krever tilgang til kunnskap. Denne kontekstuelle, proprietære kunnskapen er ikke vanligvis en modells trening-data, så å deployere en LLM i en bedrift innebærer å samle inn forståelse på tvers av potensielt millioner av interne data-punkter. I dag sliter LLM-er stadig med dette, på grunn av tekniske og tilgangs-begrensninger, og det begrensninger deres effekt.

Hos MCE, for eksempel, tilbyr vi en kunde-omsorgs AI-løsning. En av dens mål er å la telekommunikasjon-leverandører hjelpe sine kunder med å løse tekniske mobil-enhet-problemer uten å trenge menneskelig inngripen. Uten å mata AI-agenten kontekstuell teknisk informasjon om enheten, ville AI-agenten bare gi generiske resultater som ikke løser problemet eller er irrelevante, og deretter tvinge kunden til å søke menneskelig hjelp. Dette er den type kunnskaps-uttrekk-problem vi måtte overvinne for å deployere AI med våre kunder, og det er der organisasjoner ofte feiler i å få de resultater de ønsker.

Min egen forskning gikk inn i kunnskaps-uttrekk og informasjons-uttrekk fra store dokument-samlinger, og utforsket forholdet mellom “hendelser”, en term i AI-disiplinen som definerer den underliggende årsaken og tidsrammen for enhver type representasjon av informasjon. Vi anvender dette i MCE innenfor våre AI-løsninger for menneskelig interaksjon, ved å bygge en strukturert forståelse som kan hjelpe LLM-er med å sammenfatte, representere og søke kunnskap for å løse en kundes problem.

Du har publisert forskning på større NLP-konferanser, inkludert ACL, EMNLP og NAACL. Hva var de største gjennombruddene de siste fem årene som har hatt den største virkelige effekten, og hvilke høyt profilerte fremskritt tror du er overhypet?

Det er noen gjennombrudd som står ut for meg, og de skjer i en rekkefølge etter som LLM-er utviklet seg.

Det første var rundt instruksjons-justering og prompt-ingeniør-arbeid. Dette måtte løses først før man nådde bredere anvendelse. Vi har alle vært der hvor man ber en LLM om noe spesifikt, og den går i cirklene, kommer nær, men ikke får det svar man trenger. Så å finne ut hvordan modellene kunne forstå prompten og levere nøyaktige resultater, var et stort skritt.

Som en følge av dette var det neste gjennombruddet for agenter, som trengte LLM-er for å gå utenfor enkelt-oppgaver og faktisk gjøre noen ting: lage planer, interagere med en slutt-bruker, bruke verktøy, bruke minne og tilgang til kunnskap. Dette var essensielt for å nå hvor vi er i dag.

Men det neste gjennombruddet, som er delvis løst, men fortsatt pågår, er å fullstendig løse hallucinasjons-problemet. Så langt har det vært mye fremgang her, så vi kan stole på LLM-er mye mer enn før. Men det er fortsatt arbeid å gjøre, og en annen grunn til at menneskelig tilsyn og guardrails fortsatt er essensielle.

Hva som er overhypet er graden av autonomi folk påstår agenter skal ha. Fullstendig autonome systemer som opererer på komplekse forretnings-miljøer uten menneskelig tilsyn, er fortsatt ikke pålitelige nok i min mening. Hva jeg finner mer produktivt er å designe AI for å utføre høy-verdi-oppgaver, eskalere usikkerhet og forklare sin begrunnelse, uten å gi avkall på menneskelig kontroll over den overordnede flyten. Det er der agens-basert AI vil skape den største virkelige verdien på kort sikt.

Du har arbeidet som forsker, programvare-arkitekt, ingeniør-leder, start-up-rådgiver, foreleser og nå som Chief AI-offiser. Hvordan har din definisjon av suksessfull AI endret seg gjennom disse forskjellige fasene i din karriere?

Gjennom hele min karriere har jeg lært at definisjonen av suksessfull AI fortsatt utvikler seg, og de forskjellige kjerne-verdiene er på tvers av disipliner. Anvendt forskning og arkitektur lærte meg at AI må fungere under virkelige verdens-begrensninger. Akademisk forskning lærte meg viktigheten av rigor og evaluering. Ingeniør-ledelse viste meg at eksekvering og operasjonell disiplin betyr like mye som modellen selv. Rådgivning av start-ups lærte meg at AI skaper den største effekten når det løser et virkelig problem og har en klar vei til adopsjon.

I dag, som AI-sjef i MCE, definerer jeg suksess som AI som skaper målbart verdi samtidig som det vinner tillit hos slutt-brukeren. Det må forbedre resultater for kunder, ansatte og forretningen, være pålitelig nok for produksjon, gjennomsiktig nok til å bli styrt og nyttig nok til at folk faktisk adopterer det. I den forstand har min definisjon utviklet seg fra “Fungerer teknologien?” til “Skaper den verdi ansvarlig, gjentakende og i stor skala?”

Dette er også overgangen vi har gjort i MCE, en overgang som startet for to år siden og ledet oss hit nå. Den siste verdien er hvordan vi tenker på AI nå for interne brukstilfeller og for våre kunder i telekommunikasjon.

MCE Systems anvender AI for telekommunikasjon-kunde-erfaring, kunde-omsorg og markedsføring. Hva er de mest overbevisende AI-bruksområdene som nå oppstår innen telekommunikasjons-industrien?

Kommunikasjonstjeneste-leverandører (CSP-er), eller “leverandører” som de vanligvis kalles, står i en vanskelig situasjon, hvor de møter en pris-kommodisering-problem. Pris er virkelig den tiltrekkende kraften for å tiltrekke nye kunder eller beholde dem, men det er ikke bærekraftig. Hvis du ser på andre giganter som selger forbruker-produkter eller -tjenester, som Apple (AAPL ), Amazon (AMZN ) eller Netflix (NFLX ), bygde de en god produkt og en erfaring rundt det. Dette spilte ut tydelig i finans, for eksempel, hvor banker ble tvunget av nye, agile spillere til å flytte fra å holde folks sparinger og tilby investerings-produkter til også å tilby en full digital erfaring rundt det. Samme med telekommunikasjon.

Vårt visjon er å hjelpe med å bringe ekstra verdi til CSP-er-kunder med en bedre erfaring på toppen av det flotte tilkoblings-produktet de allerede tilbyr. Dette innebærer å være mer proaktiv og kommunikativ med kunder om deres totale nettverks- og enhets-erfaring. Og for oss er AI det som endelig lar dem gjøre det godt.

I industrien er det blitt hovedsakelig et forsvar-verktøy for å kutte kundeservice-arbeidskostnader eller gjøre ansatte mer produktive. Men for oss er AI også et offensivt verktøy for å være proaktiv med kunde-omsorg og tilby personlig tjeneste og hva du tilbyr kunder, alt på kundens mobil-enhet.

For eksempel, å fange en enhet eller tilkoblings-problem eller batteri-degraderings-problem før kunden legger merke til det og hjelpe dem med å fikse det. Slike erfaringer bygger ekte lojalitet. Å vite en kundes situasjon godt nok til å tilby riktig bredbånd-pakke, data-tillegg eller livsstils-produkt på riktig tidspunkt, driver høyere konvertering. Og å samle sammen signaler på tvers av nettverks-ressurser, CRM og enhets-data for å nøyaktig forutsi avhopping og deretter handle tidlig, er kanskje det mest kraftfulle bruksområdet av alle. CSP-er som får dette rett, vil ha en betydelig fordeler.

Det er mye hype rundt å bli “AI-nativ” eller “AI-klar”. Hvordan nærmer MCE seg denne paradigmen, og hva tror du er de viktigste punktene organisasjoner glemmer i denne transformasjonen?

Hva mange glemmer er at AI-transformasjon ikke bare er en teknologi-utplassering, men også en modus-operandi-endring. De beste mulighetene er der adopsjonen føles naturlig: arbeidsflyten eksisterer allerede, smerten er målbar og AI kan tydelig forbedre hastighet, kvalitet eller beslutningstaking. MCE nærmer seg denne paradigmen med noen ideer.

Vi startet med å spørre om AI-verktøy-modningen og å adoptere AI på måter som multipliserer ansattes produktivitet. Vi spurte hvordan vi kunne utdanne våre team, definere klare bruks-retningslinjer og koble interne systemer til AI der det faktisk kunne gjøre en forskjell dag-til-dag.

Når vi hadde vurdert vår basis av verktøy, så vi på arbeidsflyt-automatisering og identifiserte hvor agenter kunne redusere manuelt arbeid. Naturligvis fant vi at vi kunne kutte ned tid til utvikling dramatisk. I ett eksempel tok en høyt funksjonell, prototype-app noen dager å lage, når det ellers ville ha tatt to eller tre uker.

Hva som ofte undervurderes for intern produktivitet er data-demokratisering. Vi arbeidet med og fortsetter å arbeide med å gjøre bedre bruk av vår interne data, så både mennesker og AI-systemer kan ta bedre beslutninger. Dette inkluderer å forstå kundens behov, å forbedre operasjoner og å bygge produkter som lærer av tidligere erfaringer. Det er fortsatt et arbeide i gang, siden det er en iterativ og analytisk prosess å vurdere hva som fungerer og hva som ikke gjør det.

Mange organisasjoner kappler for å deployere AI-agenter. Hva praktiske lærdommer har du lært om hvor autonom AI kan skape virkelig verdi, mot hvor menneskelig tilsyn fortsatt er essensielt?

Det er lett å bli fanget opp i automatiserings-hypen. Men jeg tror på å nærme seg agenter metodisk. Jeg ville råde til å aldri starte med et mål-nivå for automatisering; i stedet starte med å identifisere arbeidsflyter hvor agenter kan skape verdi, bryte dem ned i mindre deler og spørre hvilke deler som kan fullstendig automatiseres, hvilke som kan semi-automatiseres og hvor menneskelig dømmekraft er nødvendig.

I praksis finner vi at agenter skaper mest verdi når de brukes i høyt definerte oppgaver, som går fra å samle informasjon til å analysere inn-data til å generere anbefalinger til å forberede ut-data for neste skritt. Fine-tunet automatisering hvor oppgaven er enkel nok, fungerer mye bedre enn å prøve å automatisere en hel kompleks prosess.

Hvor mennesker fortsatt er essensielle, er i tilsyn, unntakshåndtering, kunde-følsomme beslutninger og generelt i situasjoner hvor ansvarlighet betyr noe. Målet er aldri å erstatte menneskelig beslutning, men å la agenter håndtere delene hvor de kan pålitelig skape verdi, samtidig som mennesker håndterer beslutningene som krever ansvarlighet.

MCE har talt om å bruke AI for å levere mer personlig enhets-erfaring og forbedre operasjonell effisiens for mobil-operatører. Hvordan balanserer du personliggjøring med økende bekymringer rundt personvern, gjennomsiktighet og bruker-tillit?

Fordi AI føles så menneskelig, interagerer brukerne naturlig med det på måter som avslører mer enn de noen gang har tenkt. Dette legger en virkelig ansvar på organisasjoner til å være våken og gjennomsiktig om hva slags data som samles inn. Et enkelt eksempel: når en kunde sender en skjermbilde som en del av en feilsøkings-prosess, kan bildet uforvarende fange personlig informasjon på skjermen. Det er avgjørende at organisasjoner anvender beskyttelse for å beskjære bildet og fjerne unødvendig synlig innhold, og holde fokus på akkurat hva interaksjonen handler om, og redusere unødvendig data-eksponering.

For meg bør all data vi samler inn tydelig tjene kundens interesser og behov. Den bør samles inn bare når den støtter en bestemt formål, som å løse kundens forespørsel eller tilby en bestemt grad av personliggjøring. Samtidig bør dataene håndteres på en personvern-vennlig måte, og unngå all unødvendig kobling til kundens virkelige identitet.

Med andre ord, forstå kundens profil-specifikke behov i forhold til vår forretning. I vårt tilfelle, som en personvern-samsvarig organisasjon, handler det om å vite enhetens tilstand og bruker-atferd i forhold til leverandøren, ikke om kundens identitet og andre typer atferd.

Hva som også betyr noe, er i interaksjonen med kunden selv. Guardrails er kritiske her for å forbli innenfor formål, merkevare-stemme og virkelig unngå å gli utenfor hva organisasjoner er klare til å styre. I praksis hjelper guardrails med å unngå juridiske eller regulatoriske overtredelser og negative kunde-erfaringer. Noen ganger kan disse være slitende prosesser, men de er essensielle.

Du har undervist emner som datavitenskap-grunnleggende til informasjons-uttrekk og data-mining. Hvis du skulle designe en AI-læreplan for studenter som går inn i arbeidsmarkedet i dag, hvilke emner ville du prioritere, og hvilke foreldede konsepter ville du fjerne?

Læreplanen må endres på to måter. Emner som tidligere var begrenset til master-programmer, som neural-nettverk, transformatorer, store språk-modeller, uttrekk-forbedret generering, evaluering, alignering og ansvarlig AI, må bli grunnleggende emner på bachelor-nivå. Studenter som går inn i arbeidsmarkedet må forstå hvordan disse systemene fungerer og hvordan de kan evaluere dem kritisk.

Studenter må også lære hvordan å bruke AI ansvarlig som et verktøy for læring og forskning. Dette innebærer å spørre utdata, verifisere kilder, forstå begrensninger og behandle AI som en tenkende partner, ikke en kortvei til å gjøre lekser.

Hva jeg ikke ville kutte ut, er matematikk og algoritme-grunnleggende. Jeg ville argumentere for at de er like viktige som noen gang. Hva jeg ville redusere, er oppgaver som belønner mekanisk implementering uten å demonstrere kritisk tenkning. Fokuset bør skifte mot problem-formulering, evaluering, system-design og ansvarlig bruk.

Etter å ha rådgitt mange start-ups om AI-strategi, hva er de vanligste feilene grunnleggere gjør når de bygger AI-produkter, og hva skiller selskaper som suksessfullt flytter fra prototype til produksjon?

Den vanligste feilen jeg ser, er å bli forelsket i teknologien før de virkelig forstår problemet, kunden eller adopsjons-veien. En nær andre-plass er å ikke kjenne AI-begrensningene godt nok, så de tvinger det inn i bruksområder hvor det ennå ikke er modent nok.

Hva som skiller grunnleggere som når suksessfull produksjon, er dyp domene-ekspertise og en forsknings-mentalitet. De beste AI-produktene kommer fra grunnleggere som forstår en spesifikk vertikal godt nok til å identifisere et virkelig teknologi-gap. De starter ikke med “Hva kan vi gjøre med AI?”, men med “Her er et spesifikt problem, her er hvor eksisterende løsninger på markedet svikter, og her er hvor AI kan løse det på en bærekraftig måte.”

I tillegg lærer suksessfulle grunnleggere stadig fra kunder, konkurrenter, rådgivere og mislykkede forsøk. De studerer hvordan beslutninger tas, hvordan budsjett-bevegelser skjer og hva som skaper tillit hos deres målgruppe. Til slutt bygger de ikke bare et produkt, men noe som må overleve i en virkelig verden, og ikke bare for sin egen skyld.

Ser du fremover fem år, tror du at den største effekten av AI kommer fra kraftigere grunn-modeller, agens-systemer, multi-modale AI, enhets-intelligens eller en helt annen trend som industrien nå undervurderer?

Den største effekten kommer ikke bare fra forbedringer av grunn-modellene alene, men fra hvordan modellene integreres i systemer som kan observere og handle innen virkelige arbeidsflyter, samtidig som de forbedrer seg selv. Denne skiftningen fra kraftfulle modeller til dyktige systemer er hvor jeg forventer de mest betydningsfulle, nære fremtidige fremskritt.

Dette vil bli særlig sterk når systemene går fullt multi-modale, og kan resonnere over tekst, tale, bilder, video og andre kontekstuelle, virkelige signaler, og kan nært etterligne hvordan mennesker forstår verden. Dette vil åpne opp nye muligheter i kunde-støtte, helse, produksjon osv.

En annen fremvoksende teknologi som jeg tror vil bli revolusjonerende, er agenter som interagerer med den fysiske verden. Selskaper som Boston Dynamics viser allerede kunsten av det mulige og potensialet når persepsjon, resonnement, planlegging og fysisk handling konvergerer. Enten i humanoid-form eller spesialiserte robot-systemer, agenter med kropp kan vise seg å være en av de mest tangibile og revolusjonerende uttrykkene for AI vi ser i de neste fem årene. For MCE åpner dette opp muligheter i logistikk og operasjonelle arbeidsflyter, hvor mange repetitive, lav-kompleksitets-oppgaver fortsatt krever fysisk menneskelig interaksjon. Eksempler inkluderer å plukke opp en enhet, trykke på knapper, koble til kabler eller flytte enheter mellom stasjoner. Disse er ideelle kandidater for automatisering gjennom robotikk og AI som lar systemer bli mer effektive, konsistente og håndtere mye mer volum.

For telekommunikasjon er å kunne forutsi kunde-avhopping og handle på det, med AI-modeller, hvor pengene kommer til å være de neste årene. Hvis du kan bygge en pålitelig modell som inkorporerer data fra alle forskjellige kunde-punkter, kan nøyaktig evaluere avhopp-sannsynlighet og deretter handle på det, vil du ha løst et stagnert problem for leverandører.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke MCE Systems.