Alon Eirew, CTO (AI) hos MCE Systems – Interview Serie

Alon Eirew, CTO (AI) hos MCE Systems, leder virksomhedens AI-strategi og teknologi-stack, der omfatter arkitektur, modeludvikling, infrastruktur, produktintegration og den bredere anvendelse af AI i interne operationer. Han tilbragte tidligere mere end ni år hos Intel (INTC ), hvor han avancerede fra senior software-ingeniør og software-arkitekt til leder af Natural Language Processing (NLP) Research Scientist, hvor han ledede forskning i vidensextraktion, sikrede finansiering til multi-årige projekter, offentliggjorde artikler på større NLP-konferencer og vejledte startups gennem Intel Ignite. Tidligere i sin karriere hjalp Eirew med at udvikle personlige assistent-teknologier hos Telmap, der senere blev en del af Intel, og han har siden rådgivet tidlige AI-virksomheder, mens han underviste i datalogi, objektorienteret programmering, dataudvinding og informationshenting på flere israelske universiteter.

MCE Systems udvikler en AI-nativ oplevelagslag for telekommunikationsudbydere, der forbinder legacy-systemer, realtidsdata og intelligente arbejdsgange til at understøtte kundeinteraktioner på tværs af multiple kontaktpunkter. Grundlagt i 2005, byggede virksomheden sin forretning omkring digital enheds-livscyklusstyring, med teknologi, der dækkede enhedsdiagnosticering og -pleje, handelsprogrammer, fjernenhedsbedømmelse og returnering. MCE anvender i stigende grad generativ og agensiv AI i disse arbejdsgange, hvilket hjælper operatører med at opdage enhedsproblemer, guide kunder gennem potentielle løsninger og koordinere mere komplekse servicerejser på tværs af digitale og assisterede kanaler.

De tilbragte næsten et årti hos Intel, hvor du arbejdede med NLP, vidensextraktion, informationshenting og tidlige personlige assistent-teknologier, der oprindeligt stammede fra Telmap, før de blev en del af Intel. Hvad var det, der viste sig at være forud for sin tid, og hvilke antagelser fik branchen helt forkert?

En idé, der tydeligt var forud for sin tid, var den personlige assistent, vi arbejdede på, før LLM-æraen. Disse systemer forstod intention, forbinder kontekst på tværs af opgaver og hjalp brugere med at opnå mål på en naturlig måde. Disse havde de samme ambitioner som dagens agenter. Forskellen lå i den underliggende tilgang: I stedet for sprogmodeller afhang vi af en kombination af maskinlæring og algoritmer til at slutte brugerens intention. Denne metode viste sig dog at være svær at anvende i stor skala, når man tager hensyn til de forskellige måder, brugere udtrykker den samme anmodning på.

Forestil dig, at du ansætter en servicemedarbejder til at håndtere tusinder af kunders forespørgsler, men de kan kun håndtere forespørgsler, der er formuleret med en bestemt sætningsstruktur. Som du kan forestille dig, ville det kun dække en ret begrænset række af brugstilfælde, og det ville være svært at håndtere mange kunde-problemer. LLM’er ændrede alt dette. I dag er forståelsen af brugerens intention i høj grad løst. Så i vores analogi er medarbejderen nu fleksibel og kan tale med millioner af kunder.

Jeg ville ikke påstå, at branchen fik noget helt forkert, men jeg tror, at mange underskattede, hvor central sprogmodeller ville blive. Det store spring kom, da de første sprogmodeller som ELMo, BERT og RoBERTa blev introduceret. På det tidspunkt forstod få virkelig omfanget af den transformation, der var på vej. Disse var de grundlæggende modeller for de moderne LLM’er, vi bruger hver dag, og som vi knapt kan forestille os, at vi ikke havde.

De fleste virksomheder så disse første modeller som nyttige komponenter i snævre anvendelser, ikke som grundlaget for en helt ny beregningsparadigme. I retrospekt havde mange af dem overset muligheden for at positionere sig som store AI-spillere.

Under din forskningskarriere fokuserede du på multi-dokument vidensextraktion og begivenhedsforståelse. Da virksomheder i stigende grad afhænger af store sprogmodeller, hvorfor tror du, at struktureret vidensextraktion stadig er en kritisk udfordring?

LLM’er er kraftfulde værktøjer til at løse en række emner, men virksomhedsapplikationer og slutbrugere har brug for ekspertise til at løse et bestemt problem, hvilket kræver adgang til viden. Denne kontekstuelle, ejendommelige viden er ikke typisk en models træningsdata, så udviklingen af en LLM i en virksomhed indebærer at samle forståelse på tværs af potentelt millioner af interne datapunkter. I dag kæmper LLM’er stadig med dette, mangler betydelig kontekst på grund af tekniske og adgangsbegrænsninger, og den manglende kontekst begrænser deres impact.

Hos MCE, for eksempel, tilbyder vi en kundepleje AI-løsning. Et af dens mål er at give telekommunikationsudbydere mulighed for at hjælpe deres kunder med at løse tekniske mobilenhedsproblemer uden menneskelig indgriben. Uden at give AI-agenten kontekstuel teknisk information om enheden, ville AI-agenten kun give generiske resultater, der ikke løser problemet eller er irrelevant, og derefter tvinge kunden til at søge menneskelig hjælp. Dette er den type vidensextraktionsproblem, vi havde brug for at overvinde for at udvikle AI med vores kunder, og det er, hvor organisationer ofte fejler i at få de resultater, de ønsker.

Min egen forskning dykkede ned i vidensextraktion og informationshenting fra store dokument-samlinger, hvor jeg udforskede forholdet mellem “begivenheder”, en term i AI-disciplinen, der definerer den underliggende årsagssammenhæng og tidsramme for enhver form for repræsentation af information. Vi anvender dette hos MCE i vores AI-løsninger for menneskelig interaktion ved at opbygge en struktureret forståelse, der kan hjælpe LLM’er med at bedre sammenfatte, repræsentere og søge viden for at løse en kundes problem.

Du har offentliggjort forskning på større NLP-konferencer, herunder ACL, EMNLP og NAACL. Hvad er de gennembrud, der har haft den største virkelige impact i de sidste fem år, og hvilke højt profilerede fremskridt tror du i øjeblikket er overvurderet?

Der er flere gennembrud, der står ud for mig, og de sker i en progression, da LLM’er udvikledes.

Det første var omkring instruktionsafstemning og prompt-ingeniørarbejde. Dette skulle løses først, før vi nåede til en bredere anvendelse. Vi har alle været der, hvor man beder en LLM om noget specifikt, og den går i cirkler, kommer tæt på, men ikke helt dertil. Så at finde ud af, hvordan modellerne kunne forstå prompten og levere præcise resultater, var et stort skridt.

Som en udvidelse var det næste gennembrud for agenter, der havde brug for LLM’er til at gå ud over enkeltstående opgaver og faktisk kunne gøre flere ting: oprette planer, interagere med en slutbruger, bruge værktøjer, bruge hukommelse og adgang til viden. Dette var afgørende for, hvor vi er i dag.

Men det næste gennembrud, der kun delvist er løst, men under udvikling, er fuldstændigt at løse hallucinationsproblemet. Indtil videre er der sket betydelig fremgang her, så vi kan stole på LLM’er langt mere, end vi kunne før. Men der er stadig arbejde at gøre, og det er en af grundene til, at menneskelig tilsyn og sikkerhedsforanstaltninger stadig er afgørende.

Hvad der er overvurderet, er graden af autonomi, som folk påstår, agenter skal have. Fuldt autonome systemer, der opererer på tværs af komplekse forretningsmiljøer uden menneskelig tilsyn, er stadig ikke pålidelige nok i min mening. Det, jeg finder mere produktivt, er at designe AI til at udføre højværdiopgaver, eskalere usikkerhed og forklare sin begrundelse, uden at afhænde menneskelig kontrol over den overordnede proces. Det er, hvor agensiv AI vil skabe den største virkelige værdi på kort sigt.

Du har arbejdet som forsker, software-arkitekt, teknisk leder, startup-rådgiver, underviser og nu som Chief AI Officer. Hvordan har din definition af succesfuld AI ændret sig under disse forskellige faser af din karriere?

Under hele min karriere har jeg lært, at definitionen af succesfuld AI kontinuerligt udvikler sig, og de forskellige kerneværdier er på tværs af discipliner. Anvendt forskning og arkitektur lærte mig, at AI skal fungere under virkelige begrænsninger. Akademisk forskning lærte mig vigtigheden af rigor og evaluering. Teknisk ledelse viste mig, at udførelse og operationel disciplin betyder lige så meget som modellen selv. At rådgive startups lærte mig, at AI skaber den største impact, når det løser et virkeligt problem og har en klar vej til adoption.

I dag, som AI-chef hos MCE, definerer jeg succes som AI, der skaber målbart værdi, samtidig med at det opnår tillid hos slutbrugeren. Det skal forbedre resultater for kunder, medarbejdere og forretningen, være pålideligt nok til produktion, gennemsigtigt nok til at blive styret og nyttigt nok, så mennesker faktisk adopterer det. På den måde er min definition udviklet fra “Fungerer teknologien?” til “Skaber den værdi ansvarligt, gentaget og i stor skala?”

Dette er også den overgang, vi har gennemført hos MCE, en overgang, der startede for to år siden og førte os hertil nu. Den sidste værdi er, hvordan vi tænker om AI nu for interne brugstilfælde og for vores kunder i telekommunikationssektoren.

MCE Systems anvender AI til telekommunikationskundernes oplevelse, kundepleje og marketing. Hvad er de mest overbevisende AI-brugsområder, der i øjeblikket opstår inden for telekommunikationsindustrien?

Telekommunikationsudbydere (CSP’er), eller “udbydere”, som de normalt kaldes, står i en svær situation, hvor de står over for en kommodificeringsproblematik. Prisen er virkelig den tiltrækkende kraft til at tiltrække nye kunder eller fastholde dem, men det er ikke bæredygtigt. Hvis man ser på andre kæmper, der sælger forbrugerprodukter eller -tjenester, som Apple (AAPL ), Amazon (AMZN ) eller Netflix (NFLX ), byggede de en fantastisk produkt og en oplevelse omkring det. Dette udfoldede sig tydeligt i finans, hvor banker blev tvunget af nye, agile spillere til at flytte fra at holde folks opsparing og tilbyde investeringsprodukter til også at tilbyde en fuld digital oplevelse omkring det. Det samme gælder for telekommunikation.

Vores vision er at hjælpe med at tilføje yderligere værdi til CSP’ernes kunder med en bedre oplevelse oven på det fantastiske produkt, de allerede tilbyder. Dette indebærer at være mere proaktiv og kommunikativ med kunderne om deres samlede netværks- og enhedsoplevelse. Og for os er AI, hvad der endelig giver dem mulighed for at gøre det godt.

I branchen er det dog blevet mere til en defensiv værktøj til at reducere call center-arbejdskraft eller gøre medarbejdere mere produktive. Men for os er AI også en offensiv værktøj til at være proaktiv med kundepleje og personliggøre service og tilbud til kunder, alt sammen på kundens mobilenhed.

For eksempel, at fange en enheds- eller forbindelsesproblem eller batteridegraderingsproblem, før kunden lægger mærke til det, og hjælpe dem med at løse det. Den slags oplevelser skaber ægte loyalitet. At kende en kunds situation godt nok til at tilbyde det rigtige bredbånds-tilbud, data-tilføjelse eller livsstilsprodukt på det rigtige tidspunkt driver højere konvertering. Og at samle signaler på tværs af netværksaktiver, CRM og enhedsdata for at nøjagtigt forudsige kundeafhop og handle tidligt, er måske det mest kraftfulde brugsområde af dem alle. CSP’er, der får det her rigtigt, vil have en betydelig fordel.

Der er meget hype omkring at blive “AI-nativ” eller “AI-klar”. Hvordan tilgår MCE denne paradigmatiske skift, og hvad mener du, er de vigtigste punkter, organisationer overser i denne transformation?

Hvad mange overser, er, at AI-transformation ikke kun er en teknologiudvikling, men også en ændring af virksomhedsform. De bedste muligheder ligger, hvor adoption føles naturlig: arbejdsgangen eksisterer allerede, smerten er målbar, og AI kan tydeligt forbedre hastighed, kvalitet eller beslutningstagning. MCE tilgår denne paradigmatiske skift med nogle ideer.

Vi startede med at spørge om AI-værktøjsmodenhed og om at adoptere AI på måder, der multiplicerer medarbejderproduktivitet. Vi spurgte, hvordan vi kunne uddanne vores teams, definere klare brugsretningslinjer og forbinde interne systemer til AI, hvor det faktisk kunne gøre en forskel i dag-til-dag-arbejdet.

Når vi havde vurderet vores grundlæggende værktøjer, så vi på arbejdsgangsautomatisering og identificerede, hvor agenter kunne reducere manuelt arbejde. Naturligt nok fandt vi ud af, at vi kunne drastisk reducere tid til udvikling. I et eksempel tog en højtfunktionel prototype-app kun et par dage at oprette, hvor det ellers ville have taget to eller tre uger.

Hvad der ofte undervurderes for intern produktivitet, er data-demokratisering. Vi arbejdede på og fortsætter med at arbejde på at gøre bedre brug af vores interne data, så både mennesker og AI-systemer kan træffe bedre beslutninger. Dette inkluderer at forstå kundens behov, forbedre operationer og bygge produkter, der lærer af tidligere erfaringer. Det er stadig en arbejdende proces, da det er en iterativ og analytisk proces at evaluere, hvad der fungerer, og hvad der ikke gør.

Mange organisationer kapløber for at udvikle AI-agenter. Hvad praktiske lærdomme har du draget om, hvor autonom AI virkelig kan skabe værdi, og hvor menneskelig tilsyn stadig er afgørende?

Det er let at blive fanget i automatiseringshype. Men jeg tror på at tilgå agenter metodisk. Jeg ville råde til aldrig at starte med et mål om automation; i stedet start med at identificere arbejdsgange, hvor agenter kan skabe værdi, bryd dem ned i mindre dele og spørge, hvilke dele kan fuldt automatiseres, hvilke semi-automatiseres og hvor menneskelig dømmekraft er nødvendig.

I praksis finder vi, at agenter skaber den største værdi, når de anvendes i højtdækkende opgaver, der spænder fra at indsamle information til at analysere input, generere anbefalinger og forberede output til næste skridt. Fintuned automation, hvor opgaven er enkel nok, fungerer langt bedre end at forsøge at automatisere en hel kompleks proces.

Hvor mennesker stadig er afgørende, er i tilsyn, exceptionshåndtering, kunde-følsomme beslutninger og generelt i situationer, hvor ansvarlighed er vigtig. Målet er aldrig at erstatte menneskelig beslutningstagning, men at lade agenter håndtere de dele, hvor de kan pålideligt skabe værdi, mens mennesker håndterer beslutningerne, der kræver ansvarlighed.

MCE har talt om at bruge AI til at levere mere personlige enhedsoplevelser og forbedre operationel effektivitet for mobiloperatører. Hvordan balancerer du personliggørelse med den voksende bekymring omkring privatliv, gennemsigtighed og bruger-tillid?

Fordi AI føles så menneskeligt, interagerer brugere naturligt med det på måder, der afslører mere, end de nogen sinde ville. Dette lægger en reel ansvarlighed på organisationer til at være vagt og gennemsigtige omkring, hvilke data der indsamles. Et simpelt eksempel: Når en kunde indsender en skærmbillede som en del af en fejlfindingsproces, kan dette ufrivilligt afsløre personlige oplysninger på deres skærm. Det er afgørende, at organisationer implementerer sikkerhedsforanstaltninger til at beskære billedet for at fjerne unødvendig synligt indhold og holde fokus på det, interaktionen handler om, og reducere unødvendig data-eksponering.

For mig skal alle data, vi indsamler, tydeligt tjene kundens interesser og behov. Det skal kun indsamles, når det understøtter en specifik formål, som fx at løse kundens forespørgsel eller give en passende grad af personliggørelse. Samtidig skal data håndteres på en privatlivsbeskyttende måde, undgå enhver unødvendig tilknytning til kundens virkelige identitet.

Med andre ord, forstå kundeprofiliens specifikke behov i forhold til vores forretning. I vores tilfælde, som en privatlivs-tilfreds organisation, handler det om at kende enhedens tilstand og brugeradfærd i forhold til udbyderen, ikke om kundens identitet og andre former for adfærd.

Hvad der også er vigtigt, er interaktionen med kunden selv. Sikkerhedsforanstaltninger er kritiske her for at forblive inden for formål, brand-tone og virkelig undgå at glide ud over, hvad organisationer er klar til at styre. I praksis hjælper sikkerhedsforanstaltninger med at undgå juridiske eller regulatoriske overtrædelser og negative kundeoplevelser. Nogle gange kan disse processer være møjsommelige, men de er afgørende.

Du har undervist emner, der spænder fra grundlæggende datalogi til informationshenting og dataudvinding. Hvis du skulle designe en AI-læreplan for studenter, der indtræder på arbejdsmarkedet i dag, hvilke emner ville du prioritere, og hvilke forældede koncepter ville du fjerne?

Læreplanen behøver at ændre sig på to måder. Emner, der tidligere var begrænset til kandidatuddannelser, som neurale netværk, transformers, store sprogmodeller, retrieval-augmenteret generation, evaluering, alignment og ansvarlig AI, skal blive kernefag på bachelor-niveau. Studenter, der indtræder på arbejdsmarkedet, har brug for at forstå, hvordan disse systemer fungerer, og hvordan de kan evaluere dem kritisk.

Studenter har også brug for at lære, hvordan de kan bruge AI ansvarligt som et værktøj til læring og forskning. Det indebærer at stille spørgsmål til output, verificere kilder, forstå begrænsninger og behandle AI som en tænkenende partner snarere end en genvej til at gøre lektier.

Hvad jeg ikke ville fjerne, er matematik og algoritme-fundamenter. Jeg ville argumentere for, at de er lige så vigtige som nogensinde. Hvad jeg ville reducere, er opgaver, der belønner mekanisk implementering uden at demonstrere kritisk tænkning. Fokus skal flyttes mod problemformulering, evaluering, systemdesign og ansvarlig brug.

Som rådgiver for talrige startups om AI-strategi, hvad er de mest almindelige fejl, grundlæggere begår, når de udvikler AI-produkter, og hvad adskiller virksomheder, der succesfuldt flytter fra prototype til produktion?

Den mest almindelige fejl, jeg ser, er at blive forelsket i teknologien, før man virkelig forstår problemet, kunden eller vejen til adoption. En anden fejl er ikke at kende AI’s begrænsninger godt nok, så man tvinger det ind i brugsområder, hvor det ikke er moden nok endnu.

Hvad adskiller grundlæggere, der når til succesfuld produktion, er dyb domæne-ekspertise og en forskningsholdning. De bedste AI-produkter kommer fra grundlæggere, der forstår et specifikt vertikalt område godt nok til at identificere et virkeligt teknologisk hul. De starter ikke med “Hvad kan vi gøre med AI?” men med “Her er et specifikt problem, her er, hvor eksisterende løsninger på markedet svigter, og her er, hvor AI kan løse det på en bæredygtig måde.”

Desuden lærer succesfulde grundlæggere konstant af kunder, konkurrenter, rådgivere og mislykkede forsøg. De studerer, hvordan beslutninger træffes, hvordan budgetter flyttes, og hvad der skaber tillid hos deres målgruppe. Til sidst bygger de ikke kun et produkt, men noget, der skal overleve i en reel verden og ikke kun for sin egen skyld.

Om fem år, tror du, at den største impact af AI kommer fra mere kraftfulde grundmodeller, agensiv-systemer, multimodal AI, enheds-intelligens eller en helt anden trend, som branchen i øjeblikket undervurderer?

Den største impact kommer ikke kun fra forbedringer af grundmodeller, men fra, hvordan modeller indlejres i systemer, der kan observere og handle inden for virkelige arbejdsgange og samtidig forbedre. Denne skift fra kraftfuld model til kapabelt system er, hvor jeg forventer den mest betydningsfulde nære fremtidige fremgang.

Dette bliver særligt stærkt, når systemer bliver fuldt multimodale, kan forstå over tekst, tale, billeder, video og andre kontekstuelle virkelige signaler, og kan nære emulatorer for, hvordan mennesker forstår verden. Dette åbner op for nye muligheder i kunde-support, sundhedspleje, produktion osv.

En anden opstående teknologi, som jeg tror vil blive disruptiv, er agenter, der interagerer med den fysiske verden. Virksomheder som Boston Dynamics viser allerede kunsten af det mulige og potentialet for, når perception, reson, planlægning og fysisk handling konvergerer. Uanset om det er i humanoid form eller specialiserede robot-systemer, kan agenter med kroppe vise sig at være en af de mest konkrete og revolutionerende udtryk for AI, vi ser i de næste fem år. For MCE skaber dette muligheder i logistik og operationelle arbejdsgange, hvor mange repetitive, lav-kompleksitetsopgaver stadig kræver fysisk menneskelig interaktion. Eksempler inkluderer at samle en enhed op, trykke på knapper, forbinde kabler eller flytte enheder mellem stationer. Disse er ideelle kandidater til automation gennem robotteknologi og AI, der giver systemer mulighed for at være mere effektive, konsistente og håndtere langt mere volumen.

For telekommunikation handler det om at forudsige kundeafhop og handle på det. Hvis man kan bygge en pålidelig model, der inkorporerer data fra alle forskellige kundepunkter, kan nøjagtigt evaluere afhops-sandsynlighed og derefter handle på det, har man løst et stagnation-problem for udbydere. Tak for det fantastiske interview; læsere, der ønsker at lære mere, bør besøge MCE Systems.