Alon Eirew, CTO (AI) de la MCE Systems – Seria de interviuri

Alon Eirew, CTO (AI) al MCE Systems, conduce strategia de AI a companiei și stiva tehnologică de la arhitectură la dezvoltare de modele, infrastructură, integrare de produse și adoptarea mai largă a AI în operațiunile interne. El a petrecut mai mult de nouă ani la Intel (INTC ), progresând de la inginer software senior și arhitect software la Lead Natural Language Processing (NLP) Research Scientist, unde a condus cercetarea de extragere a cunoștințelor, a obținut finanțare pentru proiecte pe termen lung, a publicat articole la conferințe majore de NLP și a mentorat startup-uri prin Intel Ignite. Mai devreme în cariera sa, Eirew a ajutat la dezvoltarea tehnologiei de asistent personal la Telmap, care ulterior a devenit parte a Intel, și a sfătuit companii de AI în stadiu incipient, predând în același timp știința calculatoarelor, programarea orientată pe obiecte, mineritul de date și recuperarea informației la mai multe universități israeliene.

MCE Systems dezvoltă un strat de experiență nativ AI pentru furnizorii de telecomunicații, conectând sisteme legacy, date în timp real și fluxuri de lucru inteligente pentru a sprijini interacțiunile cu clienții pe multiple puncte de contact. Fondată în 2005, compania și-a construit afacerea în jurul gestionării ciclului de viață al dispozitivelor digitale, cu tehnologie care acoperă diagnosticarea dispozitivelor și îngrijirea, programe de schimb, evaluarea dispozitivelor la distanță și returnări. MCE aplică din ce în ce mai mult AI generativ și agențic în aceste fluxuri de lucru, ajutând operatorii să detecteze problemele dispozitivelor, să îndrume clienții către rezolvări potențiale și să coordoneze călătorii de servicii mai complexe pe canale digitale și asistate.

Ați petrecut aproape un deceniu la Intel, lucrând la NLP, extragerea cunoștințelor, recuperarea informației și chiar tehnologii de asistent personal timpuriu care au originat la Telmap, înainte de a deveni parte a Intel. Privind în urmă, care dintre ideile din aceste sisteme AI timpurii s-au dovedit a fi înainte de vreme, și care ipoteze a făcut industria greșit?

O idee care s-a dovedit a fi cu adevărat înainte de vreme a fost asistentul personal pe care l-am lucrat înainte de era LLM. Acestea erau sisteme care înțelegeau intenția, conectau contextul pe parcursul sarcinilor și ajutau utilizatorii să își atingă obiectivele în mod natural. Acestea aveau aceleași ambiții ca și agenții de astăzi. Diferența era abordarea de bază: în loc de modele de limbaj, ne-am bazat pe o combinație de învățare automată și algoritmi pentru a infera intenția utilizatorului. Această metodă, însă, s-a dovedit a fi dificilă atunci când a fost aplicată la scară, având în vedere diferitele moduri în care utilizatorii exprimă aceeași solicitare.

Imaginați-vă angajând un reprezentant de servicii pentru a gestiona mii de întrebări ale clienților, dar el poate gestiona doar întrebări formulate cu o structură de propoziție specifică. Așa cum vă puteți imagina, ar acoperi doar o gamă limitată de cazuri și ar fi greu de a gestiona multe probleme ale clienților. LLM-urile au schimbat complet totul. Astăzi, înțelegerea intenției utilizatorului a fost în mare măsură rezolvată. Deci, în analogia noastră, reprezentantul este acum flexibil și poate vorbi cu milioane de clienți.

Deși nu aș spune că industria a făcut ceva complet greșit, cred că mulți au subestimat cât de centrală va deveni modelul de limbaj. Saltul major a venit atunci când au fost introduse primele modele de limbaj, cum ar fi ELMo, BERT și RoBERTa. La acea vreme, puțini au înțeles cu adevărat gravitatea transformării care era pe cale să se întâmple. Acestea au fost modelele de bază ale LLM-urilor moderne pe care le folosim astăzi și pe care abia le putem imagina fără ele.

Majoritatea companiilor au văzut aceste modele inițiale ca componente utile în aplicații înguste, nu ca fundația pentru un nou paradigma de calcul. În retrospectivă, multe dintre ele au ratat oportunitatea de a se poziționa ca jucători importanți AI.

În timpul carierei dvs. de cercetare, v-ați concentrat pe extragerea cunoștințelor din multiple documente și înțelegerea evenimentelor. Pe măsură ce întreprinderile se bazează din ce în ce mai mult pe modelele de limbaj mari, de ce credeți că extragerea cunoștințelor structurate rămâne o provocare atât de critică?

LLM-urile sunt unelte puternice pentru a aborda o gamă de subiecte, dar aplicațiile enterprise și utilizatorii finali au nevoie de expertiză pentru a rezolva o problemă specifică, ceea ce necesită acces la cunoștințe. Această cunoaștere contextuală și proprietară nu este, de obicei, parte a datelor de antrenament ale modelului, astfel încât implementarea unui LLM într-o întreprindere înseamnă colectarea înțelegerii pe parcursul a milioane de puncte de date interne. LLM-urile de astăzi se luptă în mare măsură cu aceasta, lipsindu-le contextul semnificativ din cauza constrângerilor tehnice și de acces, iar această lacună limitează impactul lor.

La MCE, de exemplu, oferim o soluție de agent de îngrijire a clienților bazat pe AI. Unul dintre obiectivele sale este de a permite furnizorilor de telecomunicații să ajute clienții să rezolve probleme tehnice ale dispozitivelor mobile fără intervenție umană. Fără a furniza agentului de îngrijire a clienților informații tehnice contextuale despre dispozitiv, tot ceea ce ar face agentul ar fi să furnizeze rezultate generice care nu rezolvă problema sau sunt irelevante și apoi să forțeze clientul să caute ajutor uman. Aceasta este problema de extragere a cunoștințelor pe care am trebuit să o depășim pentru a implementa AI cu clienții noștri și este acolo unde organizațiile adesea eşuează în obținerea rezultatelor pe care le doresc.

Cercetarea mea a explorat extragerea cunoștințelor și recuperarea informației din colecții mari de documente, examinând relația dintre “evenimente”, un termen în disciplina AI care definește cauzalitatea și cadrul de timp al oricărei reprezentări a informației. Aplicăm aceasta la MCE în cadrul soluțiilor noastre de AI pentru interacțiunea umană, construind o înțelegere structurală care poate ajuta LLM-urile să rezume, să reprezinte și să caute cunoștințe pentru a rezolva o problemă a clientului.

Ați publicat cercetări la conferințe de top NLP, inclusiv ACL, EMNLP și NAACL. Care sunt cele mai importante descoperiri din ultimii cinci ani care au avut cel mai mare impact în lumea reală, și care progrese publicizate considerați că sunt în prezent supraevaluate?

Există câteva descoperiri care se remarcă pentru mine și acestea se întâmplă într-o succesiune pe măsură ce LLM-urile s-au dezvoltat.

Primul a fost în jurul ajustării instructajului și ingineriei prompturilor. Acesta a trebuit să fie rezolvat mai întâi înainte de a ajunge la o adoptare mai largă. Toți am fost acolo unde ați cerut unui LLM ceva specific și a mers în cerc, ajungând aproape, dar nu a obținut răspunsul de care aveau nevoie. Așa că, a înțeles cum modelele pot înțelege promptul și furniza rezultate precise a fost un prim pas mare.

Prin extensie, următoarea descoperire a fost pentru agenți, care aveau nevoie ca LLM-urile să meargă dincolo de sarcini promptate ocazionale și să facă câteva lucruri: să creeze planuri, să interacționeze cu un utilizator final, să utilizeze instrumente, să utilizeze memoria și să acceseze cunoștințe. Aceasta a fost esențială pentru a ajunge acolo unde suntem astăzi.

Dar următoarea descoperire, care este parțial rezolvată, dar în curs de desfășurare, este rezolvarea completă a problemei de “halucinație”. Până acum, a existat suficient progres pentru a putea să ne bazăm mai mult pe LLM-uri decât înainte. Dar încă există lucruri de făcut și un alt motiv pentru care supravegherea umană și gardurile de protecție rămân esențiale.

Ce este supraevaluat este gradul de autonomie pe care oamenii pretind că agenții ar trebui să o aibă. Sistemele complet autonome care funcționează în medii de afaceri complexe fără supraveghere umană nu sunt încă suficient de fiabile, în opinia mea. Ceea ce găsesc mai productiv este proiectarea AI pentru a efectua sarcini de înaltă valoare, a escalada incertitudinea și a explica raționamentul, fără a ceda controlul uman asupra fluxului general. Acolo este unde AI-ul agențic va crea valoarea reală în lumea reală pe termen scurt.

Ați lucrat ca cercetător, arhitect software, lider de inginerie, consilier de startup, lector și acum șef de AI. Cum s-a schimbat definiția dvs. de AI de succes de-a lungul diferitelor etape ale carierei dvs.?

De-a lungul carierei mele, am învățat că definiția AI-ului de succes continuă să evolueze și valorile de bază sunt diferite în funcție de disciplină. Cercetarea aplicată și arhitectura m-au învățat că AI-ul trebuie să funcționeze sub constrângeri din lumea reală. Cercetarea academică m-a învățat importanța rigurozității și evaluării. Liderarea ingineriei a arătat că execuția și disciplina operațională contează la fel de mult ca și modelul în sine. Consilierea startup-urilor m-a învățat că AI-ul creează cel mai mare impact atunci când rezolvă o problemă reală și are un drum clar către adoptare.

Astăzi, ca șef de AI la MCE, definesc succesul ca AI care creează valoare măsurabilă, în timp ce câștigă încrederea utilizatorului final. Trebuie să îmbunătățească rezultatele pentru clienți, angajați și afaceri, să fie suficient de fiabil pentru producție, suficient de transparent pentru a fi guvernat și suficient de util pentru a fi adoptat. În acest sens, definiția mea s-a schimbat de la “Funcționează tehnologia?” la “Creează valoare în mod responsabil, repetat și la scară?”

Acesta este și tranzitul pe care l-am făcut la MCE, unul care a început acum doi ani și ne-a adus aici. Ultima valoare este modul în care gândim despre AI în prezent, atât pentru cazurile de utilizare interne, cât și pentru clienții noștri din domeniul telecomunicațiilor.

MCE Systems aplică AI pentru experiența clienților de telecomunicații, îngrijirea clienților și marketing. Care sunt cele mai convingătoare cazuri de utilizare AI care apar în prezent în industria telecomunicațiilor?

Furnizorii de servicii de comunicații (CSP), sau “operatorii” așa cum sunt cunoscuți de obicei, se confruntă cu o problemă de commoditizare. Prețul este cu adevărat forța care atrage noi clienți sau îi reține, dar nu este sustenabil. Dacă ne uităm la alți giganți care vând produse sau servicii pentru consumatori, cum ar fi Apple (AAPL ), Amazon (AMZN ) sau Netflix (NFLX ), aceștia au construit un produs excelent și o experiență în jurul lui. Acest lucru s-a întâmplat clar în finanțe, de exemplu, unde băncile au fost forțate de noii jucători agili să se mute de la a deține economiile oamenilor și a oferi produse de investiții la a oferi, de asemenea, o experiență digitală completă în jurul acestora. La fel și în telecomunicații.

Prin urmare, viziunea noastră este de a aduce o valoare suplimentară clienților CSP cu o experiență mai bună pe lângă produsul de conectivitate excelent pe care îl oferă deja. Acest lucru înseamnă a fi mai proactiv și comunicativ cu clienții cu privire la experiența lor de rețea și dispozitiv. Și pentru noi, AI-ul este ceea ce ne permite să o facem bine.

În industrie, însă, a devenit mai mult un instrument defensiv pentru a reduce costurile forței de muncă din centrele de apel sau pentru a face angajații mai productivi. Dar pentru noi, AI-ul este și un instrument ofensiv pentru a fi proactiv în îngrijirea clienților și pentru a personaliza serviciile și ofertele pentru clienți, toate pe dispozitivul mobil al clientului.

De exemplu, detectarea unei probleme de dispozitiv sau conectivitate sau a unei probleme de degradare a bateriei înainte ca clientul să o observe și ajutarea lui să o rezolve. Astfel de experiențe construiesc o loialitate autentică. Știind situația unui client suficient de bine pentru a-i oferi pachetul de broadband potrivit, adaosul de date sau produsul de stil de viață la momentul potrivit conduce la o conversie mai mare. Și adunarea semnalelor de pe activele de rețea, CRM și datele dispozitivului pentru a prevedea cu acuratețe abandonul și a acționa devreme este, probabil, cel mai puternic caz de utilizare dintre toate. Furnizorii de servicii de telecomunicații care reușesc să facă acest lucru vor avea un avantaj semnificativ.

Există multă vorbărie în jurul devenirii “native AI” sau “gata pentru AI”. Cum abordează MCE acest paradigma și care sunt cele mai importante puncte pe care organizațiile le ratează în această transformare?

Ceea ce mulți oameni ratează este că transformarea AI nu este doar o implementare tehnologică, ci și o schimbare a modului de operare. Cele mai bune oportunități sunt acolo unde adoptarea pare naturală: fluxul de lucru există deja, durerea este măsurabilă și AI-ul poate îmbunătăți în mod clar viteza, calitatea sau luarea deciziilor. MCE abordează acest paradigma cu câteva idei.

Am început prin a ne întreba despre maturitatea instrumentelor AI și adoptarea AI în moduri care multiplică productivitatea angajaților. Ne-am întrebat cum putem educa echipele noastre, defini linii directoare clare de utilizare și conecta sistemele interne la AI acolo unde poate face cu adevărat o diferență zi de zi.

Odată ce am evaluat baza noastră de instrumente, am căutat automatizarea fluxului de lucru și am identificat unde agenții pot reduce munca manuală. Firește, am găsit că putem reduce drastic timpul de dezvoltare. Într-un exemplu, o aplicație funcțională, un prototip, a fost creată în câteva zile, când altfel ar fi durat două sau trei săptămâni.

Ce este adesea subapreciat pentru productivitatea internă este democratizarea datelor. Am lucrat și continuăm să lucrăm la o utilizare mai bună a datelor noastre interne, astfel încât atât oamenii, cât și sistemele AI să ia decizii mai bune. Acest lucru include înțelegerea nevoilor clienților, îmbunătățirea operațiunilor și construirea de produse care învață din experiența trecută. Este încă un proces în desfășurare, deoarece este un proces iterativ și analitic pentru a evalua ce funcționează și ce nu.

Multe organizații se grăbesc să implementeze agenți AI. Care sunt lecțiile practice pe care le-ați învățat despre unde pot agenții AI autonoma să creeze valoare reală versus unde supravegherea umană rămâne esențială?

Este ușor să te lași prins de valul de automatizare. Dar eu cred în abordarea agenților în mod metodic. Aș sfătui să nu începeți niciodată cu un nivel țintă de automatizare; în schimb, începeți prin identificarea fluxurilor de lucru în care agenții pot crea valoare, descompuneți-le în piese mai mici și întrebați care dintre aceste piese pot fi complet automate, care semi-automate și unde judecata umană este necesară.

În practică, găsim că agenții creează cea mai mare valoare atunci când sunt utilizați în sarcini bine definite, care variază de la colectarea informațiilor la analizarea intrărilor, generarea de recomandări și pregătirea ieșirilor pentru următorul pas. Automatizarea fină, unde sarcina este suficient de simplă, funcționează mult mai bine decât încercarea de a automatiza un întreg proces complex.

Unde oamenii rămân esențiali este în supraveghere, gestionarea excepțiilor, deciziile sensibile pentru clienți și, în general, situațiile în care răspunderea contează. Scopul nu este niciodată să înlocuiască luarea deciziilor umane, ci să lase agenții să gestioneze părțile în care pot crea valoare în mod fiabil, în timp ce oamenii gestionează deciziile care necesită răspundere.

MCE a vorbit despre utilizarea AI pentru a oferi experiențe de dispozitiv mai personalizate și pentru a îmbunătăți eficiența operațională pentru operatorii mobili. Cum echilibrați personalizarea cu preocupările crescânde legate de confidențialitate, transparență și încrederea utilizatorilor?

Deoarece AI pare atât de uman, utilizatorii interacționează cu el în moduri care expun mai mult decât ar trebui. Acest lucru pune o responsabilitate reală pe organizații să fie vigilente și transparente cu privire la ce date sunt colectate. Un exemplu simplu: atunci când un client trimite o captură de ecran ca parte a unui proces de depanare, imaginea respectivă poate captura accidental informații personale de pe ecranul său. Este esențial ca organizațiile să aplice măsuri de protecție pentru a decupa imaginea și a înlătura conținutul în exces, păstrându-se doar ceea ce este relevant pentru interacțiune.

Pentru mine, orice date pe care le colectăm ar trebui să servească în mod clar intereselor și nevoilor clientului. Ar trebui să fie colectate doar atunci când susțin un scop specific, cum ar fi rezolvarea întrebării clientului sau oferirea unui grad adecvat de personalizare. În același timp, datele ar trebui să fie gestionate într-un mod care să respecte confidențialitatea, evitând orice legătură inutilă cu identitatea reală a clientului.

Cu alte cuvinte, înțelegeți profilul specific al nevoilor clientului în ceea ce privește afacerea noastră. În cazul nostru, ca o organizație conformă cu confidențialitatea, este vorba despre a cunoaște starea dispozitivului și comportamentul utilizatorului în ceea ce privește furnizorul, nu despre identitatea clientului și alte tipuri de comportament.

Ce contează și mai mult este interacțiunea cu clientul însuși. Gardurile de protecție sunt critice aici pentru a rămâne în cadrul scopului, vocea brandului și a evita să deriveze dincolo de ceea ce organizațiile sunt pregătite să guverneze. În practică, gardurile de protecție ajută la evitarea încălcărilor legale sau a experiențelor negative ale clienților. Uneori, acestea pot fi procese epuizante, dar sunt esențiale.

Ați predat subiecte care variază de la fundamentul științei calculatoarelor la recuperarea informației și mineritul de date. Dacă ați proiecta un curriculum de AI pentru studenții care intră pe piața muncii astăzi, care subiecte ați prioritiza și care concepte învechite ați elimina?

Curriculumul trebuie să se schimbe în două moduri. Subiectele care au fost limitate la programe de masterat, cum ar fi rețelele neuronale, transformatorii, modelele de limbaj mari, generarea augmentată de recuperare, evaluarea, alinierea și AI-ul responsabil, trebuie să devină subiecte de bază pentru studenții de licență. Studenții care intră pe piața muncii trebuie să înțeleagă cum funcționează aceste sisteme și cum să le evalueze critic.

Studenții trebuie, de asemenea, să învețe cum să utilizeze AI-ul în mod responsabil ca un instrument de învățare și cercetare. Acest lucru înseamnă să pună sub semnul întrebării ieșirile, să verifice sursele, să înțeleagă limitările și să trateze AI-ul ca un partener de gândire, mai degrabă decât o scurtătură pentru a face teme.

Ce nu aș elimina este matematica și fundamentele algoritmice. Aș argumenta că acestea sunt la fel de importante ca niciodată. Ce aș reduce sunt sarcinile care răsplătesc implementarea mecanică fără a demonstra gândirea critică. Focusul ar trebui să se mute către formularea problemelor, evaluare, proiectarea sistemului și utilizarea responsabilă.

Ca sfătuitor al mai multor startup-uri pe strategia AI, care sunt cele mai comune greșeli pe care le fac fondatorii atunci când construiesc produse AI, și ce separă companiile care reușesc să treacă de la prototip la producție?

Cea mai comună greșeală pe care o văd este îndrăgostirea de tehnologie înainte de a înțelege cu adevărat problema, clientul sau calea către adoptare. O a doua greșeală aproape la fel de comună este necunoașterea limitărilor AI suficient de bine, astfel încât să forțeze AI-ul în cazuri de utilizare în care nu este încă suficient de matur.

Ce separă fondatorii care reușesc să ajungă la o producție de succes este expertiza profundă în domeniu și o atitudine de cercetare. Cele mai bune produse AI vin de la fondatori care înțeleg un anumit sector vertical suficient de bine pentru a identifica o adevărată lacună tehnologică. Ei nu încep de la “Ce putem face cu AI?”, ci de la “Aici este o problemă specifică, aici este de ce soluțiile existente din piață nu sunt suficiente și aici este de ce AI-ul poate rezolva această problemă în mod sustenabil.”

Mai mult, fondatorii de succes învață constant de la clienți, concurenți, consilieri și încercări eșuate. Ei studiază cum se iau deciziile, cum se mișcă bugetele și ce creează încredere pentru publicul țintă. La sfârșitul zilei, ei nu construiesc doar un produs, ci ceva care trebuie să supraviețuiască într-un mediu real și nu doar pentru sine.

Privind înainte, cinci ani de acum înainte, credeți că cel mai mare impact al AI va veni din modele de bază mai puternice, sisteme agențice, AI multimodal, inteligență pe dispozitiv sau o tendință complet diferită pe care industria o subestimează în prezent?

Cel mai mare impact nu va veni doar din îmbunătățirea modelelor de bază, ci din modul în care aceste modele sunt integrate în sisteme care pot observa și acționa în fluxuri de lucru reale, în timp ce îmbunătățesc. Acest salt de la un model puternic la un sistem capabil este unde mă aștept să vadă progresul cel mai semnificativ pe termen scurt.

Acesta va deveni și mai puternic atunci când sistemele devin complet multimodale, raționând peste text, voce, imagini, video și alte semnale contextuale din lumea reală, putând emula îndeaproape modul în care oamenii înțeleg lumea. Acesta va deschide noi posibilități în suportul clienților, sănătate, producție și multe altele.

O altă tehnologie emergentă pe care o cred disruptivă sunt agenții care interacționează cu lumea fizică. Companii precum Boston Dynamics arată deja arta posibilului și potențialul acțiunii atunci când percepția, raționamentul, planificarea și acțiunea fizică converg. Indiferent dacă sunt în formă humanoidă sau sisteme robotice specializate, agenții cu corpuri pot dovedi a fi una dintre cele mai tangibile și revoluționare expresii ale AI pe care le vom vedea în următorii cinci ani. Pentru MCE, aceasta creează oportunități în logistică și fluxuri de lucru operaționale, unde multe sarcini repetitive și de joasă complexitate necesită încă interacțiune umană fizică. Exemplele includ ridicarea unui dispozitiv, apăsarea butoanelor, conectarea cablurilor sau mutarea dispozitivelor între stații. Acestea sunt candidați ideali pentru automatizare prin robotică și AI, care permit sistemelor să fie mai eficiente, mai consistente și să gestioneze mult mai mult volum.

Pentru telecomunicații, a putea prevedea abandonul clienților și a acționa asupra acestuia cu modele AI este unde banii vor fi în următorii ani. Dacă puteți construi un model fiabil care incorporează date de la toate punctele diferite ale clienților, poate evalua cu acuratețe probabilitatea de abandon și apoi acționează asupra acesteia, veți fi rezolvat o problemă stagnată pentru furnizori.

Mulțumim pentru acest interviu excelent. Citiitorii care doresc să afle mai multe ar trebui să viziteze MCE Systems.