Will Bodewes, cofondator și director general al Phonely – Seria de interviuri

Will Bodewes este cofondatorul și directorul general al Phonely, o companie de inteligență artificială vocală care ajută firmele să răspundă la apeluri și să îmbunătățească rezultatele conversațiilor cu clienții. Înainte de a înființa compania, a urmat un doctorat la University of Melbourne, unde a cercetat inteligența artificială aplicată și sisteme capabile să urmeze instrucțiuni și să comunice natural. Anterior, a fondat un startup de tehnologie audio și a concurat la schi fond în cadrul NCAA și în ciclism de anduranță extremă. La Phonely, își valorifică experiența în cercetare pentru a aborda provocările practice ale implementării agenților vocali, inclusiv fiabilitatea conversațiilor, latența, integrările și optimizarea continuă a proceselor de rezervare, vânzări și servicii pentru clienți.

Phonely este o platformă de agenți vocali cu inteligență artificială, care permite firmelor să automatizeze conversațiile telefonice, să programeze întâlniri, să califice potențiali clienți, să direcționeze apelurile și să conecteze interacțiunile cu clienții la aplicațiile software existente. Instrumentele sale combină fluxuri de conversație personalizabile cu istoricul apelurilor, analize și testare A/B, astfel încât echipele să poată măsura performanța și să îmbunătățească rezultatele în timp. Compania deservește organizații de la mici afaceri până la întreprinderi mari și afirmă că oferă servicii pentru peste 10.000 de firme și gestionează mai mult de 120.000 de apeluri pe zi. Phonely dezvoltă și propriile modele conversaționale, inclusiv Alma, concentrându-se pe apeluri automate mai rapide și mai fiabile, mai potrivite pentru conversațiile de afaceri din lumea reală.

Ai început să construiești Phonely în timp ce urmiai un doctorat în inteligență artificială la University of Melbourne, concentrându-te la început pe crearea unor sisteme capabile să urmeze instrucțiuni și să comunice natural. Ce te-a convins că inteligența artificială vocală ajunsese în punctul în care putea susține o companie independentă și ce ai observat pe piață, dar le-a scăpat celorlalți?

La momentul respectiv, nu exista nicio dovadă că inteligența artificială vocală putea susține o companie independentă. Existau câteva companii care lucrau la această tehnologie și aveau în jur de cinci sau 10 utilizatori, dar nimeni nu implementase cu succes inteligența artificială vocală în afara unui sistem IVR. Așa că, atunci când am început Phonely, a fost un pariu. La vremea respectivă, toată atenția era îndreptată spre chat, așa că vocea reprezenta un mediu nou. Problema nu fusese rezolvată, așa că ne-am gândit: „De ce să nu ne ocupăm de ea? De ce să nu încercăm să o rezolvăm?”

Cercetarea ta doctorală a pornit de la obiectivul de a crea o inteligență artificială care să poată „urma instrucțiuni ca un robot și vorbi ca o persoană”. Ce progrese tehnice te-au făcut să-ți dai seama că această cercetare putea deveni fundamentul unei platforme comerciale de inteligență artificială vocală?

Cercetarea a fost valoroasă și importantă pentru înțelegerea tehnologiei fundamentale și a ceea ce se întâmpla. Mi-a permis să anticipez ce urma să apară în dezvoltare. Înțelegeam din punct de vedere tehnic ce erau aceste modele și cum funcționau, iar asta mi-a dat posibilitatea să fac un pariu. Mai exact, voiam să construiesc o companie și să am un impact, iar acesta era domeniul cel mai apropiat de ceea ce cunoșteam și de ceea ce puteam anticipa. Voiam să fac parte din această schimbare.

Ai descris fiecare apel telefonic ca pe o pâlnie pe care, în mod tradițional, firmele nu au putut să o optimizeze în mod sistematic. Cum arată, de fapt, optimizarea unei conversații telefonice și cum poate inteligența artificială să îmbunătățească în timp rata de conversie, rata de soluționare sau experiența clienților?

Să presupunem că programezi o întâlnire cu un instalator. Persoana de la telefon este instruită să-ți colecteze datele și să programeze întâlnirea, dar, în funcție de felul în care pune întrebările, te-ar putea informa și despre servicii ale firmei de care nu știai. Așadar, s-ar putea să programezi o întâlnire pentru o problemă la instalații, iar apoi să-ți dai seama că trebuia să-ți repari și chiuveta. Un agent vocal cu inteligență artificială, bine instruit, face același lucru și ajută firma să le ofere clienților servicii suplimentare și să genereze mai multe venituri. Ar putea să-ți propună un produs despre care un recepționer nou nu fusese instruit și să adauge încă un articol la comandă, sporind satisfacția clientului și îmbunătățind rezultatele afacerii. O simplă versiune vocală a ChatGPT nu știe să facă asta. Ai nevoie de un produs creat și instruit special în acest scop.

În plus, oamenii pot rata apeluri, pot să nu răspundă la telefon sau pot redirecționa apelurile către mesageria vocală. Asta poate fi fatal pentru micile afaceri din America. Acestea nu au oameni care să răspundă la telefon, nu pot asigura o calitate constantă și nu au cum să optimizeze acest proces. Cu ajutorul inteligenței artificiale, dacă un apel nu duce la rezultatul dorit de o firmă, îl putem optimiza folosind datele pe care le avem. Datorită vitezei inteligenței artificiale, putem schimba conversația, lucru care nu s-ar putea face nici pe departe la fel de repede cu ajutorul oamenilor.

În acest moment, toată lumea privește inteligența artificială ca pe o modalitate de a reduce costurile. Noi credem însă că ar trebui privită ca un motor de creștere. Firmele pot, de fapt, să se dezvolte adoptând inteligența artificială și să obțină rezultate mai bune decât înainte.

Inteligența artificială vocală trebuie să rezolve provocări pe care inteligența artificială bazată pe text le poate evita adesea, printre care latența, întreruperile, accentele, zgomotul de fond, indiciile emoționale și conversațiile imprevizibile. Care dintre aceste probleme a fost cel mai greu de rezolvat în mod fiabil la scară enterprise?

Latența este cea mai mare problemă. Acum am rezolvat-o, dar la început ne-a dat mari bătăi de cap din două motive.

În primul rând, construisem pe infrastructura unor startupuri care nu erau fiabile. O parte semnificativă dintre solicitările API trimise către OpenAI eșuau, iar noi nu primeam niciun răspuns. Într-o convorbire telefonică, asta echivalează cu închiderea apelului, așa că a trebuit să implementăm mecanisme de reîncercare.

A doua problemă era capacitatea. Când trimiteai o solicitare către OpenAI, rămâneai blocat la coadă, în spatele a sute sau mii de alte solicitări, fără să știi ce loc ocupai în acea coadă. Răspunsul putea întârzia 30 de secunde. Pentru a ocoli problema, am analizat unde avea OpenAI puncte finale în întreaga lume și am schimbat punctele finale pe care le apelam, în funcție de țările în care era noapte și cererea era scăzută. A trebuit să construim toată această infrastructură doar pentru a găsi punctele finale cu cea mai mică cerere în acel moment. A fost o problemă tehnică destul de interesantă. Acum ne antrenăm propriile modele, inclusiv Alma, așa că nu mai trebuie să ne facem griji în privința asta, deoarece noi gestionăm resursele de calcul și cererea.

Phonely gestionează acum peste 120.000 de apeluri pe zi pentru mii de companii. Ce ați învățat din operarea agenților vocali la această scară, lucruri care nu erau evidente când construiați prima versiune a platformei?

Este foarte important să fim disponibili 100% din timp. Una dintre cele mai dificile provocări inginerești la care am lucrat a fost asigurarea fiabilității și a vitezei. Domeniul inteligenței artificiale evoluează incredibil de repede, iar noi ne mișcăm rapid chiar și pentru o companie de inteligență artificială. La Y Combinator există o vorbă: „Mișcă-te repede și strică lucruri”. Dar când ai clienți care efectuează 120.000 de apeluri pe zi, nu-ți poți permite să strici lucrurile. Așadar, o mare parte din procesul nostru a constat în a găsi cum să lansăm produse suficient de repede pentru a rămâne relevanți și a îmbunătăți iterativ produsul, menținându-ne în același timp clienții din mediul enterprise mulțumiți și asigurând stabilitatea serviciului, pe măsură ce continuăm să dezvoltăm funcționalități noi pentru a ne menține în fruntea pieței. Fiabilitatea a fost, probabil, una dintre cele mai mari provocări cu care ne-am confruntat în construirea companiei.

Sistemele de inteligență artificială generativă se pot comporta imprevizibil, însă un agent telefonic care interacționează cu clienții poate gestiona plăți, rezervări, întrebări despre sănătate sau alte interacțiuni cu miză ridicată. Cum proiectați agenți vocali care să rămână flexibili și conversaționali, fără să halucineze sau să acționeze în afara limitelor autorizate?

Am învățat asta pe calea cea grea acum aproximativ doi ani, iar acum abordarea este destul de larg adoptată în industrie. Ne-am dat seama că cea mai mare problemă a modelelor lingvistice mari este contextul. Când incluzi prea multe informații într-un prompt, de exemplu pagini întregi de instrucțiuni, crește probabilitatea ca ceva să meargă prost.

Așa că am proiectat un sistem de orchestrare cu opt agenți, care transferă sarcina de la un agent la altul, fiecare agent având un context localizat. Este asemănător modului în care o persoană urmează un scenariu într-un apel: primești câteva informații, treci la etapa următoare și așa mai departe. Astfel putem separa pașii la nivel de cod. Dacă ar trebui să-ți cer numele, adresa de e-mail, numărul de telefon și data nașterii înainte să-ți acord o rambursare, aș putea garanta că aceste informații sunt colectate la nivel de cod înainte de a continua. Nu poți garanta asta dacă te bazezi doar pe un model lingvistic mare. Prin construirea acestui strat de orchestrare a agenților, poți obține o fiabilitate de 100%, deoarece toți pașii sunt înregistrați înainte ca sarcina să fie transferată unui agent nou, care păstrează contextul, dar este limitat la propriile instrucțiuni.

Se pare că o implementare Phonely a generat pentru un client venituri nete noi de 10 milioane de dolari în doar trei luni. Ce a făcut posibil ca inteligența artificială să producă un impact comercial măsurabil de asemenea amploare și unde considerați că inteligența artificială vocală poate genera astăzi cel mai mare randament al investiției?

Am putut face asta pentru că aveam la dispoziție indicatorii clientului. Obiectivul lor era să crească vânzările, deoarece apelurile erau primite de la clienți, iar operatorii calificau apelanții, astfel că puteam urmări rezultatele. În funcție de zi, centrul lor de apeluri avea o rată de vânzare de aproximativ 35%–42%. După ce am primit aceste informații de la client, am preluat fluxurile de lucru și am optimizat agentul. Am pornit de la o rată de vânzare de aproximativ 20%. În lunile următoare, am făcut îmbunătățiri iterative, am ajustat diverse aspecte și am optimizat agentul până când a depășit centrul lor de apeluri în majoritatea cazurilor. Rata noastră de vânzare a continuat să crească, deoarece am identificat problemele și ne-am asigurat că experiența este consecventă și perfectă de fiecare dată. Am reușit să depășim performanța unui centru de apeluri.

Pe măsură ce agenții vocali devin mai capabili, unde ar trebui companiile să traseze limita între conversațiile care pot fi automatizate complet și situațiile în care ar trebui să fie implicată în continuare o persoană?

Companiile ar trebui să poată automatiza orice proces repetitiv pe care doresc să-l urmeze, cu condiția ca acesta să fie definit suficient de clar.

Totuși, automatizarea devine dificilă în câteva situații. Una dintre ele o reprezintă integrările fără API: să presupunem că ai nevoie de o integrare, dar software-ul respectiv nu are un API. Este dificil să găsești o soluție, deși se pot folosi unele automatizări în browser. O altă situație apare când există mai multe transferuri succesive între un agent și o persoană, apoi din nou către un agent. A treia problemă este lipsa contextului. Să presupunem că mi-am uitat portofelul la un restaurant. Inteligența artificială nu va putea rezolva niciodată această problemă, pentru că nu știe dacă ai portofelul la tine și nu poate verifica dacă acesta se află la restaurant.

Unele situații vor necesita întotdeauna intervenția unei persoane, la fel ca activitățile mai complexe care implică mai multe sisteme. Evitați să folosiți un agent în aceste cazuri.

Phonely a obținut recent o finanțare de 16 milioane de dolari în cadrul unei runde de serie A, după ce a ajuns să deservească peste 10.000 de companii. Cum va arăta următoarea etapă de dezvoltare a companiei și ce capabilități tehnice credeți că vor diferenția următoarea generație de platforme de inteligență artificială vocală?

Următoarea etapă presupune extinderea echipei și continuarea investițiilor în aceasta. Ne dedicăm pe deplin acestei idei. Multe companii se aventurează în domeniul inteligenței artificiale vocale și probabil se vor descurca destul de bine în diverse domenii. Însă noi nu construim doar un agent vocal. Construim o platformă de optimizare și folosim vocea ca pe un canal. Pentru companiile care urmăresc să genereze venituri prin potențialii clienți și apelurile telefonice, ne concentrăm în întregime pe optimizarea agenților de inteligență artificială, astfel încât aceștia să obțină rezultatele dorite de clienți. Gândiți-vă la Phonely ca la o companie de optimizare, la care apelează cei care vor să-și optimizeze agenții pentru ca aceștia să aibă performanțe mai bune.

Cercetarea dumneavoastră academică a explorat și utilizarea inteligenței artificiale și a tehnologiei contoarelor inteligente pentru a extinde accesul la energie și la soluții de gătit nepoluante în economiile în curs de dezvoltare. Dincolo de Phonely, cum vedeți aplicarea inteligenței artificiale la probleme de anvergură din lumea fizică, precum accesul la energie, și este un domeniu la care sperați, în cele din urmă, să reveniți?

Inteligența artificială poate aduce multe beneficii, dar multe dintre problemele existente sunt provocate de oameni, așa că este nevoie de schimbări și din această direcție. Nu toate problemele pot fi rezolvate prin tehnologie. Însă dacă le permitem tehnologiei și schimbării umane să se producă simultan, rezultatul net va fi benefic pentru lume.

Vă mulțumim pentru interviul excelent. Cititorii care doresc să afle mai multe pot vizita Phonely.