Ali Sarrafi, CEO și fondator al Kovant – Serie de interviuri

Ali Sarrafi, CEO și fondator al Kovant, este un director executiv cu experiență în tehnologie și inteligență artificială, cu sediul la Stockholm, cu o experiență în construirea și scalarea companiilor de inteligență artificială cu creștere rapidă. De la fondarea Kovant la sfârșitul anului 2024, a acumulat o experiență vastă în strategia de inteligență artificială pentru întreprinderi, execuția lansării pe piață și scalarea operațională. Anterior, a ocupat funcția de vicepreședinte de strategie la Silo AI după achiziția acesteia de către AMD, unde a fost responsabil pentru conturarea strategiei de inteligență artificială pentru întreprinderi și pentru stimularea adoptării la scară largă. La începutul carierei sale, a co-fondat Combient Mix, conducând compania printr-o creștere rapidă și o achiziție de succes de către Silo AI, și de atunci a deținut roluri consultative și în consiliul de administrație în cadrul unor startup-uri din domeniul educației și al inteligenței artificiale, reflectând o concentrare constantă pe transpunerea inteligenței artificiale avansate în impact asupra afacerilor din lumea reală.

Kovant este o companie de inteligență artificială pentru întreprinderi, axată pe permiterea organizațiilor să treacă de la utilizarea experimentală a inteligenței artificiale la procese de afaceri complet operaționale și autonome. Compania dezvoltă o platformă bazată pe agenți, concepută pentru a orchestra echipe de agenți de inteligență artificială în domenii operaționale complexe, cum ar fi achizițiile, lanțurile de aprovizionare, conformitatea și operațiunile cu clienții. Prin punerea accentului pe implementarea sigură, la nivel de întreprindere, și pe un timp rapid de rentabilitate, Kovant se poziționează ca o punte între ambiția strategică în materie de inteligență artificială și execuția zilnică, ajutând organizațiile mari să integreze inteligența artificială direct în fluxurile de lucru de bază, în loc să o trateze ca pe un instrument independent sau un proiect pilot.

Ai condus inițiative majore în domeniul inteligenței artificiale la Spotify, ai extins și ai renunțat la Combient Mix și, ulterior, ai conturat strategia de inteligență artificială a întreprinderilor la Silo AI, înainte de a fonda Kovant. Ce lacune sau frustrări specifice ai întâmpinat în aceste roluri care te-au convins că era momentul potrivit să construiești o platformă autonomă pentru întreprinderi și cum a modelat această istorie filosofia de design fundamentală a Kovant?

În rolurile mele anterioare, au apărut în mod constant câteva lacune. În primul rând, majoritatea instrumentelor de inteligență artificială „verticale” sunt practic captive unui singur pachet de software: fac un lucru puțin mai bine în interiorul acelei limite, dar întâmpină dificultăți în momentul în care un flux de lucru trebuie să se întindă pe mai multe sisteme. În același timp, datele companiei sunt împrăștiate pe o mulțime de instrumente, iar multe soluții de automatizare pur și simplu nu le pot atinge. Adăugați ani de integrări punctuale la acestea și obțineți o arhitectură clasică de tip spaghetti: complexitatea crește, schimbarea devine mai lentă, iar echipele ajung să automatizeze pași individuali, în loc să reimagineze fluxul de lucru de la un capăt la altul. Rezultatul este că rentabilitatea investiției ajunge adesea mai lent - și mai mic - decât se așteaptă organizațiile.

Kovant este conceput ca răspuns la această realitate. Filosofia noastră fundamentală este că agenții ar trebui să se comporte mai mult ca angajații: lucrează cu mai multe instrumente, sunt „angajați” să îndeplinească sarcini, nu să automatizeze o singură secvență scriptată. De aceea, integrările și orchestrarea sunt încorporate și de aceea presupunem că datele întreprinderii sunt adesea dezordonate și nestructurate - au nevoie de o abordare mai umană pentru a gestiona excepțiile și ambiguitatea.

Folosim agenți de bază pentru a obține viteză și scalabilitate, menținând în același timp suveranitatea datelor în prim-plan: întreprinderile pot accesa și utiliza propriile date pe orizontală, fără ca acestea să părăsească sediile lor.

Kovant se poziționează ca o platformă autonomă pentru întreprinderi, capabilă să gestioneze operațiuni și departamente întregi cu agenți de inteligență artificială. Cum definiți „autonom” într-un context de întreprindere și prin ce diferă acest lucru de instrumentele de automatizare și de agenți cu care companiile experimentează deja astăzi?

Într-un context de întreprindere, când spunem „autonom” nu ne referim la „nesupravegheat”. Ne referim la faptul că agenții IA pot întreprinde acțiuni reale de la un capăt la altul al unei operațiuni, cu obiective și garanții clare, și vor escalada către oameni atunci când este nevoie de supraveghere.

Ceea ce diferențiază Kovant este reprezentat de agenții noștri fundamentali. În loc să automatizeze un singur proces fix sau să urmeze o secvență predefinită, agenții Kovant pot lucra ca o echipă (sau un roi) la o operațiune folosind doar instrucțiuni și o prezentare generală a operațiunilor pe care o numim plan. Aceștia nu sunt concepuți pentru o singură sarcină restrânsă; ei colaborează pentru a rezolva fluxuri de lucru complexe, se adaptează pe măsură ce condițiile se schimbă și predau sarcina către alte persoane atunci când situația necesită supraveghere.

De exemplu, o echipă de agenți de gestionare a stocurilor poate efectua toate următoarele sarcini fără a le reconstrui de la zero, inclusiv: comunicarea cu furnizorii prin e-mail, monitorizarea nivelurilor stocurilor și a semnalelor de lipsă a stocului, urmărirea livrărilor și a comenzilor de achiziție, actualizarea stărilor în toate sistemele, crearea de tichete de discrepanță pentru aprobarea planificatorilor de stocuri, redistribuirea stocurilor între depozite și consolidarea rapoartelor de stocuri.

Așadar, schimbarea constă în faptul că, în loc de „chat plus instrumente” sau automatizări fragile care se defectează la scară largă, companiile trec de la construirea de agenți la rularea lor la scară largă.

În ciuda interesului masiv pentru inteligența artificială agentială, multe organizații rămân blocate în modul pilot. Din ceea ce se vede în implementările reale, care sunt principalele motive pentru care companiile se luptă să treacă de la experimentare la producție scalabilă?

Ceea ce observăm este că majoritatea organizațiilor nu se blochează în modul pilot pentru că ideea este greșită; se blochează pentru că mediul este ostil scalării.

Primul blocaj este peisajul tehnologic fragmentat al întreprinderilor. Fluxurile de lucru acoperă o mulțime de sisteme, datele se află în mai multe locuri, iar îmbinarea fiabilă a tuturor elementelor este dificilă. Iar inteligența artificială agentială este adesea implementată ca un supliment la instrumentele existente, mai degrabă decât ca o modalitate de a regândi modul în care fluxul de lucru ar trebui să funcționeze de la un capăt la altul.

Există, de asemenea, o problemă reală legată de arhitectură și date. Mulți furnizori SaaS încă încearcă să blocheze datele, ceea ce creează incompatibilități și limitează ceea ce agenții pot face efectiv în diferite sisteme. Și multe echipe subestimează faptul că majoritatea datelor întreprinderii sunt nestructurate (e-mailuri, documente, tichete, PDF-uri, jurnale de chat). Dacă abordarea dvs. presupune date curate și structurate, timpul de rentabilitate devine lung, dificil de reprodus dincolo de etapa pilot.

Pe scurt: fragmentarea, blocajele și datele nestructurate creează rezistență – iar proiectele pilot nu trec niciodată la producție până când aceste realități nu sunt concepute pentru a se reflecta în proiectare.

Fiabilitatea este adesea citată ca fiind cel mai mare obstacol în calea implementării agenților de inteligență artificială în lumea reală. De ce atât de multe sisteme de agenți eșuează odată ce părăsesc mediile controlate și cum reduce abordarea lui Kovant probleme precum halucinațiile și comportamentul imprevizibil?

Unele sisteme de agenți arată excelent în demonstrații, apoi eșuează în lumea reală deoarece mediul este dezordonat și imprevizibil. Datele sunt incomplete sau inconsistente, apar constant cazuri limită (rambursări, dispute, aprobări speciale). Fluxurile de lucru acoperă mai multe instrumente, platforme și integrări care se schimbă în timp, iar permisiunile variază. Atunci când unui agent IA i se cere să gestioneze o sarcină complexă și i se oferă prea mult context simultan, crește riscul de halucinații și comportamente ciudate.

Kovant reduce acest lucru prin design. Arhitectura noastră unică restrânge spațiul problemei, spațiul decizional și contextul cu care lucrează modelele pentru a reduce halucinațiile. De asemenea, împărțim operațiunile în sarcini restrânse, specifice pentru agenți și etape individuale. Acest lucru face comportamentul mai previzibil și adaugă trasabilitate și controlabilitate în sistem și poate gestiona mai bine halucinațiile. Putem vedea ce a făcut fiecare agent, unde a început o eroare și putem interveni sau escalada atunci când este necesar.

Halucinațiile nu dispar ca prin magie, dar prin constrângerea responsabilității fiecărui agent și limitarea contextului asupra căruia poate acționa, putem reduce frecvența și limita impactul acestora. Această abordare de „sarcină/context restrâns” a fost susținută și de studii recente ale echipei de cercetare Nvidia, care a descoperit beneficii similare prin constrângerea luării deciziilor de către agenți.

Responsabilitatea este o preocupare majoră, deoarece agenții IA încep să ia măsuri concrete în sistemele de business. Cum schimbă jurnalele de acțiuni detaliate conversația despre încredere, conformitate și riscul operațional?

Cu jurnale detaliate ale acțiunilor putem vedea ce s-a întâmplat, de ce s-a întâmplat și ce se întâmplă în continuare.

Jurnalele detaliate transformă un agent dintr-un bot misterios care lucrează în mașină într-un sistem pe care îl puteți inspecta.

La Kovant, pentru orice implementare de agenți AI, va exista o hartă a riscurilor pe baza căreia organizația poate acționa. Avem un sistem integrat de gestionare a acțiunilor riscante pentru oameni, ceea ce înseamnă că agenții pot efectua aceste sarcini doar dacă o persoană examinează și aprobă decizia. Toate acestea sunt înregistrate în același mod în care este înregistrat un sistem de înregistrări și sunt trasabile.

Credem că este important să combinăm jurnalele de acțiuni cu supravegherea umană și observabilitatea pentru a minimiza riscul. Aceasta înseamnă că veți beneficia în continuare de viteza și scalabilitatea oferite de agenții care rulează operațiuni reale.

Există o discuție tot mai intensă despre posibilitatea de a asigura agenții cu inteligență artificială, datorită opacității procesului lor decizional. Cum contribuie auditarea și redarea fluxurilor de lucru ale agenților la rezolvarea problemei „cutiei negre” și deschide calea către asigurabilitate?

Problema „cutiei negre” este cea care îngreunează asigurabilitatea. Dacă nu poți demonstra clar ce a făcut un agent, de ce a făcut-o și ce controale au fost implementate, este dificil pentru oricine, în special pentru asigurători, să stabilească un preț pentru risc.

Abordarea noastră este, în esență, o extensie a configurației de responsabilitate din răspunsul anterior. Împărțim domeniul de aplicare al deciziilor și impactul acțiunilor în părți mai mici, astfel încât modelul să nu ia o singură decizie gigantică, opacă, care poate influența o întreagă operațiune. Fiecare pas este mai restrâns, mai previzibil și mai ușor de evaluat.

Apoi adăugăm jurnale detaliate, observabilitate și supraveghere umană. Pentru cele mai importante și cu impact decizii, folosim un controlor uman, astfel încât agentul să poată continua doar după revizuire și aprobare. Acest lucru creează o vizibilitate mult mai mare asupra modului în care fluxul de lucru se comportă în practică.

Auditarea și reluarea fluxurilor de lucru este piesa finală. Dacă ceva nu merge bine, puteți reproduce ce s-a întâmplat, investiga rapid situația, valida remedierile și demonstra cât de des este necesară aprobarea umană și unde se află măsurile de siguranță. În termeni de subscriere, acest lucru se transformă... comportament misterios al inteligenței artificiale către ceva mai apropiat de riscul operațional standard.

Având în vedere inițiative precum Fundația Agentic AI care vizează crearea de standarde comune pentru sistemele agențice, care considerați că sunt cele mai promițătoare aspecte ale acestor eforturi și unde sunt încă insuficiente pentru operațiunile reale ale întreprinderilor?

Standardizarea este, în general, un lucru bun. AAIF poate face munca banală, dar esențială, de a face ca sistemele agenților să vorbească aceeași limbă, ceea ce ar trebui să faciliteze integrările și să reducă dependența de un furnizor în timp.

Sunt precaut în ceea ce privește perspectiva cui modelează standardele. Dacă cea mai mare parte a muncii este condusă de creatori de modele și companii tehnologice în creștere, există riscul ca „standardele” să optimizeze ceea ce este mai ușor de construit sau de demonstrat, mai degrabă decât ceea ce au nevoie organizațiile mari pentru a gestiona agenții în siguranță zi de zi.

Pentru operațiunile reale ale întreprinderilor, lacunele tind să fie mai puțin legate de conectori și mai mult de control: ce poate accesa și modifica un agent, fluxuri de lucru pentru aprobarea acțiunilor cu impact ridicat, jurnale auditabile și observabilitate, astfel încât echipele să poată monitoriza comportamentul, investiga incidentele și dovedi conformitatea. Întreprinderile au nevoie, de asemenea, de standarde practice pentru a opera în realitatea dezordonată: testarea în cazuri limită, gestionarea sistemelor în schimbare și posibilitatea de a întrerupe, limita sau anula acțiunile în siguranță în instrumentele vechi și în mediile de date reglementate.

Deci este o direcție promițătoare, dar impactul va fi limitat dacă cerințele întreprinderii și controalele riscurilor operaționale nu sunt tratate ca o idee ulterioară.

Kovant a generat deja venituri semnificative de la marile companii nordice, operând în mare parte pe ascuns. Ce tipuri de funcții sau fluxuri de lucru de business se dovedesc a fi cele mai pregătite pentru agenții autonomi de inteligență artificială în prezent?

Din ceea ce am văzut în implementări reale, fluxurile de lucru cele mai „pregătite” astăzi sunt cele alcătuite din muncă reactivă de tip „guler alb”: monitorizarea, urmărirea, verificarea, actualizarea sistemelor, gestionarea excepțiilor și menținerea operațiunilor în mișcare prin intermediul mai multor instrumente.

În industria prelucrătoare și în lanțurile de aprovizionare mai largi ale întreprinderilor, acest lucru se manifestă în:

• Aprovizionare/aprovizionaredisponibilitatea materiilor prime, aprovizionare sustenabilă, operațiuni de conformitate, selecția furnizorilor (inclusiv aprovizionare duală/multiplă), managementul contractelor, managementul riscului furnizorilor și managementul licitațiilor/ofertelor.
• producere: planificarea capacității, programarea producției, managementul întreținerii, managementul calității, managementul blocajelor și prevenirea pierderilor.
• depozitareRecepție și inspecție, gestionarea stocurilor, rotația stocurilor (FIFO/FEFO) și numărare/auditare ciclică.
• Transport / logistică: selectarea modului de transport și a transportatorului, vămuire/documentație, urmărire și vizibilitate, monitorizarea emisiilor și conformitatea comercială.
• Vânzări și serviciidisponibilitatea produselor, prevenirea lipsei de stoc, gestionarea vânzărilor/retururilor, analiza comportamentului consumatorilor, plus domenii post-vânzare precum reparații, urmărirea sfârșitului de viață, operațiuni în atelier și contracte de service.

Când companiile implementează agenți de inteligență artificială în operațiuni critice, cum recomandați să se echilibreze autonomia cu supravegherea umană pentru a asigura controlul fără a încetini totul?

Echilibrul este guvernat de autonomie. Trebuie să permiteți agenților să se miște rapid în sarcini cu risc scăzut, în limite clare, și să escaladeze semnalarea către oameni atunci când acțiunea depășește un prag de risc definit.

Multe eșecuri apar din faptul că i se acordă modelului prea mult domeniu de aplicare și prea mult context simultan. Recomand împărțirea operațiunilor în decizii mai mici, cu un domeniu de aplicare restrâns, unde fiecare pas are permisiuni clare și o rază de impact limitată. Acest lucru reduce comportamentul imprevizibil și face performanța mai ușor de monitorizat și îmbunătățit.

Apoi, combinați trei lucruri: observabilitatea, jurnalele de acțiuni și controlul uman. Tot ceea ce face agentul ar trebui să fie trasabil, astfel încât să puteți inspecta ce s-a întâmplat și investiga rapid. Pentru acțiuni cu impact ridicat sau riscante, includeți o etapă de aprobare umană în fluxul de lucru, astfel încât agentul să poată propune și pregăti, dar să execute acțiunea doar după ce o persoană semnează.

Asta menține lucrurile în mișcare rapidă. Dimpotrivă, încetinește doar foarte puțin la etapa de supraveghere umană, dar aceasta este o parte importantă a procesului. Oamenii nu sunt blocați să supravegheze fiecare clic, dar ei au în continuare controlul asupra momentelor care contează. Rezultatul este viteză acolo unde este sigur și supraveghere acolo unde este necesară.

Privind în perspectivă, cum vă așteptați să evolueze rolul agenților autonomi de inteligență artificială în cadrul marilor organizații în următorii ani și ce va diferenția companiile care au succes cu inteligența artificială agentială de cele care întâmpină dificultăți?

În următorii câțiva ani, agenții autonomi de inteligență artificială vor trece de la experimente interesante la un nivel operațional real în cadrul marilor organizații. Aceștia vor fi utilizați pentru operațiuni, servicii pentru clienți, finanțe și resurse umane. Pe măsură ce fiabilitatea, guvernanța și supravegherea se îmbunătățesc, vom vedea companiile trecând de la proiecte pilot izolate la conducerea unor echipe de agenți în fluxuri de lucru complete.

Cea mai mare schimbare este că viteza, agilitatea, scalabilitatea, eficiența și costurile vor deveni o pârghie competitivă mult mai directă. Cred că o „mișcare Uber” este în curs de dezvoltare pentru companii. Cele care stăpânesc cu adevărat inteligența artificială agentivă vor putea opera într-un ritm fundamental mai rapid decât companiile în urmă, vor putea cuceri piețele mai rapid și vor răspunde schimbărilor fără obișnuitul efort operațional.

Ceea ce diferențiază câștigătorii nu este doar implementarea agenților, ci implementarea lor corectă. Autonomia guvernată, observabilitatea puternică și jurnalele de acțiune, precum și arhitecturile care restrâng domeniul de decizie vor fi esențiale pentru acest lucru. Companiile care tratează IA agentială ca pe o capacitate operațională de bază, cu controalele, integrarea și responsabilitatea potrivite, o vor folosi pentru a face mai mult, nu mai puțin. Acest lucru va elibera echipele pentru a se concentra pe creștere și inovare, în loc să-și petreacă zilele cufundate în administrare. Pe scurt, viteza și eficiența radicale devin un adevărat avantaj competitiv la scară largă.

Mulțumim pentru interviul minunat, cititorii care doresc să afle mai multe ar trebui să viziteze Kovant.