Ali Sarrafi, CEO și fondator al Kovant – Seria de interviuri

Ali Sarrafi, CEO și fondator al Kovant, este un expert în tehnologie și inteligență artificială cu sediul în Stockholm, cu o experiență dovedită în construirea și scalarea companiilor de inteligență artificială cu creștere rapidă. De la fondarea Kovant la sfârșitul anului 2024, el a folosit experiența sa profundă în strategia de inteligență artificială pentru întreprinderi, implementarea strategiei de intrare pe piață și scalarea operațională. Anterior, el a ocupat funcția de vicepreședinte al strategiei la Silo AI, după achiziționarea Silo AI de către AMD, unde a fost responsabil pentru modelarea strategiei de inteligență artificială pentru întreprinderi și pentru promovarea adoptării la scară largă. Mai devreme în cariera sa, el a co-fondat Combient Mix, conducând compania prin creștere rapidă și o achiziție de succes de către Silo AI, și de atunci a ocupat roluri de consilier și membru în consilii de administrație în domeniul educației și al startup-urilor de inteligență artificială, reflectând o focalizare constantă pe traducerea inteligenței artificiale avansate în impactul afacerilor din lumea reală.

Kovant este o companie de inteligență artificială pentru întreprinderi, axată pe permiterea organizațiilor de a trece de la utilizarea experimentală a inteligenței artificiale la procese de afaceri autonome și operaționale. Compania dezvoltă o platformă bazată pe agenți, proiectată pentru a orchestra echipe de agenți de inteligență artificială în domenii operaționale complexe, cum ar fi achiziții, lanțuri de aprovizionare, conformitate și operațiuni cu clienți. Punând accent pe implementarea securizată, la nivel de întreprindere, și pe timpul rapid de valorificare, Kovant se poziționează ca o punte între ambiția strategică a inteligenței artificiale și execuția zilnică, ajutând organizațiile mari să încorporeze inteligența artificială direct în fluxurile de lucru principale, în loc să o trateze ca un instrument sau proiect pilot separat.

Ați condus inițiative majore de inteligență artificială la Spotify, ați scalat și ați ieșit din Combient Mix, și mai târziu ați modelat strategia de inteligență artificială pentru întreprinderi la Silo AI, înainte de a fonda Kovant. Care sunt lacunele sau frustrările specifice pe care le-ați întâlnit în aceste roluri care v-au convins că este momentul potrivit pentru a construi o platformă autonomă de inteligență artificială pentru întreprinderi, și cum a influențat această istorie filozofia de bază a proiectării Kovant?

De-a lungul rolurilor mele anterioare, au apărut câteva lacune constante. În primul rând, majoritatea instrumentelor de inteligență artificială “verticale” sunt, în esență, captive ale unei singure stive de software: ele fac ceva puțin mai bine în interiorul acelei limite, dar se confruntă cu dificultăți de îndată ce un flux de lucru trebuie să traverseze mai multe sisteme. În același timp, datele întreprinderilor sunt dispersate în multe instrumente, iar multe soluții de automatizare nu pot ajunge la ele. Adăugați ani de integrări punctuale și obțineți arhitectura clasică de “spaghetti”: complexitatea crește, schimbarea devine mai lentă, iar echipele se trezesc automatizând pași individuali, în loc să reimagineze fluxul de lucru de la capăt la capăt. Rezultatul este că rentabilitatea investiției apare adesea mai târziu și este mai mică – decât se așteaptă organizațiile.

Kovant este proiectat ca răspuns la această realitate. Filozofia noastră de bază este că agenții ar trebui să se comporte mai mult ca angajații: ei lucrează în mai multe instrumente, sunt “angajați” pentru a face anumite sarcini, nu pentru a automatiza o singură secvență scriptată. De aceea, integrările și orchestrarea sunt incluse în proiectare, și de aceea presupunem că datele întreprinderilor sunt adesea murdare și nestructurate – ele necesită o abordare mai umană pentru a gestiona excepțiile și ambiguitățile.

Folosim agenți de bază pentru a atinge viteza și scala, păstrând suveranitatea datelor în centrul atenției: întreprinderile pot accesa și utiliza propriile date orizontal, fără ca datele să părăsească sediul acestora.

Kovant se poziționează ca o platformă autonomă de inteligență artificială pentru întreprinderi, capabilă să ruleze operațiuni și departamente întregi cu agenți de inteligență artificială. Cum definiți “autonom” în contextul unei întreprinderi, și cum se diferențiază acest lucru de instrumentele de automatizare și agenți pe care companiile le experimentează în prezent?

În contextul unei întreprinderi, atunci când spunem “autonom” nu ne referim la “nesupravegheat”. Ne referim la faptul că agenții de inteligență artificială pot lua acțiuni reale, de la capăt la capăt, asupra unei operațiuni, cu obiective clare și limite de siguranță, și vor escalada către oameni atunci când este necesară supravegherea.

Ceea ce diferențiază Kovant sunt agenții noștri de bază. În loc să automatizeze un singur proces fix sau să urmeze o secvență preconcepută, agenții noștri de inteligență artificială pot lucra ca o echipă (sau roi) asupra unei operațiuni, folosind doar instrucțiuni și o imagine de ansamblu a operațiunii, pe care o numim “plan”. Ei nu sunt proiectați pentru o singură sarcină îngustă; ei colaborează pentru a rezolva fluxuri de lucru complexe, se adaptează la schimbări și predau către oameni atunci când situația necesită supraveghere.

De exemplu, o echipă de agenți pentru gestionarea stocurilor poate efectua toate următoarele sarcini fără a fi nevoie să le reconstruiască de la zero, inclusiv: comunicarea cu furnizorii prin e-mail, monitorizarea nivelurilor de stoc și a semnalelor de stoc epuizat, urmărirea transporturilor și a comenzilor de achiziție, actualizarea statuturilor în sisteme, crearea de tichete privind neconcordanțele pentru planificatorii de stocuri să le aprobe, redistribuirea stocurilor între depozite și consolidarea rapoartelor de stoc.

Astfel, schimbarea constă în faptul că, în loc de “chat și instrumente” sau de automatizări fragile care se sparg la scară, întreprinderile trec de la construirea de agenți la rularea lor la scară.

În ciuda interesului masiv pentru inteligența artificială agențială, multe organizații rămân blocate în modul de pilot. Din ceea ce observați în implementări reale, care sunt principalele motive pentru care companiile se confruntă cu dificultăți în a trece de la experimentare la producția la scară?

Ceea ce observăm este că majoritatea organizațiilor nu rămân blocate în modul de pilot pentru că ideea este greșită; ele rămân blocate pentru că mediul este ostil scalării.

Primul obstacol este peisajul tehnologic fragmentat al întreprinderii. Fluxurile de lucru traversează multe sisteme, datele trăiesc în multiple locuri, și coaserea tuturor acestor elemente în mod fiabil este dificil. Și inteligența artificială agențială este adesea implementată ca o extensie a instrumentelor existente, în loc să fie o modalitate de a reimagina cum ar trebui să ruleze fluxul de lucru de la capăt la capăt.

Există, de asemenea, o problemă reală de arhitectură și date. Mulți furnizori de software încă încearcă să blocheze datele, ceea ce creează incompatibilități și limitează ceea ce agenții pot face cu adevărat în traversarea sistemelor. Și multe echipe subestimează faptul că majoritatea datelor întreprinderilor sunt nestructurate (e-mailuri, documente, tichete, PDF-uri, jurnale de chat). Dacă abordarea dvs. presupune date curate și structurate, timpul de valorificare devine lung, dureros și dificil de replicat dincolo de pilot.

În sinteză: fragmentarea, blocarea și datele nestructurate creează rezistență – și piloții nu se transformă în producție până când aceste realități nu sunt luate în calcul în proiectare.

Fiabilitatea este adesea citată ca principalul obstacol în implementarea agenților de inteligență artificială în lumea reală. De ce atât de multe sisteme de agenți eșuează odată ce părăsesc mediile controlate, și cum abordarea Kovant reduce problemele precum halucinațiile și comportamentul imprevizibil?

Unele sisteme de agenți par excelente în demo-uri, apoi eșuează în lumea reală pentru că mediul este murdar și imprevizibil. Datele sunt incomplete sau inconsistente, cazuri limită apar constant (rambursări, dispute, aprobări speciale). Fluxurile de lucru traversează multiple instrumente, platforme și integrări care se schimbă în timp, și permisiunile variază. Atunci când un agent de inteligență artificială este solicitat să gestioneze o sarcină mare și primește prea mult context odată, riscul de halucinații și comportament ciudat crește.

Kovant reduce acest lucru prin proiectare. Arhitectura noastră unică restrânge spațiul problemelor, spațiul decizional și contextul cu care modelele lucrează pentru a reduce halucinațiile. De asemenea, descompunem operațiunile în sarcini înguste, focalizate, pentru agenți și pași individuali. Acest lucru face comportamentul mai previzibil și adaugă trasabilitate și controlabilitate în sistem, putând gestiona halucinațiile mai bine. Putem vedea ce a făcut fiecare agent, unde a început o eșuare și putem interveni sau escalada atunci când este necesar.

Halucinațiile nu dispar magic, dar prin limitarea responsabilităților fiecărui agent și limitarea contextului în care poate acționa, putem reduce frecvența și limita impactul lor. Abordarea “sarcină și context restrânse” a fost, de asemenea, susținută de lucrări recente ale echipei de cercetare Nvidia (NVDA ), care a găsit beneficii similare prin limitarea deciziei agenților.

Răspunderea este o preocupare majoră atunci când agenții de inteligență artificială încep să ia acțiuni reale în sistemele de afaceri. Cum schimbă jurnalele de acțiuni detaliate conversația despre încredere, conformitate și risc operațional?

Cu jurnalele de acțiuni detaliate, putem vedea ce s-a întâmplat, de ce s-a întâmplat și ce se întâmplă mai departe.

Jurnalele detaliate transformă un agent dintr-un bot misterios care lucrează în mașină într-un sistem pe care îl putem inspecta.

La Kovant, cu orice implementare a agenților de inteligență artificială, va exista o hartă a riscurilor pe baza căreia organizația poate acționa, am construit un sistem de supraveghere pentru acțiuni riscante care înseamnă că agenții pot efectua aceste sarcini doar dacă un om le verifică și aprobă decizia. Toate acestea sunt înregistrate în același mod ca un sistem de înregistrare și sunt trasabile.

Credem că este important să combinăm jurnalele de acțiuni cu supravegherea umană și observabilitatea pentru a minimiza riscul. Acest lucru înseamnă că încă obțineți beneficiile de viteză și scalabilitate ale agenților care rulează operațiuni reale.

Se discută tot mai mult dacă agenții de inteligență artificială pot fi asigurați, având în vedere opacitatea procesului lor decizional. Cum ajută faptul de a face fluxurile de lucru ale agenților auditabile și reproductibile pentru a aborda problema “cutiei negre” și pentru a deschide calea către asigurabilitate?

Problema “cutiei negre” este ceea ce face asigurabilitatea dificilă. Dacă nu puteți arăta clar ce a făcut un agent, de ce a făcut acel lucru și care au fost controlurile în vigoare, este greu pentru oricine, în special pentru asigurători, să stabilească prețul riscului.

Abordarea noastră este, în esență, o extensie a configurării răspunderii din răspunsul anterior. Descompunem spațiul decizional și impactul acțiunilor în bucăți mai mici, astfel încât modelul să nu ia o decizie uriașă și opacă care să poată schimba o întreagă operațiune. Fiecare pas este mai îngust, mai previzibil și mai ușor de evaluat.

Adăugăm, de asemenea, jurnale detaliate, observabilitate și supraveghere umană. Pentru deciziile cele mai importante și cu impact, folosim un sistem de supraveghere umană, astfel încât agentul să poată continua doar după verificare și aprobare. Acest lucru creează multă vizibilitate în ceea ce privește modul în care fluxul de lucru se comportă în practică.

Faptul de a face fluxurile de lucru auditabile și reproductibile este piesa finală. Dacă ceva merge prost, puteți reproduce ce s-a întâmplat, investigați rapid, validați corecțiile și demonstrați cât de des este necesară aprobarea umană și unde se află sistemele de siguranță. În termeni de subscriere, acest lucru transformă comportamentul misterios al inteligenței artificiale în ceva mai apropiat de riscul operațional standard.

Cu inițiative precum Fundația Inteligenței Artificiale Agențiale, care își propune să creeze standarde comune pentru sisteme agențiale, care sunt cele mai promițătoare aspecte ale acestor eforturi, și unde mai sunt lipsuri pentru operațiunile reale ale întreprinderilor?

Standardizarea este, în general, un lucru bun. Fundația Inteligenței Artificiale Agențiale poate face munca lipsită de strălucire, dar esențială, de a face sistemele agențiale să vorbească același limbaj, ceea ce ar trebui să facă integrările mai ușoare și să reducă dependența de un singur furnizor în timp.

În ceea ce privește punctul în care sunt încă precaut, este perspectiva cui modelează standardele. Dacă majoritatea lucrării este condusă de creatorii de modele și de scale-up-uri tehnice, există riscul ca “standardele” să optimizeze ceea ce este mai ușor de construit sau de demonstrat, în loc de ceea ce organizațiile mari au nevoie cu adevărat pentru a rula agenți în siguranță, zi de zi.

Pentru operațiunile reale ale întreprinderilor, lacunele țin mai puțin de conectori și mai mult de control: ceea ce poate accesa și schimba un agent, fluxuri de aprobare pentru acțiuni cu impact ridicat, jurnale auditabile și observabilitate, astfel încât echipele să poată monitoriza comportamentul, investiga incidente și demonstra conformitatea. Întreprinderile au, de asemenea, nevoie de standarde practice pentru operarea în realitatea murdară: testarea împotriva cazurilor limită, gestionarea sistemelor în schimbare și capacitatea de a suspenda, limita sau anula în siguranță acțiunile, traversând instrumente legacy și medii de date reglementate.

Așadar, este o direcție promițătoare, dar impactul va fi limitat dacă cerințele întreprinderilor și măsurile de control al riscurilor operaționale nu sunt luate în calcul de la început.

Kovant a generat deja venituri semnificative de la întreprinderi mari nordice, în timp ce opera în mare parte în mod stealth. Care sunt tipurile de funcții de afaceri sau fluxuri de lucru care se dovedesc a fi mai pregătite pentru agenții de inteligență artificială autonomi astăzi?

În ceea ce privește implementările reale, fluxurile de lucru care sunt “pregătite” astăzi sunt cele formate din muncă de birou reactivă: monitorizare, urmărire, verificare, actualizarea sistemelor, gestionarea excepțiilor și menținerea operațiunilor în traversarea mai multor instrumente.

În lanțurile de aprovizionare și producție ale întreprinderilor, aceasta se manifestă în următoarele domenii:

• Aprovizionare/achiziții: disponibilitatea materiilor prime, aprovizionarea sustenabilă, operațiuni de conformitate, selecția furnizorilor (inclusiv aprovizionarea de la doi sau mai mulți furnizori), gestionarea contractelor, gestionarea riscurilor furnizorilor și gestionarea licitațiilor.
• Producție: planificarea capacității, planificarea producției, gestionarea întreținerii, gestionarea calității, gestionarea blocajelor și prevenirea pierderilor.
• Depozitare: primire și inspecție, gestionarea stocurilor, rotirea stocurilor (FIFO/FEFO) și numărătoarea ciclică/auditarea.
• Transport/logistică: selectarea modului și a transportatorului, vămuirea și documentația, urmărirea și vizibilitatea, monitorizarea emisiilor și conformitatea comercială.
• Vânzări și servicii: disponibilitatea produsului, prevenirea epuizării stocurilor, gestionarea vânzărilor și a returnărilor, analiza comportamentului consumatorilor, precum și domenii post-vânzare, cum ar fi reparațiile, urmărirea sfârșitului de viață, operațiunile atelierului și contractele de service.

Când întreprinderile implementează agenți de inteligență artificială în operațiuni critice, cum recomandați să echilibrați autonomia cu supravegherea umană pentru a asigura controlul fără a încetini totul?

Echilibrul constă în autonomia guvernată. Trebuie să lăsați agenții să se miște rapid pe lucrul cu risc scăzut, în limite clare, și să escaladați către oameni atunci când acțiunea traversează un prag de risc definit.

Multe eșecuri apar atunci când modelului i se oferă un domeniu de acțiune prea larg și prea mult context deodată. Recomand descompunerea operațiunilor în decizii mai mici, strict delimitate, în care fiecare pas are permisiuni clare și o rază de impact limitată. Astfel se reduce comportamentul imprevizibil, iar performanța devine mai ușor de monitorizat și îmbunătățit.

Apoi combinați trei elemente: observabilitatea, jurnalele de acțiuni și aprobarea umană. Tot ceea ce face agentul trebuie să fie trasabil, pentru a putea inspecta ce s-a întâmplat și investiga rapid. Pentru acțiunile riscante sau cu impact mare, introduceți în fluxul de lucru o etapă de aprobare umană: agentul poate propune și pregăti, dar execută doar după ce o persoană își dă acordul.

Acest lucru menține totul în mișcare rapidă. Dacă este nevoie, doar încetinește puțin la pasul de supraveghere umană, dar acesta este un pas important al procesului. Oamenii nu sunt blocați să supravegheze fiecare clic, dar sunt încă în controlul momentelor care contează. Rezultatul este viteza acolo unde este sigur, și supravegherea acolo unde este necesar.

Privind înainte, cum anticipați că rolul agenților de inteligență artificială autonomă va evolua în cadrul organizațiilor mari în următorii ani, și ce va diferenția companiile care reușesc cu inteligența artificială agențială de cele care se confruntă cu dificultăți?

În următorii ani, agenții de inteligență artificială autonomă vor trece de la experimente interesante la devenirea unui strat de operare real în cadrul organizațiilor mari. Ei vor fi utilizați pentru operațiuni, servicii pentru clienți, finanțe și resurse umane. Pe măsură ce se îmbunătățește fiabilitatea, guvernanța și supravegherea, vom vedea întreprinderile trecând de la piloți izolați la rularea echipelor de agenți pe fluxuri de lucru de la capăt la capăt.

Schimbarea cea mai mare este că viteza, agilitatea, scala, eficiența și costurile vor deveni un levier competitiv direct. Cred că o “mișcare Uber” este pe cale să apară pentru întreprinderi. Cele care vor stăpâni cu adevărat inteligența artificială agențială vor putea opera la o viteză fundamental mai mare decât cele care se confruntă cu dificultăți, vor putea captura piețe mai rapid și vor putea răspunde la schimbări fără întârzierea operațională obișnuită.

Ceea ce diferențiază câștigătorii nu este doar implementarea agenților, ci implementarea lor în mod corespunzător. Autonomia guvernată, observabilitatea puternică și jurnalele de acțiuni, precum și arhitecturile care restrâng spațiul decizional, vor fi cheia pentru aceasta. Companiile care tratează inteligența artificială agențială ca o capacitate operațională de bază, cu controlul, integrarea și proprietatea potrivite, vor folosi-o pentru a face mai mult, nu mai puțin. Acest lucru va elibera echipele pentru a se concentra pe creștere și inovare, în loc de a-și petrece zilele îngropate în administrație. În sinteză, viteza și eficiența radicale devin un adevărat avantaj competitiv la scara întreprinderilor.

Mulțumim pentru acest interviu excelent, cititorii care doresc să afle mai multe despre Kovant ar trebui să viziteze Kovant.