Ali Sarrafi, CEO și fondator al Kovant – Seria de interviuri

Ali Sarrafi, CEO și fondator al Kovant, este un expert în tehnologie și inteligență artificială cu sediul în Stockholm, cu o experiență dovedită în construirea și scalarea companiilor de inteligență artificială de înaltă creștere. De la fondarea Kovant în 2024, el a valorificat experiența sa profundă în strategia de inteligență artificială pentru întreprinderi, execuția go-to-market și scalarea operațională. Anterior, el a ocupat funcția de vicepreședinte al strategiei la Silo AI, după ce aceasta a fost achiziționată de AMD, unde a fost responsabil pentru modelarea strategiei de inteligență artificială pentru întreprinderi și pentru promovarea adoptării la scară largă. Mai devreme în cariera sa, el a co-fondat Combient Mix, conducând compania printr-o creștere rapidă și o achiziție de succes de către Silo AI, și de atunci a deținut roluri de consultanță și de consiliu în domeniul educației și al startup-urilor de inteligență artificială, reflectând o focalizare constantă pe transpunerea inteligenței artificiale avansate în impactul afacerilor din lumea reală.

Kovant este o companie de inteligență artificială pentru întreprinderi, axată pe facilitarea organizațiilor pentru a trece de la utilizarea experimentală a inteligenței artificiale la procese de afaceri autonome și operaționale. Compania dezvoltă o platformă bazată pe agenți, proiectată pentru a orchestra echipe de agenți de inteligență artificială în domenii operaționale complexe, cum ar fi achiziții, lanțuri de aprovizionare, conformitate și operațiuni cu clienții. Prin accentuarea pe implementarea securizată, de nivel enterprise și pe timpul rapid de valorificare, Kovant se poziționează ca o punte între ambiția strategică de inteligență artificială și execuția zilnică, ajutând organizațiile mari să încorporeze inteligența artificială direct în fluxurile de lucru de bază, în loc să o trateze ca un instrument sau proiect pilot separat.

Ai condus inițiative majore de inteligență artificială la Spotify, ai scalat și ai ieșit din Combient Mix, și mai târziu ai modelat strategia de inteligență artificială pentru întreprinderi la Silo AI, înainte de a fonda Kovant. Care sunt lacunele sau frustrările specifice pe care le-ai întâlnit în aceste roluri care te-au convins că este momentul potrivit pentru a construi o platformă autonomă de întreprindere, și cum a influențat această istorie filozofia de bază a proiectării Kovant?

De-a lungul rolurilor mele anterioare, au apărut câteva lacune consistente. În primul rând, majoritatea instrumentelor de inteligență artificială “verticale” sunt efectiv captive unei singure stive de software: ele fac ceva puțin mai bine în interiorul acelei limite, dar se luptă în momentul în care un flux de lucru trebuie să traverseze multiple sisteme. În același timp, datele întreprinderilor sunt dispersate în multe instrumente, iar multe soluții de automatizare pur și simplu nu pot ajunge la ele. Adăugați ani de integrări punctuale și obțineți arhitectura clasică de “spaghetti”: complexitatea crește, schimbarea devine mai lentă, iar echipele se trezesc automatizând pași individuali, în loc să reimagинеze fluxul de lucru de la capăt la capăt. Rezultatul este că ROI adesea sosește mai lent – și mai mic – decât organizațiile se așteaptă.

Kovant este proiectat ca răspuns la această realitate. Filozofia noastră de bază este că agenții ar trebui să se comporte mai mult ca angajații: ei lucrează în multiple instrumente, sunt “angajați” pentru a face anumite sarcini, nu pentru a automatiza o singură secvență scriptată. De aceea, integrările și orchestrarea sunt încorporate, iar noi presupunem că datele întreprinderilor sunt adesea murdare și nestructurate – ele necesită o abordare mai umană pentru a gestiona excepțiile și ambiguitățile.

Folosim agenți de bază pentru a atinge viteză și scalabilitate, păstrând în același timp suveranitatea datelor în centrul atenției: întreprinderile pot accesa și utiliza propriile date orizontal, fără a le părăsi sediul.

Kovant se poziționează ca o platformă autonomă de întreprindere capabilă să ruleze operațiuni și departamente întregi cu agenți de inteligență artificială. Cum definiți “autonom” în contextul unei întreprinderi, și cum diferă acest lucru de instrumentele de automatizare și agenți pe care companiile le experimentează în prezent?

În contextul unei întreprinderi, atunci când spunem “autonom” nu ne referim la “nesupravegheat”. Ne referim la faptul că agenții de inteligență artificială pot lua acțiuni reale de la capăt la capăt, cu obiective și garduri de protecție clare, și vor escalada către oameni atunci când este nevoie de supraveghere.

Ce face Kovant diferit este reprezentat de agenții noștri de bază. În loc să automatizeze un singur proces fix sau să urmeze o secvență preconcepută, agenții Kovant pot lucra în echipă (sau roi) la o operațiune, utilizând doar instrucțiuni și o vedere de ansamblu a operațiunii, pe care o numim “plan”. Ei nu sunt proiectați pentru o singură sarcină îngustă; ei colaborează pentru a rezolva fluxuri de lucru complexe, se adaptează la schimbări și predau sarcinile către oameni atunci când situația necesită supraveghere.

De exemplu, o echipă de agenți pentru gestionarea stocurilor poate efectua toate următoarele sarcini fără a fi nevoie să le reconstruiască de la zero, inclusiv: comunicarea cu furnizorii prin e-mail, monitorizarea nivelurilor de stoc și a semnalelor de stoc epuizat, urmărirea transporturilor și a comenzilor de achiziție, actualizarea stărilor în sisteme, crearea de bilețele de neconcordanță pentru planificatorii de stocuri să le aprobe, redistribuirea stocurilor între depozite și consolidarea rapoartelor de stoc.

Așadar, schimbarea constă în faptul că, în loc de “chat plus instrumente” sau de automatizări fragile care se sparg la scară, întreprinderile trec de la construirea de agenți la rularea lor la scară.

În ciuda interesului masiv pentru inteligența artificială agențială, multe organizații rămân blocate în modul de pilot. Din ceea ce observați în ceea ce privește implementările reale, care sunt principalele motive pentru care companiile se luptă să treacă de la experimentare la producție la scară?

Ceea ce observăm este că majoritatea organizațiilor nu rămân blocate în modul de pilot pentru că ideea este greșită; ele rămân blocate pentru că mediul este ostil scalării.

Primul obstacol este peisajul tehnologic fragmentat al întreprinderii. Fluxurile de lucru se întind pe multiple sisteme, datele trăiesc în multiple locuri, iar împăturirea totului într-un mod fiabil este dificil. Și inteligența artificială agențială este adesea implementată ca un add-on la instrumentele existente, în loc să fie o modalitate de a reimagina modul în care fluxul de lucru ar trebui să ruleze de la capăt la capăt.

Există și o problemă reală de arhitectură și date. Mulți furnizori de software ca serviciu încă încearcă să blocheze datele, ceea ce creează incompatibilități și limitează ceea ce agenții pot face de fapt în sisteme. Și multe echipe subestimează faptul că majoritatea datelor întreprinderilor sunt nestructurate (e-mailuri, documente, bilețele, fișiere PDF, înregistrări de chat). Dacă abordarea dvs. presupune date curate și structurate, timpul de valorificare devine lung, dureros și dificil de replicat dincolo de pilot.

În sinteză: fragmentarea, blocarea și datele nestructurate creează rezistență – și piloții nu se transformă în producție până când aceste realități nu sunt proiectate.

Fiabilitatea este adesea citată ca principalul obstacol în ceea ce privește implementarea agenților de inteligență artificială în lumea reală. De ce atât de multe sisteme de agenți eșuează odată ce părăsesc mediile controlate, și cum abordarea Kovant reduce probleme precum halucinațiile și comportamentul imprevizibil?

Unele sisteme de agenți par excelente în demo-uri, apoi eșuează în lumea reală pentru că mediul este murdar și imprevizibil. Datele sunt incomplete sau inconsistente, cazurile limită apar constant (rambursări, dispute, aprobări speciale). Fluxurile de lucru se întind pe multiple instrumente, platforme și integrări care se schimbă în timp, iar permisiunile variază. Atunci când un agent de inteligență artificială este solicitat să gestioneze o sarcină mare și i se oferă prea mult context deodată, riscul de halucinații și comportament ciudat crește.

Kovant reduce acest lucru prin proiectare. Arhitectura noastră unică îngustează spațiul problemelor, spațiul deciziei și contextul cu care modelele lucrează pentru a reduce halucinațiile. De asemenea, descompunem operațiunile în sarcini înguste și focalizate pentru agenți și pași individuali. Acest lucru face comportamentul mai previzibil și adaugă trasabilitate și control în sistem și poate gestiona halucinațiile mai bine. Putem vedea ce a făcut fiecare agent, unde a început eșecul și interveni sau escalada atunci când este nevoie.

Halucinațiile nu dispar magic, dar prin constrângerea a ceea ce fiecare agent este responsabil și limitarea contextului în care poate acționa, putem reduce frecvența și limita impactul lor. Abordarea “sarcină îngustă/context” a fost, de asemenea, susținută de lucrările recente ale echipei de cercetare Nvidia, care a găsit beneficii similare prin constrângerea deciziei agenților.

Responsabilitatea este o preocupare majoră pe măsură ce agenții de inteligență artificială încep să ia acțiuni reale în sistemele de afaceri. Cum schimbă jurnalele de acțiuni detaliate conversația despre încredere, conformitate și risc operațional?

Cu jurnalele de acțiuni detaliate, putem vedea ce s-a întâmplat, de ce s-a întâmplat și ce se întâmplă mai departe.

Jurnalele detaliate transformă un agent dintr-un robot misterios care lucrează în mașină într-un sistem pe care îl putem inspecta.

La Kovant, cu orice implementare a unui agent de inteligență artificială, va exista o hartă a riscurilor pe care organizația o poate acționa, am construit un sistem de pază pentru oameni pentru acțiuni riscante, care înseamnă că agenții pot efectua aceste sarcini doar dacă un om le revizuiește și aprobă decizia. Toate acestea sunt înregistrate în același mod în care un sistem de înregistrare este înregistrat și sunt trasabile.

Credem că este important să combinăm jurnalele de acțiuni cu supravegherea și observabilitatea umană pentru a minimiza riscul. Acest lucru înseamnă că încă obțineți beneficiile de viteză și scalabilitate ale agenților care rulează operațiuni reale.

Există o discuție în creștere despre faptul că agenții de inteligență artificială pot fi asigurați din cauza procesului lor de luare a deciziilor opace. Cum ajută faptul că fluxurile de lucru ale agenților sunt auditabile și rejuocabile să abordeze problema “cutiei negre” și să deschidă calea către asigurabilitate?

Problema “cutiei negre” este ceea ce face asigurabilitatea dificilă. Dacă nu puteți arăta clar ce a făcut un agent, de ce a făcut-o și ce controale au fost în vigoare, este greu pentru oricine, în special pentru asigurători, să prețuiască riscul.

Abordarea noastră este esențialmente o extensie a configurației de responsabilitate din răspunsul anterior. Descompunem spațiul deciziei și impactul acțiunilor în bucăți mai mici, astfel încât modelul nu ia o singură decizie uriașă și opacă care poate schimba o întreagă operațiune. Fiecare pas este mai îngust, mai previzibil și mai ușor de evaluat.

Adăugăm apoi jurnale detaliate, observabilitate și supraveghere umană. Pentru deciziile cele mai importante și cu impact, folosim un paznic uman, astfel încât agentul să poată continua doar după revizuire și aprobare. Acest lucru creează mult mai multă vizibilitate în ceea ce privește modul în care fluxul de lucru se comportă în practică.

Faptul că fluxurile de lucru sunt auditabile și rejuocabile este piesa finală. Dacă ceva merge prost, puteți reproduce ce s-a întâmplat, investigați rapid, validați remedieri și demonstrați cât de des aprobarea umană este necesară și unde se află gardurile de protecție. În termeni de subscriere, acest lucru transformă comportamentul misterios al inteligenței artificiale în ceva mai apropiat de riscul operațional standard.

Cu inițiative precum Fundația Inteligență Artificială Agențială, care urmărește să creeze standarde comune pentru sisteme agențiale, ce aspecte ale acestor eforturi considerați a fi cele mai promițătoare, și unde mai sunt lipsuri pentru operațiunile reale ale întreprinderilor?

Standardizarea este, în general, o chestiune bună. Fundația Inteligență Artificială Agențială poate face munca neînfloritoare, dar esențială, de a face sistemele de agenți să vorbească același limbaj, ceea ce ar trebui să facă integrările mai ușoare și să reducă blocarea furnizorilor în timp.

Unde sunt precaut este cui îi este modelat perspectiva care modelează standardele. Dacă majoritatea lucrărilor sunt conduse de creatorii de modele și de scale-up-uri tehnologice, există riscul ca “standardele” să optimizeze ceea ce este mai ușor de construit sau de demonstrat, în loc de ceea ce organizațiile mari au nevoie cu adevărat pentru a rula agenți în siguranță, zi de zi.

Pentru operațiunile reale ale întreprinderilor, lacunele tind să fie mai puțin despre conectoare și mai mult despre control: ceea ce poate accesa și schimba un agent, fluxuri de aprobare pentru acțiuni cu impact ridicat, jurnale auditabile și observabilitate, astfel încât echipele să poată monitoriza comportamentul, investiga incidente și demonstra conformitate. Întreprinderile au nevoie, de asemenea, de standarde practice pentru operarea în realitatea murdară: testarea împotriva cazurilor limită, gestionarea sistemelor în schimbare și capacitatea de a opri, conține sau de a reveni la acțiuni în siguranță, pe sisteme și medii de date reglementate.

Așadar, este o direcție promițătoare, dar impactul va fi limitat, cu excepția cazului în care cerințele și controalele de risc operațional ale întreprinderilor nu sunt tratate ca o gândire de după.

Kovant a generat deja venituri semnificative de la întreprinderi mari din Nord, în timp ce funcționează în mare parte în mod stealth. Ce tipuri de funcții de afaceri sau fluxuri de lucru se dovedesc a fi mai pregătite pentru agenții de inteligență artificială autonomi astăzi?

Din ceea ce am văzut în ceea ce privește implementările reale, fluxurile de lucru care sunt “pregătite” astăzi sunt cele alcătuite din munca de birou reactivă: monitorizare, urmărire, verificare, actualizare a sistemelor, gestionare a excepțiilor și menținerea operațiunilor în flux pe multiple instrumente.

În lanțurile de aprovizionare și producție ale întreprinderilor, acest lucru se manifestă în următoarele domenii:

• Achiziții: disponibilitatea materiilor prime, sursa durabilă, operațiunile de conformitate, selectarea furnizorilor (inclusiv sursa duală/multiplă), gestionarea contractelor, gestionarea riscurilor furnizorilor și licitarea/gestionarea ofertelor.
• Producție: planificarea capacității, programarea producției, gestionarea întreținerii, gestionarea calității, gestionarea blocajelor și prevenirea pierderilor.
• Depozitare: recepție și inspecție, gestionarea stocurilor, rotirea stocurilor (FIFO/FEFO) și numărătoarea ciclică/auditarea.
• Transport / logistică: selectarea modului și a transportatorului, vămuirea și documentația, urmărirea și vizibilitatea, monitorizarea emisiilor și conformitatea comercială.
• Vânzări și servicii: disponibilitatea produselor, prevenirea stocurilor epuizate, gestionarea vânzărilor și a returnărilor, analiza comportamentului consumatorilor, precum și domenii post-vânzare, cum ar fi reparațiile, urmărirea sfârșitului de viață, operațiunile atelierului și contractele de service.

Când întreprinderile implementează agenți de inteligență artificială pe operațiuni critice, cum recomandați să echilibrați autonomia cu supravegherea umană pentru a asigura controlul fără a încetini totul?

Echilibrul este guvernat de autonomie. Trebuie să lăsați agenții să se miște rapid pe lucrul cu risc scăzut, în interiorul gardurilor clare, și să escaladați către oameni atunci când acțiunea traversează un prag de risc definit.

Multe eșecuri provin din faptul că modelului i se oferă prea multă sferă de acțiune și prea mult context deodată. Recomand să descompuneți operațiunile în decizii înguste, cu permisiuni clare și un impact limitat. Acest lucru reduce comportamentul imprevizibil și face performanța mai ușor de monitorizat și de îmbunătățit.

Apoi combinați trei lucruri: observabilitate, jurnale de acțiuni și supraveghere umană. Tot ceea ce face agentul trebuie să fie trasabil, astfel încât să puteți inspecta ce s-a întâmplat și să investigați rapid. Pentru acțiuni cu impact ridicat sau riscante, puneți un pas de aprobare umană în fluxul de lucru, astfel încât agentul să poată propune și pregăti, dar să execute doar după ce o persoană aprobă.

Acest lucru păstrează lucrurile în mișcare rapid. Dacă ceva încetinește, este doar la pasul de supraveghere umană, dar acesta este un moment important al procesului. Oamenii nu sunt blocați să supravegheze fiecare clic, dar sunt încă în controlul momentelor care contează. Rezultatul este viteză acolo unde este sigur și supraveghere acolo unde este necesar.

Privind înainte, cum anticipați că rolul agenților de inteligență artificială autonomi va evolua în cadrul organizațiilor mari în următorii ani, și ce va diferenția companiile care reușesc cu inteligența artificială agențială de cele care se luptă?

În următorii ani, agenții de inteligență artificială autonomi vor trece de la experimente interesante la a deveni un strat real de operare în cadrul organizațiilor mari. Ei vor fi utilizați pentru operațiuni, servicii pentru clienți, finanțe și resurse umane. Pe măsură ce se îmbunătățește fiabilitatea, guvernanța și supravegherea, vom vedea organizații care trec de la piloți izolați la rularea de echipe de agenți pe fluxuri de lucru de la capăt la capăt.

Schimbarea cea mai mare este că viteza, agilitatea, scalabilitatea, eficiența și costurile vor deveni un levier competitiv direct. Cred că o “mișcare Uber” vine pentru întreprinderi. Cele care stăpânesc cu adevărat inteligența artificială agențială vor putea opera la o viteză fundamental mai mare decât cele care se luptă, vor captura piețe mai repede și vor răspunde la schimbări fără întârzierea operațională obișnuită.

Ceea ce diferențiază câștigătorii nu este doar implementarea de agenți, ci implementarea lor în mod corespunzător. Autonomia guvernată, observabilitatea puternică și jurnalele de acțiuni, precum și arhitecturile care îngustează sfera deciziei, vor fi cheia pentru aceasta. Companiile care tratează inteligența artificială agențială ca o capacitate de operare de bază, cu controalele, integrarea și proprietatea potrivite, o vor folosi pentru a face mai mult, nu mai puțin. Acest lucru va elibera echipele pentru a se concentra pe creștere și inovare, în loc de a-și petrece zilele îngropate în administrare. În sinteză, viteza și eficiența radicală devin un adevărat avantaj competitiv la scară de întreprindere.

Mulțumim pentru acest interviu excelent. Citiitorii care doresc să afle mai multe despre Kovant ar trebui să viziteze Kovant.