Ali Sarrafi, CEO en oprichter van Kovant – Interviewreeks

Ali Sarrafi, CEO en oprichter van Kovant, is een ervaren technologie- en AI-executive met zijn basis in Stockholm en een trackrecord van het opbouwen en schalen van high-growth AI-bedrijven. Sinds de oprichting van Kovant eind 2024, heeft hij zijn ervaring in enterprise AI-strategie, go-to-market-uitvoering en operationele schaling gebruikt. Eerder was hij Vice President of Strategy bij Silo AI, na de overname door AMD, waar hij verantwoordelijk was voor het vormgeven van de enterprise AI-strategie en het stimuleren van grootschalige adoptie. In een eerder stadium van zijn carrière was hij mede-oprichter van Combient Mix, waar hij het bedrijf leidde door een snelle groei en een succesvolle overname door Silo AI, en heeft hij sindsdien advies- en bestuursfuncties gehad bij onderwijs- en AI-startups, wat een consistente focus op het vertalen van geavanceerde AI naar reële zakelijke impact weerspiegelt.

Kovant is een enterprise AI-bedrijf dat zich richt op het mogelijk maken van organisaties om over te gaan van experimentele AI-gebruik naar volledig operationele, autonome bedrijfsprocessen. Het bedrijf ontwikkelt een agent-gebaseerd platform dat is ontworpen om teams van AI-agents over complexe operationele domeinen te orkestreren, zoals inkoop, supply chains, compliance en klantenservice. Door de nadruk te leggen op beveiligde, enterprise-grade-implementatie en snelle time-to-value, positioneert Kovant zich als een brug tussen strategische AI-ambitie en dagelijkse uitvoering, waardoor grote organisaties AI rechtstreeks in hun kernwerkprocessen kunnen integreren in plaats van het als een zelfstandig instrument of pilotproject te behandelen.

U heeft grote AI-initiatieven geleid bij Spotify, Combient Mix geschaald en verlaten en later de enterprise AI-strategie bij Silo AI gevormd voordat u Kovant oprichtte. Wat waren de specifieke lacunes of frustraties die u in die rollen tegenkwam die u ervan overtuigden dat het tijd was om een autonoom enterprise-platform te bouwen, en hoe heeft die geschiedenis de core-ontwerpfilosofie van Kovant gevormd?

Over mijn eerdere rollen heen, waren er een paar consistente lacunes die steeds opdoken. Ten eerste zijn de meeste “verticale” AI-instrumenten effectief gevangen in een enkele softwarestack: ze doen één ding een beetje beter binnen die grenzen, maar worstelen zodra een workflow meerdere systemen moet overspannen. Tegelijkertijd is enterprise-data verspreid over veel instrumenten, en veel automatiseringsoplossingen kunnen die data gewoon niet bereiken. Laag op laag integraties en je krijgt klassieke spaghettitectuur: complexiteit stijgt, verandering wordt langzamer, en teams eindigen met het automatiseren van individuele stappen in plaats van het opnieuw ontwerpen van de workflow van begin tot eind. Het resultaat is dat de ROI vaak langzamer en kleiner binnenkomt dan organisaties verwachten.

Kovant is ontworpen als reactie op die realiteit. Onze core-filosofie is dat agents meer als medewerkers moeten functioneren: ze werken over meerdere instrumenten, ze worden “ingehuurd” om taken uit te voeren, niet om één enkele, vastgelegde sequentie te automatiseren. Dat is waarom integraties en orkestratie ingebouwd zijn, en waarom we ervan uitgaan dat enterprise-data vaak rommelig en ongestructureerd is – het heeft een meer menselijke aanpak nodig om uitzonderingen en ambiguïteit te behandelen.

We gebruiken foundation-agents om snelheid en schaal te bereiken, terwijl we data-soevereiniteit centraal stellen: ondernemingen kunnen hun eigen data horizontaal toegang geven en gebruiken zonder dat het hun terrein verlaat.

Kovant positioneert zich als een autonoom enterprise-platform dat in staat is om complete operaties en afdelingen met AI-agents uit te voeren. Hoe definieert u “autonoom” in een enterprise-context, en hoe verschilt dit van de automatiserings- en agent-instrumenten die bedrijven nu al experimenteren?

In een enterprise-context, wanneer we “autonoom” zeggen, bedoelen we niet “onbegeleid”. We bedoelen dat AI-agents echte acties kunnen uitvoeren van begin tot eind over een operatie met duidelijke doelen en bewakingsmechanismen, en dat ze zullen escaleren naar mensen wanneer toezicht nodig is.

Wat Kovant onderscheidt, zijn onze foundation-agents. In plaats van één enkele, vaste proces of vooraf gebouwde sequentie te automatiseren, kunnen Kovant-agents als een team (of zwerm) werken aan een operatie met behulp van alleen instructies en een operations-overzicht dat we een blueprint noemen. Ze zijn niet ontworpen voor één enkele, smalle taak; ze werken samen om complexe workflows op te lossen, passen zich aan bij veranderingen in de omstandigheden en geven over aan mensen wanneer de situatie toezicht vereist.

Als voorbeeld kan een inventarisbeheer-agentteam alle volgende taken uitvoeren zonder ze opnieuw van scratch te hoeven bouwen, waaronder: communiceren met leveranciers via e-mail, inventarisniveaus en uitverkoopsignalen bewaken, zendingen en inkooporders volgen, statussen bijwerken over systemen, afwijkingstickets maken voor inventarisplanners om goed te keuren, inventaris tussen magazijnen herverdelen, en inventarisrapporten consolideren.

De verschuiving is dus van “chat plus instrumenten” of broze automatiseringen die breken bij schaalvergroting, naar het verplaatsen van ondernemingen van het bouwen van agents naar het uitvoeren ervan op schaal.

Ondanks het enorme interesse in agentic AI, blijven veel organisaties vastzitten in pilootmodus. Wat zijn, volgens uw observaties in reële implementaties, de belangrijkste redenen waarom bedrijven moeite hebben om over te gaan van experimenten naar geschaalde productie?

Wat we zien, is dat de meeste organisaties niet vastzitten in pilootmodus omdat het idee verkeerd is; ze zitten vast omdat de omgeving vijandig is voor schaalvergroting.

De eerste blocker is het gefragmenteerde enterprise-tech-landschap. Workflows overspannen veel systemen, data leeft in meerdere plaatsen, en het samenstellen van alles op een betrouwbare manier is moeilijk. En agentic AI wordt vaak ingezet als een add-on voor bestaande instrumenten, in plaats van als een manier om na te denken over hoe de workflow van begin tot eind zou moeten lopen.

Er is ook een echt architectuur- en dataprobleem. Veel SaaS-leveranciers proberen data nog steeds op te sluiten, wat incompatibiliteiten creëert en beperkt wat agents werkelijk kunnen doen over systemen. En veel teams onderschatten het feit dat de meeste enterprise-data ongestructureerd is (e-mails, documenten, tickets, PDF’s, chatlogs). Als uw aanpak ervan uitgaat dat data schoon en gestructureerd is, wordt de time-to-value lang, pijnlijk en moeilijk te repliceren buiten de piloot.

Kortom: fragmentatie, lock-in en ongestructureerde data creëren weerstand – en pilots worden nooit productie totdat deze realiteiten zijn ontworpen.

Betrouwbaarheid wordt vaak genoemd als de grootste blocker voor het implementeren van AI-agents in de echte wereld. Waarom falen veel agent-systemen zodra ze controlled environments verlaten, en hoe vermindert Kovant’s aanpak problemen zoals hallucinaties en onvoorspelbaar gedrag?

Sommige agent-systemen zien er geweldig uit in demo’s, maar falen in de echte wereld omdat de omgeving rommelig en onvoorspelbaar is. Data is onvolledig of inconsistent, randgevallen komen constant voor (terugbetalingen, geschillen, speciale goedkeuringen). Workflows overspannen meerdere instrumenten, platforms en integraties die in de loop van de tijd veranderen, en toegangsrechten variëren. Wanneer een AI-agent wordt gevraagd om een grote taak te verwerken en te veel context in één keer krijgt, neemt het risico van hallucinaties en vreemd gedrag toe.

Kovant vermindert dit door ontwerp. Onze unieke architectuur verkleint de probleemruimte, beslissingsruimte en context die modellen werken met om hallucinaties te verminderen. We breken operaties ook op in smallere, gefocuste taken voor individuele agents en stappen. Dat maakt gedrag voorspelbaarder en voegt traceerbaarheid en controleerbaarheid toe aan het systeem en kan hallucinaties beter beheren. We kunnen zien wat elke agent heeft gedaan, waar een fout is begonnen, en ingrijpen of escaleren wanneer nodig.

Hallucinaties verdwijnen niet magisch, maar door de context en verantwoordelijkheid van elke agent te beperken, kunnen we de frequentie en impact ervan verminderen. Deze “verkleinde taak/context”-aanpak is ook ondersteund door recent onderzoek van Nvidia’s (NVDA ) onderzoeksteam, dat soortgelijke voordelen vond van het beperken van agent-beslissingen.

Verantwoordelijkheid is een groot zorgpunt nu AI-agents echte acties in bedrijfssystemen beginnen te nemen. Hoe veranderen gedetailleerde actielogboeken de discussie over vertrouwen, compliance en operationeel risico?

Met gedetailleerde actielogboeken kunnen we zien wat er is gebeurd, waarom het is gebeurd en wat er gebeurt.

De gedetailleerde logboeken veranderen een agent van een mysterieus bot dat in de machine werkt in een systeem dat kan worden geïnspecteerd.

Bij Kovant, met elke AI-agent-implementatie, zal er een risicokaart zijn die de organisatie kan activeren, we hebben ingebouwd gatekeeping voor mensen voor risicovolle acties, zodat agents alleen die taken kunnen uitvoeren als een mens de beslissing heeft goedgekeurd en bevestigd. Alles wordt op dezelfde manier gelogd als een systeem van records en is traceerbaar.

We geloven dat het belangrijk is om actielogboeken te combineren met menselijke toezicht en observatie om het risico te minimaliseren. Het betekent dat u nog steeds de voordelen van snelheid en schaal van agents krijgt.

Er is een groeiend debat over of AI-agents überhaupt verzekerd kunnen worden vanwege hun ondoorzichtige besluitvorming. Hoe helpt het maken van agent-workflows auditeerbaar en replayable om het “black box”-probleem aan te pakken en de deur te openen naar verzekering?

Het “black box”-probleem is wat verzekering moeilijk maakt. Als u niet duidelijk kunt laten zien wat een agent heeft gedaan, waarom het is gedaan en welke controles er waren, is het moeilijk voor iedereen, vooral verzekeraars, om het risico te taxeren.

Onze aanpak is essentieel een uitbreiding van de verantwoordelijkheidsopzet in het vorige antwoord. We breken de beslissingsruimte en de impact van acties op in kleinere stukjes, zodat het model geen enkele, grote, ondoorzichtige beslissing neemt die een hele operatie kan beïnvloeden. Elke stap is smaller, voorspelbaarder en gemakkelijker te evalueren.

We voegen dan gedetailleerde logboeken, observatie en menselijke toezicht toe. Voor de meest belangrijke en impactvolle beslissingen gebruiken we een menselijke gatekeeper, zodat de agent alleen kan doorgaan na goedkeuring en bevestiging door een mens. Dat creëert veel meer zichtbaarheid in hoe de workflow zich in de praktijk gedraagt.

Het maken van workflows auditeerbaar en replayable is het laatste stuk. Als er iets misgaat, kunt u reproduceer wat er is gebeurd, onderzoeken het snel, valideren fixes en demonstreren hoe vaak menselijke goedkeuring vereist is en waar de veiligheidsmaatregelen zitten. In onderhandelingstermen verandert dat mysterieus AI-gedrag in iets dat dichter bij standaard operationeel risico ligt.

Met initiatieven zoals de Agentic AI Foundation die gedeelde standaarden voor agentic systemen willen creëren, wat zijn de meest veelbelovende aspecten van deze inspanningen, en waar vallen ze nog steeds tekort voor echte enterprise-operaties?

Standaardisatie is over het algemeen een goede zaak. De AAIF kan het onglamoureuze maar essentiële werk doen om agent-systemen te laten communiceren in een gemeenschappelijke taal, wat integraties gemakkelijker moet maken en vendor lock-in over tijd moet verminderen.

Waar ik voorzichtig ben, is wiens perspectief de standaarden vormt. Als het meeste werk wordt geleid door modelmakers en technologie-schaalups, is er een risico dat de “standaarden” optimaliseren voor wat het makkelijkst is om te bouwen of te demonstreren, in plaats van wat grote organisaties echt nodig hebben om agents veilig dagelijks te laten draaien.

Voor echte enterprise-operaties liggen de lacunes minder in connectors en meer in controle: wat een agent kan toegang geven en veranderen, goedkeuringsworkflows voor hoge-impactacties, auditeerbaar logboek en observatie, zodat teams gedrag kunnen controleren, incidenten kunnen onderzoeken en compliance kunnen aantonen. Ondernemingen hebben ook praktische standaarden nodig voor het opereren in de rommelige realiteit: testen tegen randgevallen, omgaan met veranderende systemen en in staat zijn om acties veilig te pauzeren, te containen of terug te draaien over legacy-instrumenten en gereguleerde data-omgevingen.

Het is een veelbelovende richting, maar de impact zal beperkt zijn tenzij enterprise-eisen en operationele risicobeheersing niet als een bijzaak worden behandeld.

Kovant heeft al aanzienlijke inkomsten gegenereerd uit grote Noord-Europese ondernemingen, terwijl het grotendeels in stealth-mode opereert. Wat voor soort bedrijfsfuncties of workflows zijn het meest klaar voor autonome AI-agents vandaag?

Uit wat we hebben gezien in reële implementaties, zijn de workflows die het meest “klaar” zijn vandaag, die bestaan uit reactieve white-collar-werk: monitoren, najagen, controleren, systeem-updates, uitzonderingen afhandelen en operaties laten draaien over meerdere instrumenten.

In de productie en bredere enterprise-supply chains komt dit tot uiting in:

• Inkoop/procurement: grondstofbeschikbaarheid, duurzame inkoop, compliance-operations, leveranciersselectie (inclusief dubbele/multi-sourcing), contractbeheer, leveranciersrisicobeheer en aanbesteding/beheer.
• Productie: capaciteitsplanning, productieplanning, onderhoudsbeheer, kwaliteitsbeheer, bottleneckbeheer en verliespreventie.
• Magazijnbeheer: ontvangst en inspectie, voorraadbeheer, stockrotatie (FIFO/FEFO) en cyclustelling/auditing.
• Transport/Logistiek: modus- en vervoerdersselectie, douane-aangiftes/documentatie, tracking en zichtbaarheid, emissiebewaking en handelscompliance.
• Verkoop en service: productbeschikbaarheid, uitverkooppreventie, verkoop/retourbeheer, consumentengedragsanalyse, plus naservice-gebieden zoals reparaties, eind-levenstracking, workshop-operations en servicecontracten.

Wanneer ondernemingen AI-agents over kritieke operaties implementeren, hoe beveelt u aan om autonomie te balanceren met menselijke toezicht om controle te behouden zonder alles te vertragen?

De balans wordt bepaald door governed autonomy. U moet agents toestaan om snel te werken op laag-risicowerk binnen duidelijke bewakingsmechanismen, en escaleren naar mensen wanneer de actie een gedefinieerde risicodrempel overschrijdt.

Veel fouten komen voort uit het geven van het model te veel scope en te veel context in één keer. Ik beveel aan om operaties op te breken in smallere, smalle beslissingen, waar elke stap duidelijke toegangsrechten en een beperkt impactgebied heeft. Dat vermindert onvoorspelbaar gedrag en maakt prestaties gemakkelijker te controleren en te verbeteren.

Daarna combineert u drie dingen: observatie, actielogboeken en menselijke gatekeeping. Alles wat de agent doet, moet traceerbaar zijn, zodat u kunt inspecteren wat er is gebeurd en snel onderzoeken. Voor hoge-impact- of risicovolle acties, plaatst u een menselijke goedkeuringsstap in de workflow, zodat de agent kan voorstellen en voorbereiden, maar alleen uitvoert als een persoon heeft goedgekeurd.

Dat houdt dingen in beweging. Als het enige wat vertraagt, is het menselijke toezichtsstap, maar dat is een belangrijk onderdeel van het proces. Mensen zijn niet vastgeroest aan het toezicht houden op elke klik, maar ze zijn nog steeds in controle van de momenten die ertoe doen. Het resultaat is snelheid waar het veilig is, en toezicht waar het nodig is.

Kijkend naar de toekomst, hoe verwacht u dat de rol van autonome AI-agents zal evolueren binnen grote ondernemingen in de komende jaren, en wat zal het verschil maken tussen bedrijven die slagen met agentic AI en diegenen die worstelen?

In de komende jaren zullen autonome AI-agents zich ontwikkelen van interessante experimenten tot een echte operationele laag binnen grote ondernemingen. Ze zullen worden gebruikt voor operaties, klantenservice, financiën en HR. Naarmate betrouwbaarheid, governance en toezicht verbeteren, zullen we ondernemingen zien verschuiven van geïsoleerde pilots naar het uitvoeren van agent-teams over end-to-end workflows.

De grootste verandering is dat snelheid, flexibiliteit, schaal, efficiëntie en kosten een veel directere concurrentiehefboom zullen worden. Ik denk dat een “Uber-beweging” voor ondernemingen aan de horizon ligt. Diegenen die echt meesterschap over agentic AI hebben, zullen in staat zijn om op een fundamenteel hoger tempo te opereren dan achterblijvers, markten sneller te veroveren en op verandering te reageren zonder de gebruikelijke operationele weerstand.

Wat het verschil maakt, is niet alleen het implementeren van agents, maar het implementeren ervan op een goede manier. Governed autonomy, sterke observatie en actielogboeken, en architectuur die de beslissingsruimte verkleint, zullen cruciaal zijn. Ondernemingen die agentic AI behandelen als een core-operatiecapaciteit, met de juiste controles, integratie en eigendom, zullen het gebruiken om meer te doen, niet minder. Dat zal teams in staat stellen om zich te concentreren op groei en innovatie in plaats van hun dagen door te brengen in administratieve taken. Kortom, radicale snelheid en efficiëntie worden een echte concurrentievoordeel op enterprise-schaal.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Kovant bezoeken.