Ali Sarrafi, CEO en oprichter van Kovant – Interviewserie

Ali Sarrafi, De CEO en oprichter van Kovant is een ervaren technologie- en AI-manager gevestigd in Stockholm met een bewezen staat van dienst in het opbouwen en schalen van snelgroeiende AI-bedrijven. Sinds de oprichting van Kovant eind 2024 heeft hij gebruikgemaakt van zijn diepgaande ervaring in AI-strategie voor bedrijven, marktintroductie en operationele schaalvergroting. Daarvoor was hij Vice President of Strategy bij Silo AI na de overname door AMD, waar hij verantwoordelijk was voor het vormgeven van de AI-strategie voor bedrijven en het stimuleren van grootschalige implementatie. Eerder in zijn carrière was hij medeoprichter van Combient Mix, dat hij door een periode van snelle groei en een succesvolle overname door Silo AI leidde. Sindsdien heeft hij adviserende en bestuurlijke functies bekleed bij startups in de onderwijs- en AI-sector, wat zijn consistente focus op het vertalen van geavanceerde AI naar concrete zakelijke impact weerspiegelt.

Kovant Kovant is een AI-bedrijf voor de zakelijke markt dat zich richt op het begeleiden van organisaties bij de overgang van experimenteel AI-gebruik naar volledig operationele, autonome bedrijfsprocessen. Het bedrijf ontwikkelt een agentgebaseerd platform dat is ontworpen om teams van AI-agenten te orkestreren binnen complexe operationele domeinen zoals inkoop, supply chains, compliance en klantenservice. Door de nadruk te leggen op veilige implementatie op bedrijfsniveau en een snelle time-to-value, positioneert Kovant zich als een brug tussen strategische AI-ambities en de dagelijkse uitvoering. Het bedrijf helpt grote organisaties AI direct in hun kernworkflows te integreren in plaats van het te behandelen als een losstaand instrument of pilotproject.

Je hebt leiding gegeven aan belangrijke AI-initiatieven bij Spotify, Combient Mix opgeschaald en verkocht, en later de bedrijfsbrede AI-strategie bij Silo AI vormgegeven voordat je Kovant oprichtte. Welke specifieke knelpunten of frustraties ben je in die functies tegengekomen die je ervan overtuigden dat het tijd was om een ​​autonoom bedrijfsplatform te bouwen, en hoe heeft die ervaring de kernontwerpfilosofie van Kovant gevormd?

In mijn vorige functies stuitte ik steeds op een aantal terugkerende knelpunten. Ten eerste zijn de meeste "verticale" AI-tools in feite gebonden aan één enkele softwarestack: ze doen één ding net iets beter binnen die grenzen, maar schieten tekort zodra een workflow meerdere systemen moet omvatten. Tegelijkertijd is bedrijfsdata verspreid over talloze tools, en veel automatiseringsoplossingen kunnen die data simpelweg niet bereiken. Voeg daar jarenlange puntintegraties aan toe en je krijgt de klassieke spaghetti-architectuur: de complexiteit neemt toe, veranderingen verlopen trager en teams automatiseren uiteindelijk individuele stappen in plaats van de workflow van begin tot eind opnieuw te ontwerpen. Het resultaat is dat de ROI vaak trager – en lager – binnenkomt dan organisaties verwachten.

Kovant is ontworpen als antwoord op die realiteit. Onze kernfilosofie is dat agents zich meer als werknemers moeten gedragen: ze werken met meerdere tools, ze worden "ing gehuurd" om taken uit te voeren, niet om één enkele, vooraf vastgelegde reeks te automatiseren. Daarom zijn integraties en orchestratie ingebouwd en gaan we ervan uit dat bedrijfsdata vaak rommelig en ongestructureerd is – het vereist een meer menselijke aanpak om uitzonderingen en onduidelijkheden af ​​te handelen.

We gebruiken foundation agents om snelheid en schaalbaarheid te bereiken, terwijl we de soevereiniteit van gegevens centraal stellen: bedrijven kunnen horizontaal toegang krijgen tot hun eigen gegevens en deze gebruiken zonder dat de gegevens hun eigen locatie verlaten.

Kovant positioneert zichzelf als een autonoom bedrijfsplatform dat in staat is om complete operationele processen en afdelingen aan te sturen met behulp van AI-agenten. Hoe definieer je 'autonoom' in een bedrijfscontext, en waarin verschilt dit van de automatiserings- en agenttools waarmee bedrijven momenteel al experimenteren?

In een bedrijfscontext bedoelen we met "autonoom" niet "zonder toezicht". We bedoelen dat AI-agenten zelfstandig acties kunnen uitvoeren van begin tot eind binnen een operationele eenheid, met duidelijke doelen en richtlijnen, en dat ze mensen inschakelen wanneer toezicht nodig is.

Wat Kovant onderscheidt, zijn onze basisagents. In plaats van een enkel, vast proces te automatiseren of een vooraf gedefinieerde volgorde te volgen, kunnen Kovant-agents als een team (of zwerm) samenwerken aan een operatie met behulp van alleen instructies en een operationeel overzicht dat we een blauwdruk noemen. Ze zijn niet ontworpen voor één specifieke taak; ze werken samen om complexe workflows op te lossen, passen zich aan veranderende omstandigheden aan en dragen taken over aan mensen wanneer de situatie toezicht vereist.

Een team van voorraadbeheerders kan bijvoorbeeld alle volgende taken uitvoeren zonder deze volledig opnieuw op te bouwen, waaronder: communiceren met leveranciers via e-mail, voorraadniveaus en signalen van voorraadtekorten bewaken, zendingen en inkooporders volgen, statussen in verschillende systemen bijwerken, afwijkingstickets aanmaken ter goedkeuring door voorraadplanners, voorraad herverdelen tussen magazijnen en voorraadrapporten consolideren.

De verschuiving is dus dat bedrijven niet langer kiezen voor "chat plus tools" of kwetsbare automatiseringssystemen die op grote schaal vastlopen, maar overstappen van het bouwen van agents naar het op grote schaal uitvoeren ervan.

Ondanks de enorme belangstelling voor AI-agenten, zitten veel organisaties nog steeds vast in de pilotfase. Wat zijn volgens u, op basis van uw ervaringen met daadwerkelijke implementaties, de belangrijkste redenen waarom bedrijven moeite hebben om van experimenteren naar grootschalige productie over te stappen?

Wat we zien, is dat de meeste organisaties niet in de pilotfase blijven hangen omdat het idee verkeerd is, maar omdat de omgeving ongunstig is voor opschaling.

De eerste belemmering is het gefragmenteerde technologielandschap binnen bedrijven. Werkstromen omvatten talloze systemen, data bevindt zich op meerdere plaatsen en het is lastig om alles betrouwbaar met elkaar te verbinden. Bovendien wordt AI vaak ingezet als een aanvulling op bestaande tools, in plaats van als een manier om de workflow van begin tot eind te herzien.

Er is ook een reëel probleem met de architectuur en de data. Veel SaaS-leveranciers proberen data nog steeds te vergrendelen, wat incompatibiliteiten creëert en de mogelijkheden van agents in verschillende systemen beperkt. Bovendien onderschatten veel teams het feit dat de meeste bedrijfsdata ongestructureerd is (e-mails, documenten, tickets, pdf's, chatlogs). Als je aanpak uitgaat van schone, gestructureerde data, wordt het bereiken van waarde een langdurig, moeizaam en moeilijk te repliceren project na de pilotfase.

Kortom: fragmentatie, vendor lock-in en ongestructureerde data zorgen voor vertraging – en pilotprojecten gaan pas over in productie als daar rekening mee is gehouden in het ontwerp.

Betrouwbaarheid wordt vaak genoemd als de grootste belemmering voor de inzet van AI-agenten in de echte wereld. Waarom falen zoveel agentsystemen zodra ze de gecontroleerde omgeving verlaten, en hoe vermindert de aanpak van Kovant problemen zoals hallucinaties en onvoorspelbaar gedrag?

Sommige agentsystemen zien er geweldig uit in demo's, maar falen in de praktijk omdat de omgeving rommelig en onvoorspelbaar is. Gegevens zijn onvolledig of inconsistent, er duiken constant uitzonderlijke gevallen op (terugbetalingen, geschillen, speciale goedkeuringen). Werkprocessen omvatten meerdere tools, platforms en integraties die in de loop van de tijd veranderen, en machtigingen variëren. Wanneer een AI-agent een grote taak moet uitvoeren en tegelijkertijd te veel context krijgt, neemt het risico op hallucinaties en vreemd gedrag toe.

Kovant vermindert dit door het ontwerp. Onze unieke architectuur verkleint de probleemruimte, de beslissingsruimte en de context waarmee modellen werken, waardoor hallucinaties worden verminderd. We splitsen bewerkingen ook op in smalle, gerichte taken voor individuele agenten en stappen. Dat maakt gedrag voorspelbaarder, voegt traceerbaarheid en beheersbaarheid toe aan het systeem en kan hallucinaties beter beheersen. We kunnen zien wat elke agent heeft gedaan, waar een storing is begonnen en ingrijpen of escaleren wanneer nodig.

Hallucinaties verdwijnen niet zomaar, maar door de verantwoordelijkheden van elke agent te beperken en de context waarin deze kan handelen te verkleinen, kunnen we de frequentie en de impact ervan verminderen. Deze aanpak met een "verkleinde taak/context" wordt ook ondersteund door recent onderzoek van het onderzoeksteam van Nvidia, dat vergelijkbare voordelen ontdekte door de besluitvorming van agenten te beperken.

Verantwoording afleggen is een belangrijk aandachtspunt nu AI-agenten daadwerkelijk acties gaan uitvoeren in bedrijfssystemen. Hoe veranderen gedetailleerde actielogboeken het gesprek over vertrouwen, naleving en operationeel risico?

Met gedetailleerde actielogboeken kunnen we zien wat er is gebeurd, waarom het is gebeurd en wat er vervolgens moet gebeuren.

De gedetailleerde logboeken transformeren een agent van een mysterieuze bot die in de machine werkt tot een systeem dat je kunt inspecteren.

Bij Kovant maken we voor elke AI-agentimplementatie een risicokaart waarop de organisatie kan reageren. We hebben een ingebouwd filtermechanisme voor risicovolle acties, wat betekent dat agents die taken alleen kunnen uitvoeren als een mens de beslissing beoordeelt en goedkeurt. Al deze acties worden op dezelfde manier geregistreerd als in een systeem van gegevensregistratie en zijn traceerbaar.

Wij zijn ervan overtuigd dat het belangrijk is om actielogboeken te combineren met menselijk toezicht en observeerbaarheid om het risico te minimaliseren. Dit betekent dat u nog steeds profiteert van de snelheid en schaalvoordelen van agents die daadwerkelijke operaties uitvoeren.

Er is een groeiende discussie over de vraag of AI-agenten überhaupt wel verzekerbaar zijn vanwege hun ondoorzichtige besluitvorming. Hoe kan het traceerbaar en reproduceerbaar maken van de workflows van agenten bijdragen aan het oplossen van het 'black box'-probleem en de weg vrijmaken voor verzekerbaarheid?

Het 'black box'-probleem maakt verzekerbaarheid lastig. Als je niet duidelijk kunt aantonen wat een agent heeft gedaan, waarom hij het heeft gedaan en welke controles er waren, is het voor iedereen, en zeker voor verzekeraars, moeilijk om het risico te beprijzen.

Onze aanpak is in wezen een uitbreiding van de verantwoordingsstructuur uit het vorige antwoord. We splitsen de reikwijdte van de beslissing en de impact van acties op in kleinere onderdelen, zodat het model geen gigantische, ondoorzichtige beslissing neemt die een hele operatie kan beïnvloeden. Elke stap is smaller, voorspelbaarder en gemakkelijker te evalueren.

Vervolgens voegen we gedetailleerde logboeken, observeerbaarheid en menselijk toezicht toe. Voor de belangrijkste en meest impactvolle beslissingen zetten we een menselijke gatekeeper in, zodat de agent pas verder kan na beoordeling en goedkeuring. Dat zorgt voor veel meer inzicht in hoe de workflow in de praktijk werkt.

Het traceerbaar en reproduceerbaar maken van workflows is de laatste stap. Als er iets misgaat, kunt u reproduceren wat er is gebeurd, het snel onderzoeken, oplossingen valideren en aantonen hoe vaak menselijke goedkeuring vereist is en waar de waarborgen zich bevinden. In termen van verzekeringen betekent dat het volgende: mysterieus AI-gedrag naar iets dat meer lijkt op standaard operationeel risico.

Met initiatieven zoals de Agentic AI Foundation die tot doel hebben gedeelde standaarden voor agentsystemen te creëren, wat ziet u als de meest veelbelovende aspecten van deze inspanningen, en waar schieten ze nog tekort voor daadwerkelijke bedrijfsactiviteiten?

Standaardisatie is over het algemeen een goede zaak. De AAIF kan het minder aantrekkelijke, maar essentiële werk op zich nemen om agentsystemen dezelfde taal te laten spreken, wat integraties zou moeten vergemakkelijken en de afhankelijkheid van één leverancier op de lange termijn zou moeten verminderen.

Waar ik voorzichtig mee ben, is wiens perspectief de standaarden bepaalt. Als het meeste werk wordt geleid door modelbouwers en tech-scale-ups, bestaat het risico dat de "standaarden" geoptimaliseerd worden voor wat het gemakkelijkst te bouwen of te demonstreren is, in plaats van voor wat grote organisaties daadwerkelijk nodig hebben om agents dagelijks veilig te kunnen gebruiken.

Voor daadwerkelijke bedrijfsactiviteiten liggen de knelpunten doorgaans minder in de verbindingen en meer in de controle: waartoe een agent toegang heeft en wat hij kan wijzigen, goedkeuringsworkflows voor acties met grote impact, controleerbare logboeken en inzicht zodat teams gedrag kunnen monitoren, incidenten kunnen onderzoeken en naleving kunnen aantonen. Bedrijven hebben ook praktische standaarden nodig om te kunnen opereren in een complexe realiteit: testen op uitzonderlijke gevallen, omgaan met veranderende systemen en acties veilig kunnen pauzeren, beperken of terugdraaien in legacy-tools en gereguleerde dataomgevingen.

Het is dus een veelbelovende richting, maar de impact zal beperkt blijven tenzij bedrijfsvereisten en operationele risicobeheersing niet als een bijzaak worden beschouwd.

Kovant heeft al aanzienlijke inkomsten gegenereerd bij grote Scandinavische bedrijven, terwijl het grotendeels in het geheim opereert. Welke soorten bedrijfsfuncties of workflows blijken vandaag de dag het meest geschikt voor autonome AI-agenten?

Uit onze ervaringen met daadwerkelijke implementaties blijkt dat de meest 'klaar voor gebruik'-workflows momenteel bestaan ​​uit reactief, administratief werk: monitoren, opvolgen, controleren, systemen bijwerken, uitzonderingen afhandelen en de operationele processen soepel laten verlopen met behulp van meerdere tools.

In de productie en de bredere toeleveringsketens van bedrijven komt dat tot uiting in:

• Inkoop/aanbestedingDit omvat: beschikbaarheid van grondstoffen, duurzame inkoop, naleving van regelgeving, leveranciersselectie (inclusief dubbele/meervoudige inkoop), contractbeheer, leveranciersrisicobeheer en aanbestedings-/offertebeheer.
• productieCapaciteitsplanning, productieplanning, onderhoudsbeheer, kwaliteitsbeheer, knelpuntenbeheer en verliespreventie.
• WarehousingOntvangst en inspectie, voorraadbeheer, voorraadrotatie (FIFO/FEFO) en cyclische tellingen/audits.
• Vervoer / logistiek: keuze van transportmiddel en vervoerder, douaneafhandeling/documentatie, tracking en zichtbaarheid, emissiemonitoring en naleving van handelsvoorschriften.
• Verkoop en serviceProductbeschikbaarheid, voorraadtekortpreventie, verkoop-/retourbeheer, analyse van consumentengedrag, plus aftersales-gebieden zoals reparaties, het bijhouden van de levensduur van producten, werkplaatsactiviteiten en servicecontracten.

Wanneer bedrijven AI-agenten inzetten voor cruciale processen, hoe raadt u dan aan om een ​​balans te vinden tussen autonomie en menselijk toezicht, zodat de controle gewaarborgd blijft zonder de processen te vertragen?

Het evenwicht wordt bepaald door autonomie. Je moet agenten snel laten handelen bij taken met een laag risico binnen duidelijke kaders, en mensen inschakelen wanneer de actie een bepaalde risicodrempel overschrijdt.

Veel mislukkingen komen voort uit het feit dat het model te veel reikwijdte en te veel context tegelijk krijgt. Ik raad aan om bewerkingen op te splitsen in kleinere, afgebakende beslissingen, waarbij elke stap duidelijke machtigingen en een beperkte impact heeft. Dat vermindert onvoorspelbaar gedrag en maakt de prestaties gemakkelijker te monitoren en te verbeteren.

Vervolgens combineer je drie dingen: observeerbaarheid, actielogboeken en menselijke controle. Alles wat de agent doet, moet traceerbaar zijn, zodat je kunt inspecteren wat er is gebeurd en snel onderzoek kunt doen. Voor acties met grote impact of risicovolle acties voeg je een menselijke goedkeuringsstap toe aan de workflow, zodat de agent acties kan voorstellen en voorbereiden, maar deze pas uitvoert nadat iemand zijn goedkeuring heeft gegeven.

Dat zorgt ervoor dat alles vlot verloopt. Het vertraagt ​​hooguit een klein beetje bij de menselijke controle, maar dat is een belangrijk onderdeel van het proces. Mensen hoeven niet elke klik te controleren, maar ze hebben wel de controle over de momenten die ertoe doen. Het resultaat is snelheid waar het veilig is en toezicht waar het nodig is.

Hoe verwacht u dat de rol van autonome AI-agenten zich de komende jaren binnen grote organisaties zal ontwikkelen, en wat zal het succes van bedrijven met AI-agenten onderscheiden van bedrijven die daarin falen?

De komende jaren zullen autonome AI-agenten evolueren van interessante experimenten naar een volwaardige operationele laag binnen grote organisaties. Ze zullen worden ingezet voor operationele processen, klantenservice, financiën en HR. Naarmate de betrouwbaarheid, governance en het toezicht verbeteren, zullen bedrijven overstappen van geïsoleerde pilotprojecten naar teams van agenten die end-to-end workflows beheren.

De grootste verandering is dat snelheid, wendbaarheid, schaalbaarheid, efficiëntie en kosten een veel directere concurrentiefactor zullen worden. Ik denk dat er een soort "Uber-beweging" voor bedrijven op komst is. De bedrijven die agentische AI ​​echt beheersen, zullen in staat zijn om in een fundamenteel hoger tempo te opereren dan de achterblijvers, sneller markten te veroveren en op veranderingen te reageren zonder de gebruikelijke operationele vertragingen.

Wat de winnaars onderscheidt, is niet alleen het inzetten van agents, maar vooral het goed inzetten ervan. Gecontroleerde autonomie, sterke observability en actielogs, en architecturen die de beslissingsruimte beperken, zullen daarbij cruciaal zijn. Bedrijven die agentische AI ​​als een kernactiviteit beschouwen, met de juiste controlemechanismen, integratie en verantwoordelijkheid, zullen er meer mee kunnen doen, niet minder. Dat geeft teams de ruimte om zich te richten op groei en innovatie in plaats van hun dagen te besteden aan administratie. Kortom, radicale snelheid en efficiëntie worden een echt concurrentievoordeel op bedrijfsniveau.

Bedankt voor het geweldige interview, lezers die meer willen weten, zouden moeten bezoeken Kovant.