Ali Sarrafi, administrerende direktør og grundlægger af Kovant – Intervieuserie

Ali Sarrafi, administrerende direktør og grundlægger af Kovant, er en erfaren teknologi- og AI-direktør med base i Stockholm med en track record for at bygge og skala op højvækst AI-virksomheder. Siden grundlæggelsen af Kovant i slutningen af 2024 har han draget på dyb erfaring indenfor enterprise AI-strategi, markedsføring og operationel skala. Tidligere fungerede han som vicepræsident for strategi i Silo AI efter opkøbet af AMD, hvor han var ansvarlig for at forme enterprise AI-strategi og drive storstilet adoption. Tidligere i sin karriere var han medstifter af Combient Mix, hvor han ledede virksomheden gennem hurtig vækst og en succesfuld opkøb af Silo AI, og har siden da haft rådgivende og bestyrelsesroller i uddannelses- og AI-startups, hvilket afspejler en konstant fokus på at oversætte avanceret AI til reel forretningsvirkning.

Kovant er en enterprise AI-virksomhed, der fokuserer på at enable organisationer til at gå fra eksperimentel AI-brug til fuldt operativ, autonom forretningsproces. Virksomheden udvikler en agent-baseret platform, der er designet til at koordinere hold af AI-agenter på tværs af komplekse operationelle domæner såsom indkøb, leverandørkæder, compliance og kundeoperationer. Ved at betone sikker, enterprise-klar udvikling og hurtig tid-til-værdi positionerer Kovant sig som en bro mellem strategisk AI-ambition og dag-til-dag-udførelse, hvilket hjælper store organisationer med at integrere AI direkte i kerneprocesser i stedet for at behandle det som et selvstændigt værktøj eller pilotprojekt.

Du har ledet store AI-initiativer hos Spotify, skaleret og afsluttet Combient Mix, og senere formet enterprise AI-strategi hos Silo AI, før du grundlagde Kovant. Hvad var de specifikke huller eller frustrationer, du mødte i disse roller, der overbeviste dig om, at det var tid at bygge en autonom enterprise-platform, og hvordan har den historie formet Kovants kerne-designfilosofi?

TVærs igennem mine tidligere roller dukkede nogle konsistente huller op. Først er de fleste “vertikale” AI-værktøjer effektivt fanget i en enkelt software-stack: de gør én ting lidt bedre inden for den grænse, men kæmper, når en workflow skal omfatte flere systemer. Samtidig er enterprise-data spredt over mange værktøjer, og mange automatiseringsløsninger kan ikke nå det. Lag på år med punkt-integrationer, og du får klassisk spaghetti-arkitektur: kompleksiteten stiger, ændring bliver langsommere, og hold ender med at automatisere enkelttrin i stedet for at genopfinde workflow’en fra ende til anden. Resultatet er, at ROI ofte ankommer langsommere – og mindre – end organisationer forventer.

Kovant er designet som en respons på den virkelighed. Vores kernefilosofi er, at agenter skal opføre sig mere som medarbejdere: de arbejder på tværs af flere værktøjer, de “ansættes” til at udføre job, ikke til at automatisere en enkelt scriptet sekvens. Det er derfor, integrationer og koordination er bygget ind, og vi antager, at enterprise-data ofte er beskidt og ustruktureret – det kræver en mere menneske-lignende tilgang til at håndtere undtagelser og tvetydighed.

Vi bruger grundlæggende agenter til at opnå hastighed og skala, mens vi holder data-suverænitet i forgrunden: virksomheder kan få adgang til og bruge deres egen data vandret uden at det forlader deres lokalitet.

Kovant positionerer sig som en autonom enterprise-platform, der kan køre hele operationer og afdelinger med AI-agenter. Hvordan definerer du “autonom” i en enterprise-kontekst, og hvordan adskiller det sig fra automatisering og agent-værktøjer, som virksomheder allerede eksperimenterer med i dag?

I en enterprise-kontekst, når vi siger “autonom”, mener vi ikke “usuperviseret”. Vi mener, at AI-agenter kan tage virkelige handlinger fra ende til anden på en operation med klare mål og guardrails, og de vil eskalere til mennesker, når tilsyn er nødvendigt.

Hvad der gør Kovant anderledes, er vores grundlæggende agenter. I stedet for at automatisere en enkelt, fast proces eller følge en forudbygget sekvens, kan Kovant-agenter arbejde som et hold (eller swarm) på en operation ved hjælp af blot instruktioner og en operations-overblik, som vi kalder en blueprint. De er ikke designet til én smal opgave; de samarbejder om at løse komplekse workflows, tilpasse sig, når betingelserne ændrer sig, og overdrage til mennesker, når situationen kræver tilsyn.

For eksempel kan et lagerstyrings-agenthold udføre følgende job uden at genopbygge dem fra scratch, herunder: kommunikere med leverandører via e-mail, overvåge lager niveauer og udsalgssignaler, spore leverancer og købsordrer, opdatere statusser på tværs af systemer, oprette afvigelsesbilletter til lagerplanlæggere til at godkende, redistribuere lager mellem lagerhuse, og konsolidere lager-rapporter.

Så skiftet er i stedet for “chat plus værktøjer” eller skrøbelige automatiseringer, der bryder sammen i skala, virksomheder flytter fra at bygge agenter til at køre dem i skala.

Trods massiv interesse for agentic AI, bliver mange organisationer fast i pilot-mode. Fra hvad du ser i virkelige installationer, hvilke er de primære årsager, virksomheder kæmper med at flytte fra eksperiment til skala?

Det, vi ser, er, at de fleste organisationer ikke bliver fast i pilot-mode, fordi ideen er forkert; de bliver fast, fordi miljøet er fjendtligt over for skala.

Den første blokerer er den fragmenterede enterprise-teknologi-landskab. Workflows omfatter mange systemer, data bor i mange steder, og at sy sammen alt pålideligt er svært. Og agentic AI bliver ofte deployet som et tilføj til eksisterende værktøjer, i stedet for som en måde at genopfinde, hvordan workflow’en skal køre fra ende til anden.

Der er også et reel arkitektur- og data-problem. Mange SaaS-værktøjer prøver stadig at låse data inde, hvilket skaber inkompatibiliteter og begrænser, hvad agenter kan gøre på tværs af systemer. Og mange hold undervurderer, at de fleste enterprise-data er ustruktureret (e-mails, dokumenter, billetter, PDF’er, chat-logs). Hvis din tilgang antager ren, struktureret data, bliver tid-til-værdi lang, smertefuld og svær at reproducere ud over piloten.

I kort: fragmentering, låsning og ustruktureret data skaber drag – og piloter bliver aldrig til produktion, før disse realiteter er designet for.

Pålidelighed er ofte nævnt som den største blokerer for at deployere AI-agenter i den virkelige verden. Hvorfor fejler så mange agent-systemer, når de forlader kontrollerede miljøer, og hvordan reducerer Kovants tilgang problemer som hallucinationer og upredicible adfærd?

Nogle agent-systemer ser godt ud i demos, men fejler i den virkelige verden, fordi miljøet er beskidt og upredicible. Data er ufuldstændig eller inkonsistent, edge-cases viser sig konstant (refunder, disput, speciel godkendelse). Workflows omfatter mange værktøjer, platforme og integrationer, der ændrer sig over tid, og tilladelser varierer. Når en AI-agent bedes om at håndtere en stor opgave og får for meget kontekst på én gang, øges risikoen for hallucinationer og underlig adfærd.

Kovant reducerer dette ved design. Vores unikke arkitektur begrænser problemrummet, beslutningsrummet og konteksten, som modeller arbejder med for at reducere hallucinationer. Vi brækker også operationer ned i smalle, fokuserede opgaver for enkelt-agenter og trin. Det gør adfærd mere forudsigelig og tilføjer sporbarhed og kontrollérbarhed til systemet og kan håndtere hallucinationer bedre. Vi kan se, hvad hver agent gjorde, hvor en fejl startede, og intervenere eller eskalere, når det er nødvendigt.

Hallucinationer forsvinder ikke magisk, men ved at begrænse, hvad hver agent er ansvarlig for, og begrænse konteksten, den kan handle på, kan vi reducere deres frekvens og begrænse deres impact. Denne “snævret opgave/kontekst”-tilgang er også blevet understøttet af Nvidia’s forskningsteam, der fandt lignende fordele ved at begrænse agent-beslutning.

Ansvarlighed er en stor bekymring, når AI-agenter begynder at tage virkelige handlinger i forretnings-systemer. Hvordan ændrer detaljerede handling-logs samtalen om tillid, compliance og operationel risiko?

Med detaljerede handling-logs kan vi se, hvad der skete, hvorfor det skete og hvad der sker herefter.

De detaljerede logs omdanner en agent fra en mystisk bot, der arbejder i maskinen, til et system, du kan inspicere.

Ved Kovant, med enhver AI-agent-deployment, vil der være en risiko-kort, som organisationen kan handle på, vi har bygget indgående gate-keeping for mennesker for risikable handlinger, så agenter kun kan udføre disse opgaver, hvis en menneske gennemgår og godkender beslutningen. Alt dette er logget på samme måde som et system af optegnelser og er sporbar.

Vi mener, det er vigtigt at kombinere handling-logs med menneskeligt tilsyn og overvågning for at minimere risikoen. Det betyder, du stadig får hastigheds- og skalafordelene ved, at agenter kører virkelige operationer.

Der er en voksende diskussion om, hvorvidt AI-agenter overhovedet kan forsikres på grund af deres uigennemsigtige beslutningsprocesser. Hvordan hjælper det med at gøre agent-workflows auditable og replayable med at tackle “black box”-problemet og åbne døren for forsikringsmuligheder?

“Black box”-problemet er, hvad der gør forsikringsmuligheder svære. Hvis du ikke kan tydeligt vise, hvad en agent gjorde, hvorfor det gjorde det, og hvilke kontroller var på plads, er det svært for nogen, især forsikringsvirksomheder, at prisrisikoen.

Vores tilgang er essentielt en udvidelse af ansvarlighedsopsætningen i det foregående svar. Vi brækker beslutningsomfanget og virkningen af handlinger ned i mindre bidder, så modellen ikke tager en enkelt, gigantisk, uigennemsigtig beslutning, der kan svinge en hel operation. Hver trin er smallere, mere forudsigelig og lettere at evaluere.

Vi tilføjer derefter detaljerede logs, overvågning og menneskeligt tilsyn. For de vigtigste og mest betydningsfulde beslutninger bruger vi en menneskelig gatekeeper, så agenten kun kan fortsætte efter gennemgang og godkendelse. Det skaber langt mere synlighed i, hvordan workflow’en opfører sig i praksis.

At gøre workflows auditable og replayable er den sidste del. Hvis noget går galt, kan du reproducere, hvad der skete, undersøge det hurtigt, validere reparationer og demonstrere, hvor ofte menneskelig godkendelse er nødvendig og hvor sikkerhedsforanstaltningerne sidder. I underwriting-termer omdanner det mystisk AI-opførsel til noget, der ligner standard operationel risiko.

Med initiativer som Agentic AI Foundation, der søger at skabe fælles standarder for agentic-systemer, hvad ser du som de mest lovende aspekter af disse bestræbelser, og hvor falder de stadig kort for rigtige enterprise-operationer?

Standardisering er generelt en god ting. AAIF kan udføre det uglamourøse, men essentielle arbejde med at få agent-systemer til at tale det samme sprog, hvilket burde gøre integrationer lettere og reducere vendor-låsning over tid.

Hvor jeg er forsigtig, er hvis hvis arbejdet primært er ledet af model-skabere og teknologi-scale-ups, er der en risiko for, at “standarderne” optimerer for, hvad der er lettest at bygge eller demonstrere, i stedet for hvad store organisationer faktisk har brug for for at køre agenter sikkert dag til dag.

For rigtige enterprise-operationer tenderer hullerne til at være mindre omkring connectorer og mere omkring kontrol: hvad en agent kan få adgang til og ændre, godkendelses-workflows for høj-impact-handlinger, auditable logs og overvågning, så hold kan overvåge adfærd, undersøge uheld og bevise compliance. Virksomheder har også brug for praktiske standarder for at operere i beskidt virkelighed: test mod edge-cases, håndtering af ændrede systemer og mulighed for at pause, indeholde eller rulle tilbage handlinger sikkert på tværs af legacy-værktøjer og regulerede data-miljøer.

Så det er en lovende retning, men impacten vil være begrænset, medmindre enterprise-krav og operationel risiko-kontroller ikke behandles som en eftertanke.

Kovant har allerede genereret betydelig omsætning fra store nordiske virksomheder, mens de opererer primært i stealth. Hvilke typer af forretningsfunktioner eller workflows er mest klar til autonome AI-agenter i dag?

Fra hvad vi har set i virkelige installationer, er workflows, der består af reaktivt white-collar-arbejde, de mest “klare” i dag: overvågning, jagt, kontrol, opdatering af systemer, håndtering af undtagelser og vedligeholdelse af operationer på tværs af flere værktøjer.

I produktion og bredere enterprise-levende kæder viser det sig på tværs af:

• Indkøb/procurement: råmateriale-tilgængelighed, bæredygtig indkøb, compliance-ops, leverandørvalg (herunder dual/multi-sourcing), kontraktstyring, leverandørrisikostyring og budgivning.
• Produktion: kapacitetsplanlægning, produktionsskema, vedligeholdelsesstyring, kvalitetsstyring, flaskehalsstyring og tabforebyggelse.
• Lagerstyring: modtagelse & inspektion, lagerstyring, lagerrotation (FIFO/FEFO) og cyklus-tælling/auditing.
• Transport/logistik: valg af transportform og carrier, toldklarering/dokumentation, sporing & synlighed, emissions-overvågning og handels-compliance.
• Salg og service: produkt-tilgængelighed, salgs-/retur-styring, kundeadfærdsanalyse plus efter-salg-områder som reparationer, slut-brugssporing, værksted-ops og service-kontrakter.

Når virksomheder deployer AI-agenter på tværs af kritiske operationer, hvordan anbefaler du at balancere autonomi med menneskeligt tilsyn for at sikre kontrol uden at bremse alt ned?

Balancen styres af styret autonomi. Du må lade agenter bevæge sig hurtigt på lav-risiko-arbejde inden for klare guardrails og eskalere til mennesker, når handlingen krydser en defineret risiko-tærskel.

En del fejl kommer fra at give modellen for megen omfang og for megen kontekst på én gang. Jeg anbefaler at bryde operationer ned i små, snævert fokuserede beslutninger, hvor hver trin har klare tilladelser og en begrænset impact-radius. Det reducerer upredicible adfærd og gør præstation lettere at overvåge og forbedre.

Så kombinerer du tre ting: overvågning, handling-logs og menneskeligt gate-keeping. Alt, hvad agenten gør, skal være sporbar, så du kan inspicere, hvad der skete, og undersøge hurtigt. For høj-impact eller risikable handlinger sætter du en menneskelig godkendelses-trin i workflow’en, så agenten kan foreslå og forberede, men kun udføre, når en person godkender.

Det holder tingene i gang. Hvis noget blot langsommere, men det er en vigtig del af processen. Mennesker er ikke fastholdt i at overvåge hvert klik, men de er stadig i kontrol over de øjeblikke, der betyder noget. Resultatet er hastighed, hvor det er sikkert, og tilsyn, hvor det er nødvendigt.

Set fremad, hvordan forventer du, at rollen af autonome AI-agenter vil udvikle sig inden for store virksomheder i de næste par år, og hvad vil adskille virksomheder, der lykkes med agentic AI, fra dem, der kæmper?

Over de næste par år vil autonome AI-agenter flytte fra interessante eksperimenter til at blive et rigtigt operativt lag inden for store virksomheder. De vil blive brugt til operationer, kunde-service, finans og HR. Da pålidelighed, styring og tilsyn forbedres, vil vi se, at virksomheder flytter fra isolerede piloter til at køre agent-hold på tværs af end-to-end-workflows.

Den største ændring er, at hastighed, agility, skala, effektivitet og omkostninger bliver en mere direkte konkurrence-hef. Jeg tror, en “Uber-bevægelse” er på vej for virksomheder. De, der virkelig mestrer agentic AI, vil kunne operere i en fundamentalt hurtigere takt end langsomme, kapre markeder hurtigere og reagere på ændringer uden den sædvanlige operationelle drag.

Hvad der adskiller vinderne, er ikke kun at deploye agenter, men at deploye dem godt. Styret autonomi, stærk overvågning og handling-logs, og arkitekturer, der begrænser beslutningsomfanget, vil være nøgle til det. Virksomheder, der behandler agentic AI som en kerne-operativ evne, med de rigtige kontroller, integration og ejerskab, vil bruge det til at gøre mere, ikke mindre. Det vil frigøre hold til at fokusere på vækst og innovation i stedet for at bruge deres dage begravet i admin. I kort, radikal hastighed og effektivitet bliver en sand konkurrence-fordel på enterprise-skala. Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Kovant.