Ali Sarrafi, administrerende direktør og grundlægger af Kovant – interviewserien

Ali Sarrafi, administrerende direktør og grundlægger af Kovant, er en erfaren teknologi- og AI-direktør med base i Stockholm med en track record for at opbygge og skalere hurtigt voksende AI-virksomheder. Siden grundlæggelsen af Kovant i slutningen af 2024 har han trukket på indgående erfaring indenfor enterprise AI-strategi, gennemførelse af markedsstrategier og skalering af driften. Tidligere fungerede han som vicepræsident for strategi i Silo AI efter at AMD opkøbte Silo AI, hvor han var ansvarlig for at forme enterprise AI-strategi og drive storstilet adoption. Tidligere i sin karriere var han medstifter af Combient Mix, hvor han ledede virksomheden gennem hurtig vækst og et vellykket opkøb, hvor Silo AI købte virksomheden, og har siden da haft rådgivende og bestyrelsesroller i uddannelses- og AI-startups, hvilket afspejler et konstant fokus på at oversætte avanceret AI til reel forretningsvirkning.

Kovant er en enterprise AI-virksomhed, der fokuserer på at gøre det muligt for organisationer til at gå fra eksperimentel AI-brug til fuldt operationelle, autonome forretningsprocesser. Virksomheden udvikler en agent-baseret platform, der er designet til at koordinere hold af AI-agenter på tværs af komplekse operationelle domæner såsom indkøb, leverandørkæder, compliance og kundeoperationer. Ved at betone sikker, implementering på virksomhedsniveau og hurtig tid-til-værdi positionerer Kovant sig som en bro mellem strategisk AI-ambition og dag-til-dag-udførelse, hvilket hjælper store organisationer med at integrere AI direkte i kerneprocesser i stedet for at behandle det som et selvstændigt værktøj eller pilotprojekt.

Du har ledet store AI-initiativer hos Spotify, skaleret og solgt Combient Mix, og senere formet enterprise AI-strategi hos Silo AI, før du grundlagde Kovant. Hvad var de specifikke huller eller frustrationer, du mødte i disse roller, der overbeviste dig om, at det var tid at bygge en autonom enterprise-platform, og hvordan har den historie formet Kovants kerne-designfilosofi?

På tværs igennem mine tidligere roller dukkede nogle konsistente huller op. Først er de fleste “vertikale” AI-værktøjer effektivt fanget i en enkelt software-stack: de gør én ting lidt bedre inden for den grænse, men kæmper, når en workflow skal omfatte flere systemer. Samtidig er enterprise-data spredt over mange værktøjer, og mange automatiseringsløsninger kan ikke nå det. Lag på år med punkt-integrationer, og du får klassisk spaghetti-arkitektur: kompleksiteten stiger, ændring bliver langsommere, og hold ender med at automatisere enkelttrin i stedet for at genopfinde workflow’en fra ende til anden. Resultatet er, at investeringsafkastet ofte kommer senere og er mindre – end organisationer forventer.

Kovant er designet som en respons på den virkelighed. Vores kernefilosofi er, at agenter skal opføre sig mere som medarbejdere: de arbejder på tværs af flere værktøjer, de “ansættes” til at udføre job, ikke til at automatisere en enkelt scriptet sekvens. Det er derfor, integrationer og koordination er bygget ind, og vi antager, at enterprise-data ofte er beskidt og ustruktureret – det kræver en mere menneske-lignende tilgang til at håndtere undtagelser og tvetydighed.

Vi bruger grundlæggende agenter til at opnå hastighed og skala, mens vi holder data-suverænitet i forgrunden: virksomheder kan få adgang til og bruge deres egne data på tværs af systemer, uden at dataene forlader virksomhedens lokaler.

Kovant positionerer sig som en autonom enterprise-platform, der kan køre hele operationer og afdelinger med AI-agenter. Hvordan definerer du “autonom” i en enterprise-kontekst, og hvordan adskiller det sig fra automatisering og agent-værktøjer, som virksomheder allerede eksperimenterer med i dag?

I en enterprise-kontekst, når vi siger “autonom”, mener vi ikke “uden tilsyn”. Vi mener, at AI-agenter kan tage virkelige handlinger fra ende til anden på en operation med klare mål og sikkerhedsrammer, og de vil eskalere til mennesker, når tilsyn er nødvendigt.

Hvad der gør Kovant anderledes, er vores grundlæggende agenter. I stedet for at automatisere en enkelt, fast proces eller følge en forudbygget sekvens, kan Kovant-agenter arbejde som et hold (eller sværm) på en operation ved hjælp af blot instruktioner og et overblik over driften, som vi kalder en plan, som vi kalder et blueprint. De er ikke designet til én smal opgave; de samarbejder om at løse komplekse workflows, tilpasser sig, når betingelserne ændrer sig, og overdrager opgaver til mennesker, når situationen kræver tilsyn.

For eksempel kan et lagerstyrings-agenthold udføre følgende job uden at genopbygge dem fra bunden, herunder: kommunikere med leverandører via e-mail, overvåge lagerniveauer og signaler om udsolgte varer, spore leverancer og købsordrer, opdatere statusser på tværs af systemer, oprette afvigelsessager til lagerplanlæggere til at godkende, redistribuere lager mellem lagerhuse, og konsolidere lager-rapporter.

Så skiftet er i stedet for “chat plus værktøjer” eller skrøbelige automatiseringer, der bryder sammen i skala, virksomheder flytter fra at bygge agenter til at køre dem i skala.

Trods massiv interesse for agentbaseret AI, sidder mange organisationer fast i pilot-mode. Fra hvad du ser i virkelige installationer, hvilke er de primære årsager, virksomheder kæmper med at flytte fra eksperiment til skala?

Det, vi ser, er, at de fleste organisationer ikke sidder fast i pilot-mode, fordi ideen er forkert; de sidder fast, fordi miljøet er fjendtligt over for skala.

Den første hindring er det fragmenterede teknologilandskab i virksomhederne. Workflows omfatter mange systemer, data bor i mange steder, og at sy sammen alt pålideligt er svært. Og agentbaseret AI bliver ofte deployet som en tilføjelse til eksisterende værktøjer, i stedet for som en måde at genopfinde, hvordan workflow’en skal køre fra ende til anden.

Der er også et reelt arkitektur- og data-problem. Mange SaaS-værktøjer prøver stadig at låse data inde, hvilket skaber inkompatibiliteter og begrænser, hvad agenter kan gøre på tværs af systemer. Og mange hold undervurderer, at de fleste enterprise-data er ustruktureret (e-mails, dokumenter, supportsager, PDF’er, chat-logs). Hvis din tilgang antager ren, struktureret data, bliver tid-til-værdi lang, smertefuld og svær at reproducere ud over piloten.

I kort: fragmentering, låsning og ustruktureret data skaber drag – og piloter bliver aldrig til produktion, før disse forhold tages i betragtning i designet.

Pålidelighed er ofte nævnt som den største blokerer for at deployere AI-agenter i den virkelige verden. Hvorfor fejler så mange agent-systemer, når de forlader kontrollerede miljøer, og hvordan reducerer Kovants tilgang problemer som hallucinationer og uforudsigelig adfærd?

Nogle agent-systemer ser godt ud i demos, men fejler i den virkelige verden, fordi miljøet er beskidt og uforudsigelig. Data er ufuldstændig eller inkonsistent, edge-cases viser sig konstant (refusioner, tvister og særlige godkendelser). Workflows omfatter mange værktøjer, platforme og integrationer, der ændrer sig over tid, og tilladelser varierer. Når en AI-agent bedes om at håndtere en stor opgave og får for meget kontekst på én gang, øges risikoen for hallucinationer og underlig adfærd.

Kovant reducerer dette ved design. Vores unikke arkitektur begrænser problemrummet, beslutningsrummet og konteksten, som modeller arbejder med for at reducere hallucinationer. Vi brækker også operationer ned i smalle, fokuserede opgaver for enkelt-agenter og trin. Det gør adfærd mere forudsigelig og tilføjer sporbarhed og kontrollérbarhed til systemet og kan håndtere hallucinationer bedre. Vi kan se, hvad hver agent gjorde, hvor en fejl startede, og intervenere eller eskalere, når det er nødvendigt.

Hallucinationer forsvinder ikke magisk, men ved at begrænse, hvad hver agent er ansvarlig for, og begrænse konteksten, den kan handle på, kan vi reducere deres frekvens og begrænse deres impact. Denne “snævret opgave/kontekst”-tilgang er også blevet understøttet af Nvidia’s (NVDA ) forskningsteam, der fandt lignende fordele ved at begrænse agent-beslutning.

Ansvarlighed er en stor bekymring, når AI-agenter begynder at tage virkelige handlinger i forretnings-systemer. Hvordan ændrer detaljerede handlingslogfiler samtalen om tillid, compliance og operationel risiko?

Med detaljerede handlingslogfiler kan vi se, hvad der skete, hvorfor det skete og hvad der sker herefter.

De detaljerede logs omdanner en agent fra en mystisk bot, der arbejder i maskinen, til et system, du kan inspicere.

Ved Kovant, med enhver AI-agent-deployment, vil der være et risikokort, som organisationen kan handle på, vi har indbygget menneskelig godkendelse af risikable handlinger, så agenter kun kan udføre disse opgaver, hvis et menneske gennemgår og godkender beslutningen. Alt dette er logget på samme måde som et system af optegnelser og er sporbar.

Vi mener, det er vigtigt at kombinere handlingslogfiler med menneskeligt tilsyn og observerbarhed for at minimere risikoen. Det betyder, du stadig får hastigheds- og skalafordelene ved, at agenter kører virkelige operationer.

Der er en voksende diskussion om, hvorvidt AI-agenter overhovedet kan forsikres på grund af deres uigennemsigtige beslutningsprocesser. Hvordan hjælper det med at gøre agent-workflows reviderbare og mulige at afspille igen med at tackle “black box”-problemet og åbne døren for forsikringsmuligheder?

“Black box”-problemet er, hvad der gør forsikringsmuligheder svære. Hvis du ikke kan tydeligt vise, hvad en agent gjorde, hvorfor det gjorde det, og hvilke kontroller var på plads, er det svært for nogen, især forsikringsvirksomheder, at prissætte risikoen.

Vores tilgang er essentielt en udvidelse af ansvarlighedsopsætningen i det foregående svar. Vi brækker beslutningsomfanget og virkningen af handlinger ned i mindre bidder, så modellen ikke tager en enkelt, gigantisk, uigennemsigtig beslutning, der kan svinge en hel operation. Hvert trin er smallere, mere forudsigelig og lettere at evaluere.

Vi tilføjer derefter detaljerede logs, observerbarhed og menneskeligt tilsyn. For de vigtigste og mest betydningsfulde beslutninger bruger vi en menneskelig gatekeeper, så agenten kun kan fortsætte efter gennemgang og godkendelse. Det skaber langt mere synlighed i, hvordan workflow’en opfører sig i praksis.

At gøre workflows reviderbare og mulige at afspille igen er den sidste del. Hvis noget går galt, kan du reproducere, hvad der skete, undersøge det hurtigt, validere reparationer og demonstrere, hvor ofte menneskelig godkendelse er nødvendig og hvor sikkerhedsforanstaltningerne sidder. Set fra et forsikringsfagligt risikovurderingsperspektiv omdanner det mystisk AI-opførsel til noget, der ligner standard operationel risiko.

Med initiativer som Agentic AI Foundation, der søger at skabe fælles standarder for agentbaserede systemer, hvad ser du som de mest lovende aspekter af disse bestræbelser, og hvor falder de stadig kort for rigtige enterprise-operationer?

Standardisering er generelt en god ting. AAIF kan udføre det uglamourøse, men essentielle arbejde med at få agent-systemer til at tale det samme sprog, hvilket burde gøre integrationer lettere og reducere vendor-låsning over tid.

Det, jeg er forsigtig med, er, hvis perspektiv der former standarderne. Hvis arbejdet primært ledes af model-skabere og teknologi-scale-ups, er der en risiko for, at “standarderne” optimerer for, hvad der er lettest at bygge eller demonstrere, i stedet for hvad store organisationer faktisk har brug for for at køre agenter sikkert dag til dag.

For rigtige enterprise-operationer tenderer hullerne til at være mindre omkring connectorer og mere omkring kontrol: hvad en agent kan få adgang til og ændre, godkendelses-workflows for høj-impact-handlinger, reviderbare logfiler og observerbarhed, så hold kan overvåge adfærd, undersøge uheld og bevise compliance. Virksomheder har også brug for praktiske standarder for at operere i beskidt virkelighed: test mod edge-cases, håndtering af ændrede systemer og mulighed for at sætte handlinger på pause, begrænse dem eller rulle dem tilbage sikkert på tværs af legacy-værktøjer og regulerede data-miljøer.

Så det er en lovende retning, men virkningen vil være begrænset, hvis virksomhedernes krav og styringen af operationelle risici ikke tænkes ind fra starten.

Kovant har allerede genereret betydelig omsætning fra store nordiske virksomheder, mens de opererer primært i stealth. Hvilke typer af forretningsfunktioner eller workflows er mest klar til autonome AI-agenter i dag?

Fra hvad vi har set i virkelige installationer, er workflows, der består af reaktivt kontorarbejde, de mest “klare” i dag: overvågning, opfølgning, kontrol, opdatering af systemer, håndtering af undtagelser og vedligeholdelse af operationer på tværs af flere værktøjer.

I produktion og bredere virksomheders forsyningskæder viser det sig på tværs af:

• Indkøb/procurement: råmateriale-tilgængelighed, bæredygtig indkøb, compliance-ops, leverandørvalg (herunder dual/multi-sourcing), kontraktstyring, leverandørrisikostyring og budgivning.
• Produktion: kapacitetsplanlægning, produktionsskema, vedligeholdelsesstyring, kvalitetsstyring, flaskehalsstyring og tabforebyggelse.
• Lagerstyring: modtagelse & inspektion, lagerstyring, lagerrotation (FIFO/FEFO) og cyklus-tælling/auditing.
• Transport/logistik: valg af transportform og transportør, toldklarering/dokumentation, sporing & synlighed, emissions-overvågning og handels-compliance.
• Salg og service: produkttilgængelighed, forebyggelse af udsolgte varer, salgs- og returstyring, kundeadfærdsanalyse plus efter-salg-områder som reparationer, sporing af produkters levetidsafslutning, værksted-ops og service-kontrakter.

Når virksomheder deployer AI-agenter på tværs af kritiske operationer, hvordan anbefaler du at balancere autonomi med menneskeligt tilsyn for at sikre kontrol uden at bremse alt ned?

Balancen styres af styret autonomi. Du må lade agenter bevæge sig hurtigt på lav-risiko-arbejde inden for klare sikkerhedsrammer og eskalere til mennesker, når handlingen krydser en defineret risiko-tærskel.

En del fejl kommer fra at give modellen for stort et ansvarsområde og for megen kontekst på én gang. Jeg anbefaler at bryde operationer ned i små, snævert fokuserede beslutninger, hvor hvert trin har klare tilladelser og en begrænset impact-radius. Det reducerer uforudsigelig adfærd og gør præstation lettere at overvåge og forbedre.

Så kombinerer du tre ting: observerbarhed, handlingslogfiler og menneskeligt gate-keeping. Alt, hvad agenten gør, skal være sporbart, så du kan inspicere, hvad der skete, og undersøge hurtigt. For høj-impact eller risikable handlinger sætter du et menneskeligt godkendelsestrin i workflow’en, så agenten kan foreslå og forberede, men kun udføre, når en person godkender.

Det holder tingene i gang. Om noget går det kun en smule langsommere ved det menneskelige tilsynstrin, men det er en vigtig del af processen. Mennesker er ikke fastholdt i at overvåge hvert klik, men de er stadig i kontrol over de øjeblikke, der betyder noget. Resultatet er hastighed, hvor det er sikkert, og tilsyn, hvor det er nødvendigt.

Set fremad, hvordan forventer du, at rollen af autonome AI-agenter vil udvikle sig inden for store virksomheder i de næste par år, og hvad vil adskille virksomheder, der lykkes med agentbaseret AI, fra dem, der kæmper?

Over de næste par år vil autonome AI-agenter flytte fra interessante eksperimenter til at blive et rigtigt operativt lag inden for store virksomheder. De vil blive brugt til operationer, kunde-service, finans og HR. Da pålidelighed, styring og tilsyn forbedres, vil vi se, at virksomheder flytter fra isolerede piloter til at køre agent-hold på tværs af end-to-end-workflows.

Den største ændring er, at hastighed, agility, skala, effektivitet og omkostninger bliver en mere direkte konkurrenceparameter. Jeg tror, en “Uber-bevægelse” er på vej for virksomheder. De, der virkelig mestrer agentbaseret AI, vil kunne operere i en fundamentalt hurtigere takt end langsomme, kapre markeder hurtigere og reagere på ændringer uden den sædvanlige operationelle drag.

Hvad der adskiller vinderne, er ikke kun at deploye agenter, men at deploye dem godt. Styret autonomi, stærk observerbarhed og handlingslogfiler, og arkitekturer, der begrænser beslutningsomfanget, vil være nøgle til det. Virksomheder, der behandler agentbaseret AI som en kerne-operativ evne, med de rigtige kontroller, integration og ejerskab, vil bruge det til at gøre mere, ikke mindre. Det vil frigøre hold til at fokusere på vækst og innovation i stedet for at bruge deres dage begravet i admin. I kort, radikal hastighed og effektivitet bliver en sand konkurrence-fordel på enterprise-skala.

Tak for det gode interview. Læsere, der ønsker at vide mere, bør besøge Kovant.