Ali Sarrafi, CEO og grunnlegger av Kovant – Intervju-serie

Ali Sarrafi, CEO og grunnlegger av Kovant, er en erfaren teknologi- og AI-ekspert basert i Stockholm med en rekord i å bygge og skalerer høyvoksende AI-selskaper. Siden han grunnla Kovant i slutten av 2024, har han dradd på dypt erfaring i enterprise AI-strategi, markedsføringsutførelse og operasjonell skaleringsfaktor. Tidligere var han visepresident for strategi i Silo AI etter at det ble kjøpt av AMD, der han var ansvarlig for å forme enterprise AI-strategi og drive stor skala-adoptsjon. Tidligere i sin karriere var han medgrunnlegger av Combient Mix, ledet selskapet gjennom rask vekst og en vellykket overtakelse av Silo AI, og har siden holdt rådgivende og styreroller over hele utdannings- og AI-startups, noe som reflekterer en konsekvent fokus på å oversette avansert AI til virkelige forretningsresultater.

Kovant er et enterprise AI-selskap som fokuserer på å muliggjøre organisasjoner å gå fra eksperimentell AI-bruk til fullt operasjonelle, autonome forretningsprosesser. Selskapet utvikler en agent-basert plattform som er designet for å koordinere lag av AI-agenter over komplekse operasjonelle domener som innkjøp, leverandørkjeder, overholdelse og kundeoperasjoner. Ved å legge vekt på sikker, bedriftsgradert distribusjon og rask tid-til-verdi, stiller Kovant seg som en bro mellom strategisk AI-ambisjon og dag-til-dag-utførelse, og hjelper store organisasjoner å integrere AI direkte i kjerneprosesser i stedet for å behandle det som et selvstendig verktøy eller pilotprosjekt.

Du har ledet store AI-initiativer i Spotify, skalert og avsluttet Combient Mix, og senere formet enterprise AI-strategi i Silo AI før du grunnla Kovant. Hva var de spesifikke gapene eller frustrasjonene du møtte i disse rollene som overbeviste deg om at det var riktig tid å bygge en autonom enterprise-plattform, og hvordan har denne historien formet Kovants kjernedesignfilosofi?

Over mine tidligere roller, var det noen konsistente gap som dukket opp. Først og fremst er de fleste “vertikale” AI-verktøy effektivt fengslet i en enkelt programvare-stack: de gjør én ting litt bedre innenfor denne grensen, men sliter når en arbeidsprosess må omfatte flere systemer. Samtidig er enterprise-data spredt over mange verktøy, og mange automatiseringsløsninger kan ikke nå det. La på år med punkt-integreringer, og du får klassisk spagettikode-arkitektur: kompleksiteten øker, endring blir langsommere, og lagene ender med å automatisere enkelttrinn i stedet for å tenke om arbeidsprosessen fra slutten til slutten. Resultatet er at ROI ofte ankommer senere – og mindre – enn organisasjonene forventer.

Kovant er designet som en respons på denne virkeligheten. Vår kjernedesignfilosofi er at agenter bør oppføre seg mer som ansatte: de arbeider over flere verktøy, de “ansettes” for å gjøre jobber, ikke for å automatisere en enkelt skriptet sekvens. Det er derfor integreringer og koordinering er bygget inn, og hvorfor vi antar at enterprise-data ofte er ustrukturert – det trenger en mer menneske-liknende tilnærming for å håndtere unntak og tvetydighet.

Vi bruker grunnleggende agenter for å oppnå hastighet og skala, samtidig som vi holder data-suverenitet i forgrunnen: bedrifter kan få tilgang til og bruke sin egen data horisontalt uten at den forlater deres lokale område.

Kovant stiller seg som en autonom enterprise-plattform i stand til å kjøre hele operasjoner og avdelinger med AI-agenter. Hvordan definerer du “autonom” i en enterprise-kontekst, og hvordan er dette forskjellig fra automatiserings- og agent-verktøy som selskaper allerede eksperimenterer med i dag?

I en enterprise-kontekst, når vi sier “autonom” mener vi ikke “usupervisert”. Vi mener AI-agenter kan ta virkelige handlinger fra slutten til slutten av en operasjon med klare mål og retningslinjer, og de vil eskalere til mennesker når tilsyn er nødvendig.

Hva gjør Kovant forskjellig er våre grunnleggende agenter. I stedet for å automatisere en enkelt, fast prosess eller følge en forhåndsbygget sekvens, kan Kovant-agenter arbeide som et lag (eller sværm) på en operasjon ved hjelp av bare instruksjoner og en operasjonsoversikt vi kaller en blåkopi. De er ikke designet for én smal oppgave; de samarbeider for å løse komplekse arbeidsprosesser, tilpasse seg når forhold endrer seg, og overføre til mennesker når situasjonen krever tilsyn.

For eksempel kan et lagerstyringsagent-lag utføre alle følgende jobber uten å bygge dem fra scratch, inkludert: kommunisere med leverandører via e-post, overvåke lager niveauer og utsolgte signaler, spore sendings- og kjøpsordrer, oppdatere statusser over systemer, lage avvikstegn for lagerplanleggere å godkjenne, redistribuere lager mellom lagerhus, og konsolidere lager-rapporter.

Så skiftet er i stedet for “chat plus verktøy” eller skjøre automatiseringer som bryter sammen i skala, beveger bedrifter seg fra å bygge agenter til å kjøre dem i skala.

Tropper masseinteresse for agentic AI, forblir mange organisasjoner fast i pilot-modus. Fra hva du ser i virkelige utrullinger, hva er de viktigste årsakene til at selskaper sliter med å flytte fra eksperimentell til skalert produksjon?

Hva vi ser er at de fleste organisasjonene ikke blir fast i pilot-modus fordi ideen er feil; de blir fast fordi miljøet er fiendtlig mot skaleringsfaktor.

Den første blokkeren er den fragmenterte enterprise-teknologilandskapet. Arbeidsprosesser omfatter mange systemer, data bor i flere steder, og å sy sammen alt pålitelig er hardt. Og agentic AI blir ofte deployert som en tilleggsfunksjon til eksisterende verktøy, i stedet for å tenke om hvordan arbeidsprosessen bør kjøres fra slutten til slutten.

Det er også et reelt arkitektur- og data-problem. Mange SaaS-leverandører prøver fortsatt å låse data inn, noe som skaper uoverensstemmelser og begrensninger for hva agenter faktisk kan gjøre over systemer. Og mange lag undervurderer faktum at de fleste enterprise-data er ustrukturert (e-poster, dokumenter, billetter, PDF-er, chatte-logger). Hvis din tilnærming antar ren, strukturert data, blir tid-til-verdi lang, smertefull og vanskelig å gjenta utover piloten.

Kort sagt: fragmentering, låsing og ustrukturert data skaper drag – og piloter blir aldri til produksjon før disse realitetene er designet for.

Pålitelighet er ofte sitert som den største blokkeren for å deployere AI-agenter i den virkelige verden. Hvorfor feiler mange agent-systemer en gang de forlater kontrollerte miljøer, og hvordan reduserer Kovants tilnærming problemer som hallucinasjoner og uforutsigbar atferd?

Noen agent-systemer ser bra ut i demoer, men feiler i den virkelige verden fordi miljøet er ustyrt og uforutsigbart. Data er ufullstendig eller inkonsistent, kant-tilfeller dukker opp konstant (refunder, disputter, spesielle godkjenninger). Arbeidsprosesser omfatter mange verktøy, plattformer og integreringer som endrer seg over tid, og tillatelser varierer. Når en AI-agent blir bedt om å håndtere en stor oppgave og får for mye kontekst på en gang, øker risikoen for hallucinasjoner og underlig atferd.

Kovant reduserer dette ved design. Vår unike arkitektur snevrer inn problemrommet, beslutningsrommet og konteksten som modellene arbeider med for å redusere hallucinasjoner. Vi bryter også ned operasjoner i smale, fokuserte oppgaver for enkeltagenter og trinn. Det gjør atferd mer forutsigbar, og det legger til sporbarhet og kontroll i systemet og kan håndtere hallucinasjoner bedre. Vi kan se hva hver agent gjorde, hvor en feil startet, og intervenere eller eskalere når nødvendig.

Hallucinasjoner forsvinner ikke magisk, men ved å begrense hva hver agent er ansvarlig for og begrense konteksten det kan handle på, kan vi redusere deres frekvens og begrense deres innvirkning. Denne “innsnevrende oppgave/kontekst”-tilnærmingen har også blitt støttet i nylig arbeid fra Nvidias forskningsteam, som fant lignende fordeler fra å begrense agent-beslutning.

Ansvarlighet er en stor bekymring når AI-agenter begynner å ta virkelige handlinger i forretnings-systemer. Hvordan endrer detaljerte handling-logger samtalen om tillit, overholdelse og operasjonell risiko?

Med detaljerte handling-logger kan vi se hva som skjedde, hvorfor det skjedde og hva som skjer neste.

De detaljerte loggene gjør en agent fra en mystisk bot som arbeider i maskinen til et system du kan inspisere.

Ved Kovant, med hver AI-agent-deployering, vil det være en risikokart som organisasjonen kan handle på, vi har bygget inn gate-keeping for mennesker for risikable handlinger som betyr at agenter bare kan utføre disse oppgavene hvis en menneske gjennomgår og godkjenner beslutningen. Alt dette er logget på samme måte som et system for registrering er logget og er sporbar.

Vi tror det er viktig å kombinere handling-logger med menneskelig tilsyn og overvåkning for å minimere risikoen. Det betyr du fortsatt får hastighet- og skala-fordelene med agenter som kjører virkelige operasjoner.

Det er en økende diskusjon om hvorvidt AI-agenter kan være forsikret på grunn av deres uklare beslutningsprosess. Hvordan hjelper å gjøre agent-arbeidsprosesser auditable og gjennomførbar å håndtere “black box”-problemet og åpne døren for forsikringsmuligheter?

“Black box”-problemet er hva gjør forsikringsmuligheter vanskelig. Hvis du ikke kan vise tydelig hva en agent gjorde, hvorfor det gjorde det og hva kontrollene var på plass, er det vanskelig for noen, spesielt forsikringsgivere, å pris risikoen.

Vår tilnærming er essensielt en utvidelse av ansvarliggjøringsoppsettet i forrige svar. Vi bryter ned beslutningsområdet og innvirkningen av handlinger i mindre biter, så modellen ikke tar én gigantisk, uklar beslutning som kan svinge en hel operasjon. Hver trinn er smalere, mer forutsigbar og lettere å evaluere.

Vi legger til detaljerte logger, overvåkning og menneskelig tilsyn. For de viktigste og mest innvirkende beslutningene, bruker vi en menneskelig gatekeeper så agenten bare kan fortsette etter gjennomgang og godkjenning. Det skaper mye mer synlighet i hvordan arbeidsprosessen oppfører seg i praksis.

Å gjøre arbeidsprosesser auditable og gjennomførbar er den siste delen. Hvis noe går galt, kan du gjenskape hva som skjedde, etterforske det raskt, validere fikser og demonstrere hvor ofte menneskelig godkjenning er nødvendig og hvor sikkerhetstiltakene sitter. I underwriting-termer, det gjør mystisk AI-atferd til noe nærmere standard operasjonell risiko.

Med initiativer som Agentic AI Foundation som sikter på å skape felles standarder for agentic-systemer, hva ser du som de mest lovende aspektene av disse innsatsene, og hvor faller de fortsatt kort for virkelige enterprise-operasjoner?

Standardisering er generelt en god ting. AAIF kan gjøre det uglamorøse, men essensielle arbeidet med å få agent-systemer til å snakke samme språk, noe som bør gjøre integreringer lettere og redusere leverandør-låsing over tid.

Hvor jeg er forsiktig er hvis perspektivet som former standardene. Hvis mesteparten av arbeidet er ledet av modell-skaperne og teknologi-skalering, er det en risiko at “standardene” optimaliserer for hva som er enkelt å bygge eller demo, i stedet for hva store organisasjoner faktisk trenger for å kjøre agenter trygt dag til dag.

For virkelige enterprise-operasjoner, er gapene vanligvis mindre om koblinger og mer om kontroll: hva en agent kan aksessere og endre, godkjenningsarbeidsflyter for høy-impakt-handlinger, auditable logger og overvåkning så lag kan overvåke atferd, etterforske hendelser og bevise overholdelse. Bedrifter trenger også praktiske standarder for å operere i ustyrt virkelighet: testing mot kant-tilfeller, håndtering av endringer, og være i stand til å pause, inneholde eller rulle tilbake handlinger trygt over legacy-verktøy og regulerte data-miljøer.

Så det er en lovende retning, men innvirkningen vil være begrenset hvis enterprise-krav og operasjonell risikokontroll ikke behandles som en ettertanke.

Kovant har allerede generert betydelig inntekt fra store nordiske bedrifter mens de opererer hovedsakelig i skjul. Hva slags forretningsfunksjoner eller arbeidsprosesser er mest klare for autonome AI-agenter i dag?

Fra hva vi har sett i virkelige utrullinger, er arbeidsprosessene som er mest “klare” i dag de som består av reaktivt hvit-kragearbeid: overvåking, jakt, sjekking, oppdatering av systemer, håndtering av unntak og holde operasjoner i gang over flere verktøy.

I produksjon og bredere enterprise-leverandørkjeder, viser det seg over:

• Innkjøp/leverandører: råvare-tilgjengelighet, bærekraftig innkjøp, overholdelsesoperasjoner, leverandørvalg (inkludert dobbelt/multi-leverandører), kontraktstyring, leverandørrisikostyring og anbudshåndtering.
• Produksjon: kapasitetsplanlegging, produksjonsplanlegging, vedlikeholdshåndtering, kvalitetsstyring, flaskehals-håndtering og tapforebygging.
• Lagring: mottak og inspeksjon, lagerstyring, vare-rotasjon (FIFO/FEFO) og syklisk telling/auditing.
• Transport/logistikk: transportmodus- og carrier-valg, tollklarering/dokumentasjon, sporing og synlighet, utslipps-overvåking og handels-overholdelse.
• Salg og tjenester: produkt-tilgjengelighet, lager-forebygging, salgs-/returhåndtering, forbruker-atferds-analyse, pluss etter-salg-områder som reparasjoner, sluttfase-sporing, verksted-operasjoner og service-kontrakter.

Når bedrifter deployer AI-agenter over kritiske operasjoner, hvordan anbefaler du å balansere autonomi med menneskelig tilsyn for å sikre kontroll uten å bremse alt ned?

Balansen styres av styrt autonomi. Du må la agenter flytte raskt på lav-risiko-arbeid innen klare retningslinjer, og eskalere til mennesker når handlingen krysser en definert risikoterskel.

Mange feil kommer fra å gi modellen for mye omfang og for mye kontekst på en gang. Jeg anbefaler å bryte ned operasjoner i smale, snevre beslutninger, hvor hver trinn har klare tillatelser og en begrenset innvirkningsradius. Det reduserer uforutsigbar atferd og gjør ytelse lettere å overvåke og forbedre.

Så kombinere jeg tre ting: overvåkning, handling-logger og menneskelig gate-keeping. Alt agenter gjør bør være sporbar, så du kan inspisere hva som skjedde og etterforske raskt. For høy-impakt- eller risikable handlinger, legger jeg til en menneskelig godkjenningstrinn i arbeidsprosessen, så agenten kan foreslå og forberede, men bare utføre når en person har godkjent.

Det holder ting i gang raskt. Hvis noe, så bare litt langsommere ved menneskelig tilsynstrinn, men det er en viktig del av prosessen. Mennesker er ikke fanget i å overvåke hver enkelt klikk, men de er fortsatt i kontroll over øyeblikkene som teller. Resultatet er hastighet hvor det er trygt, og tilsyn hvor det er nødvendig.

Ser fremover, hvordan forventer du at rollen til autonome AI-agenter vil utvikle seg innen store organisasjoner over de neste årene, og hva vil skille selskaper som lykkes med agentic AI fra de som sliter?

Over de neste årene, vil autonome AI-agenter gå fra interessante eksperimenter til å bli en virkelig operativt lag innen store organisasjoner. De vil bli brukt til operasjoner, kunde-tjenester, finansielle og HR-tjenester. Etterhvert som pålitelighet, styring og tilsyn forbedres, vil vi se bedrifter skifte fra isolerte piloter til å kjøre agent-lag over hele arbeidsprosesser.

Den største endringen er at hastighet, fleksibilitet, skala, effisiens og kostnader vil bli en mer direkte konkurranse-fordel. Jeg tror en “Uber-bevegelse” er på vei for bedrifter. De som virkelig mestrer agentic AI, vil kunne operere på en grunnleggende høyere hastighet enn etterlatte, fange markeder raskere og respondere på endring uten den vanlige operasjonelle drag.

Hva skiller vinnerne, er ikke bare å deployere agenter, men å deployere dem godt. Styrt autonomi, sterk overvåkning og handling-logger, og arkitekturer som snevrer inn beslutningsområdet, vil være nøkkel til det. Selskaper som behandler agentic AI som en kjerne-operativ evne, med riktige kontroller, integrering og eierskap, vil bruke det til å gjøre mer, ikke mindre. Det vil frigjøre lag til å fokusere på vekst og innovasjon i stedet for å bruke dagene sine gravd i admin. Kort sagt, radikal hastighet og effisiens blir en virkelig konkurranse-fordel på bedrifts-skala.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke Kovant.