Ali Sarrafi, administrerende direktør og grunnlegger av Kovant – intervjuserien

Ali Sarrafi, administrerende direktør og grunnlegger av Kovant, er en erfaren teknologi- og AI-ekspert basert i Stockholm med dokumentert erfaring fra å bygge og skalere raskt voksende AI-selskaper. Siden han grunnla Kovant i slutten av 2024, har han trukket på dyp erfaring i enterprise AI-strategi, gjennomføring av markedsstrategi og skalering av driften. Tidligere var han visepresident for strategi i Silo AI etter at det ble kjøpt av AMD, der han var ansvarlig for å forme enterprise AI-strategi og drive bruk i stor skala. Tidligere i sin karriere var han medgrunnlegger av Combient Mix, ledet selskapet gjennom rask vekst og et vellykket oppkjøp der Silo AI kjøpte selskapet, og har siden hatt rådgiver- og styreverv i oppstartsbedrifter innen utdanning og AI, noe som reflekterer et konsekvent fokus på å oversette avansert AI til virkelige forretningsresultater.

Kovant er et enterprise AI-selskap som fokuserer på å gjøre det mulig for organisasjoner å gå fra eksperimentell AI-bruk til fullt operasjonelle, autonome forretningsprosesser. Selskapet utvikler en agent-basert plattform som er designet for å koordinere lag av AI-agenter over komplekse operasjonelle domener som innkjøp, leverandørkjeder, overholdelse og kundeoperasjoner. Ved å legge vekt på sikker, utrulling tilpasset bedrifters krav og rask tid-til-verdi, stiller Kovant seg som en bro mellom strategisk AI-ambisjon og dag-til-dag-utførelse, og hjelper store organisasjoner å integrere AI direkte i kjerneprosesser i stedet for å behandle det som et selvstendig verktøy eller pilotprosjekt.

Du har ledet store AI-initiativer i Spotify, skalert og solgt Combient Mix, og senere formet enterprise AI-strategi i Silo AI før du grunnla Kovant. Hva var de spesifikke gapene eller frustrasjonene du møtte i disse rollene som overbeviste deg om at det var riktig tid å bygge en autonom enterprise-plattform, og hvordan har denne historien formet Kovants kjernedesignfilosofi?

Over mine tidligere roller, var det noen konsistente gap som dukket opp. Først og fremst er de fleste “vertikale” AI-verktøy effektivt fengslet i en enkelt programvare-stack: de gjør én ting litt bedre innenfor denne grensen, men sliter når en arbeidsprosess må omfatte flere systemer. Samtidig er enterprise-data spredt over mange verktøy, og mange automatiseringsløsninger kan ikke nå det. Legg til årevis med punktintegrasjoner, og du får klassisk spagettikode-arkitektur: kompleksiteten øker, endring blir langsommere, og lagene ender med å automatisere enkelttrinn i stedet for å tenke om arbeidsprosessen fra begynnelse til slutt. Resultatet er at avkastningen på investeringen ofte kommer senere og er lavere – enn organisasjonene forventer.

Kovant er designet som en respons på denne virkeligheten. Vår kjernedesignfilosofi er at agenter bør oppføre seg mer som ansatte: de arbeider over flere verktøy, de “ansettes” for å gjøre jobber, ikke for å automatisere en enkelt skriptet sekvens. Det er derfor integreringer og koordinering er bygget inn, og hvorfor vi antar at bedriftsdata ofte er rotete og ustrukturerte – det trenger en mer menneske-liknende tilnærming for å håndtere unntak og tvetydighet.

Vi bruker grunnleggende agenter for å oppnå hastighet og skala, samtidig som vi holder data-suverenitet i forgrunnen: bedrifter kan få tilgang til og bruke sine egne data på tvers av systemer uten at dataene forlater bedriftens lokaler.

Kovant stiller seg som en autonom enterprise-plattform i stand til å kjøre hele operasjoner og avdelinger med AI-agenter. Hvordan definerer du “autonom” i en enterprise-kontekst, og hvordan er dette forskjellig fra automatiserings- og agent-verktøy som selskaper allerede eksperimenterer med i dag?

I en enterprise-kontekst, når vi sier “autonom” mener vi ikke “uten tilsyn”. Vi mener AI-agenter kan ta virkelige handlinger fra begynnelse til slutt av en operasjon med klare mål og retningslinjer, og de vil eskalere til mennesker når tilsyn er nødvendig.

Det som skiller Kovant fra andre, er våre grunnleggende agenter. I stedet for å automatisere en enkelt, fast prosess eller følge en forhåndsbygget sekvens, kan Kovant-agenter arbeide som et lag (eller sverm) på en operasjon ved hjelp av bare instruksjoner og en operasjonsoversikt vi kaller en blåkopi. De er ikke designet for én smal oppgave; de samarbeider for å løse komplekse arbeidsprosesser, tilpasser seg når forholdene endrer seg, og overfører oppgaver til mennesker når situasjonen krever tilsyn.

For eksempel kan et lagerstyringsagent-lag utføre alle følgende jobber uten å bygge dem fra bunnen av, inkludert: kommunisere med leverandører via e-post, overvåke lagernivåer og signaler om utsolgte varer, spore sendings- og kjøpsordrer, oppdatere statusser over systemer, opprette avvikssaker som lagerplanleggere kan godkjenne, redistribuere lager mellom lagerhus, og konsolidere lager-rapporter.

Så skiftet er i stedet for “chat plus verktøy” eller skjøre automatiseringer som bryter sammen i skala, beveger bedrifter seg fra å bygge agenter til å kjøre dem i skala.

Til tross for stor interesse for agentbasert AI, forblir mange organisasjoner fast i pilot-modus. Fra hva du ser i virkelige utrullinger, hva er de viktigste årsakene til at selskaper sliter med å flytte fra eksperimentell til skalert produksjon?

Hva vi ser er at de fleste organisasjonene ikke blir fast i pilot-modus fordi ideen er feil; de blir fast fordi miljøet er fiendtlig mot skalering.

Den første hindringen er det fragmenterte teknologilandskapet i bedriftene. Arbeidsprosesser omfatter mange systemer, data ligger på flere steder, og å sy sammen alt pålitelig er hardt. Og agentbasert AI blir ofte deployert som en tilleggsfunksjon til eksisterende verktøy, i stedet for å tenke om hvordan arbeidsprosessen bør kjøres fra begynnelse til slutt.

Det er også et reelt arkitektur- og data-problem. Mange SaaS-leverandører prøver fortsatt å låse data inn, noe som skaper uoverensstemmelser og begrensninger for hva agenter faktisk kan gjøre over systemer. Og mange team undervurderer faktum at de fleste enterprise-data er ustrukturert (e-poster, dokumenter, supportsaker, PDF-er, chatte-logger). Hvis din tilnærming antar ren, strukturert data, blir tid-til-verdi lang, smertefull og vanskelig å gjenta utover piloten.

Kort sagt: fragmentering, låsing og ustrukturert data skaper drag – og piloter blir aldri til produksjon før disse realitetene er tatt hensyn til i utformingen.

Pålitelighet er ofte sitert som den største blokkeren for å deployere AI-agenter i den virkelige verden. Hvorfor feiler mange agent-systemer en gang de forlater kontrollerte miljøer, og hvordan reduserer Kovants tilnærming problemer som hallusinasjoner og uforutsigbar atferd?

Noen agent-systemer ser bra ut i demoer, men feiler i den virkelige verden fordi miljøet er ustyrt og uforutsigbart. Data er ufullstendig eller inkonsistent, kant-tilfeller dukker opp konstant (refusjoner, tvister, spesielle godkjenninger). Arbeidsprosesser omfatter mange verktøy, plattformer og integreringer som endrer seg over tid, og tillatelser varierer. Når en AI-agent blir bedt om å håndtere en stor oppgave og får for mye kontekst på en gang, øker risikoen for hallusinasjoner og underlig atferd.

Kovant reduserer dette ved design. Vår unike arkitektur snevrer inn problemrommet, beslutningsrommet og konteksten som modellene arbeider med for å redusere hallusinasjoner. Vi bryter også ned operasjoner i smale, fokuserte oppgaver for enkeltagenter og trinn. Det gjør atferd mer forutsigbar, og det legger til sporbarhet og kontroll i systemet og kan håndtere hallusinasjoner bedre. Vi kan se hva hver agent gjorde, hvor en feil startet, og intervenere eller eskalere når nødvendig.

Hallusinasjoner forsvinner ikke magisk, men ved å begrense hva hver agent er ansvarlig for og begrense konteksten det kan handle på, kan vi redusere deres frekvens og begrense deres innvirkning. Denne “innsnevrende oppgave/kontekst”-tilnærmingen har også blitt støttet i nylig arbeid fra Nvidias forskningsteam, som fant lignende fordeler fra å begrense agent-beslutning.

Ansvarlighet er en stor bekymring når AI-agenter begynner å ta virkelige handlinger i forretnings-systemer. Hvordan endrer detaljerte handlingslogger samtalen om tillit, overholdelse og operasjonell risiko?

Med detaljerte handlingslogger kan vi se hva som skjedde, hvorfor det skjedde og hva som skjer videre.

De detaljerte loggene forvandler en agent fra en mystisk bot som arbeider i maskinen til et system du kan inspisere.

Ved Kovant, med hver AI-agent-deployering, vil det være et risikokart som organisasjonen kan handle på, vi har bygget inn menneskelig godkjenning av risikofylte handlinger som betyr at agenter bare kan utføre disse oppgavene hvis et menneske gjennomgår og godkjenner beslutningen. Alt dette er logget på samme måte som et system for registrering er logget og kan spores.

Vi tror det er viktig å kombinere handlingslogger med menneskelig tilsyn og observerbarhet for å minimere risikoen. Det betyr du fortsatt får hastighet- og skala-fordelene med agenter som kjører virkelige operasjoner.

Det er en økende diskusjon om hvorvidt AI-agenter kan være forsikret på grunn av deres uklare beslutningsprosess. Hvordan hjelper å gjøre agent-arbeidsprosesser reviderbare og mulige å spille av på nytt å håndtere “black box”-problemet og åpne døren for forsikringsmuligheter?

“Black box”-problemet er hva gjør forsikringsmuligheter vanskelig. Hvis du ikke kan vise tydelig hva en agent gjorde, hvorfor det gjorde det og hva kontrollene var på plass, er det vanskelig for noen, spesielt forsikringsgivere, å prise risikoen.

Vår tilnærming er essensielt en utvidelse av ansvarliggjøringsoppsettet i forrige svar. Vi bryter ned beslutningsområdet og innvirkningen av handlinger i mindre biter, så modellen ikke tar én gigantisk, uklar beslutning som kan svinge en hel operasjon. Hvert trinn er smalere, mer forutsigbar og lettere å evaluere.

Vi legger til detaljerte logger, observerbarhet og menneskelig tilsyn. For de viktigste og mest innvirkende beslutningene, bruker vi en menneskelig kontrollør så agenten bare kan fortsette etter gjennomgang og godkjenning. Det skaper mye mer synlighet i hvordan arbeidsprosessen oppfører seg i praksis.

Å gjøre arbeidsprosesser reviderbare og mulige å spille av på nytt er den siste delen. Hvis noe går galt, kan du gjenskape hva som skjedde, etterforske det raskt, validere fikser og demonstrere hvor ofte menneskelig godkjenning er nødvendig og hvor sikkerhetstiltakene sitter. Sett fra et forsikringsfaglig risikovurderingsperspektiv gjør dette mystisk AI-atferd til noe nærmere standard operasjonell risiko.

Med initiativer som Agentic AI Foundation som sikter på å skape felles standarder for agentbaserte systemer, hva ser du som de mest lovende aspektene av disse innsatsene, og hvor faller de fortsatt kort for virkelige enterprise-operasjoner?

Standardisering er generelt en god ting. AAIF kan gjøre det uglamorøse, men essensielle arbeidet med å få agent-systemer til å snakke samme språk, noe som bør gjøre integreringer lettere og redusere leverandør-låsing over tid.

Det jeg er varsom med, er hvem sitt perspektiv som former standardene. Hvis mesteparten av arbeidet er ledet av modell-skaperne og teknologibedrifter i vekst, er det en risiko at “standardene” optimaliserer for hva som er enkelt å bygge eller demo, i stedet for hva store organisasjoner faktisk trenger for å kjøre agenter trygt dag til dag.

For virkelige enterprise-operasjoner, er gapene vanligvis mindre om koblinger og mer om kontroll: hva en agent kan aksessere og endre, godkjenningsarbeidsflyter for handlinger med stor innvirkning, reviderbare logger og observerbarhet slik at team kan overvåke atferd, etterforske hendelser og bevise overholdelse. Bedrifter trenger også praktiske standarder for å operere i ustyrt virkelighet: testing mot kant-tilfeller, håndtering av endringer, og være i stand til å sette handlinger på pause, begrense dem eller rulle dem tilbake trygt over legacy-verktøy og regulerte data-miljøer.

Så det er en lovende retning, men virkningen vil være begrenset dersom bedriftenes krav og kontroll med operasjonell risiko ikke tas med fra starten.

Kovant har allerede generert betydelig inntekt fra store nordiske bedrifter mens de opererer hovedsakelig i skjul. Hva slags forretningsfunksjoner eller arbeidsprosesser er mest klare for autonome AI-agenter i dag?

Fra hva vi har sett i virkelige utrullinger, er arbeidsprosessene som er mest “klare” i dag de som består av reaktivt kontorarbeid: overvåking, oppfølging, sjekking, oppdatering av systemer, håndtering av unntak og holde operasjoner i gang over flere verktøy.

I produksjon og bredere enterprise-leverandørkjeder, viser det seg over:

• Innkjøp/leverandører: råvare-tilgjengelighet, bærekraftig innkjøp, overholdelsesoperasjoner, leverandørvalg (inkludert dobbelt/multi-leverandører), kontraktstyring, leverandørrisikostyring og anbudshåndtering.
• Produksjon: kapasitetsplanlegging, produksjonsplanlegging, vedlikeholdshåndtering, kvalitetsstyring, flaskehals-håndtering og tapforebygging.
• Lagring: mottak og inspeksjon, lagerstyring, vare-rotasjon (FIFO/FEFO) og syklisk telling/auditing.
• Transport/logistikk: transportmodus- og valg av transportør, tollklarering/dokumentasjon, sporing og synlighet, utslipps-overvåking og handels-overholdelse.
• Salg og tjenester: produkt-tilgjengelighet, forebygging av utsolgte varer, salgs-/returhåndtering, forbruker-atferds-analyse, pluss etter-salg-områder som reparasjoner, sluttfase-sporing, verksted-operasjoner og service-kontrakter.

Når bedrifter deployer AI-agenter over kritiske operasjoner, hvordan anbefaler du å balansere autonomi med menneskelig tilsyn for å sikre kontroll uten å bremse alt ned?

Balansen styres av styrt autonomi. Du må la agenter flytte raskt på lav-risiko-arbeid innen klare retningslinjer, og eskalere til mennesker når handlingen krysser en definert risikoterskel.

Mange feil kommer fra å gi modellen for mye omfang og for mye kontekst på en gang. Jeg anbefaler å bryte ned operasjoner i smale, snevre beslutninger, hvor hvert trinn har klare tillatelser og en begrenset innvirkningsradius. Det reduserer uforutsigbar atferd og gjør ytelse lettere å overvåke og forbedre.

Deretter kombinerer du tre ting: observerbarhet, handlingslogger og menneskelig godkjenning. Alt agentene gjør, bør være sporbart, så du kan inspisere hva som skjedde og etterforske raskt. For handlinger med stor innvirkning eller risiko, legger jeg til et menneskelig godkjenningstrinn i arbeidsprosessen, så agenten kan foreslå og forberede, men bare utføre når en person har godkjent.

Det holder ting i gang raskt. Hvis noe, så bare litt langsommere ved menneskelig tilsynstrinn, men det er en viktig del av prosessen. Mennesker er ikke fanget i å overvåke hvert enkelt klikk, men de er fortsatt i kontroll over øyeblikkene som teller. Resultatet er hastighet hvor det er trygt, og tilsyn hvor det er nødvendig.

Ser fremover, hvordan forventer du at rollen til autonome AI-agenter vil utvikle seg innen store organisasjoner over de neste årene, og hva vil skille selskaper som lykkes med agentbasert AI fra de som sliter?

Over de neste årene, vil autonome AI-agenter gå fra interessante eksperimenter til å bli et reelt operativt lag innen store organisasjoner. De vil bli brukt til operasjoner, kunde-tjenester, finansielle og HR-tjenester. Etterhvert som pålitelighet, styring og tilsyn forbedres, vil vi se bedrifter skifte fra isolerte piloter til å kjøre agent-lag over hele arbeidsprosesser.

Den største endringen er at hastighet, fleksibilitet, skala, effektivitet og kostnader vil bli en mer direkte konkurranse-fordel. Jeg tror en “Uber-bevegelse” er på vei for bedrifter. De som virkelig mestrer agentbasert AI, vil kunne operere på en grunnleggende høyere hastighet enn konkurrenter som henger etter, fange markeder raskere og respondere på endring uten den vanlige operasjonelle tregheten.

Hva skiller vinnerne, er ikke bare å deployere agenter, men å deployere dem godt. Styrt autonomi, sterk observerbarhet og handlingslogger, og arkitekturer som snevrer inn beslutningsområdet, vil være nøkkel til det. Selskaper som behandler agentbasert AI som en kjerne-operativ evne, med riktige kontroller, integrering og eierskap, vil bruke det til å gjøre mer, ikke mindre. Det vil frigjøre team til å fokusere på vekst og innovasjon i stedet for å bruke dagene sine gravd i admin. Kort sagt, radikal hastighet og effektivitet blir en virkelig konkurranse-fordel på bedrifts-skala.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke Kovant.