Ali Sarrafi, VD och grundare av Kovant – Intervju-serie

Ali Sarrafi, VD och grundare av Kovant, är en erfaren teknologi- och AI-chef med säte i Stockholm med en meritlista av att bygga och skala upp snabbväxande AI-företag. Sedan han grundade Kovant i slutet av 2024 har han använt sig av djup erfarenhet av företags AI-strategi, genomförande av marknadsstrategier och operativ skalning. Tidigare har han tjänstgjort som vice VD för strategi på Silo AI efter att AMD förvärvade Silo AI, där han var ansvarig för att forma företags AI-strategi och driva införande i stor skala. Tidigare i sin karriär var han med och grundade Combient Mix, och ledde företaget genom snabb tillväxt och ett lyckat förvärv där Silo AI köpte företaget, och har sedan dess haft rådgivande och styrelseuppdrag inom utbildning och AI-startups, vilket speglar ett konsekvent fokus på att översätta avancerad AI till konkreta affärseffekter.

Kovant är ett företag inom AI som fokuserar på att möjliggöra för organisationer att gå från experimentell AI-användning till fullt operativa, autonoma affärsprocesser. Företaget utvecklar en agentbaserad plattform som är utformad för att orkestrera team av AI-agenter över komplexa operativa domäner som inköp, leverantörskedjor, regelefterlevnad och kundservice. Genom att betona säker, företagsklassad distribution och snabb tid till värde positionerar sig Kovant som en bro mellan strategisk AI-ambition och dagligt genomförande, och hjälper stora organisationer att integrera AI direkt i kärnprocesser snarare än att behandla det som ett fristående verktyg eller pilotprojekt.

Du har lett stora AI-initiativ på Spotify, skalat upp och sålt Combient Mix, och senare format företags AI-strategi på Silo AI innan du grundade Kovant. Vilka specifika luckor eller frustrationer mötte du i dessa roller som övertygade dig om att det var dags att bygga en autonom företagsplattform, och hur formade den historien Kovants kärndesignfilosofi?

Under mina tidigare roller visade sig ett antal konsekventa luckor. Först är de flesta “vertikala” AI-verktyg i praktiken fångade i en enda programvarustack: de gör en sak något bättre inom den gränsen, men kämpar så fort ett arbetsflöde behöver spänna över flera system. Samtidigt är företagsdata utspridd över många verktyg, och många automatiseringslösningar kan inte nå den. Lägg till år av punktintegrationer och du får klassisk spagettarkitektur: komplexitet ökar, förändringar blir långsammare, och team hamnar i att automatisera enskilda steg snarare än att omdefiniera arbetsflödet från början till slut. Resultatet är att avkastningen på investeringen ofta kommer senare och är mindre – än organisationer förväntar sig.

Kovant är utformat som en reaktion på den verkligheten. Vår kärnfilosofi är att agenter bör bete sig mer som anställda: de arbetar över flera verktyg, de “anställs” för att göra jobb, inte för att automatisera en enskild skriptsekvens. Det är därför integrationer och orkestrering är inbyggda, och varför vi antar att företagsdata ofta är oordnad och ostrukturerad – den behöver en mer mänsklig metod för att hantera undantag och tvetydighet.

Vi använder grundläggande agenter för att uppnå hastighet och skala, samtidigt som vi håller data-suveränitet i fokus: företag kan komma åt och använda sin egen data horisontellt utan att den lämnar deras lokaler.

Kovant positionerar sig som en autonom företagsplattform som kan köra hela operationer och avdelningar med AI-agenter. Hur definierar du “autonom” i ett företagskontext, och hur skiljer sig detta från automatiserings- och agentverktyg som företag redan experimenterar med idag?

I ett företagskontext, när vi säger “autonom” menar vi inte “oövervakad”. Vi menar att AI-agenter kan ta verkliga åtgärder från början till slut över en operation med tydliga mål och skydd, och de kommer att eskalera till människor när tillsyn behövs.

Vad som gör Kovant annorlunda är våra grundläggande agenter. Snarare än att automatisera en enskild, fast process eller följa en förbyggd sekvens, kan Kovants agenter arbeta som ett team (eller svärm) på en operation med hjälp av endast instruktioner och en operationsöversikt som vi kallar en ritning. De är inte utformade för en smal uppgift; de samarbetar för att lösa komplexa arbetsflöden, anpassa sig efter förändrade förhållanden och överlämna till människor när situationen kräver tillsyn.

Till exempel kan ett lagerhanteringsagentteam utföra alla följande uppgifter utan att bygga om dem från grunden, inklusive: kommunicera med leverantörer via e-post, övervaka lagernivåer och signaler om slutsålda varor, spåra leveranser och inköpsorder, uppdatera status över system, skapa avvikelseärenden för lagerplanerare att godkänna, omfördela lager mellan lager och konsolidera lager rapporter.

Så förändringen är att istället för “chatt plus verktyg” eller sköra automatiseringar som bryts vid skala, flyttar företag från att bygga agenter till att köra dem i skala.

Trots ett enormt intresse för agentbaserad AI, förblir många organisationer fast i pilotläge. Utifrån vad du ser i verkliga driftsättningar, vad är de främsta orsakerna till att företag kämpar för att flytta från experiment till produktion i stor skala?

Vad vi ser är att de flesta organisationer inte fastnar i pilotläge för att idén är fel; de fastnar för att miljön är fientlig mot skalning.

Den första blockeringen är det fragmenterade tekniska landskapet i företagen. Arbetsflöden spänner över många system, data finns på flera ställen, och att sy ihop allt på ett tillförlitligt sätt är svårt. Och agentbaserad AI distribueras ofta som ett tillägg till befintliga verktyg, snarare än som ett sätt att omdefiniera hur arbetsflödet ska köras från början till slut.

Det finns också ett verkligt arkitektur- och dataproblem. Många SaaS-leverantörer försöker fortfarande låsa in data, vilket skapar oförenligheter och begränsar vad agenter kan göra över system. Och många team underskattar faktum att de flesta företagsdata är ostrukturerade (e-post, dokument, supportärenden, PDF:er, chattloggar). Om din metod antar ren, strukturerad data, blir tid till värde lång, smärtsam och svår att replikera bortom piloten.

I korthet: fragmentering, inlåsning och ostrukturerad data skapar drag – och pilotprojekt övergår inte till produktion förrän dessa förhållanden har beaktats i utformningen.

Tillförlitlighet nämns ofta som den största blockeringen för att distribuera AI-agenter i den verkliga världen. Varför misslyckas så många agentsystem när de lämnar kontrollerade miljöer, och hur minskar Kovants tillvägagångssätt problem som hallucinationer och oförutsägbart beteende?

Vissa agentsystem ser bra ut i demon, men misslyckas i den verkliga världen för att miljön är rörig och oförutsägbar. Data är ofullständig eller inkonsekvent, gränsfall dyker upp konstant (återbetalningar, tvister, specialgodkännanden). Arbetsflöden spänner över flera verktyg, plattformar och integrationer som ändras över tid, och behörigheter varierar. När en AI-agent får i uppdrag att hantera en stor uppgift och får för mycket sammanhang på en gång, ökar risken för hallucinationer och underligt beteende.

Kovant minskar detta genom design. Vår unika arkitektur begränsar problemutrymmet, beslutsutrymmet och sammanhang som modellerna arbetar med för att minska hallucinationer. Vi bryter också ner operationer i smala, fokuserade uppgifter för enskilda agenter och steg. Det gör beteendet mer förutsägbart och lägger till spårbarhet och kontroll i systemet och kan hantera hallucinationer bättre. Vi kan se vad varje agent gjorde, var ett fel började, och ingripa eller eskalera när det behövs.

Hallucinationer försvinner inte magiskt, men genom att begränsa vad varje agent är ansvarig för och begränsa sammanhanget som den kan agera på, kan vi minska deras frekvens och begränsa deras påverkan. Detta “begränsade uppgift/sammanhang”-tillvägagångssätt har också stöd i nylig forskning från Nvidias forskningsteam, som fann liknande fördelar med att begränsa agentbeslut.

Ansvarighet är en stor oro när AI-agenter börjar ta verkliga åtgärder i affärssystem. Hur ändrar detaljerade åtgärdsloggar samtalet kring förtroende, regelefterlevnad och operativ risk?

Med detaljerade åtgärdsloggar kan vi se vad som hände, varför det hände och vad som händer härnäst.

De detaljerade loggarna förvandlar en agent från en mystisk bot som arbetar i maskinen till ett system som kan inspekteras.

Hos Kovant, med varje AI-agentdistribution, kommer det att finnas en riskkarta som organisationen kan agera på, vi har byggt in grindvakt för människor för riskfyllda åtgärder som innebär att agenter endast kan utföra dessa uppgifter om en människa granskar och godkänner beslutet. Allt detta loggas på samma sätt som ett system för register är loggat och är spårbart.

Vi tror att det är viktigt att kombinera åtgärdsloggar med mänsklig tillsyn och observerbarhet för att minimera risken. Det innebär att du fortfarande får hastighets- och skalfördelarna med agenter som kör verkliga operationer.

Det finns en växande diskussion om huruvida AI-agenter ens kan försäkras på grund av deras ogenomskinliga beslutsfattande. Hur hjälper det att göra agentarbetsflöden granskbara och återuppspelbara att hantera “svarta lådan”-problemet och öppna dörren för försäkring?

“Svarta lådan”-problemet är vad som gör försäkring svår. Om du inte kan tydligt visa vad en agent gjorde, varför den gjorde det, och vilka kontroller som fanns på plats, är det svårt för någon, särskilt försäkringsgivare, att prissätta risken.

Vårt tillvägagångssätt är i princip en utvidgning av ansvarighetskonfigurationen i föregående svar. Vi bryter ner beslutsomfånget och påverkan av åtgärder i mindre bitar, så modellen inte fattar ett jättestort, ogenomskinligt beslut som kan svänga en hel operation. Varje steg är smalare, mer förutsägbart och lättare att utvärdera.

Vi lägger sedan till detaljerade loggar, observerbarhet och mänsklig tillsyn. För de viktigaste och mest påverkande besluten använder vi en mänsklig grindvakt så att agenten endast kan fortsätta efter granskning och godkännande. Det skapar mycket mer synlighet i hur arbetsflödet beter sig i praktiken.

Att göra arbetsflöden granskbara och återuppspelbara är den sista biten. Om något går fel kan du återskapa vad som hände, utreda det snabbt, validera korrigeringar och demonstrera hur ofta mänskligt godkännande krävs och var säkerhetsåtgärderna sitter. Ur ett försäkringsmässigt riskbedömningsperspektiv omvandlar detta mystiskt AI-beteende till något som liknar standardoperativ risk.

Med initiativ som Agentic AI Foundation som syftar till att skapa gemensamma standarder för agentbaserade system, vad ser du som de mest lovande aspekterna av dessa insatser, och var brister de fortfarande för verkliga företagsoperationer?

Standardisering är generellt en bra sak. AAIF kan göra det oglamorösa men väsentliga arbetet med att få agentsystem att tala samma språk, vilket bör göra integrationer lättare och minska leverantörsinlåsning över tid.

Där jag är försiktig är vars perspektiv formar standarderna. Om det mesta av arbetet leds av modellskapare och snabbväxande teknikföretag, finns det en risk att “standarderna” optimerar för vad som är lättast att bygga eller demo, snarare än vad stora organisationer verkligen behöver för att köra agenter säkert dag till dag.

För verkliga företagsoperationer tenderar luckorna att vara mindre om anslutningar och mer om kontroll: vad en agent kan komma åt och ändra, godkännandeflöden för åtgärder med stor påverkan, granskbara loggar och observerbarhet så att team kan övervaka beteende, utreda incidenter och bevisa regelefterlevnad. Företag behöver också praktiska standarder för att operera i rörig verklighet: testning mot gränsfall, hantering av förändrade system och möjlighet att pausa, innesluta eller återställa åtgärder säkert över legacyverktyg och reglerade datamiljöer.

Så det är en lovande riktning, men effekten blir begränsad om företagens krav och kontrollen av operativa risker inte beaktas från början.

Kovant har redan genererat betydande intäkter från stora nordiska företag medan de opererar mestadels i stealth. Vilka typer av affärsfunktioner eller arbetsflöden visar sig vara mest redo för autonoma AI-agenter idag?

Från vad vi har sett i verkliga driftsättningar är arbetsflödena som är “redo” idag de som består av reaktivt kontorsarbete: övervakning, uppföljning, kontroll, uppdatering av system, hantering av undantag och hållande av operationer i gång över flera verktyg.

I tillverkning och bredare företagsleverantörskedjor visar sig detta över:

• Inköp/leverantörer: råvarutillgänglighet, hållbara inköp, regelefterlevnad, leverantörval (inklusive dubbel-/multi-inköp), kontraktshantering, leverantörsriskhantering och anbudshantering.
• Produktion: kapacitetsplanering, produktionsschema, underhållshantering, kvalitetskontroll, flaskhalskontroll och förlustförebyggande.
• Lagerhantering: mottagning och inspektion, lagerhantering, lageromsättning (FIFO/FEFO) och cyklisk räkning/granskning.
• Transport/logistik: transportmedels- och leverantörsval, tullklarering/dokumentation, spårning och synlighet, utsläppskontroll och handelsregelefterlevnad.
• Försäljning och service: produkttillgänglighet, förebyggande av slutsålda varor, försäljnings-/returhantering, konsumentbeteendeanalys samt efterförsäljningsområden som reparationer, spårning av livscykelns slut, verkstadsdrift och serviceavtal.

När företag distribuerar AI-agenter över kritiska operationer, hur rekommenderar du att man balanserar autonomi med mänsklig tillsyn för att säkerställa kontroll utan att sakta ner allt?

Balansen består i styrd autonomi. Du måste låta agenter flytta snabbt på lågriskarbete inom tydliga skydd, och eskalera till människor när åtgärden korsar en definierad risktröskel.

Många misslyckanden kommer från att ge modellen för stor omfattning och för mycket sammanhang på en gång. Jag rekommenderar att bryta ner operationer i smala, fokuserade beslut, där varje steg har tydliga behörigheter och en begränsad påverkansradie. Det minskar oförutsägbart beteende och gör prestanda lättare att övervaka och förbättra.

Sedan kombinerar du tre saker: observerbarhet, åtgärdsloggar och mänsklig grindvakt. Allt som agenten gör ska vara spårbart, så att du kan inspektera vad som hände och utreda snabbt. För åtgärder med stor påverkan eller hög risk lägger du till en mänsklig godkännandeprocess i arbetsflödet, så att agenten kan föreslå och förbereda, men endast utför när en person godkänt.

Det håller saker i rörelse. Om något går det bara lite långsammare vid steget med mänsklig tillsyn, men det är en viktig del av processen. Människor är inte fast i att övervaka varje klick, men de är fortfarande i kontroll över de ögonblick som betyder något. Resultatet är hastighet där det är säkert, och tillsyn där det är nödvändigt.

Om du ser framåt, hur förväntar du dig att rollen för autonoma AI-agenter kommer att utvecklas inom stora organisationer under de kommande åren, och vad kommer att skilja företag som lyckas med agentbaserad AI från de som kämpar?

Under de kommande åren kommer autonoma AI-agenter att flytta från intressanta experiment till att bli ett verkligt operativt lager inom stora organisationer. De kommer att användas för operationer, kundservice, ekonomi och HR. När tillförlitlighet, styrning och tillsyn förbättras, kommer vi att se företag flytta från isolerade piloter till att köra agentteam över hela arbetsflöden.

Den största förändringen är att hastighet, smidighet, skala, effektivitet och kostnader kommer att bli en mer direkt konkurrensfördel. Jag tror att en “Uber-rörelse” är på väg för företag. De som verkligen bemästrar agentbaserad AI kommer att kunna operera i en fundamentalt högre hastighet än eftersläntrarna, erövra marknader snabbare och svara på förändringar utan den vanliga operativa trögheten.

Vad som skiljer vinnarna är inte bara att distribuera agenter, utan att distribuera dem väl. Styrd autonomi, stark observerbarhet och åtgärdsloggar, och arkitekturer som begränsar beslutsomfång kommer att vara nyckeln till det. Företag som behandlar agentbaserad AI som en kärnoperativ förmåga, med rätt kontroller, integration och ägande, kommer att använda den för att göra mer, inte mindre. Det kommer att frigöra team för att fokusera på tillväxt och innovation snarare än att spendera sina dagar begraven i admin. I korthet, radikal hastighet och effektivitet blir en verklig konkurrensfördel på företagsnivå.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka Kovant.