Ali Sarrafi, VD och grundare av Kovant – Intervju-serie

Ali Sarrafi, VD och grundare av Kovant, är en erfaren teknologi- och AI-chef med säte i Stockholm med en meritlista av att bygga och skala upp högt växande AI-företag. Sedan han grundade Kovant i slutet av 2024 har han använt sig av djup erfarenhet av företags AI-strategi, marknadsföringsgenomförande och operativ skalning. Tidigare har han tjänstgjort som vice VD för strategi på Silo AI efter förvärvet av AMD, där han var ansvarig för att forma företags AI-strategi och driva stor skala antagande. Tidigare i sin karriär var han med och grundade Combient Mix, och ledde företaget genom snabb tillväxt och ett lyckat förvärv av Silo AI, och har sedan dess haft rådgivande och styrelseuppdrag inom utbildning och AI-startups, vilket speglar en konsekvent fokus på att översätta avancerad AI till verklig affekt.

Kovant är ett företag inom AI som fokuserar på att möjliggöra för organisationer att gå från experimentell AI-användning till fullt operativa, autonoma affärsprocesser. Företaget utvecklar en agentbaserad plattform som är utformad för att orkestrera team av AI-agenter över komplexa operativa domäner som inköp, leverantörskedjor, regelefterlevnad och kundservice. Genom att betona säker, företagsklassad distribution och snabb tid till värde positionerar sig Kovant som en bro mellan strategisk AI-ambition och daglig genomförande, och hjälper stora organisationer att integrera AI direkt i kärnprocesser snarare än att behandla det som ett fristående verktyg eller pilotprojekt.

Du har lett stora AI-initiativ på Spotify, skalat och avslutat Combient Mix, och senare format företags AI-strategi på Silo AI innan du grundade Kovant. Vilka specifika luckor eller frustrationer mötte du i dessa roller som övertygade dig om att det var dags att bygga en autonom företagsplattform, och hur formade den historien Kovants kärndesignfilosofi?

Under mina tidigare roller visade sig ett antal konsekventa luckor. Först är de flesta “vertikala” AI-verktyg i praktiken fångade i en enda programvarustack: de gör en sak något bättre inom den gränsen, men kämpar så fort en arbetsflöde behöver spänna över flera system. Samtidigt är företagsdata utspridd över många verktyg, och många automatiseringslösningar kan inte nå den. Lägg till år av punktintegrationer och du får klassisk spagettarkitektur: komplexitet ökar, förändringar blir långsammare, och team hamnar i att automatisera enskilda steg snarare än att omdefiniera arbetsflödet från början till slut. Resultatet är att ROI ofta anländer långsammare – och mindre – än organisationer förväntar sig.

Kovant är utformat som en reaktion på den verkligheten. Vår kärnfilosofi är att agenter bör bete sig mer som anställda: de arbetar över flera verktyg, de “anställs” för att göra jobb, inte för att automatisera en enskild skriptsekvens. Det är därför integrationer och orkestrering är inbyggda, och varför vi antar att företagsdata ofta är oordnad och ostrukturerad – den behöver en mer mänsklig approach för att hantera undantag och tvetydighet.

Vi använder grundläggande agenter för att uppnå hastighet och skala, samtidigt som vi håller data-suveränitet i fokus: företag kan komma åt och använda sin egen data horisontellt utan att den lämnar deras lokaler.

Kovant positionerar sig som en autonom företagsplattform som kan köra hela operationer och avdelningar med AI-agenter. Hur definierar du “autonom” i ett företagskontext, och hur skiljer sig detta från automatiserings- och agentverktyg som företag redan experimenterar med idag?

I ett företagskontext, när vi säger “autonom” menar vi inte “oövervakad”. Vi menar att AI-agenter kan ta verkliga åtgärder från början till slut över en operation med tydliga mål och skydd, och de kommer att eskalera till människor när tillsyn behövs.

Vad som gör Kovant annorlunda är våra grundläggande agenter. Snarare än att automatisera en enskild, fast process eller följa en förbyggd sekvens, kan Kovants agenter arbeta som ett team (eller svärm) på en operation med hjälp av endast instruktioner och en operationsöversikt som vi kallar en ritning. De är inte utformade för en smal uppgift; de samarbetar för att lösa komplexa arbetsflöden, anpassa sig efter förändrade förhållanden och överlämna till människor när situationen kräver tillsyn.

Till exempel kan ett lagerhanteringsagentteam utföra alla följande uppgifter utan att bygga om dem från scratch, inklusive: kommunicera med leverantörer via e-post, övervaka lager och utgångssignaler, spåra leveranser och inköpsorder, uppdatera status över system, skapa avvikelsebiljetter för lagerplanerare att godkänna, omfördela lager mellan lager och konsolidera lager rapporter.

Så förändringen är att istället för “chatt plus verktyg” eller sköra automatiseringar som bryts vid skala, flyttar företag från att bygga agenter till att köra dem i skala.

Trots ett enormt intresse för agenter AI, förblir många organisationer fast i pilotläge. Utifrån vad du ser i verkliga distributioner, vad är de främsta orsakerna till att företag kämpar för att flytta från experiment till skalförproduktion?

Vad vi ser är att de flesta organisationer inte fastnar i pilotläge för att idén är fel; de fastnar för att miljön är fientlig mot skalning.

Den första blockeringen är den fragmenterade företags tekniska landskapet. Arbetsflöden spänner över många system, data bor i flera platser, och att sy ihop allt på ett tillförlitligt sätt är svårt. Och agentbaserad AI distribueras ofta som ett tillägg till befintliga verktyg, snarare än som ett sätt att omdefiniera hur arbetsflödet ska köras från början till slut.

Det finns också ett verkligt arkitektur- och dataproblem. Många SaaS-leverantörer försöker fortfarande låsa in data, vilket skapar oförenligheter och begränsar vad agenter kan göra över system. Och många team underskattar faktum att de flesta företagsdata är ostrukturerade (e-post, dokument, biljetter, PDF:er, chattloggar). Om din approach antar ren, strukturerad data, blir tid till värde lång, smärtsam och svår att replikera bortom piloten.

I korthet: fragmentering, inlåsning och ostrukturerad data skapar drag – och piloter blir aldrig produktion tills dessa verkligheter är utformade för.

Tillförlitlighet nämns ofta som den största blockeringen för att distribuera AI-agenter i den verkliga världen. Varför misslyckas så många agentsystem när de lämnar kontrollerade miljöer, och hur minskar Kovants tillvägagångssätt problem som hallucinationer och oförutsägbar beteende?

Vissa agentsystem ser bra ut i demon, men misslyckas i den verkliga världen för att miljön är rörig och oförutsägbar. Data är ofullständig eller inkonsekvent, gränsfall dyker upp konstant (återbetalningar, tvister, specialgodkännanden). Arbetsflöden spänner över flera verktyg, plattformar och integrationer som ändras över tid, och behörigheter varierar. När en AI-agent får i uppdrag att hantera en stor uppgift och får för mycket sammanhang på en gång, ökar risken för hallucinationer och underligt beteende.

Kovant minskar detta genom design. Vår unika arkitektur begränsar problemutrymmet, beslutsutrymmet och sammanhang som modellerna arbetar med för att minska hallucinationer. Vi bryter också ner operationer i smala, fokuserade uppgifter för enskilda agenter och steg. Det gör beteendet mer förutsägbart och lägger till spårbarhet och kontroll i systemet och kan hantera hallucinationer bättre. Vi kan se vad varje agent gjorde, var en misslyckande började, och ingripa eller eskalera när det behövs.

Hallucinationer försvinner inte magiskt, men genom att begränsa vad varje agent är ansvarig för och begränsa sammanhanget som den kan agera på, kan vi minska deras frekvens och begränsa deras påverkan. Detta “begränsade uppgift/sammanhang”-tillvägagångssätt har också stöd i nylig forskning från Nvidias forskningsteam, som fann liknande fördelar med att begränsa agentbeslut.

Ansvarighet är en stor oro när AI-agenter börjar ta verkliga åtgärder i affärssystem. Hur ändrar detaljerade åtgärdsloggar samtalet kring förtroende, regelefterlevnad och operativ risk?

Med detaljerade åtgärdsloggar kan vi se vad som hände, varför det hände och vad som händer härnäst.

De detaljerade loggarna förvandlar en agent från en mystisk bot som arbetar i maskinen till ett system som kan inspekteras.

Hos Kovant, med varje AI-agentdistribution, kommer det att finnas en riskkarta som organisationen kan agera på, vi har byggt in grindvakt för människor för riskfyllda åtgärder som innebär att agenter endast kan utföra dessa uppgifter om en människa granskar och godkänner beslutet. Allt detta loggas på samma sätt som ett system för register är loggat och är spårbara.

Vi tror att det är viktigt att kombinera åtgärdsloggar med mänsklig tillsyn och övervakning för att minimera risken. Det innebär att du fortfarande får hastighets- och skalfördelarna med agenter som kör verkliga operationer.

Det finns en växande diskussion om huruvida AI-agenter ens kan försäkras på grund av deras ogenomskinliga beslutsfattande. Hur hjälper det att göra agentarbetsflöden granskbara och återuppspelbara att hantera “svarta lådan”-problemet och öppna dörren för försäkring?

“Svarta lådan”-problemet är vad som gör försäkring svår. Om du inte kan tydligt visa vad en agent gjorde, varför den gjorde det, och vilka kontroller som fanns på plats, är det svårt för någon, särskilt försäkringsgivare, att prissätta risken.

Vår tillvägagångssätt är i princip en utvidgning av ansvarighetskonfigurationen i föregående svar. Vi bryter ner beslutsomfånget och påverkan av åtgärder i mindre bitar, så modellen inte fattar ett jättestort, ogenomskinligt beslut som kan svänga en hel operation. Varje steg är smalare, mer förutsägbart och lättare att utvärdera.

Vi lägger sedan till detaljerade loggar, övervakning och mänsklig tillsyn. För de viktigaste och mest påverkande besluten använder vi en mänsklig grindvakt så att agenten endast kan fortsätta efter granskning och godkännande. Det skapar mycket mer synlighet i hur arbetsflödet beter sig i praktiken.

Att göra arbetsflöden granskbara och återuppspelbara är den sista biten. Om något går fel kan du återskapa vad som hände, utreda det snabbt, validera korrigeringar och demonstrera hur ofta mänskligt godkännande krävs och var säkerhetsåtgärderna sitter. I termer av underwriting blir det mystiskt AI-beteende till något som liknar standardoperativ risk.

Med initiativ som Agentic AI Foundation som syftar till att skapa gemensamma standarder för agentbaserade system, vad ser du som de mest lovande aspekterna av dessa insatser, och var brister de fortfarande för verkliga företagsoperationer?

Standardisering är generellt en bra sak. AAIF kan göra det oglamorösa men väsentliga arbetet med att få agentsystem att tala samma språk, vilket bör göra integrationer lättare och minska leverantörsinlåsning över tid.

Där jag är försiktig är vars perspektiv formar standarderna. Om det mesta av arbetet leds av modellskapare och teknikskalor, finns det en risk att “standarderna” optimerar för vad som är lättast att bygga eller demo, snarare än vad stora organisationer verkligen behöver för att köra agenter säkert dag till dag.

För verkliga företagsoperationer tenderar luckorna att vara mindre om anslutningar och mer om kontroll: vad en agent kan komma åt och ändra, godkännandeflöden för högpresterande åtgärder, granskbara loggar och övervakning så att team kan övervaka beteende, utreda incidenter och bevisa regelefterlevnad. Företag behöver också praktiska standarder för att operera i rörig verklighet: testning mot gränsfall, hantering av förändrade system och möjlighet att pausa, innesluta eller återställa åtgärder säkert över legacyverktyg och reglerade datamiljöer.

Så det är en lovande riktning, men påverkan kommer att vara begränsad om företagskrav och operativa riskkontroller inte behandlas som en eftertanke.

Kovant har redan genererat betydande intäkter från stora nordiska företag medan de opererar mestadels i stealth. Vilka typer av affärsfunktioner eller arbetsflöden visar sig vara mest redo för autonoma AI-agenter idag?

Från vad vi har sett i verkliga distributioner är arbetsflödena som är “redo” idag de som består av reaktivt kontorsarbete: övervakning, jakt, kontroll, uppdatering av system, hantering av undantag och hållande av operationer i gång över flera verktyg.

I tillverkning och bredare företagsleverantörskedjor visar sig detta över:

• Inköp/leverantörer: råvarutillgänglighet, hållbar inköp, regelefterlevnad, leverantörval (inklusive dubbel-/multi-inköp), kontraktshantering, leverantörsriskhantering och anbudshantering.
• Produktion: kapacitetsplanering, produktionsschema, underhållshantering, kvalitetskontroll, flaskhalskontroll och förlustförebyggande.
• Lagerhantering: mottagning och inspektion, lagerhantering, lageromsättning (FIFO/FEFO) och cyklisk räkning/granskning.
• Transport/logistik: transportmedels- och leverantörsval, tullklarering/dokumentation, spårning och synlighet, utsläppskontroll och handelsregelefterlevnad.
• Försäljning och service: produkttillgänglighet, lagerhantering, försäljnings-/returhantering, konsumentbeteendeanalys samt efterförsäljningsområden som reparationer, livscykelhantering, verkstadsdrift och serviceavtal.

När företag distribuerar AI-agenter över kritiska operationer, hur rekommenderar du att man balanserar autonomi med mänsklig tillsyn för att säkerställa kontroll utan att sakta ner allt?

Balansen styrs av autonomi. Du måste låta agenter flytta snabbt på lågriskarbete inom tydliga skydd, och eskalera till människor när åtgärden korsar en definierad risktröskel.

Många misslyckanden kommer från att ge modellen för stor omfattning och för mycket sammanhang på en gång. Jag rekommenderar att bryta ner operationer i smala, fokuserade beslut, där varje steg har tydliga behörigheter och en begränsad påverkansradie. Det minskar oförutsägbart beteende och gör prestanda lättare att övervaka och förbättra.

Sedan kombinerar du tre saker: övervakning, åtgärdsloggar och mänsklig grindvakt. Allt som agenten gör ska vara spårbar, så att du kan inspektera vad som hände och utreda snabbt. För högrisk- eller riskfyllda åtgärder lägger du till en mänsklig godkännandeprocess i arbetsflödet, så att agenten kan föreslå och förbereda, men endast utför när en person godkänt.

Det håller saker i rörelse. Om något så sakta ner så lite vid den mänskliga tillsynssteget, men det är en viktig del av processen. Människor är inte fast i att övervaka varje klick, men de är fortfarande i kontroll över de ögonblick som betyder något. Resultatet är hastighet där det är säkert, och tillsyn där det är nödvändigt.

Om du ser framåt, hur förväntar du dig att rollen för autonoma AI-agenter kommer att utvecklas inom stora organisationer under de kommande åren, och vad kommer att skilja företag som lyckas med agentbaserad AI från de som kämpar?

Under de kommande åren kommer autonoma AI-agenter att flytta från intressanta experiment till att bli ett verkligt operativt lager inom stora organisationer. De kommer att användas för operationer, kundservice, ekonomi och HR. När tillförlitlighet, styrning och tillsyn förbättras, kommer vi att se företag flytta från isolerade piloter till att köra agentteam över hela arbetsflöden.

Den största förändringen är att hastighet, smidighet, skala, effektivitet och kostnader kommer att bli en mer direkt konkurrensfördel. Jag tror att en “Uber-rörelse” är på väg för företag. De som verkligen bemästrar agentbaserad AI kommer att kunna operera i en grundantast hastighet än eftersläntrare, erövra marknader snabbare och svara på förändringar utan den vanliga operativa trögheten.

Vad som skiljer vinnarna är inte bara att distribuera agenter, utan att distribuera dem väl. Styrda autonomi, stark övervakning och åtgärdsloggar, och arkitekturer som begränsar beslutsomfång kommer att vara nyckeln till det. Företag som behandlar agentbaserad AI som en kärnoperativ förmåga, med rätt kontroller, integration och ägande, kommer att använda den för att göra mer, inte mindre. Det kommer att frigöra team för att fokusera på tillväxt och innovation snarare än att spendera sina dagar begraven i admin. I korthet, radikal hastighet och effektivitet blir en verklig konkurrensfördel på företagsnivå.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka Kovant.