Ali Sarrafi, CEO a zakladatel Kovant – Interview Series

Ali Sarrafi, CEO a zakladatel Kovant, je zkušený technologický a AI manažer se sídlem ve Stockholmu s historií budování a rozšiřování high-growth AI společností. Od založení Kovant na konci roku 2024 využívá hluboké zkušenosti v oblasti podnikové AI strategie, go-to-market realizace a operačního rozšiřování. Předtím působil jako viceprezident pro strategii ve společnosti Silo AI po jejím odkupu společností AMD, kde byl zodpovědný za tvarování podnikové AI strategie a řízení rozsáhlého uplatňování. V rané fázi své kariéry spoluzaložil Combient Mix, vedl společnost prostřednictvím rychlého růstu a úspěšného odkupu společností Silo AI a od té doby zastával poradenské a řídící role v oblasti vzdělávání a AI startupů, což odráží stálou orientaci na překlad pokročilé AI do reálného obchodního dopadu.

Kovant je podniková AI společnost zaměřená na umožnění organizacím přechodu z experimentálního AI využití na plně operační, autonomní obchodní procesy. Společnost vyvíjí agentní platformu navrženou pro orchestraci týmů AI agentů napříč složitými operačními domény, jako jsou zadávání, dodavatelské řetězce, dodržování předpisů a zákaznické operace. Díky zdůrazňování zabezpečeného, podnikového nasazení a rychlého času na návratnost investic se Kovant позиcionuje jako most mezi strategickou AI ambicí a denní realizací, pomáhající velkým organizacím vložit AI přímo do jádra pracovních postupů, spíše než je zpracovávat jako samostatný nástroj nebo pilotní projekt.

Měli jste na starosti velké AI iniciativy ve společnosti Spotify, rozšiřovali a ukončovali Combient Mix a později formovali podnikovou AI strategii ve společnosti Silo AI před založením Kovant. Jaké konkrétní mezery nebo frustrace jste zaznamenali v těchto rolích, které vás přesvědčily, že je čas postavit autonomní podnikovou platformu, a jak tato historie formovala základní designovou filozofii Kovant?

Během mých předchozích rolí se několikrát objevovaly stejné mezery. První, většina “vertikálních” AI nástrojů je efektivní pouze uvnitř jednoho softwarového stacku: dělají jednu věc trochu lépe uvnitř této hranice, ale zápasí, když pracovní postup potřebuje překročit více systémů. Současně je podniková data rozptýlena napříč mnoha nástroji a mnohé automatizační řešení jednoduše nemohou dosáhnout. Přidejte k tomu roky bodových integrací a dostanete klasickou špagetovou architekturu: komplexita se zvyšuje, změna se stává pomalejší a týmy nakonec automatizují jednotlivé kroky, spíše než přebudovávají pracovní postup od začátku do konce. Výsledkem je, že návratnost investic často přichází pomaleji – a menší – než organizace očekávají.

Kovant je navržen jako odpověď na tuto realitu. Naše základní filozofie je, že agenti by se měli chovat více jako zaměstnanci: pracují napříč několika nástroji, jsou “najati” na konkrétní úkoly, nikoli na automatizaci jediné skriptované sekvence. To je důvod, proč jsou integrace a orchestrace vestavěny a proč předpokládáme, že podniková data jsou často neuspořádaná a nestrukturovaná – potřebují více lidský přístup k zpracování výjimek a nejistoty.

Používáme základních agentů k dosažení rychlosti a rozsahu, zatímco držíme suverenitu dat v popředí: podniky mohou přistupovat a využívat svá vlastní data horizontálně bez toho, aby opustily své prostory.

Kovant se позиcionuje jako autonomní podniková platforma schopná spouštět celé operace a oddělení s AI agenty. Jak definujete “autonomní” v podnikovém kontextu a jak se to liší od automatizace a agentů, se kterými společnosti目前 experimentují?

V podnikovém kontextu, když říkáme “autonomní”, nemyslíme “nesupervizované”. Myslíme, že AI agenti mohou provádět skutečné akce od začátku do konce napříč operací s jasnými cíli a ochrannými opatřeními a že budou eskalovat na lidi, když je potřeba dohled.

Co dělá Kovant odlišným je naše základních agentů. Na rozdíl od automatizace jediného, pevného procesu nebo následování předem vytvořené sekvence mohou agenti Kovant pracovat jako tým (nebo roj) na operaci pouze pomocí pokynů a přehledu operace, který nazýváme modrákem. Není určen pro jednu úzkou úlohu; spolupracují na řešení složitých pracovních postupů, přizpůsobují se, jak se podmínky mění, a předávají lidem, když je potřeba dohled.

Například tým agentů pro správu zásob může provádět všechny následující úkoly bez toho, aby je museli přestavovat od začátku, včetně: komunikace se dodavateli prostřednictvím e-mailu, monitorování úrovní zásob a signálů pro vyprodání, sledování zásilek a objednávek, aktualizace stavů napříč systémy, vytváření tiketů pro nesrovnalosti pro schválení plánovači zásob, redistribuce zásob mezi sklady a konsolidace zpráv o zásobách.

Takže posun je místo “chat plus nástroje” nebo křehké automatizace, které se láme v rozsahu, podniky přecházejí z budování agentů na jejich běh v rozsahu.

Přestože je o agentic AI velký zájem, mnohé organizace zůstávají uvíznuté v pilotním režimu. Z toho, co vidíte v reálných nasazeních, jaké jsou hlavní důvody, proč společnosti zápasí s přechodem z experimentování na rozsáhlou produkci?

Co vidíme, je, že většina organizací nezůstává uvíznutá v pilotním režimu, protože myšlenka je špatná; zůstávají uvíznuté, protože prostředí je nepřátelské vůči rozšiřování.

První překážka je fragmentovaná podniková technická krajina. Pracovní postupy překračují mnoho systémů, data žijí na mnoha místech a spojení všeho together spolehlivě je obtížné. A agentic AI je často nasazena jako doplněk stávajících nástrojů, spíše než jako způsob, jak předefinovat, jak by měl pracovní postup běžet od začátku do konce.

Existuje také skutečný architektonický a datový problém. Mnozí SaaS dodavatelé stále snaží uzamknout data, což vytváří nekompatibilitu a omezuje, co agenti mohou skutečně dělat napříč systémy. A mnoho týmů podceňuje fakt, že většina podnikových dat je neuspořádaná (e-maily, dokumenty, tikety, PDF, chat logy). Pokud váš přístup předpokládá čisté, strukturované data, návratnost investic se stává dlouhá, bolestivá a obtížná reprodukovat beyond pilot.

Stručně řečeno: fragmentace, uzamknutí a neuspořádaná data vytvářejí brzdu – a piloty se nikdy nestanou produkční, dokud tyto skutečnosti nejsou navrženy.

Spoľahlivost je často citována jako největší brzda nasazení AI agentů ve skutečném světě. Proč tolik agentních systémů selhává, když opouští kontrolovaná prostředí, a jak přístup Kovant redukuje problémy, jako jsou halucinace a nepředvídatelné chování?

Některé agentní systémy vypadají skvěle v demo, pak selhávají ve skutečném světě, protože prostředí je špinavé a nepředvídatelné. Data jsou neúplná nebo nekonzistentní, hraniční případy se objevují neustále (refundace, spory, zvláštní schválení). Pracovní postupy překračují mnoho nástrojů, platforem a integrací, které se mění v čase, a oprávnění se liší. Když je AI agent požádán o zpracování velkého úkolu a je mu dán příliš mnoho kontextu najednou, riziko halucinací a divného chování se zvyšuje.

Kovant redukuje toto navržením. Naše unikátní architektura zužuje problémový prostor, rozhodovací prostor a kontext, se kterým modely pracují, aby redukovaly halucinace. Také rozdělujeme operace na úzké, zaměřené úkoly pro jednotlivé agenty a kroky. To dělá chování více předvídatelným a přidává stopovatelnost a ovladatelnost do systému a může lépe zvládat halucinace. Můžeme vidět, co každý agent udělal, kde selhání začalo, a intervenovat nebo eskalovat, když je potřeba.

Halucinace nezmizí magicky, ale omezováním toho, za co je každý agent zodpovědný, a omezením kontextu, na který může jednat, můžeme redukovat jejich frekvenci a omezit jejich dopad. Tento “zužující se úkol/kontext” přístup byl také podpořen v nedávné práci výzkumného týmu Nvidia, který nalezl podobné výhody z omezení rozhodování agentů.

Odpovědnost je velkou starostí, když AI agenti začínají provádět skutečné akce v obchodních systémech. Jak podrobné akční protokoly mění konverzaci kolem důvěry, dodržování předpisů a provozního rizika?

S podrobnými akčními protokoly můžeme vidět, co se stalo, proč se stalo a co se stane dál.

Podrobné protokoly přemění agenta z tajemného robota pracujícího v zařízení na systém, který můžete prohlédnout.

V Kovant, s každým nasazením AI agenta bude existovat mapa rizika, se kterou organizace může jednat, máme vestavěné brány pro lidi pro rizikové akce, což znamená, že agenti mohou provádět tyto úkoly pouze tehdy, pokud je člověk přezkoumá a schválí rozhodnutí. Všechny tyto jsou protokolovány stejným způsobem, jako je systém záznamů, a jsou stopovatelné.

Věříme, že je důležité kombinovat akční protokoly s lidským dohledem a pozorovatelností, aby se minimalizovalo riziko. To znamená, že stále získáte výhody rychlosti a rozsahu agentů, kteří provádějí skutečné operace.

Existuje rostoucí diskuse o tom, zda AI agenti mohou být vůbec pojištěni kvůli jejich neprůhlednému rozhodování. Jak membuat agentní pracovní postupy auditovatelnými a přehrávatelnými pomáhá řešit “černou skříňku” problém a otevírá dveře k pojišťování?

“Černá skříňka” problém je to, co dělá pojišťování obtížným. Pokud nemůžete jasně ukázat, co agent udělal, proč ho udělal a jaká opatření byla v místě, je obtížné pro kohokoli, zejména pro pojišťovny, ohodnotit riziko.

Náš přístup je vlastně rozšířením nastavení odpovědnosti z předchozí odpovědi. Rozdělujeme rozhodovací rozsah a dopad akcí na menší části, takže model nedělá jednu velkou, neprůhlednou rozhodnutí, které může ovlivnit celou operaci. Každý krok je užší, více předvídatelný a snazší vyhodnotit.

Pak přidáme podrobné protokoly, pozorovatelnost a lidský dohled. Pro nejdůležitější a nejvýznamnější rozhodnutí používáme lidskou bránu, takže agent může pokračovat pouze po přezkumu a schválení. To vytváří mnohem více viditelnosti do toho, jak pracovní postup chová v praxi.

Makení pracovních postupů auditovatelnými a přehrávatelnými je konečným kusem. Pokud něco půjde špatně, můžete reprodukovat, co se stalo, prošetřit to rychle, ověřit opravy a prokázat, jak často je vyžadováno lidské schválení a kde jsou bezpečnostní opatření. V podmínkách pojištění se to změní z tajemného AI chování na něco bližšího standardnímu provoznímu riziku.

S iniciativami, jako je Agentic AI Foundation, která má za cíl vytvořit sdílené standardy pro agentní systémy, co vidíte jako nejvýznamnější aspekty těchto úsilí a kde ještě chybí pro skutečné podnikové operace?

Standardizace je obecně dobrá věc. AAIF může dělat nezajímavou, ale nezbytnou práci na tom, aby agentní systémy mluvily stejným jazykem, což by mělo usnadnit integrace a redukovat uzamknutí dodavatelů v čase.

Kde jsem opatrný, je, čí perspektiva formuje standardy. Pokud většina práce je vedena tvůrci modelů a technologickými startupy, existuje riziko, že “standardy” optimalizují to, co je nejsnazší postavit nebo demonstrovat, spíše než to, co velké organizace skutečně potřebují k bezpečnému provozu agentů denně.

Pro skutečné podnikové operace se mezery tendují být méně o konektorech a více o kontrole: co může agent přístup a změnit, schvalovací pracovní postupy pro vysoké-impact akce, auditovatelné protokoly a pozorovatelnost, aby týmy mohly monitorovat chování, prošetřit incidenty a prokázat dodržování předpisů. Podniky také potřebují praktické standardy pro provoz v špinavé realitě: testování proti hraničním případům, zpracování měnících se systémů a schopnost pozastavit, omezit nebo vrátit zpět akce bezpečně napříč nástroji a regulovanými datovými prostředími.

Takže je to slibný směr, ale dopad bude omezen, pokud podnikové požadavky a provozní rizika nejsou považovány za něco, co je třeba řešit.

Kovant již generoval významný příjem z velkých severských podniků, zatímco operuje převážně v utajení. Jaké typy obchodních funkcí nebo pracovních postupů se ukazují jako nejvíce připravené pro autonomní AI agenty dnes?

Z toho, co jsme viděli v reálných nasazeních, pracovní postupy, které jsou nejvíce “připravené” dnes, jsou ty, které se skládají z reaktivní bílé límečky práce: monitorování, honění, kontrola, aktualizace systémů, zpracování výjimek a udržování operací v chodu napříč několika nástroji.

Ve výrobě a širších podnikových dodavatelských řetězcích se to projevuje napříč:

• Zadávání/procurement: dostupnost surovin, udržitelné zadávání, compliance operace, výběr dodavatelů (včetně duálního/multi-zadávání), správa smluv, řízení rizik dodavatelů a zadávání/bid management.
• Výroba: plánování kapacity, plánování výroby, správa údržby, řízení kvality, řízení úzkých míst a prevence ztrát.
• Skladování: příjem & kontrola, správa zásob, rotace zásob (FIFO/FEFO) a cyklické počítání/auditing.
• Doprava / logistika: výběr režimu a dopravce, celní odbavení/dokumentace, sledování & viditelnost, monitoring emisí a dodržování obchodních předpisů.
• Prodej a servis: dostupnost produktů, prevence vyprodání, řízení prodejů/návratů, analýza spotřebitelského chování a také dopo-prodejní oblasti, jako jsou opravy, sledování konce životnosti, provoz dílen a servisní smlouvy.

Když podniky nasazují AI agenty napříč kritickými operacemi, jak doporučujete vyvážit autonomii s lidským dohledem, aby zajistily kontrolu bez zpomalení všeho?

Rovnováha je řízená autonomie. Musíte nechat agenty pohybovat se rychle na nízko-rizikové práci v rámci jasných ochranných opatření a eskalovat na lidi, když akce překročí definovaný práh rizika.

Mnohé selhání pocházejí z toho, že modelu je dán příliš široký rozsah a příliš mnoho kontextu najednou. Doporučuji rozdělit operace na menší, úzce zaměřené rozhodnutí, kde každý krok má jasná oprávnění a omezený dopad. To redukuje nepředvídatelné chování a usnadňuje monitorování a zlepšování výkonu.

Pak kombinujete tři věci: pozorovatelnost, akční protokoly a lidskou bránu. Vše, co agent dělá, by mělo být stopovatelné, aby jste mohli prohlédnout, co se stalo a prošetřit rychle. Pro vysoké-impact nebo rizikové akce umístíte lidský schvalovací krok do pracovního postupu, aby agent mohl navrhnout a připravit, ale pouze vykonat, až člověk schválí.

To udržuje věci v pohybu rychle. Pokud cokoli zpomalí, tak pouze mírně na lidském schvalovacím kroku, ale to je důležitá část procesu. Lidé nejsou uvízlí v dohledu nad každým kliknutím, ale stále jsou v kontrole okamžiků, které záleží. Výsledkem je rychlost, kde je to bezpečné, a dohled, kde je to nutné.

Pohledem do budoucna, jak očekáváte, že se role autonomních AI agentů bude vyvíjet uvnitř velkých organizací v příštích letech, a co bude odlišovat společnosti, které uspějí s agentic AI, od těch, které budou zápasit?

V příštích letech se autonomní AI agenti přesunou z interessantních experimentů na skutečnou provozní vrstvu uvnitř velkých organizací. Budou používány pro operace, zákaznický servis, finance a HR. Jakmile se spolehlivost, řízení a dohled zlepšují, uvidíme, že podniky přecházejí z izolovaných pilotů na běh agentních týmů napříč koncovými pracovními postupy.

Největší změna je, že rychlost, agilita, rozsah, efektivita a náklady se stanou mnohem přímějším konkurenčním pákou. Myslím, že “Uber hnutí” je na cestě pro podniky. Ty, které skutečně zvládnou agentic AI, budou moci operovat v fundamentálně rychlejším tempu než pozůstalí, zachytit trhy rychleji a reagovat na změnu bez obvyklé provozní brzdy.

Co odlišuje vítěze, není jen nasazení agentů, ale nasazení jich dobře. Řízená autonomie, silná pozorovatelnost a akční protokoly a architektury, které zužují rozhodovací rozsah, budou klíčové k tomu. Společnosti, které budou považovat agentic AI za základní provozní schopnost, s příslušnými kontrolami, integrací a vlastnictvím, budou ji používat k tomu, aby dělaly více, ne méně. To osvobodí týmy, aby se soustředily na růst a inovace, spíše než trávily dny pohřbené v administrativě. Stručně řečeno, radikální rychlost a efektivita se stanou skutečnou konkurenční výhodou na úrovni podniku.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí dozvědět se více, by měli navštívit Kovant.