Ali Sarrafi, CEO i założyciel Kovant – seria wywiadów

Ali Sarrafi, CEO i założyciel Kovant, to doświadczony executive z branży technologicznej i sztucznej inteligencji, z siedzibą w Sztokholmie, z dorobkiem budowania i skalowania firm związanych z AI o wysokim tempie wzrostu. Od założenia Kovant na początku 2024 roku, wykorzystuje głębokie doświadczenie w zakresie strategii AI dla przedsiębiorstw, wdrożenia na rynek i operacyjnego skalowania. Wcześniej pełnił funkcję wiceprezesa ds. strategii w Silo AI po jego przejęciu przez AMD, gdzie był odpowiedzialny za kształtowanie strategii AI dla przedsiębiorstw i promowanie dużych wdrożeń. Wcześniej w swojej karierze był współzałożycielem Combient Mix, którym kierował przez okres szybkiego wzrostu i udanego przejęcia przez Silo AI, a następnie pełnił role doradcze i członkowskie w radach nadzorczych w dziedzinie edukacji i startupów związanych z AI, co odzwierciedla stałe zaangażowanie w tłumaczenie zaawansowanej AI na realny wpływ biznesowy.

Kovant to przedsiębiorstwo AI, które koncentruje się na umożliwieniu organizacjom przejścia od eksperymentalnego wykorzystania AI do w pełni operacyjnych, autonomicznych procesów biznesowych. Firma rozwija platformę opartą na agentach, zaprojektowaną do koordynowania zespołów agentów AI w złożonych obszarach operacyjnych, takich jak zamówienia, łańcuchy dostaw, zgodność i operacje klientów. Poprzez podkreślanie bezpiecznego, przedsiębiorczego wdrożenia i szybkiego czasu osiągania wartości, Kovant stawia się jako mostek pomiędzy strategicznymi ambicjami AI a codziennym wykonaniem, pomagając dużym organizacjom włączyć AI bezpośrednio do podstawowych procesów roboczych, zamiast traktować je jako oddzielną narzędzie lub projekt pilotażowy.

Prowadziłeś duże inicjatywy związane z AI w Spotify, skalowałeś i zbywałeś Combient Mix, a później kształtowałeś strategię AI dla przedsiębiorstw w Silo AI, zanim założyłeś Kovant. Jakie konkretnych luk lub frustracji spotkałeś na swojej drodze, które przekonały cię, że nadszedł czas, aby zbudować autonomiczną platformę przedsiębiorczą, i jak ta historia ukształtowała podstawową filozofię projektową Kovant?

Przez całe moje poprzednie role, kilka stałych luk się pojawiało. Po pierwsze, większość „pionowych” narzędzi AI jest skutecznie uwięziona w jednej stosie oprogramowania: robią jedną rzecz nieco lepiej w ramach tej granicy, ale mają trudności, gdy workflow musi obejmować wiele systemów. Równocześnie dane przedsiębiorstw są rozproszone po wielu narzędziach, a wiele rozwiązań automatyzacji po prostu nie może do nich dotrzeć. Dodaj do tego lata punktowych integracji i otrzymujesz klasyczną architekturę spaghetti: złożoność rośnie, zmiana staje się wolniejsza, a zespoły kończą się na automatyzowaniu poszczególnych kroków, zamiast wyobrażać sobie workflow od początku do końca. Rezultatem jest to, że zwrot z inwestycji pojawia się często wolniej – i mniejszy – niż organizacje oczekują.

Kovant został zaprojektowany jako odpowiedź na tę rzeczywistość. Nasza podstawowa filozofia polega na tym, że agenci powinni zachowywać się bardziej jak pracownicy: pracują oni w wielu narzędziach, są „zatrudniani”, aby wykonywać zadania, a nie automatyzować jednej skryptowanej sekwencji. Dlatego integracje i koordynacja są wbudowane, a my zakładamy, że dane przedsiębiorstw są często brudne i nieustrukturyzowane – potrzebują one bardziej ludzkiego podejścia do obsługi wyjątków i niejasności.

Wykorzystujemy agenci podstawowe, aby osiągnąć szybkość i skalę, jednocześnie utrzymując suwerenność danych na pierwszym planie: przedsiębiorstwa mogą uzyskać dostęp i wykorzystać swoje własne dane w poziomie bez opuszczania ich siedziby.

Kovant pozycjonuje się jako autonomiczna platforma przedsiębiorcza, zdolna do prowadzenia całych operacji i departamentów za pomocą agentów AI. Jak definiujesz „autonomiczny” w kontekście przedsiębiorstwa, i jak różni się to od automatyzacji i narzędzi agentów, z którymi firmy eksperymentują dzisiaj?

W kontekście przedsiębiorstwa, gdy mówimy „autonomiczny”, nie mamy na myśli „nienadzorowany”. Mamy na myśli, że agenci AI mogą podejmować rzeczywiste działania od początku do końca operacji z wyraźnymi celami i barierami, i będą eskalować do ludzi, gdy nadzór jest potrzebny.

To, co sprawia, że Kovant jest inny, to nasi agenci podstawowi. Zamiast automatyzować jeden, stały proces lub postępować zgodnie z predefiniowaną sekwencją, agenci Kovant mogą pracować jako zespół (lub roj) nad operacją, używając tylko instrukcji i przeglądu operacji, który nazywamy planem. Nie są zaprojektowani do jednej wąskiej zadania; współpracują, aby rozwiązać złożone workflow, adaptują się, gdy warunki się zmieniają, i przekazują ludziom, gdy sytuacja wymaga nadzoru.

Na przykład zespół agentów zarządzania zapasami może wykonać wszystkie następujące zadania bez odbudowywania ich od podstaw, w tym: komunikowanie się z dostawcami za pośrednictwem e-maila, monitorowanie poziomów zapasów i sygnałów braku, śledzenie przesyłek i zamówień zakupu, aktualizowanie statusów w systemach, tworzenie biletów rozbieżności dla planistów zapasów do zatwierdzenia, ponowne rozdzielanie zapasów między magazynami i konsolidowanie raportów zapasów.

Więc zmiana polega na tym, że zamiast „czatu plus narzędzi” lub kruchych automatyzacji, które psują się w skali, przedsiębiorstwa przechodzą od budowania agentów do ich uruchamiania w skali.

Pomimo ogromnego zainteresowania AI agenticzną, wiele organizacji pozostaje uwięzionych w trybie pilotażowym. Z tego, co widzisz w rzeczywistych wdrożeniach, jakie są główne powody, dla których firmy mają trudności z przechodzeniem od eksperymentowania do produkcji na dużą skalę?

To, co widzimy, to fakt, że większość organizacji nie utknęła w trybie pilotażowym, ponieważ pomysł jest zły; utknęły, ponieważ środowisko jest wrogie wobec skalowania.

Pierwszym blokerem jest fragmentaryzowany krajobraz technologiczny przedsiębiorstw. Workflow obejmuje wiele systemów, dane mieszczą się w wielu miejscach, a szycie wszystkiego razem w sposób niezawodny jest trudne. Agenci AI są często wdrożone jako dodatek do istniejących narzędzi, zamiast jako sposób przemyślenia, jak workflow powinno działać od początku do końca.

Istnieje również prawdziwy problem architektury i danych. Wiele dostawców oprogramowania SaaS nadal próbuje zablokować dane, co tworzy niezgodności i ogranicza to, co agenci mogą faktycznie zrobić w systemach. I wiele zespołów nie docenia faktu, że większość danych przedsiębiorstw jest nieustrukturyzowana (e-maile, dokumenty, bilety, pliki PDF, logi czatu). Jeśli podejście zakłada czyste, ustrukturyzowane dane, czas osiągania wartości staje się długi, bolesny i trudny do powtórzenia poza pilotażem.

W skrócie: fragmentacja, blokada i nieustrukturyzowane dane tworzą opór – i pilotaż nigdy nie przechodzi w produkcję, dopóki te rzeczywistości nie zostaną zaprojektowane.

Niezawodność jest często cytowana jako największy blokator wdrożenia agentów AI w świecie rzeczywistym. Dlaczego wiele systemów agentów zawodzi, gdy opuszczają kontrolowane środowiska, i jak podejście Kovant redukuje problemy, takie jak halucynacje i nieprzewidywalne zachowania?

Niektóre systemy agentów wyglądają dobrze w demo, potem zawodzą w świecie rzeczywistym, ponieważ środowisko jest brudne i nieprzewidywalne. Dane są niekompletne lub niespójne, przypadki brzegowe pojawiają się stale (zwroty, spory, specjalne zatwierdzenia). Workflow obejmuje wiele narzędzi, platform i integracji, które zmieniają się w czasie, a uprawnienia różnią się. Gdy agent AI jest poproszony o obsłużenie dużej zadania i otrzymuje zbyt wiele kontekstu na raz, ryzyko halucynacji i nieprzewidywalnego zachowania wzrasta.

Kovant redukuje to poprzez projekt. Nasza unikalna architektura zawęża przestrzeń problemu, przestrzeń decyzyjną i kontekst, z którym modele pracują, aby zmniejszyć halucynacje. Rozbijamy również operacje na wąskie, ukierunkowane zadania dla poszczególnych agentów i kroków. To sprawia, że zachowanie jest bardziej przewidywalne, i dodaje ślad i kontrolę do systemu, i może lepiej zarządzać halucynacjami. Możemy zobaczyć, co każdy agent zrobił, gdzie rozpoczął się awaria, i interweniować lub eskalować, gdy jest to potrzebne.

Halucynacje nie znikają magicznie, ale poprzez ograniczenie tego, za co każdy agent jest odpowiedzialny, i ograniczenie kontekstu, na który może działać, możemy zmniejszyć ich częstotliwość i ograniczyć ich wpływ. To „wąskie zadanie/kontekst” podejście zostało również wsparte w niedawnej pracy zespołu badawczego Nvidii, który znalazł podobne korzyści z ograniczania decyzji agentów.

Odpowiedzialność jest głównym powodem do zmartwienia, gdy agenci AI zaczynają podejmować rzeczywiste działania w systemach biznesowych. Jak szczegółowe rejestry działań zmieniają rozmowę o zaufaniu, zgodności i ryzyku operacyjnym?

Z rejestrami działań możemy zobaczyć, co się stało, dlaczego się stało i co się stanie dalej.

Szczegółowe rejestry zmieniają agenta z tajemniczego bota pracującego w maszynie w system, który można zbadać.

W Kovant, z każdym wdrożeniem agenta AI, będzie mapa ryzyka, na którą organizacja może działać, mamy wbudowane bramki dla ludzi dla ryzykownych działań, co oznacza, że agenci mogą wykonywać tylko te zadania, jeśli osoba je przegląda i zatwierdza decyzję. Wszystkie te są rejestrowane w ten sam sposób, jak system rejestrów, i są śledzone.

Wierzymy, że ważne jest połączenie rejestrów działań z nadzorem ludzkim i obserwowalnością, aby zminimalizować ryzyko. To oznacza, że nadal uzyskujesz korzyści ze szybkości i skali agentów prowadzących rzeczywiste operacje.

Istnieje rosnąca dyskusja na temat tego, czy agenci AI mogą być ubezpieczeni ze względu na ich nieprzejrzyste podejmowanie decyzji. Jak uczynienie workflow agentów audytowalnymi i odtwarzalnymi pomaga rozwiązać problem „czarnej skrzynki” i otwiera drzwi do ubezpieczenia?

Problem „czarnej skrzynki” jest tym, co utrudnia ubezpieczenie. Jeśli nie możesz wyraźnie pokazać, co agent zrobił, dlaczego to zrobił i jakie kontrole były w miejscu, jest trudno dla każdego, szczególnie ubezpieczycieli, ocenić ryzyko.

Nasze podejście jest podstawowym rozszerzeniem ustawienia odpowiedzialności z poprzedniej odpowiedzi. Rozbijamy zakres decyzyjny i wpływ działań na mniejsze części, tak aby model nie podejmował jednej olbrzymiej, nieprzejrzystej decyzji, która może zmienić całą operację. Każdy krok jest węższy, bardziej przewidywalny i łatwiejszy do oceny.

Dodajemy szczegółowe rejestry, obserwowalność i nadzór ludzki. Dla najważniejszych i najbardziej wpływowych decyzji używamy ludzkiej bramki, tak aby agent mógł działać tylko po przeglądzie i zatwierdzeniu. To tworzy znacznie większą widoczność, jak workflow działa w praktyce.

Uczynienie workflow audytowalnym i odtwarzalnym jest ostatecznym elementem. Jeśli coś pójdzie nie tak, możesz odtworzyć, co się stało, zbadać to szybko, zwalidować poprawki i pokazać, jak często zatwierdzenie ludzkie jest wymagane i gdzie zabezpieczenia się znajdują. W terminach ubezpieczenia to zmienia nieprzewidywalne zachowanie AI w coś bliższego standardowemu ryzyku operacyjnemu.

Z inicjatywami takimi jak Agentic AI Foundation, które mają na celu stworzenie wspólnych standardów dla systemów agenticznych, co uważasz za najbardziej obiecujące aspekty tych wysiłków, i gdzie one jeszcze nie spełniają wymagań rzeczywistych operacji przedsiębiorstw?

Standaryzacja jest generalnie dobrą rzeczą. AAIF może wykonać nieglamurzoną, ale niezbędną pracę, aby systemy agentów mówiły tym samym językiem, co powinno ułatwić integracje i zmniejszyć vendor lock-in w czasie.

Gdzie jestem ostrożny, to kto kształtuje te standardy. Jeśli większość pracy jest prowadzona przez twórców modeli i startupy technologiczne, istnieje ryzyko, że „standary” zoptymalizują to, co jest najłatwiejsze do zbudowania lub udowodnienia, a nie to, czego potrzebują duże organizacje, aby bezpiecznie działać agentami na co dzień.

Dla rzeczywistych operacji przedsiębiorstw luki tendencję do bycia mniej o łącznikach i bardziej o kontroli: co agent może uzyskać i zmienić, przepływy zatwierdzeń dla działań o wysokim wpływie, audytowalne rejestry i obserwowalność, aby zespoły mogły monitorować zachowanie, badać incydenty i udowadniać zgodność. Przedsiębiorstwa również potrzebują praktycznych standardów do działania w rzeczywistości: testowanie na przypadki brzegowe, obsługa zmieniających się systemów i możliwość bezpiecznego wstrzymania, zawieszenia lub wycofania działań w legacy toolach i regulowanych środowiskach danych.

Więc to jest obiecujący kierunek, ale wpływ będzie ograniczony, chyba że wymagania przedsiębiorstw i kontrole ryzyka operacyjnego nie są traktowane jako późniejsze myślenie.

Kovant wygenerował już znaczne przychody z dużych przedsiębiorstw nordyckich, działając głównie w ukryciu. Jakie typy funkcji biznesowych lub workflow są najbardziej gotowe do autonomicznych agentów AI dzisiaj?

Ze względu na to, co widzimy w rzeczywistych wdrożeniach, workflow, które są „gotowe” dzisiaj, to te, które składają się z reaktywnej białej kołnierzykowej pracy: monitorowania, gonienia, sprawdzania, aktualizowania systemów, obsługi wyjątków i utrzymania operacji w wielu narzędziach.

W produkcji i szerszych łańcuchach dostaw, to pojawia się w:

• Zamówienia/zaopatrzenie: dostępność surowców, zrównoważone zaopatrzenie, operacje zgodności, wybór dostawców (w tym dual/multi-sourcing), zarządzanie umowami, zarządzanie ryzykiem dostawców i zarządzanie ofertami.
• Produkcja: planowanie zdolności, planowanie produkcji, zarządzanie konserwacją, zarządzanie jakością, zarządzanie wąskimi gardłami i zapobieganie stratom.
• Magazynowanie: odbiór i inspekcja, zarządzanie zapasami, rotacja zapasów (FIFO/FEFO) i inwentaryzacja/audyt.
• Transport/logistyka: wybór trybu i przewoźnika, odprawa celna/dokumentacja, śledzenie i widoczność, monitorowanie emisji i zgodność handlowa.
• Sprzedaż i serwis: dostępność produktu, zapobieganie brakom, zarządzanie sprzedażą i zwrotami, analiza zachowania konsumentów, a także obszary posprzedażowe, takie jak naprawy, śledzenie końca życia, operacje warsztatowe i umowy serwisowe.

Gdy przedsiębiorstwa wdrożą agenci AI w krytyczne operacje, jak zalecasz balansować autonomię z nadzorem ludzkim, aby zapewnić kontrolę bez spowalniania wszystkiego?

Bilans jest zarządzany autonomią. Musisz pozwolić agentom działać szybko w pracy o niskim ryzyku w ramach wyraźnych barier, i eskalować do ludzi, gdy działanie przekracza określony próg ryzyka.

Wiele niepowodzeń wynika z dawania modelowi zbyt dużej przestrzeni i zbyt wiele kontekstu na raz. Zalecam rozbijanie operacji na mniejsze, wąsko zakresowe decyzje, gdzie każdy krok ma wyraźne uprawnienia i ograniczony zasięg. To redukuje nieprzewidywalne zachowanie i sprawia, że wydajność jest łatwiejsza do monitorowania i poprawy.

Następnie łączysz trzy rzeczy: obserwowalność, rejestry działań i nadzór ludzki. Wszystko, co agent robi, powinno być śledzone, abyś mógł zbadać, co się stało, i interweniować lub eskalować, gdy jest to potrzebne.

To utrzymuje wszystko w ruchu. Jeśli cokolwiek to spowalnia, to tylko nieznacznie na etapie nadzoru ludzkiego, ale to jest ważna część procesu. Ludzie nie są uwięzieni w nadzorowaniu każdego kliknięcia, ale nadal kontrolują momenty, które mają znaczenie. Rezultatem jest szybkość, gdzie jest to bezpieczne, i nadzór, gdzie jest to konieczne.

Spójrzając w przyszłość, jak oczekujesz, że rola autonomicznych agentów AI ewoluuje wewnątrz dużych organizacji w ciągu najbliższych kilku lat, i co będzie oddzielać firmy, które odnoszą sukces z AI agenticzną, od tych, które mają trudności?

W ciągu najbliższych kilku lat agenci AI autonomiczni przejdą od interesujących eksperymentów do stania się prawdziwą warstwą operacyjną wewnątrz dużych organizacji. Będą wykorzystywane do operacji, obsługi klienta, finansów i HR. Gdy niezawodność, zarządzanie i nadzór poprawią się, zobaczymy, jak przedsiębiorstwa przechodzą od izolowanych pilotów do uruchamiania zespołów agentów w workflow od początku do końca.

Największa zmiana polega na tym, że szybkość, elastyczność, skala, wydajność i koszty staną się bardziej bezpośrednim atutem konkurencyjnym. Uważam, że „ruch Ubera” nadchodzi dla przedsiębiorstw. Te, które naprawdę opanują AI agenticzną, będą w stanie działać w zasadniczo szybszym tempie niż spóźnialscy, zdobywać rynki szybciej i reagować na zmiany bez typowego oporu operacyjnego.

To, co oddziela zwycięzców, nie jest tylko wdrożeniem agentów, ale wdrożeniem ich dobrze. Zarządzana autonomia, silna obserwowalność i rejestry działań, oraz architektury, które zawężają zakres decyzyjny, będą kluczem do tego. Przedsiębiorstwa, które traktują AI agenticzną jako podstawową zdolność operacyjną, z odpowiednimi kontrolami, integracją i własnością, będą ją wykorzystywać, aby zrobić więcej, a nie mniej. To uwolni zespoły, aby skupić się na wzroście i innowacjach, zamiast spędzać dni uwięzionymi w administrowaniu. W skrócie, radykalna szybkość i wydajność staną się prawdziwą przewagą konkurencyjną w skali przedsiębiorstw. Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Kovant.