Raj Shukla, CTO SymphonyAI – Wywiad

Raj Shukla jest odpowiedzialny za technologię i realizację wizji SymphonyAI, kierując zespołem inżynierów, którzy budują platformę Eureka Gen AI. Z prawie 20-letnim doświadczeniem w inżynierii i badaniach AI/ML, Shukla ma również rozległe doświadczenie w dziedzinie przedsiębiorstw AI SaaS, które zdobył podczas swojej 14-letniej kariery w Microsoft (MSFT ), gdzie kierował globalnymi organizacjami AI science i inżynierii w Azure, Dynamics 365, MSR i działach wyszukiwania i reklam. Raj ma rozległe doświadczenie w AI/ML w dziedzinach wyszukiwania, reklam i przedsiębiorstw AI oraz zbudował kilka udanych produktów AI SaaS w dziedzinach konsumenckich i biznesowych.

SymphonyAI to przedsiębiorstwo AI, które koncentruje się na budowaniu branżowych aplikacji AI, które dostarczają natychmiastową wartość biznesową. Zamiast ogólnych modeli, oferuje rozwiązania pionowe dla handlu detalicznego, dóbr konsumpcyjnych, usług finansowych, produkcji, mediów i IT, rozwiązując wyzwania takie jak prognozowanie, zapobieganie oszustwom, optymalizacja operacyjna i analiza. Produkty są napędzane przez platformę Eureka AI, która łączy możliwości predykcyjne, generatywne i agenty w przepływach pracy dostosowanych do każdego sektora. Założona w 2017 roku, firma rozrosła się do globalnego lidera w dziedzinie AI pionowej, obsługując tysiące klientów przedsiębiorstw z rozwiązaniami skalowalnymi i ukierunkowanymi na domenę.

Jak zostałeś zaangażowany w świat przedsiębiorstw AI, a jak Twoja perspektywa ewoluowała na przestrzeni lat?

Moja podróż do przedsiębiorstw AI zaczęła się od podstawowej wiary, że firmy powinny wdrażać AI, które rozwiązuje prawdziwe problemy biznesowe, a nie tworzyć AI dla samego AI. Zobaczyłem, że ogólne, szerokie rozwiązania AI rzadko dostarczają przełomowej wartości. W SymphonyAI zbudowaliśmy strategię i kulturę firmy opartą na opracowaniu AI, które rozumie specyficzne wyzwania branżowe, od wykrywania przestępstw finansowych po merchandising detaliczny ukierunkowany na klientów, aż po umocnienie pracowników przemysłowych. Gotowość do wdrożenia w przedsiębiorstwie dodaje kolejny wymiar – udane AI w przedsiębiorstwie wymaga nie tylko wielkiej technologii, ale także wyjątkowej governance i architektury danych, zaawansowanej współpracy międzyfunkcyjnej i przepływów pracy, oraz pełnej przejrzystości i audytowalności.

Jakie konkretnie słabości spotykają przedsiębiorstwa z ogólnymi, wstępnie wytrenowanymi modelami, szczególnie w branżach silnie uregulowanych, takich jak finanse czy ochrona zdrowia? 

Ogólne, wstępnie wytrenowane modele nie są przeznaczone dla środowisk o wysokim ryzyku, silnie uregulowanych, takich jak finanse, ochrona zdrowia i handel detaliczny. Ogólne, wstępnie wytrenowane modele napotykają na krytyczne bariery, w tym potrzebę podstawowej wiedzy branżowej, aby rozwiązać specyficzne nuansy branżowe i spełnić surowe wymagania regulacyjne i zgodności, które różnią się w zależności od geografii. Co najważniejsze, nie mogą one dostarczyć dokładności i śledzenia, które przedsiębiorstwa wymagają, gdzie błędy mogą szkodzić konsumentom lub wywoływać naruszenia regulacyjne. Niezależnie od tego, czy jest to zgodność z przepisami dotyczącymi prania brudnych pieniędzy, czy umożliwienie detaliście szybkiego usunięcia produktów z dystrybucji i półek, technologia AI pionowa SymphonyAI jest specjalnie opracowana dla branż, w których działamy, i szkolona na ontologiach tych branż, umożliwiając im podejmowanie lub automatyzację decyzji, które bezpośrednio tworzą wartość biznesową.

Jakie są kluczowe składniki, takie jak wiedza branżowa, wyrównanie KPI i regulacyjne barierki ochronne, które sprawiają, że ten podejście jest skuteczne? 

Łączenie wstępnie wytrenowanych modeli z głęboką logiką branżową odblokowuje wartość, tworząc systemy AI, które rozumieją kontekst biznesowy i wymagania operacyjne. To podejście udaje się, gdy modele są wzbogacone o ontologie branżowe, wyrównane z KPI przedsiębiorstwa, aby zapewnić, że dane wyjściowe służą bezpośrednio mierzalnym celom biznesowym i są wyposażone w regulacyjne barierki ochronne, które zapewniają niezbędne ramy zgodności i śledzenia. Gdy te elementy współpracują, ogólne AI przekształcają się w rozwiązania krytyczne dla biznesu, które napędzają mierzalne wyniki, utrzymując przy tym niezawodność i zgodność, której wymagają przedsiębiorstwa.

Niedawno IBM nabył Seek AI i uruchomił Watsonx Labs w Nowym Jorku, co może sygnalizować potencjalną strategiczną zmianę w krajobrazie AI—co to wskazuje na przyszłość fuzji i trendów inwestycyjnych w przedsiębiorstwach AI? 

Nabycie Seek AI przez IBM i uruchomienie Watsonx Labs to potwierdzenie podstawowej zmiany, której się spodziewaliśmy: krajobraz AI w przedsiębiorstwach uległ zmianie, sygnalizując, że następna fala fuzji i przejęć będzie priorytetem dla firm z wstępnie wytrenowanymi modelami AI pionowymi, które przychodzą z głęboką wiedzą branżową, governance i regulacyjnymi barierkami ochronnymi oraz KPI ukierunkowanymi na wyniki. Strategiczni inwestorzy, tacy jak IBM, rozpoznają, że agenci AI skoncentrowani na danych przedsiębiorstw dostarczają natychmiastowych wyników ROI, gdy rozumieją specyficzne przepływy pracy branżowe. Rynek konsoliduje się wokół uznania, że ogólna inteligencja potrzebuje specjalizacji pionowej, aby napędzać transformację przedsiębiorstw.

W którym momencie model podstawowy ewoluuje w agenta branżowego—jakie są architektoniczne kamienie milowe, które sygnalizują tę transformację? 

Model podstawowy nie dojrzewa naturalnie do agenta; musi być inżyniersko opracowany. Nie ma bezpośredniej ścieżki, na której ogólny model po prostu “staje się mądrzejszy” i staje się bankowym śledczym. Transformacja następuje tylko wtedy, gdy zespoły inżynierskie przestają polegać na surowej inteligencji modelu i zaczynają budować zarządzaną architekturę wokół niego—szczególnie wstrzykując warstwę kontekstową (taką jak graf wiedzy) i warstwę orchestracji, aby zmusić model do przestrzegania procesu biznesowego, a nie jego własnych probabilistycznych tendencji.

Jakie są podstawowe wyzwania w budowaniu agentywnych przepływów pracy, które są zarówno wytrzymałe, jak i branżowo-specyficzne, i jak SymphonyAI radzi sobie z tymi wyzwaniami? 

Podstawowymi wyzwaniami w budowaniu agentywnych przepływów pracy, które są zarówno wytrzymałe, jak i branżowo-specyficzne, jest utrzymanie niezawodności w złożonych, wieloetapowych procesach. SymphonyAI radzi sobie z tymi wyzwaniami poprzez swoją wielowarstwową architekturę, która wbudowuje wiedzę branżową bezpośrednio w agenta, implementuje obsługę błędów z odzyskiwaniem po awarii i utrzymuje zarządzanie kontekstem na przestrzeni wielosesyjnych procesów przedsiębiorstwa. To umożliwia naszym agentom działać niezawodnie w środowiskach o wysokim ryzyku i silnie uregulowanych, gdzie wytrzymałość oznacza utrzymanie dokładności, zgodności i integralności operacyjnej.

SymphonyAI podkreśla solidne podstawy danych, grafy wiedzy i warstwy metadanych—dlaczego są one kluczowe dla agentów AI pionowych, i dlaczego wiele przedsiębiorstw ma trudności z ich wdrożeniem? 

Solidne podstawy danych i grafy wiedzy są kluczowe dla agentów AI pionowych, aby mieli znaczące źródła, dostarczać kontekstowe rekomendacje i pozostawać na bieżąco z rynkiem, klientami i zmianami procesów na wszystkich poziomach przedsiębiorstwa. Większość przedsiębiorstw ma trudności z wdrożeniem tych możliwości, ponieważ wymagają one znacznego nakładu inwestycyjnego w architekturę danych, specjalistyczną wiedzę ontologiczną i podstawowe zmiany w istniejących praktykach danych, które wiele organizacji uważa za organizacyjnie i technicznie trudne. To właśnie wtedy partner technologiczny z głębokim doświadczeniem i wiedzą w tej branży jest niezwykle cenny, w tym ich zdolność do wstępnego szkolenia AI na ogromnych ilościach danych i źródeł z różnych, realnych klientów w tej branży.

W scenariuszach rzeczywistych, takich jak wykrywanie przestępstw finansowych czy prognozowanie detaliczne, jak SymphonyAI łączy predykcyjne, generatywne i agentywne AI w spójne “umiejętności”?

SymphonyAI łączy predykcyjne, generatywne i agentywne AI w spójne “umiejętności”, tworząc zintegrowane przepływy pracy, w których każdy produkt AI rozwiązuje konkretny problem biznesowy. W wykrywaniu przestępstw finansowych nasze modele predykcyjne identyfikują podejrzane wzorce transakcji, a AI generatywne tworzą szczegółowe raporty śledcze i oceny ryzyka. W tym samym czasie AI agentywne orchestrują cały przepływ pracy, automatycznie eskalując przypadki, koordynując z zespołami compliance i dostosowując strategie śledcze na podstawie wyników w czasie rzeczywistym.

Kluczem jest to, że nie są to oddzielne narzędzia AI, ale zintegrowane możliwości w ramach agentów branżowych, które rozumieją kontekst biznesowy, utrzymują stan przepływu pracy i mogą bezproblemowo przechodzić między analizą predykcyjną, generowaniem treści a autonomicznym działaniem, aby dostarczyć kompletne wyniki biznesowe, a nie fragmentaryczne dane wyjściowe AI.

Warnujesz, że wiele agentów AI przedsiębiorstw może potknąć się bez solidnych podstaw—jakie są kluczowe cechy dobrze zaprojektowanego, wytrzymałego agenta AI przedsiębiorstwa? 

Dobrze zaprojektowani, zbudowani do inspekcji agenci AI przedsiębiorstwa wymagają kilku krytycznych cech. Chociaż wiele firm szybko inwestuje w i wdraża agenty AI, aby poprawić wydajność, produktywność i innowacje, często zaniżają niezbędne prace przygotowawcze do sukcesu. Niektóre istotne aspekty, których potrzebują dobrze zaprojektowani agenci, to:

• Agenci AI przedsiębiorstw działają na danych przedsiębiorstwa, które często są rozproszone i pozbawione właściwego dostępu programistycznego, uprawnień i kontroli dostępu. Agenci muszą być wyposażeni w te same przepustki i uprawnienia, co pracownicy.
• Agenci również muszą odzyskać się ze wszystkich rodzajów awarii systemów przedsiębiorstwa, awarii sieci i niepewnych punktów końcowych. Warstwa orchestracji musi umożliwiać długotrwałe, trwałe, wytrzymałe przepływy pracy, co nie jest dostępne w popularnych orchestratorach LLM.
• LLM będą nieodwracalne i zawiodą w zadaniach. Odzyskiwanie błędów, ponowne próby i optymalne odkrywanie ścieżek muszą być kluczowymi funkcjami systemów agentywnych.

Dla CTO, którzy rozważają budowę platform AI pionowych wewnętrznie wobec partnerstwa z dostawcami niszowymi, jakie porady byś im udzielił? 

Budowanie rozwiązań AI przedsiębiorstwa w wielu branżach, w tym detalicznej, przemysłowej, finansowej i innych, wymaga jednoczesnego opanowania najnowocześniejszej technologii AI i głębokiej wiedzy branżowej, aby osiągnąć prawdziwą wartość z rozwiązań AI przedsiębiorstwa. Nasza platforma Eureka AI pokazuje, jak źródła danych pionowych, grafy wiedzy, modele predykcyjne i agenci muszą być dostosowane do każdej branży, ale reprezentuje to lata inwestycji w badania i iteracji z klientami, których większość wewnętrznych zespołów nie posiada. Dla firm i CTO, którzy chcą zainwestować w AI, radzę im wybierać rozwiązania, które dostarczają prawdziwe wyniki od pierwszego dnia. Rozwiązania AI pionowe dostarczają te wyniki, dostarczając użytkownikom danych, których mogą użyć do tworzenia wartości biznesowej.

Spójrzając w przyszłość, jak wyobrażasz sobie architektury AI przedsiębiorstwa—czy agenci pionowi zbudowani na wspólnych modelach podstawowych staną się normą?

Nie zobaczymy tylko “federowanych” agentów; zobaczymy zarządzane architektury agentywne. Podczas gdy wspólne modele podstawowe dostarczają silnik rozumowania, są one podstawowo towarami. “Normą” dla udanych przedsiębiorstw będzie wdrożenie specjalistycznych, pionowych agentów, które nie tylko “rozmawiają” ze sobą, ale są rygorystycznie orchestrowane przez wspólną warstwę kontekstową. Jeśli masz tylko “federowane” agenty zbudowane na modelach podstawowych, otrzymujesz hałaśliwy, skłonny do halucynacji system—co nazywamy “przeciekiem” AI przedsiębiorstwa. Aby uczynić tę architekturę skalowalną w produkcji, potrzebujesz trzech konkretnych warstw, które idą poza proste federację:

• Kontekst (Graf wiedzy branżowej): Agenci muszą dzielić jeden, wspólny punkt odniesienia, a nie tylko wymieniać prawdopodobieństwa.
• Orchestracja: Potrzebujesz “głównego architekta”, który decyduje, kiedy użyć specjalistycznego agenta, a kiedy pozostawić człowieka w pętli.
• Zarządzanie: Dane wyjściowe muszą być prawnie i operacyjnie bezpieczne, zanim opuszczą system.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić SymphonyAI.