Babak Hodjat, Chief AI Officer w Cognizant: rozmowa powrotna

Babak Hodjat, Chief AI Officer w Cognizant, prowadzi laboratoria AI Research Labs firmy, gdzie jego praca obejmuje agentyczną AI, ewolucyjne obliczenia, rozproszoną inteligencję oraz rozwój systemów AI przeznaczonych do wdrożeń na dużą skalę w przedsiębiorstwach. Długotrwały badacz AI, wynalazca i przedsiębiorca, Hodjat wcześniej współzałożył Sentient Technologies, gdzie pomógł zbudować jeden z największych rozproszonych systemów AI na świecie, a wcześniej współzałożył Dejima, opracowując technologię języka naturalnego zorientowaną na agenty, która przyczyniła się do fundamentów Siri firmy Apple.

Kiedy wcześniej rozmawialiśmy z Babakiem Hodjatem, nasza dyskusja dotyczyła jego kariery w AI, ewolucyjnych podejść do złożonego podejmowania decyzji, prac Cognizant nad zastosowaniem AI w wyzwaniach związanych ze zmianami klimatu i użytkowaniem gruntów oraz rosnącej demokratyzacji AI w całym przedsiębiorstwie. W tej kontynuacji rozmowy uwaga przenosi się na szybko rozwijające się przedsiębiorstwo agentyczne. Czerpiąc z tematów jego niedawnej książki, The Agentic Enterprise, Hodjat analizuje, dlaczego architektura może być ważniejsza niż możliwości modelu, jak organizacje mogą koordynować coraz bardziej złożone sieci agentów AI, gdzie scentralizowane zaufanie i zarządzanie wpisują się w zdecentralizowane ekosystemy agentów oraz co wciąż musi się zmienić, zanim autonomiczne systemy będą mogły niezawodnie realizować długoterminowe cele przy minimalnym udziale człowieka.

Twoja kariera obejmuje jedne z najwcześniejszych prac nad inteligentnymi agentami, od technologii języka naturalnego Dejima, która pomogła zainspirować Siri, po budowanie masywnych rozproszonych systemów AI w Sentient, a obecnie pełnisz funkcję Chief AI Officer w Cognizant. Jak zmieniła się twoja definicja „agenta AI” w trakcie tej drogi i czego dzisiejsi deweloperzy mogą się nauczyć od wcześniejszych pokoleń systemów opartych na agentach?

Definicja pozostała taka sama, ale możliwości współczesnych agentów oznaczają, że wiele podstawowych funkcji agenta, które musieliśmy programować w latach 90., jest dostępnych od razu dzięki LLM. Dlatego agenci oparte na LLM stały się standardem, a gdy ludzie mówią o agentach, zakładają, że ich interfejs i rozumowanie napędzane są przez LLM.

W swojej niedawnej książce, The Agentic Enterprise, twierdzisz, że systemy AI w przedsiębiorstwach często odnoszą sukces lub ponoszą porażkę ze względu na ich architekturę, a nie surowe możliwości leżącego u podstaw modelu. Co firmy robią źle, zakładając, że przejście na bardziej wydajny model rozwiąże ich problemy z agentyczną AI?

Podobnie jak uprząż (tj. nie‑LLM‑owe części agenta) może decydować o sukcesie lub porażce agenta programującego, architektura systemu wielo‑agentowego jest kluczowa dla jego powodzenia. Dzieje się tak, ponieważ architektura odzwierciedla kontekst, w którym agenci powinni działać – coś w rodzaju rusztowania, które trzyma razem przedsiębiorstwo agentyczne. Bez tego agenci pozostają oderwani od rzeczywistości operacji przedsiębiorstwa, danych, przepływów pracy i procesów. Jest to w pewnym stopniu analogiczne do struktury organizacyjnej firmy, obejmującej opisy stanowisk, definicje procesów i protokoły komunikacyjne dla pracowników.

Podkreślałeś, że otaczający system, w tym kontrola dostępu, rozliczalność, orkiestracja, obserwowalność i nadzór, może mieć większe znaczenie niż sam model. Czego faktycznie potrzebuje gotowa do produkcji architektura agentyczna, której brakuje w większości wdrożeń proof‑of‑concept?

Proof of concepts (PoC) są często oderwane od rzeczywistości, więc na początek potrzebujemy, aby agenci działali w środowisku, w którym mają dostęp do wewnętrznych danych i aplikacji firmy. Należy zadać kluczowe pytania, takie jak jakie dane i aplikacje jesteśmy gotowi udostępnić agentom oraz jakie decyzje możemy powierzyć agentom, aby system był bezpieczny i zabezpieczony, przy jednoczesnym osiągnięciu oczekiwanych korzyści jakościowych i wydajnościowych. Trudno jest określić odpowiedź na te pytania w warunkach PoC. Co więcej, zabezpieczenia i nadzór mogą być istotne jedynie wtedy, gdy system agentyczny działa w połączeniu z innymi procesami ludzkimi lub agentowymi w firmie. Dlatego sandboxing jest ważnym krokiem w procesie skutecznego przejścia od PoC do wdrożenia.

Cognizant opisał pojawienie się „Agent Operating System” służącego do koordynacji sieci agentów AI. Jakie funkcje powinna pełnić taka warstwa i czy spodziewasz się, że orkiestracja agentów ostatecznie stanie się tak fundamentalna dla przetwarzania w przedsiębiorstwach, jak systemy operacyjne i platformy chmurowe dzisiaj?

Koordynacja agentów jest ważna: jeśli będzie zbyt sztywna, system stanie się degradowany i kruchy. Zbyt otwarta, z koordynacją całkowicie delegowaną agentowi, zwiększa ryzyko, że zadanie agenta stanie się zbyt złożone lub niebezpieczne. Dobre mechanizmy koordynacji pozwalają agentom spontanicznie tworzyć zespoły w odpowiedzi na różne sytuacje, co skutkuje solidną i płynną dyscypliną organizacyjną. Jestem zwolennikiem rozproszonej koordynacji. Jest to analogiczne do nadania ludzkiej organizacji pewnego poziomu uprawnień w jej obszarze odpowiedzialności. Gdy pojawia się kontekst, członkowie organizacji komunikują się i koordynują w ramach struktury organizacyjnej, aby określić osoby odpowiedzialne za rozwiązanie sytuacji, a odpowiedź jest zbierana, koordynowana i konsolidowana pomiędzy węzłami organizacji. Dobrą wiadomością jest to, że do systemów agentowych można zastosować ścisłe kontrole i zabezpieczenia, tak aby taka elastyczność nie prowadziła do ryzykownych zachowań.

Uważam, że tak jak MCP szybko stał się de facto standardem dostępu do aplikacji agentowych, protokoły koordynacji również pojawią się i zostaną ustandaryzowane w całych platformach agentowych, aby umożliwić spontaniczne procesy wieloagentowe ponad granicami systemów agentowych. Systemy operacyjne i platformy chmurowe prawdopodobnie nie są tu najlepszą analogią; raczej szeroko uzgodnione standardy definicji wieloagentowych i protokołów koordynacji będą musiały się wyłonić, aby umożliwić szersze przyjęcie i rozwój agentizacji w przedsiębiorstwach.

W miarę jak przedsiębiorstwa przechodzą od pojedynczych copilotów do sieci zawierających dziesiątki, a nawet setki wyspecjalizowanych agentów, w jaki sposób organizacje powinny decydować, które obowiązki należą do poszczególnych agentów, a które powinny pozostać scentralizowane?

Podobnie jak zapora sieciowa i mechanizmy bezpieczeństwa internetu, ustanowienie zaufania poprzez bieżące audyty zgodności z politykami i egzekwowanie barier ochronnych w systemach agentowych powinno być scentralizowaną funkcją w firmie, definiowaną i utrzymywaną przez jedną jednostkę w przedsiębiorstwie. Wszystkie pozostałe systemy agentowe mogą być wdrażane w sposób zdecentralizowany, ale będą musiały zarejestrować się w systemie zaufania, aby uzyskać pozwolenie na działanie.

Cognizant wdrożył wewnętrznie system wieloagentowy, który łączy około 200 agentów w organizacji liczącej około 350 000 pracowników. Co ujawniło działanie na taką skalę w kontekście AI agentowego, co byłoby trudne do odkrycia w mniejszych pilotażach?

Musieliśmy projektować pod kątem skalowalności, rozszerzalności, efektywności kosztowej i rozsądnych czasów odpowiedzi. W projektach o takiej skali często trzeba wymyślać rozwiązania, które po prostu nie są potrzebne w małych, zamkniętych systemach agentowych z niewielką liczbą użytkowników. Na przykład trzeba uczynić koordynację między agentami spersonalizowaną i wydajną, aby uniknąć dodatkowych kroków i kosztów. Ponadto system powinien móc integrować aplikacje tworzone na zamówienie oraz systemy i agenty firm trzecich, więc interoperacyjność jest istotna i może oszczędzić czas i pieniądze.

Gdy autonomiczne agenty mogą wywoływać interfejsy API, uzyskiwać dostęp do systemów przedsiębiorstwa, komunikować się z innymi agentami i podejmować działania w tempie maszynowym, tradycyjne zarządzanie AI staje się znacznie trudniejsze. Gdzie nadzór ludzki powinien pozostać obowiązkowy, a gdzie organizacje mogą bezpiecznie pozwolić agentom działać samodzielnie?

Uważam, że ostatecznym wyznacznikiem, gdzie nadzór ludzki jest potrzebny i obowiązkowy, jest zaufanie. W miarę jak te systemy stają się bardziej godne zaufania, pozwolimy im na większą autonomię i, o ile nie będzie to wymóg prawny (np. z powodu braku osobowości prawnej AI), będziemy komfortowo delegować im zadania. Dlatego pomiar zaufania i ryzyka jest ważny i może pomóc wyznaczyć granicę między autonomią a nadzorem ludzkim – granicę, która może się przesuwać w miarę rosnącego zaufania do tych systemów i malejącego ryzyka ich samodzielnego działania.

Wiele z twoich wcześniejszych badań koncentrowało się na obliczeniach ewolucyjnych i systemach, które doskonalą się poprzez selekcję i adaptację. W jaki sposób podejścia ewolucyjne mogą uzupełniać duże modele językowe i uczenie ze wzmocnieniem, gdy staramy się budować agenty, które mogą się ciągle doskonalić, a nie tylko wykonywać z góry określone przepływy pracy?

Główny nurt AI dziś jest zdominowany przez podejścia oparte na spadku gradientu, które są formą poszukiwania wznoszącego się po wzgórzu i nie są zbyt kreatywne. Obliczenia ewolucyjne są bardzo efektywne w przeszukiwaniu złożonych przestrzeni i mogą uzupełniać główne podejścia. Nasze laboratorium, na przykład, odniosło niedawno przełom w tej dziedzinie: udało nam się wykazać, że strategie ewolucyjne przewyższają uczenie ze wzmocnieniem w większości przypadków po treningu LLM, co skutkuje modelami o równiej lub lepszej jakości przy znacznie niższych kosztach. Podejścia ewolucyjne mogą również pomóc w treningu w czasie testu, który ma na celu umożliwienie modelom LLM uczenia się po wdrożeniu.

Badania Cognizant badały środowiska, w których interakcje agentów prowadzą do współpracy, rywalizacji, dzielenia się wiedzą, a nawet strategii oszukańczych. W miarę jak systemy wieloagentowe stają się bardziej złożone, czy zachowania emergentne mogą stać się jednym z największych wyzwań w utrzymaniu przewidywalności AI w przedsiębiorstwie i jej zgodności z celami organizacji?

Tak już jest, co potwierdza szeroko nagłośniony niedawny incydent OpenAI/Hugging Face. Możemy sądzić, że agenci, ograniczeni do swoich promptów i kontekstów oraz korzystający z modeli językowych, które nie uczą się w czasie rzeczywistym, będą mniej więcej spójni w swoim zachowaniu. Jednak faktem jest, że środowisko i motywacje agenta mogą się zmieniać, często w wyniku jego własnych działań w otoczeniu, co prowadzi do nieprzewidzianych zachowań. Jest to jeszcze bardziej prawdopodobne, gdy wchodzi w interakcję wielu agentów, dlatego kluczowe jest, aby obserwować autonomiczne agenty w bezpiecznych środowiskach typu sandbox, abyśmy mogli określić zakres i skalę ich emergentnych tendencji oraz uwzględnić to w naszych projektach i zabezpieczeniach agentowych. Nasz publicznie dostępny system, TerraLingua, w którym można wprowadzać agentów, artefakty i nawet udawać agentów oraz obserwować ich indywidualne i zbiorowe zachowanie, jest krokiem w tym kierunku.

Patrząc poza dzisiejszą falę agentowej sztucznej inteligencji, jakiego przełomu technologicznego lub zmiany architektonicznej, według Ciebie, nadal brakuje, zanim będziemy w stanie zbudować systemy AI zdolne do niezawodnego zarządzania długotrwałymi, złożonymi celami przy minimalnym udziale człowieka?

Wiele ograniczeń dzisiejszych agentów wynika z ograniczeń najnowszych osiągnięć w dziedzinie AI. Modele językowe są praktycznie stałe po treningu i nie mogą ‘zmieniać zdania’ w miarę napotykania nowych informacji. Modele językowe są jednocześnie wszystkim i każdym, dlatego muszą być wstępnie przygotowywane kontekstem i promptami i są bardzo wrażliwe na to przygotowanie. Modele językowe mają ograniczone okna kontekstowe i muszą być ponownie zasilane wszystkim dla każdego pojedynczego słowa, które generują, lub każdej podjętej akcji. Na poziomie wieloagentowym uważam, że potrzebujemy powszechnie akceptowanych rozproszonych protokołów koordynacji, zabezpieczeń zaufania i polityk oraz systemów arbitrażu transakcji, aby przyszłość agentowa mogła w pełni zrealizować swój potencjał.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Cognizant lub nasz nasz poprzedni wywiad.