Sean Blanchfield, Współzałożyciel i CEO Jentic – Seria wywiadów

Sean Blanchfield, Współzałożyciel i CEO Jentic, to doświadczony przedsiębiorca technologiczny z dziesięcioleciami doświadczenia w budowaniu dużych firm oprogramowania i infrastruktury. Z siedzibą w Dublinie, obecnie kieruje Jentic, a także zasiada w Irlandzkim Radzie Doradców ds. Sztucznej Inteligencji, doradzając rządowi w sprawach polityki sztucznej inteligencji. Wcześniej w swojej karierze współzałożył DemonWare, platformę usług online o wysokiej skali dla głównych wydawców gier wideo, która później została przejęta przez Activision Blizzard (ATVI ) , oraz PageFair, startup wspierany przez venture capital, skupiający się na analizie blokad reklam, który został przejęty przez Blockthrough. Założył lub prowadził wiele startupów i nadal wspiera ekosystem startupów w Irlandii poprzez inicjatywy takie jak Techpreneurs.

Jentic rozwija warstwę integracji uniwersalnej, zaprojektowaną w celu pomocy agentom sztucznej inteligencji w bezpiecznym współdziałaniu z systemami przedsiębiorstw i API. Platforma umożliwia organizacjom łączenie modeli sztucznej inteligencji z narzędziami wewnętrznymi, usługami zewnętrznymi i workflow operacyjnymi, przy jednoczesnym utrzymaniu zarządzania, uwierzytelniania i nadzoru. Przekształcając fragmentaryczne API w strukturyzowane interfejsy, których agenci sztucznej inteligencji mogą niezawodnie używać, Jentic ma na celu pomóc przedsiębiorstwom wdrożyć automatyzację napędzaną przez sztuczną inteligencję na dużą skalę w złożonych środowiskach oprogramowania.

Założyłeś i prowadziłeś wiele firm technologicznych, od DemonWare (przejętej przez Activision Blizzard) do PageFair i obecnie Jentic, a także zasiadasz w Irlandzkim Radzie Doradców ds. Sztucznej Inteligencji. Co cię ponownie skłoniło do budowy na poziomie infrastruktury z Jentic, a jaki luk w powstającym ekosystemie agentów sztucznej inteligencji inni przegapili?

Trzecim razem, kiedy zauważasz wzorzec, musisz go traktować poważnie. W DemonWare wszyscy mówili o trybie wieloosobowym – ale trudnym problemem była infrastruktura sieciowa pod spodem. To samo dzieje się z agentami sztucznej inteligencji. Modele są godne uwagi. Wąskie gardło to warstwa integracji – zawsze było. Agenci sztucznej inteligencji działają na API, a te API zostały zbudowane dla ludzi: udokumentowane dla ludzi, zabezpieczone dla ludzi i strukturyzowane dla ludzi. Skieruj autonomicznego agenta na tę infrastrukturę, a rozpadnie się szybko. Pilotażowe wdrożenia sztucznej inteligencji w przedsiębiorstwach nie kończą się niepowodzeniem, ponieważ model nie zrozumiał zadania; kończą się niepowodzeniem, ponieważ agent nie mógł niezawodnie połączyć się z systemami, których potrzebował. Sztuczna inteligencja generatywna oferuje nowy sposób rozwiązania tego problemu – traktując integrację jako problem wiedzy, a nie problem kodowania. To spostrzeżenie przyciągnęło mnie.

Kiedy założyłeś Jentic w 2024 roku, czy bezpieczeństwo agenta było główną tezą od samego początku, czy focus się zaostrzył, gdy obserwowałeś, jak organizacje wdrożyły autonomiczne agenty w produkcji?

Pierwszy wątek, który pociągnąłem, to poświadczenia. Wyobraziłem sobie agenty, które się rozmnażają, każdy z nich potrzebujący poświadczeń dla dziesiątek systemów, wszystkie te tajemnice płynące do kontekstowych okien LLM, które są wykradane – gorący bałagan. Odpowiedź jest taka sama, jakby to było dwadzieścia lat temu: scentralizuj uwierzytelnianie i autoryzację. Ale pociągnięcie tego wątku doprowadziło prosto do następnego problemu: jeśli scentralizujesz przy użyciu tradycyjnych narzędzi integracyjnych, wracasz do krainy statycznych konektorów, a agenci nie są statyczni. To, co utrwaliło wizję, to zrozumienie, że odkrywanie możliwości powinno być ściśle powiązane z kontrolą dostępu – że agent powinien być oferowany tylko wtedy, gdy jest do niego uprawniony, a system zapewniający odkrywanie może być również jednym punktem egzekwowania i obserwowalności.

Niedawne ujawnienie dużej liczby wystawionych na zewnątrz instancji agentów ujawniło, jak często orkiestracja i poświadczenia dzielą tę samą granicę zaufania. Z twojego punktu widzenia, jaki jest podstawowy błąd architektoniczny w tym modelu?

Błąd jest prosty: agent – system, który działa na podstawie wskazówek z LLM – jest również systemem, który posiada poświadczenia i wywołuje wywołania API. Skompromituj agenta i otrzymujesz wszystko, co mógłby kiedykolwiek zrobić. To ten sam błąd, który popełniliśmy we wczesnej erze internetu – serwery aplikacji z dostępem do bazy danych superużytkownika, ponieważ było to wygodne. Jentic siedzi jako warstwa między agentem a API, które wywołuje. Agent nigdy nie posiada poświadczeń. Wydaje żądania przez naszą warstwę wykonania, która wstrzykuje poświadczenia po stronie serwera, egzekwuje politykę i rejestruje każde wywołanie. A gdy coś pójdzie nie tak, jest jeden przełącznik – jeden krok, który zatrzymuje dostęp agenta do wszystkich połączonych systemów jednocześnie.

Mówiłeś o oddzieleniu orkiestracji od wykonania, aby zawęzić promień rażenia. Czy możesz wyjaśnić w praktycznych słowach, jak to oddzielenie zmienia profil ryzyka, gdy instancja jest skompromitowana?