Jacob Ideskog, CTO of Curity – Wywiad z serii

Jacob Ideskog jest specjalistą ds. tożsamości i dyrektorem technicznym w firmie Curity. Większość jego czasu poświęca pracy nad rozwiązaniami związanymi z bezpieczeństwem w obszarze API i sieci Web. Pracował nad projektowaniem i wdrażaniem rozwiązań OAuth i OpenID Connect dla dużych przedsiębiorstw oraz małych startupów.

Curity to nowoczesna platforma zarządzania tożsamością i dostępem (IAM), zbudowana wokół serwera tożsamości Curity, rozwiązania opartego na standardach, zaprojektowanego w celu zabezpieczenia uwierzytelniania i autoryzacji dla aplikacji, API i usług cyfrowych na dużą skalę. Obsługuje protokoły takie jak OAuth 2.0 i OpenID Connect, aby scentralizować przepływy logowania, egzekwować szczegółowe zasady dostępu i wydawać bezpieczne tokeny zarówno dla użytkowników ludzkich, jak i klientów maszynowych, w tym API i usług. Platforma została zaprojektowana z myślą o elastyczności i skalowalności, umożliwiając organizacjom wdrożenie w chmurze, hybrydowe lub lokalne, integrację z istniejącymi systemami oraz dostarczanie bezpiecznych, nieprzerwanych doświadczeń użytkowników bez polegania na niestandardowej infrastrukturze bezpieczeństwa.

Spędziłeś dużo czasu budując systemy tożsamości i bezpieczeństwa API, od współzałożenia Curity po kierowanie nią jako dyrektor techniczny w erze chmury i teraz sztucznej inteligencji. Jak ta podróż ukształtowała twoje podejście do traktowania agentów AI jako pierwszorzędnych cyfrowych tożsamości, a nie tylko jako oprogramowania?

W każdej dziedzinie techniki, z którą miałem do czynienia, pojawia się jeden problem. Niezależnie od tego, czy chodzi o chmurę, czy teraz o sztuczną inteligencję, jeśli oprogramowanie działa w imieniu osoby lub innego systemu, mamy do czynienia z problemem tożsamości.

Wraz z masowym przyjęciem agentywnych AI ten problem nasila się. Ich zachowanie nie jest już ściśle przypisane i działają z poziomem autonomii, jaki przedsiębiorstwa nigdy wcześniej nie widziały. Agenci AI podejmują decyzje, wywołują API i łączą akcje w systemach – często bez bezpośredniego nadzoru ludzkiego. To zachowanie tworzy wyzwania związane z tożsamością i dostępem, które są fundamentalnie różne od tradycyjnego oprogramowania.

Traktowanie agentów AI jako pierwszorzędnych cyfrowych tożsamości jest jedynym sposobem, aby odpowiednio rozwiązać ten problem. Jeśli organizacje traktują je tylko jako proces lub konto usługi, tracą widoczność i kontrolę bardzo szybko – i to jest przepis na kryzys bezpieczeństwa.”

Wiele przedsiębiorstw jest podekscytowanych agentywnymi AI, ale pozostaje zakorzenionych w eksperymentach. Z tego, co widzisz w prawdziwych wdrożeniach, jakie są najczęstsze luki w tożsamości i zarządzaniu, które uniemożliwiają organizacjom bezpieczne skalowanie agentów?

Większość eksperymentów odbywa się w izolowanych piaskownikach, które ignorują to, co dzieje się na dużą skalę. Podczas wczesnych testów zespoły często przydzielają agentom szerokie klucze API, współdzielone poświadczenia lub uprawnienia do chmury, po prostu aby rozpocząć.

Ten podejście rozpadają się w momencie, gdy agenci są wdrożeni poza testami. Jest to spowodowane tym, że zespoły bezpieczeństwa nie mogą zobaczyć, jakie dane agent uzyskał dostęp, jego akcje lub czy mógł lub przekroczył swój zamierzony zakres; niezależnie od tego, czy było to przypadkowe, czy złośliwe. Te słabe punkty sprawiają, że niemożliwe jest bezpieczne zarządzanie agentami, co jest powodem, dla którego wiele organizacji ma trudności z przekroczeniem testów.”

Utrzymywałeś, że ścisłe ograniczenia są niezbędne dla agentywnych AI. Co wygląda „dobry” projekt tożsamości dla agentów AI w praktyce, i gdzie firmy zwykle popełniają błędy?

Dobry projekt tożsamości zaczyna się od zasady najmniejszych przywilejów i uprawnień powiązanych z wyraźnym zamiarem. Każdy agent AI powinien mieć własną tożsamość, wąsko zakresowe uprawnienia i wyraźnie zdefiniowane relacje zaufania (jawne reguły określające, z którymi systemami może on wchodzić w interakcje). Podstawowo, dostęp powinien być związany z celem, ograniczony w czasie i łatwy do odwołania.

Miejsce, w którym firmy popełniają błędy, to ponowne wykorzystanie istniejących kont usługowych lub założenie, że wewnętrzni agenci są bezpieczni domyślnie. To założenie nie utrzymuje się wobec realnych zagrożeń. Złośliwi aktorzy aktywnie szukają właśnie tych słabych punktów, a agenci AI dramatycznie zwiększają potencjalny zasięg, gdy projekt tożsamości jest niedbały.”

Curity od dawna pracował z standardami takimi jak OAuth i OpenID Connect. Jak krytyczne są otwarte standardy tożsamości dla zapewnienia interoperacyjności i bezpieczeństwa agentywnych AI w złożonych środowiskach przedsiębiorstw?

Otwarte standardy są absolutnie krytyczne. Przedsiębiorstwa już teraz działają w złożonych tkaninach tożsamości, obejmujących platformy chmury, usługi SaaS i wewnętrzne API. Agentywna AI dodaje jeszcze więcej złożoności.

Bez standardów każdy agent staje się własną integracją i stałą wyjątkiem bezpieczeństwa. Z standardami takimi jak OAuth i OpenID Connect, agenci mogą być uwierzytelniani, autoryzowani i audytowani tak samo jak każde inne obciążenie. To jest jedyny podejście, które może ułatwić bezpieczne skalowanie w prawdziwych środowiskach przedsiębiorstw.”

Co sprawia, że agenci AI są fundamentalnie różni od poprzednich nie-ludzkich tożsamości z punktu widzenia bezpieczeństwa?

Kluczowa różnica między nowoczesnymi agentami AI a starszymi nie-ludzkimi tożsamościami (NHI) jest autonomia. Tradycyjne konto usługi robi dokładnie to, co mu powiedziano, ściśle związane z jego zadaniem. Agent AI interpretuje instrukcje, dostosowuje swoje zachowanie i podejmuje akcje, które nigdy nie zostały wyraźnie napisane – wszystko to zwiększa potencjalne niebezpieczeństwo, jeśli nie ma odpowiednich barier ochronnych.

Mały błąd tożsamości lub dostępu może szybko przerodzić się w katastrofę, ponieważ agent może działać z prędkością i w wielu systemach. Z punktu widzenia bezpieczeństwa stanowi to duże ryzyko.

Jak ważne są ślady audytowe i rejestrowanie oparte na tożsamości dla zarządzania agentywnymi AI, szczególnie w regulowanych branżach?

Ślady audytowe nie powinny być „miłym dodatkiem”. Powinny być wbudowane od samego początku. W regulowanych środowiskach organizacje są oczekiwane, aby odpowiedzieć na proste, ale krytyczne pytania: co ten agent uzyskał dostęp, kiedy to się stało i kto to autoryzował?

Rejestrowanie oparte na tożsamości jest jedynym niezawodnym sposobem, aby uzyskać ten poziom odpowiedzialności. Odgrywa również kluczową rolę w reagowaniu na incydenty. Bez wyraźnego kontekstu tożsamości jest prawie niemożliwe, aby wiedzieć, czy problem wynikał z niegrzecznego agenta, skompromitowanej tożsamości czy po prostu złego podpowiedzenia.

Jakie realne ryzyka widzisz, gdy organizacje wdrożą przeszacowane lub słabo monitorowane agenty AI w produkcji?

Jednym z powszechnych ryzyk jest cichy zbiór danych. Przeszacowany agent może pobrać wrażliwe informacje z wielu systemów (rekordy klientów, dokumenty wewnętrzne, logi) i następnie ujawnić te dane za pomocą podpowiedzi, podsumowań lub zewnętrznych integracji.

Inne ryzyko to agenci z dostępem administracyjnym, którzy mogą dokonać znaczących zmian z prędkością maszyny, powodując znacznie więcej szkód niż człowiek w krótkim czasie. Może to obejmować modyfikację zasobów chmury, wyłączenie kontroli bezpieczeństwa lub uruchomienie zautomatyzowanych workflow bez nadzoru.

Te incydenty mogą być zamierzone, ale nie muszą. Przeszacowany lub słabo monitorowany agent może po prostu działać na podstawie starych lub nieprawidłowych założeń, powiększając błędy w wielu systemach, zanim ktoś zauważy.

Ale z punktu widzenia atakującego, skompromitowana tożsamość agenta jest niezwykle cenna. Umożliwia ruch boczny w API i usługach, często z poziomem dostępu, jaki żaden użytkownik ludzki nigdy nie otrzymałby. Bez silnych kontroli tożsamości i monitorowania organizacje często odkrywają te awarie dopiero po tym, jak zostały wyrządzone prawdziwe szkody.”

Dla firm przechodzących od testów do prawdziwych wdrożeń agentywnych AI, jakie decyzje dotyczące tożsamości i dostępu powinny być podjęte wcześnie, aby uniknąć kosztownych przebudów później?

Organizacje powinny zdecydować wcześnie, w jaki sposób agenci otrzymują tożsamości, w jaki sposób uprawnienia są zatwierdzane i w jaki sposób dostęp jest przeglądany w czasie, definiując granice tożsamości z wyprzedzeniem.

Wprowadzanie kontroli tożsamości wstecznie jest prawie zawsze problematyczne. Agenci są często wbudowani głęboko w przepływy pracy, wykorzystując współdzielone poświadczenia lub szerokie role, więc zacieśnianie dostępu po fakcie łamie założenia, na których system polega. To ostatecznie powoduje awarie przepływów pracy i podważa zaufanie do technologii. Jest znacznie taniej, a także znacznie bezpieczniej, aby zaprojektować odpowiednie tożsamości, zakresy i granice dostępu od samego początku.

Gdzie integracja tożsamości najczęściej staje się wąskim gardłem podczas wdrażania agentywnych AI, i jakie najlepsze praktyki pomagają zmniejszyć tarcie?

Zarządzanie tożsamością może stać się wąskim gardłem, ale tylko wtedy, gdy traktowane jest jako coś, co można zrobić później. Zespoły koncentrują się na budowaniu imponujących możliwości agenta najpierw, aby później zrealizować, że muszą być one zintegrowane z systemami IAM, bramkami API i platformami logowania, aby być naprawdę bezpiecznymi.

Najlepsze podejście polega na rozpoczęciu od jasnego zrozumienia i właściwej implementacji platform tożsamości, a następnie na zaprojektowaniu agentów, które pasują do nich. Organizacje powinny ponownie wykorzystywać istniejące standardy i infrastrukturę, zamiast ich omijać; przycinanie tego rogu nieuchronnie spowoduje problemy w przyszłości. Gdy tożsamość jest wbudowana od samego początku, przyspiesza wdrożenie zamiast je spowalniać.

Dla liderów bezpieczeństwa i inżynierów, którzy chcą przyjąć agentywną AI, ale są zaniepokojeni zarządzaniem i ryzykiem, jakie rady byś im udzielił, gdy planują swoją mapę drogową?

Zwolnij wystarczająco, aby postawić na odpowiednie podstawy. Agenci AI muszą być traktowani jako tożsamości, i dlatego należy zastosować te same zasady zarządzania, jakich oczekuje się od ludzi, oraz nalegać na widoczność od samego początku. Jeśli organizacja to zrobi, wówczas skalowanie agentywnych AI staje się ćwiczeniem w zakresie bezpieczeństwa, a nie ślepym i ryzykownym skokiem wiary.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Curity.