Jeff Margolies, Chief Product and Strategy Officer at Saviynt – Wywiad

Jeff Margolies, Chief Product and Strategy Officer at Saviynt, kieruje zarządzaniem produktem, strategią korporacyjną, partnerstwami technologicznymi oraz rozwojem korporacyjnym, pracując z klientami, partnerami i zespołami w całej organizacji, aby kształtować długoterminową wizję produktu i mapę rozwoju firmy. Przynosi ponad 25 lat doświadczenia w dziedzinie tożsamości i cyberbezpieczeństwa, wcześniej pełniąc funkcję Chief Strategy Officer w Saviynt oraz zajmując stanowiska kierownicze w Mandiant, Deloitte i Accenture. W Mandiant nadzorował strategię, partnerstwa strategiczne i rozwój korporacyjny, a wcześniej pomagał tworzyć i skalować praktykę zarządzania tożsamością i dostępem w Accenture do globalnej organizacji liczącej ponad 700 profesjonalistów. Margolies posiada tytuł licencjata w dziedzinie inżynierii optycznej na Uniwersytecie w Rochester oraz tytuł magistra w dziedzinie inżynierii elektrycznej na Uniwersytecie Kalifornijskim w Berkeley.

Saviynt to firma zabezpieczeń tożsamości wykorzystująca sztuczną inteligencję, koncentrująca się na pomocy przedsiębiorstwom w zarządzaniu i zabezpieczaniu dostępu do użytkowników ludzkich, nie-ludzkich tożsamości, maszyn, aplikacji, infrastruktury i agentów AI. Platforma Saviynt Identity łączy zarządzanie tożsamością, zarządzanie dostępem uprzywilejowanym, zarządzanie dostępem do aplikacji, zarządzanie tożsamością zewnętrzną, bezpieczeństwo tożsamości nie-ludzkich i zarządzanie stanem zabezpieczeń tożsamości w zjednoczonej chmurze zaprojektowanej dla środowisk chmury, lokalnych, SaaS, IaaS i hybrydowych. Firma stopniowo ukierunkowuje się na potrzeby ery sztucznej inteligencji, w tym na narzędzia do zabezpieczania agentów AI, zarządzania przepływami pracy agentyków i umożliwiania operacji tożsamości w środowisku naturalnego języka za pośrednictwem ofert takich jak Saviynt MCP Server w AWS Marketplace.

Jako Chief Product and Strategy Officer, ma Pan pierwszorzędny dostęp do zmieniających się wymagań bezpieczeństwa tożsamości w przedsiębiorstwach. Jak wzrost agentów AI zmienił sposób myślenia organizacji o tożsamości, dostępie i zarządzaniu, oraz jak te zmiany wpłynęły na rozwój Agent Access Gateway i Intent-Aware Runtime Authorization przez Saviynt?

Agenci AI zmieniają bezpieczeństwo tożsamości, ponieważ tożsamości ludzkie i maszynowe działają w bardzo różny sposób. Nie chodzi już tylko o zarządzanie dostępem ludzi do aplikacji. Organizacje zarządzają oprogramowaniem, które może rozumieć, podejmować decyzje i działać autonomicznie w systemach. Uważam agenci za następną generację aplikacji. Po mainframe, client-server, web i aplikacjach SaaS wkraczamy w erę aplikacji agentyków.

Podstawy pozostają takie same. Organizacje muszą wiedzieć, kto jest właścicielem agenta, kto może go używać, do jakich systemów ma dostęp i jak jego działanie jest zarządzane. Tożsamości maszynowe zmieniają szybkość i skalę. Użytkownik biznesowy może teraz utworzyć agenta w ciągu kilku minut, co oznacza, że zarządzanie musi działać równie szybko. To właśnie doprowadziło nas do stworzenia Agent Access Gateway i Intent-Aware Runtime Authorization, aby pomóc przedsiębiorstwom w przyjęciu agentów z odpowiednimi kontrolami dostępu, odpowiedzialnością i zabezpieczeniami od samego początku.

Agenci AI przechodzą szybko z fazy eksperymentów do środowisk produkcyjnych. Jak agenci autonomiczni zmieniają tradycyjny model tożsamości i dostępu, na którym opierają się przedsiębiorstwa od dziesięcioleci?

Tradycyjne zarządzanie tożsamością i dostępem było zbudowane wokół ludzi i przewidywalnego oprogramowania. Użytkownik uwierzytelniał się, żądał dostępu i wykonywał określone akcje w określonych systemach. Rozumiemy wyraźnie cykl życia tożsamości ludzkich w tym kontekście, w tym jak przyznawać dostęp. Agenci AI wprowadzają inny cykl życia. Mogą być tworzone szybko, działać ciągle, adaptować się w różnych przepływach pracy i wchodzić w interakcje z wieloma aplikacjami, API i źródłami danych z o wiele większą autonomią.

Podstawowe zasady tożsamości nadal mają zastosowanie: każda tożsamość wymaga uwierzytelnienia, autoryzacji, zarządzania i odpowiedzialności. Szybkość jest jednak bardzo inna. Zamiast kilku aplikacji przedsiębiorstwa zbudowanych przez scentralizowane zespoły, organizacje mogą mieć tysiące agentów utworzonych przez użytkowników biznesowych. W rzeczywistości 92% dyrektorów ds. bezpieczeństwa informacji (CISO) nie mają pełnej widoczności tożsamości AI, a 95% wątpi, czy mogliby wykryć lub powstrzymać nadużycie, gdyby miało miejsce. Bezpieczeństwo tożsamości musi ewoluować, aby własność, kontrola dostępu, zatwierdzenia i monitorowanie były automatycznie ustanawiane podczas tworzenia agentów.

Wiele organizacji wciąż korzysta z uprawnień i kontroli dostępu zaprojektowanych dla pracowników i konwencjonalnych aplikacji. Dlaczego te podejścia są niewystarczające w przypadku agentów AI, które mogą rozumieć, adaptować się i wykonywać akcje niezależnie?

Tradycyjna autoryzacja zwykle pyta: „Czy ta tożsamość jest uprawniona do wykonania tej akcji?” To już nie jest wystarczające dla agentów AI, ponieważ agent może technicznie mieć pozwolenie na wykonanie czegoś, a jednak działać poza intencją użytkownika.

Na przykład, jeśli użytkownik poprosi agenta o „czyszczenie” bazy danych, agent może zinterpretować to jako kasowanie rekordów. Może mieć uprawnienia do kasowania tych rekordów, ale to niekoniecznie jest tym, co użytkownik miał na myśli. W przypadku agentów organizacje muszą ocenić nie tylko, czy akcja jest dozwolona, ale także, czy jest zgodna z pierwotnym planem i intencją za zadaniem.

Saviynt niedawno wprowadził Intent-Aware Runtime Authorization. Co dokładnie oznacza „świadoma intencja” autoryzacja, i jak różni się od tradycyjnych modeli uwierzytelniania i autoryzacji?

Świadoma intencja autoryzacja oznacza ocenianie, czy akcje agenta są zgodne z tym, co użytkownik ludzki zamierzał, aby agent wykonał. Każdy agent jest tworzony lub wysyłany do wykonania zadania, które tworzy kontekst dla tego, co agent powinien i nie powinien robić.

Tradycyjna autoryzacja podejmuje decyzję binarną: czy jest to dozwolone, czy nie? Świadoma intencja autoryzacja dodaje kolejną warstwę, pytając, czy akcja ma sens w kontekście pierwotnego zadania. Jeśli agent został poproszony o archiwizację starych danych, ale zaczyna kasować aktywne rekordy, to może być technicznie dozwolone, ale nie jest zgodne z intencją użytkownika. Celem świadomej intencji autoryzacji w czasie rzeczywistym jest zarządzanie akcjami agenta w oparciu o kontekst zadania, politykę i zamierzone wyniki.

Jak przedsiębiorstwa mogą określić, czy agent AI powinien być dopuszczony do wykonania określonej akcji, nawet jeśli technicznie ma pozwolenie na dostęp do podstawowego systemu?

Rozpoczyna się to od planowania. Przed podjęciem akcji przez agenta organizacje muszą określić, co agent ma osiągnąć, do jakich systemów powinien mieć dostęp, jakie ograniczenia obowiązują i jakie polityki musi przestrzegać. Ten plan staje się podstawą do oceny zachowania agenta.

Kluczowe pytanie nie jest tylko, czy agent ma dostęp, ale czy jego akcja jest spójna z zadaniem, które zostało mu powierzone. Wiele istniejących aplikacji i API nie zostało zbudowanych w celu egzekwowania tego poziomu kontekstu, dlatego model bramy jest ważny. Agent Access Gateway zapewnia dodatkową warstwę kontroli do oceny planów wobec akcji i pomocy w zarządzaniu nadmiernymi uprawnieniami lub lukami w systemach legacy.

Jednym z największych problemów związanych z agentami AI jest to, że mogą działać w kilka sekund w wielu aplikacjach i źródłach danych. Jakie nowe ryzyka to stwarza dla zespołów bezpieczeństwa, a które ryzyka są obecnie niedoceniane?

Agenci AI nie zawsze tworzą całkowicie nowe ryzyka. W wielu przypadkach zwiększają one prawdopodobieństwo, że istniejące ryzyka zostaną wykorzystane. Jeśli organizacja już ma nadmiarowe konta, słabe kontrolki lub systemy, które polegają na niejasności, agenci mogą znaleźć i działać na te słabości o wiele szybciej niż ludzie, skalując ryzyko.

Czasami porównuję to do pozostawienia odblokowanego tylnego wejścia. Podatność już istnieje, ale prawdopodobieństwo, że ktoś ją znajdzie, może być niskie. Wyobraź sobie teraz agenta, który sprawdza każde tyłne wejście w tysiącach środowisk przez kilka sekund. Dlatego organizacje muszą dobrze wykonywać podstawy: wiedzieć, jakie agenci istnieją, rozumieć, co mogą dostęp, ograniczać niezbędnych uprawnień i zarządzaniem ich aktywnością ciągle.

Jak przedsiębiorstwa organizacje powinny przyjąć w przypadku agentów AI, które mogą działać w kilka sekund w wielu aplikacjach i źródłach danych?

Przydatne sposób myślenia o agencie AI to traktowanie go jako aplikacji. Przedsiębiorstwa już wiedzą, jak zarządzają aplikacjami: kto jest właścicielem, kto może je używać, do jakich systemów mają dostęp, i jak ich aktywność jest zarządzana. Te same pytania mają zastosowanie do agentów.

Różnica polega na tym, że agenci mogą być tworzone w ciągu kilku minut przez użytkowników biznesowych, a nie tylko przez scentralizowane zespoły programistów w ciągu kilku miesięcy. Zarządzanie musi działać równie szybko. Tylko 5% dyrektorów ds. bezpieczeństwa informacji (CISO) czuje się pewnych, że mogliby zawęzić lub powstrzymać skompromowanego agenta AI.

Agenci AI zwiększają problemy związane z tzw. Shadow AI, gdyż użytkownicy przyjmują narzędzia AI poza ichą kontrolą IT. Jak agenci AI zwiększają to wyzwanie, i jakie praktyczne kroki mogą przedsiębiorstwa organizacje podjąć, aby odzyskać widoczność i kontrolę?

Agenci AI zwiększają Shadow AI, ponieważ są łatwego tworzenia i mogą działać w kilka sekund w wielu systemach. To nie oznacza, że organizacje powinny próbować powstrzymać ludziom użycie agentów AI. Wyobraź sobie teraz agenta, który sprawdza każde tyłne wejście w tysiącach środowisk przez kilka sekund. Dlatego organizacje muszą wiedzieć, jakie agenci istnieją, kto jest ich właścicielem, co mogą dostęp, i jak ich aktywność jest zarządzana.

Czy każdy agent AI będzie wymagał własnej cyfrowej tożsamości, ramki zarządzania i śladu audycji podobnej do tej, jaką mają pracownicy ludzcy? Jaki wygląd ma ten przyszły model?

Każdy agent AI powinien mieć własną tożsamość, aby organizacje wiedziały, co to jest, kto jest jego właścicielem, co może dostęp, i co robi. Tożsamości ludzkie i nie-ludzkie, w tym agenci AI, muszą być zarządzane przez zjednoczone bezpieczeństwo tożsamości. Pojęcia są familiarne: uwierzytelnienie, autoryzacja, własność, uprawnienia, ślady aktywności i zarządzanie. Co się zmieniają to jest skala. Przedsiębiorstwa mogą teraz tworzyć setki agentów w ciągu kilku minut, co oznacza, że organizacje muszą stosować podstawy bezpieczeństwa tożsamości w o wiele większej skali.

Jakie są największe błędy, które przedsiębiorstwa organizacje popełniają dzisiaj w przypadku agentów AI, i jakie powinny być priorytetami przez liderów bezpieczeństwa i technologii w ciągu kilku najbliższych miesięcy, aby agenci AI pozostali produktywni i godni zaufania?

Bardzo większe błędy to pozostawienie bezpieczeństwa w erze sztucznej inteligencji. Korzyści związane z agenci AI są realne, a organizacje muszą je teraz przyjmować. Największym ryzykiem jest to, że bezpieczeństwo i zarządzanie nie będą w stanie nadążyć tempa rozwoju agentów AI. W ciągu kilku najbliższych miesięcy liderzy powinny się skoncentrować na widoczności, podstawach zarządzania, nadmiarze uprawnień i ciągłym zarządzaniu aktywnością agentów AI.

Dziękuję za ten wywiad, czytelnicy, którzy chcą się więcej dowiedzieć, powinni odwiedzić się do Saviynt.