Liat Hayun, Wiceprezes ds. Produktów i Badań w Tenable – Seria Wywiadów

Liat Hayun jest wiceprezesem ds. produktów i badań w Tenable Cloud Security. Przed dołączeniem do Tenable, Liat założyła i była prezesem Eureka Security, firmy zajmującej się bezpieczeństwem danych, która została przejęta przez Tenable. Przed założeniem Eureka Security, Liat spędziła ponad dekadę na kierowaniu wysiłkami związanymi z cyberbezpieczeństwem w izraelskim dowództwie cybernetycznym i w firmie Palo Alto Networks (PANW ). Jako wiceprezes ds. zarządzania produktami w Palo Alto Networks, Liat kierowała rozwijaniem Cortex XDR i usługi polowania na zagrożenia zarządzanej przez firmę.

Tenable to amerykańska firma z branży cyberbezpieczeństwa, która pomaga organizacjom identyfikować, rozumieć, priorytetyzować i likwidować luki w zabezpieczeniach na całej powierzchni ataku. Jest najlepiej znana ze swojej platformy zarządzania narażeniem i narzędzi takich jak popularny skaner luk w zabezpieczeniach Nessus, który umożliwia firmom uzyskanie wglądu w zagrożenia obejmujące infrastrukturę IT, chmurę, OT/IoT i systemy tożsamości, oraz podjąć decydujące działania w celu zmniejszenia ryzyka wpływającego na działalność biznesową. Rozwiązania Tenable dostarczają ciągłego odkrywania, priorytetyzacji i wglądu w zagrożenia, aby wspierać proaktywne zarządzanie ryzykiem cybernetycznym dla dziesiątek tysięcy klientów na całym świecie.

Czym fundamentalnie różnią się agenci AI od tradycyjnych modeli AI, które reagują tylko na polecenia użytkownika, a nie działają niezależnie?

Agenci AI zmieniają naturę ryzyka, ponieważ mogą inicjować zadania, uzyskiwać dostęp do systemów, podejmować decyzje i współdziałać z innymi usługami bez nadzoru człowieka.

Ta niezależność zwiększa zarówno szybkość, jak i skalę potencjalnego wpływu, zwiększając prawdopodobieństwo ujawnienia danych, zakłóceń operacyjnych i strat finansowych. Agent AI może wykonywać zapytania do magazynów danych, uruchamiać przepływy pracy, wywoływać interfejsy API lub modyfikować infrastrukturę w czasie rzeczywistym. Jeśli jest źle skonfigurowany lub naruszony, może poruszać się po systemach przy użyciu przyznanych uprawnień, często szybciej niż człowiek mógłby wykryć lub interweniować.

Według Raportu Tenable o ryzyku chmury i AI 2026, 52% organizacji ma już nie-ludzkie tożsamości z nadmiernymi uprawnieniami, a prawie połowa z nich jest nieaktywna, tworząc powszechny niezarządzany dostęp do środowisk produkcyjnych. Oznacza to, że wiele procesów napędzanych przez AI już ma dostęp, którego nie aktywnie używają, ale którym mogą użyć atakujący.

Atakujący coraz częściej wykorzystują tzw. problem „zdezorientowanego zastępcy”. Nie muszą kompromitować samego agenta. Zamiast tego, oszukują uprawnionego agenta, aby wykonał działania w ich imieniu, często za pomocą pośredniego wstrzyknięcia poleceń lub manipulowanych danych wejściowych. Agent wykonuje żądanie przy użyciu swoich prawidłowych uprawnień, skutecznie wykonując pracę atakującego. Gdy autonomiczne systemy dziedziczą szerokie uprawnienia lub przyjmują role z nadmiernymi uprawnieniami, czas między błędną konfiguracją a wykorzystaniem skraca się do zera, tworząc zerową lukę narażenia AI.

Wiele przedsiębiorstw eksperymentuje z agentami AI w sposób nieformalny. Jakie są pierwsze konkretnie kroki, które zespoły bezpieczeństwa powinny podjąć, aby ocenić, czy agenci AI już działają w ich środowisku?

Zamknięcie luki narażenia AI rozpoczyna się od odkrycia, które wykracza poza tradycyjne inwentaryzacje aktywów. Faza eksperymentalna jest często najbardziej niebezpieczna, ponieważ organizacje nie w pełni wiedzą, jakie AI jest używane, jak jest skonfigurowane, ani jakie uprawnienia zostały mu przyznane.

Agenci AI rzadko żyją w jednym, wyraźnie oznaczonym systemie. Wiele z nich działa poza formalnym zarządzaniem. Pojawiają się w narzędziach programistycznych, integracjach SaaS, przepływach pracy, rozszerzeniach przeglądarki i usługach chmurowych, co tworzy rozproszoną wdrożenie, zwiększając punkty ślepe i ograniczając scentralizowaną kontrolę. Jest to już powszechne, ponieważ ponad 70% organizacji zintegrowało co najmniej jeden pakiet AI lub model związany z AI, często wbudowując AI głęboko w aplikacje i infrastrukturę z ograniczoną scentralizowaną kontrolą.

Niedawne badania nad Clawdbot pokazują, że eksperymentalne wdrożenia agentów mogą stanowić poważne ryzyko, gdy możliwości są wdrożone przed pełnym zrozumieniem kontroli bezpieczeństwa lub standardów konfiguracyjnych. Nawet po zakończeniu eksperymentów i podjęciu decyzji o przyjęciu aplikacji AI, organizacje nadal potrzebują silnego zarządzania tym, jak te systemy są używane, jakie uprawnienia posiadają i jak współdziałają z krytycznymi aktywami.

Faza odkrycia powinna rozpocząć się od ustanowienia zjednoczonego inwentarza, gdzie AI istnieje w punktach końcowych, infrastrukturze chmury i zewnętrznych powierzchniach ataku. Obejmuje to identyfikację bibliotek AI, agentów, usług API, usług modelowych i integracji zewnętrznych, a nie tylko wewnętrznie wdrożonych systemów, ale wszystkiego, co jest zewnętrznie dostępne.

Następnie zespoły muszą mapować, jak te agenci są połączeni i jakie dane dostępne, jakie tożsamości używają, jakie uprawnienia posiadają i jakie systemy mogą osiągnąć. Widoczność wymaga kontekstu, ponieważ ryzyko wynika z relacji.

Wreszcie, po eksperymencie, organizacje powinny określić, które z tych połączeń tworzą ścieżki dostępu do krytycznych aktywów i zamknąć lukę narażenia AI.

Jak ryzyka takie jak eksponowane powierzchnie kontrolne lub niezweryfikowane umiejętności stron trzecich porównują się do bardziej znanych zagrożeń, takich jak ataki łańcucha dostaw lub eskalacja uprawnień?

Niezweryfikowane umiejętności stron trzecich i eksponowane powierzchnie kontrolne rozszerzają podobne ryzyka, jak kompromitacja łańcucha dostaw i eskalacja uprawnień, ale zwiększają szybkość, skalę i łączność.

Umiejętności agentów stron trzecich funkcjonują podobnie do zależności łańcucha dostaw oprogramowania, a powierzchnia narażenia już ma znaczącą wagę. Osiemdziesiąt sześć procent organizacji hostuje pakiety kodu stron trzecich z lukami w zabezpieczeniach o krytycznym znaczeniu. Gdy te składniki działają w ramach autonomicznych agentów AI, wykonanie staje się ciągłe i zautomatyzowane, eliminując czas między kompromitacją a wpływem.

Eksponowane powierzchnie kontrolne zwiększają warstwę tożsamości i dostępu ryzyka, tworząc nowe operacyjne interfejsy, które posiadają podwyższone uprawnienia. Osiemnaście procent organizacji już pozwala usługom AI przyjmować role z nadmiernymi uprawnieniami, dając zautomatyzowanym systemom szeroki zasięg w środowiskach. Agenci AI łączą te narażenia w jedną operacyjną łańcuch. Podatna zależność, nadmierna uprawnienie i eksponowane interfejsy łączą się w ścieżkę ataku. Organizacje działają w środowisku bez marginesu błędu, gdzie narażenie i wykorzystanie wyrównują się niemal natychmiast.

Jak wygląda „dobra higiena” dla organizacji wdrażających agenci AI z dostępem do wewnętrznych systemów lub wrażliwych danych?

Dobra higiena rozpoczyna się od traktowania agentów AI jako uprzywilejowanych cyfrowych aktorów z prawdziwą władzą w systemach i danych. Organizacje potrzebują ciągłej widoczności każdego agenta, tego, co robi, i do czego ma dostęp. Zespoły powinny egzekwować najmniejsze uprawnienia dla tożsamości maszyn i usług, usuwać nieaktywny dostęp i ściśle określać uprawnienia. Każdy agent powinien być dedykowany do określonego typu zadania, z uprawnieniami i dostępem ograniczonym ściśle do tej funkcji.

To ma znaczenie, ponieważ nieużywany dostęp jest powszechny. Prawie połowa tożsamości z nadmiernymi uprawnieniami jest nieaktywna, a ponad 70% domyślnych ról wykonania AI pozostaje nie użytych. Te warunki tworzą gotowe ścieżki eskalacji, które niosą ryzyko bez dostarczania wartości.

Zespoły bezpieczeństwa muszą również zrozumieć relacje między infrastrukturą, magazynami danych, interfejsami API i aplikacjami. Mapowanie tych połączeń ujawnia toksyczne kombinacje narażenia, takie jak podatne obciążenia, które można osiągnąć za pomocą agentów z nadmiernymi uprawnieniami i dostępem do wrażliwych danych.

Silna higiena wymaga również ciągłego zarządzania. Organizacje muszą monitorować zachowanie agenta, kontrolować integracje, egzekwować barierki danych i regularnie walidować uprawnienia. Te praktyki zamykają lukę narażenia AI i usuwają ścieżki ataku.

Co należy zrobić, aby chronić powierzchnie ataku AI szybko, nie zwalniając innowacji?

Organizacje mogą chronić powierzchnie ataku AI, redukując narażenie z szybkością i precyzją.

Aby to zrobić, pierwszą priorytetem jest identyfikacja, które systemy AI tworzą ścieżki dostępu do krytycznych aktywów. Ponad 80% organizacji uruchamia obciążenia z lukami w zabezpieczeniach, które są już wykorzystywane w środowisku. Ryzyko już istnieje w większości środowisk. Zespoły bezpieczeństwa muszą skoncentrować się na połączeniach, które tworzą realny wpływ.

Następnie zrealizuj, że automatyzacja umożliwia skalę. Ciągłe odkrywanie, kontekstowa priorytetyzacja i kierowane usuwanie ryzyka pozwalają zespołom redukować ryzyko, utrzymując prędkość rozwoju.

Podczas gdy barierki polityki zabezpieczają adopcję, dostęp w czasie rzeczywistym, monitorowane przepływy danych i kontrolowane integracje pomagają organizacjom zarządzać działalnością AI, utrzymując innowacje.

Wszystkie te kroki zmniejszają lukę narażenia AI, usuwając dostęp o wysokim ryzyku i niebezpieczne połączenia. Szybka redukcja narażenia chroni systemy, pozwalając na kontynuację adopcji AI.

Jak powinni myśleć CISO o tożsamości, uprawnieniach i zakresie, gdy przyznają agentom AI dostęp do systemów produkcyjnych?

CISO powinni traktować agenci AI jako wysoko-prędkościowe nie-ludzkie tożsamości z operacyjną władzą w systemach i danych.

Decyzje dotyczące dostępu powinny koncentrować się na precyzji. Uprawnienia powinny być zgodne z konkretnymi zadaniami, pozostawać ograniczone w czasie i podlegać ciągłej kontroli. Nadmierna uprawnienie zwiększa zasięg i wpływ, gdy systemy współdziałają z prędkością maszynową.

Liderzy bezpieczeństwa również potrzebują jasnego wglądu w skuteczny zasięg. Uprawnienia, połączone z ścieżkami sieciowymi, dostępem do danych i integracjami usług, definiują, co agent może naprawdę zrobić. Zrozumienie tych relacji ujawnia potencjalne narażenie, zanim stanie się wpływem.

Tożsamość łączy infrastrukturę, dane i aplikacje przez lukę narażenia AI. Ścisłe projektowanie uprawnień ogranicza promień rażenia i utrzymuje kontrolę. Gdy czas od odkrycia narażenia do wykorzystania jest niemal zerowy, zarządzanie tożsamością określa, jak bezpiecznie AI działa w produkcji.

Czy oczekuje się, że agenci AI zmuszą do przemyślenia istniejących ram bezpieczeństwa, czy też dzisiejsze modele mogą być dostosowane do radzenia sobie z tymi nowymi ryzykami?

Zasady bezpieczeństwa pozostają spójne, ale modele operacyjne ewoluują. Agenci AI łączą systemy, tożsamości i dane w dynamiczne środowiska, które zmieniają się ciągle i działają z prędkością maszynową. W przeciwieństwie do operatorów ludzkich, agenci nie stosują oceny do swoich działań ani nie rozróżniają pomiędzy odpowiednimi a niewłaściwymi żądaniami. Wykonują na podstawie instrukcji i uprawnień, co zwiększa znaczenie ścisłej kontroli i zarządzania.

Ryzyko wynika z relacji między infrastrukturą, łańcuchami dostaw oprogramowania i warstwami tożsamości. Organizacje dziedziczą narażenie szybciej, niż mogą nadążyć cykle usuwania. Zautomatyzowane wdrożenie i zautomatyzowane wykorzystanie kompresują czas odpowiedzi i zwiększają presję operacyjną.

Ramki bezpieczeństwa muszą koncentrować się na widoczności i redukcji narażenia. Zespoły wymagają ciągłego wglądu w to, co istnieje, jak systemy są połączone i które ścieżki prowadzą do krytycznych aktywów.

Największym wyzwaniem jest zarządzanie połączonym ryzykiem przez lukę narażenia AI. Programy bezpieczeństwa są udane, gdy ciągle redukują dostępne narażenie i utrzymują kontrolę w złożonych środowiskach.

Spójrzając w przyszłość, które obszary badań nad bezpieczeństwem agenci AI zasługują na większą uwagę, gdy te narzędzia przechodzą z eksperymentalnych do misji-krytycznych?

Kilka obszarów badań kształtować będzie przyszłość bezpieczeństwa agenci AI.

Po pierwsze, rozwój ekosystemów tożsamości nie-ludzkich wymaga głębszej analizy. Organizacje szybko rozwijają tożsamości maszynowe, które działają w infrastrukturze, danych i usługach. Zrozumienie wzorców uprawnień, zachowania i zarządzania cyklem życia będzie niezbędne.

Po drugie, badania muszą posunąć się naprzód w modelowaniu ścieżek ataku wieloetapowych. Systemy AI łączą łańcuchy dostaw oprogramowania, infrastrukturę chmury i warstwy tożsamości. Mapowanie, jak te elementy współdziałają, poprawi przewidywanie i priorytetyzowanie ryzyka.

Po trzecie, zarządzanie autonomicznym podejmowaniem decyzji wymaga większej uwagi. Zespoły bezpieczeństwa potrzebują wglądu w to, jak agenci dostęp, przetwarzają i przenoszą wrażliwe dane w czasie.

Wreszcie, prędkość wykorzystania nadal przyspiesza. Studium, jak atakujący i obrońcy działają z prędkością maszynową, ukształtuje strategie odpowiedzi.

Przyszłe bezpieczeństwo zależy od zrozumienia i redukcji luki narażenia AI. Badania muszą koncentrować się na kontrolowaniu połączonego narażenia na całej powierzchni ataku.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Tenable.