Gdy AI staje się zbuntowanym: łagodzenie zagrożeń wewnętrznych w erze autonomicznych agentów

 Wzrost popularności agentów AI tworzy nowe wyzwania dla zespołów bezpieczeństwa i IT. Na progu tego przejścia w kierunku bardziej zautomatyzowanych workflowów dla zadań ciągłości biznesowej, niedawne testy wykazały, że agenci AI mogą wykazywać niebezpieczne lub zwodnicze zachowania w określonych warunkach, tworząc nowe zagrożenie wewnętrzne dla firm z różnych branż.

Przedstawiając krytyczną potrzebę, aby organizacje właściwie monitorowały agenci AI, które uzyskują dostęp do wrażliwych danych i działają bez nadzoru ludzkiego, co potencjalnie wprowadza nowe klasy ryzyka, które są szybsze, mniej przewidywalne i trudniejsze do przypisania. Rzeczywistość tych ryzyk jest dwuznaczna. Z jednej strony, zespoły bezpieczeństwa muszą być przygotowane na złe aktorów, którzy wykorzystują agenci AI do wzmocnienia ataków inżynierii społecznej na ich pracowników. Z drugiej strony, muszą być przygotowane na agenci AI wewnętrzne, które mogą wykazywać zachowania, tworząc zupełnie nowy zestaw ryzyk i luk w zabezpieczeniach.

Jak agenci AI wewnętrzni mogą prowadzić do zagrożeń wewnętrznych

Agenci AI stanowią dwa kluczowe wewnętrzne ryzyka bezpieczeństwa w sieciach firmowych. Po pierwsze, działają one autonomicznie bez granic etycznych lub wbudowanej odpowiedzialności, której ludzcy pracownicy naturalnie przestrzegają. Działając na podstawie wnioskowanych celów, a nie jawnych instrukcji, ich wydajność i wytrwałość mogą przekraczać granice i umożliwiać im działanie bez zatwierdzenia. Bez niezbędnych kontroli i równowagi, narażenia mogą być łatwo tworzone i pomijane.

Te agenci mogą również mieć dostęp do ogromnych ilości danych, ale nie mają możliwości rozróżniania między uprzywilejowanymi a rutynowymi informacjami. Dlatego nawet proste zadania, takie jak analiza zbiorów danych, mogą powodować, że dane są przeciekać lub narażone na zewnętrzne strony. To wyzwanie staje się jeszcze bardziej złożone, gdy AI jest skalowana w różnych systemach i workflow z różnymi zasadami i protokołami dotyczącymi danych. Agenci działający w różnych regionach często naruszają zasady dotyczące obsługi danych w określonym miejscu z powodu niekonsekwentnego egzekwowania polityki, tworząc w ten sposób ryzyko bezpieczeństwa. Rzeczywistością jest, że tylko 30% amerykańskich firm aktywnie mapuje, które agenci AI mają dostęp do krytycznych systemów, tworząc znaczącą lukę w zabezpieczeniach.

Jak agenci AI zewnętrzni mogą prowadzić do zagrożeń wewnętrznych

Jednym z najczęstszych sposobów wejścia dla hakera jest atak phishingowy i inżynieria społeczna. Źli aktorzy i gangi cybernetyczne wykorzystują agenci AI do wzmocnienia tych ataków i przeprowadzania zaawansowanych incydentów deepfake i naśladownictwa. Agenci AI mogą być używane do tworzenia ataków phishingowych i inżynierii społecznej, które wydają się bardziej realne i wiarygodne dla nieprzeszkolonego oka. 60% naruszeń w 2024 roku obejmowało ludzki element, a prawie jedna czwarta z nich pochodziła z inżynierii społecznej. Ta liczba będzie tylko rosła, ponieważ wykorzystanie agentów AI będzie nadal wzmacniać te metody wejścia.

Agenci AI mogą być szkoleni do przeszukiwania ogromnych ilości danych społecznościowych i osobistych na platformach i kanałach, aby wysyłać ukierunkowane, personalizowane komunikaty. Wiadomości, które naśladują ton i głos nadawców, są bardziej prawdopodobne, aby były skuteczne i trudniejsze do odróżnienia od prawdziwych mediów. Agenci AI mogą się uczyć, aby dostosować swoje kampanie, aby poprawić skuteczność, zmieniając się, gdy atak nie działa lub naśladując atak, który się udał.

Gdy chodzi o deepfake, agenci AI mogą generować te naśladownictwa z wyjątkową szybkością, co prowadzi do masowej manipulacji. Źli aktorzy również wykorzystują agenci AI do komunikowania się z prawdziwymi, czasowymi połączeniami wideo z minimalnym opóźnieniem i poprawiają wiarygodność. Mogą reagować na reakcję celu w czasie rzeczywistym i zmieniać swój podejście, jeśli to konieczne. Te ulepszone ataki mogą zwiększyć ryzyko zagrożeń wewnętrznych ze strony nieświadomych pracowników, którzy mogą być oszukani, aby ujawnili wrażliwe dane, autoryzowali transakcje lub udostępniali poświadczenia zagrożonym aktorom.

Rola zespołów bezpieczeństwa w rozwiązywaniu wyzwań agenticznych AI

Zespoły bezpieczeństwa muszą podjąć określone działania, aby ograniczyć luki stworzone przez agenci AI. Działy IT powinny przede wszystkim ograniczyć dostęp agentów AI do wrażliwych danych za pomocą kontroli zarządzania danymi i widoczności w czasie rzeczywistym. Kroki, aby to osiągnąć, obejmują klasyfikację tożsamości agentów AI w systemach IAM i monitorowanie ich działalności z takim samym rygorem, jak konta uprzywilejowane. Element widoczności idzie dalej, monitorując aktywność sieciową dla już wdrożonych wzorców zachowań przypisanych do agentów AI. Z widocznością zespoły IT mogą monitorować ruch uprzywilejowanego dostępu i anomalie, nie tylko wspierając wysiłki prewencyjne, ale także przyspieszając działania zawierania i odzyskiwania w przypadku awarii agenta.

Ponadto, identyfikując nowe wzorce i taktyki używane w atakach agentów AI, organizacje mogą zaktualizować swoje strategie obronne i przeszkolić swoje systemy bezpieczeństwa, aby rozpoznać i powstrzymać podobne zagrożenia w przyszłości.

Utrzymywanie przewagi nad zagrożeniami wewnętrznymi wprowadzonymi przez agenci AI

Rzeczywistością jest, że agenci AI wprowadzają nowe wewnętrzne ryzyko ze względu na ich autonomię i rosnący dostęp do wrażliwych systemów. Ponadto, zagrożeni aktorzy będą nadal wykorzystywać agenci AI, aby skuteczniej wykorzystywać ludzkie słabości za pomocą deepfake, phishingu i inżynierii społecznej.

Podczas gdy ta technologia się rozwija, firmy muszą poprawić swoją widoczność w dostępie i zachowaniu agentów AI przed ich wdrożeniem do workflow. Obejmuje to inwestowanie w proaktywne, 360-stopniowe, monitorowanie w czasie rzeczywistym wraz z siłą roboczą agentów AI. Chociaż agenci AI mogą rozwiązać krytyczne wąskie gardła i wyzwania biznesowe, wymagają one proaktywnego podejścia, aby ograniczyć przyszłe zagrożenia wewnętrzne.