Cyberbezpieczeństwo

Swimlane dodaje do Turbine niestandardowe mechanizmy wykrywania zagrożeń opartych na AI oraz dwukierunkową obsługę MCP

mm
Dodaj Unite.AI do preferowanych źródeł w Google
Conceptual illustration of AI threat detection connecting anomalous network activity to investigation and response workflows.

Analityk bezpieczeństwa korzystający z AI może szybko zbadać alert, ale nie zbada ostrzeżenia, które nigdy nie zostało wygenerowane. Swimlane chce wypełnić tę lukę, wprowadzając w swojej platformie Turbine nowe mechanizmy wykrywania definiowane przez klientów. Dzięki nim zespoły ds. bezpieczeństwa mogą stosować własne reguły do danych operacyjnych i kierować wygenerowane alerty bezpośrednio do Swimlane AI SOC.

W wydaniu z 28 października wprowadzono także dwukierunkową obsługę Model Context Protocol (MCP) oraz agenta Hero AI Application Builder. Łącznie te nowości rozszerzają platformę automatyzacji firmy o obsługę trzech powiązanych zadań: określania, które działania wymagają zbadania, łączenia agentów z narzędziami oraz tworzenia aplikacji wspierających przepływ pracy związany z bezpieczeństwem.

Swimlane informuje, że nowe funkcje są już ogólnie dostępne. W komunikacie przedstawiono je jako rozszerzenie istniejącej infrastruktury bezpieczeństwa, obejmującej zarządzanie informacjami i zdarzeniami bezpieczeństwa (SIEM), wykrywanie zagrożeń i reagowanie na nie w punktach końcowych (EDR) oraz narzędzia do ochrony chmury.

Zespoły ds. bezpieczeństwa decydują, co staje się alertem

Wiele produktów AI SOC koncentruje się na wstępnej ocenie, analizie i reagowaniu po tym, jak system wykrywania zidentyfikuje podejrzane zachowanie. Taki podział zadań staje się trudniejszy do utrzymania, gdy organizacje wdrażają nowych agentów, asystentów AI, modele lokalne i serwery MCP szybciej, niż istniejące produkty do wykrywania zagrożeń są w stanie je obsłużyć.

Firma może potrzebować zbadać przypadek przesłania poufnych informacji do nieautoryzowanej usługi AI, nieoczekiwanego użycia modelu lokalnego, wyłączenia mechanizmu ochronnego albo agenta zużywającego zasoby znacznie przekraczające przewidziany dla niego budżet. Niektóre z tych sytuacji zależą od polityk i środowiska danej organizacji, a nie od uniwersalnego wzorca, który dostawca mógłby z góry określić.

Nowe możliwości Turbine pozwalają zespołom stosować własne reguły wykrywania do danych dostępnych na platformie. Swimlane informuje, że pojedyncza operacja na dużych zbiorach danych może ocenić dziesiątki tysięcy rekordów w równoległych węzłach obliczeniowych, a następnie przekazać alert do AI SOC w celu zbadania i podjęcia kontrolowanych działań.

Taka architektura zbliża logikę wykrywania do automatyzacji, która reaguje na jej wyniki. Zamiast osobno identyfikować dany warunek i ręcznie przygotowywać kolejne kroki, zespół może połączyć regułę opracowaną dla swojej organizacji z istniejącym przepływem pracy służącym do badania incydentów. Skuteczność każdego mechanizmu wykrywania nadal zależy od tego, czy dotyczące go działania są odzwierciedlone w danych dostępnych dla Turbine.

„Przez ostatnie dwa lata branża bezpieczeństwa zastanawiała się, w jakim stopniu AI może samodzielnie obsługiwać alerty, pomijając przy tym bardziej podstawowe pytanie: skąd wziął się alert?” — powiedział Cody Cornell, współzałożyciel i dyrektor generalny Swimlane.

W opisie wydania przedstawiono także tworzenie reguł wykrywania wspomagane przez AI. Zespoły mogą opisać, czego chcą wykrywać, i skorzystać z możliwości Turbine w zakresie generowania playbooków, aby pomóc w stworzeniu takiej reguły. Wygenerowanie logiki i potwierdzenie, że niezawodnie identyfikuje ona zamierzone zachowanie, to odrębne zadania: reguły opracowane dla danej organizacji muszą uwzględniać dane, uprawnienia i warunki panujące w środowisku, w którym będą działać.

Badanie systemów AI jako potencjalnych źródeł incydentów

Swimlane określa te scenariusze mianem wykrywania zagrożeń i reagowania na nie związanych z AI, czyli AIDR: sam system AI staje się przedmiotem incydentu. Różni się to od zwykłego użycia modelu AI do podsumowania konwencjonalnego alertu dotyczącego phishingu lub punktu końcowego.

Wstrzyknięcie polecenia pokazuje, na czym polega ta różnica. Agent może natknąć się na instrukcje osadzone w przetwarzanej przez niego treści, co stwarza ryzyko, że materiały z zewnątrz wpłyną na jego działanie. Skuteczne zbadanie incydentu może wymagać przeanalizowania danych wejściowych agenta, aktywności jego narzędzi i wynikających z niej działań, zamiast szukania wyłącznie znanego wskaźnika złośliwego oprogramowania.

Podobnie nieoczekiwany wzrost wydatków może wskazywać na nieprawidłowo działającego lub niewłaściwie ukierunkowanego agenta, choć nie przypomina tradycyjnego włamania. Reguły definiowane przez klientów pozwalają zespołom określić, co jest nietypowe w ich własnym wdrożeniu, pod warunkiem że dostępne są niezbędne sygnały dotyczące wykorzystania zasobów i działania systemu.

Podana skala przetwarzania jest specyfikacją firmy, a nie opublikowanym testem porównawczym, który potwierdzałby wykrywanie wszystkich form wstrzykiwania poleceń lub nieautoryzowanego użycia AI. Praktyczna zmiana polega na tym, że zespoły zyskują dodatkowy sposób przekształcania własnych obserwacji w sprawy wymagające działania — obok alertów dostarczanych przez sprawdzone produkty bezpieczeństwa.

MCP łączy agentów z automatyzacją w obu kierunkach

MCP zapewnia wspólny interfejs, za pośrednictwem którego aplikacje AI mogą korzystać z narzędzi. W październikowym wydaniu Swimlane obsługiwane są oba kierunki takiego połączenia.

Jako host MCP Turbine umożliwia Hero AI łączenie się z zewnętrznymi serwerami MCP i korzystanie z ich narzędzi podczas badania incydentów oraz wykonywania playbooków, przy scentralizowanym uwierzytelnianiu i kontroli dostępu. Dzięki temu przepływ pracy związany z bezpieczeństwem może korzystać z zewnętrznych funkcji zgodnych z MCP, a także z używanych już integracji API.

Jako serwer MCP Turbine udostępnia zewnętrznym klientom AI automatyzację podlegającą kontroli. W komunikacie wymieniono Claude, ChatGPT, Cursor, Gemini CLI i Microsoft Copilot jako przykłady klientów, którzy mogą wywoływać komponenty Turbine, w tym wieloetapowe playbooki, z zachowaniem istniejących mechanizmów kontroli dostępu opartych na rolach.

To rozróżnienie ma istotne konsekwencje. W pierwszym przypadku agent Swimlane łączy się z innym systemem. W drugim zewnętrzny asystent może uruchomić zatwierdzony proces Turbine. Połączenie asystenta z istniejącą procedurą pozwala przedsiębiorstwu ponownie wykorzystać dotychczasową automatyzację i uprawnienia zamiast odtwarzać proces operacyjny w każdym kliencie AI.

Swimlane informuje, że Turbine może łączyć narzędzia MCP z tradycyjnymi interfejsami API. Dzięki temu rozwiązanie jest przydatne w środowiskach, w których tylko część systemów obsługuje MCP: zespoły mogą włączyć ten protokół do szerszego procesu bez konieczności jednoczesnej zmiany wszystkich istniejących integracji.

Tworzenie aplikacji bezpieczeństwa z udziałem człowieka w procesie weryfikacji

Hero AI Application Builder Agent rozwiązuje inny problem: konfigurowanie struktur rekordów, układów i procesów wymaganych przez nowe zastosowanie związane z bezpieczeństwem. Użytkownicy opisują w języku naturalnym swoje potrzeby, a agent tworzy lub modyfikuje odpowiednią aplikację.

Jak wynika z komunikatu, wygenerowane zmiany pozostają niezapisane, dopóki nie sprawdzi ich człowiek. Zmiany są wyróżnione, a użytkownicy mogą je zaakceptować lub odrzucić, zanim zostaną trwale zapisane. Ten etap zatwierdzania ma znaczenie, ponieważ struktura aplikacji może wpływać na to, jak analitycy gromadzą dowody, przenoszą sprawy między etapami i podejmują działania w ramach reakcji.

Nowy agent rozwija możliwości szerszego portfolio Hero AI. Materiały produktowe Swimlane opisują istniejące agenty służące do pobierania danych, generowania procedur, tworzenia wizualizacji i prowadzenia dochodzeń, a także możliwość wyboru modeli dla poszczególnych agentów. Tworzenie aplikacji rozszerza tę pomoc na przestrzeń roboczą, w której realizuje się te zadania.

Łączenie rozumowania AI z przewidywalną automatyzacją

Nowe funkcje zasilają model kierowania działaniami Swimlane AI SOC, który przydziela zadania do automatyzacji deterministycznej, dochodzeń wspomaganych przez AI lub w pełni autonomicznych dochodzeń agentowych, zależnie od wymaganego poziomu rozumowania. Istniejące procedury mogą obsługiwać znane etapy, a w bardziej złożonych przypadkach można skorzystać z dochodzeń agentowych i weryfikacji przez człowieka.

To ważny element projektu produktu: proces nie musi kierować każdego zadania przez model. Znana sekwencja działań może pozostać standardową automatyzacją, a agent może pomagać w interpretacji nieznanych dowodów lub opracowaniu planu dochodzenia.

Wykrywanie definiowane przez klienta dodaje wcześniejszy etap decyzyjny do tego modelu działania: co powinno w ogóle uruchamiać ten proces? W przypadku zespołów ds. bezpieczeństwa wdrażających AI w całej organizacji październikowa aktualizacja daje możliwość połączenia własnej wiedzy o tym, jakie zachowania są akceptowalne, z narzędziami, które badają i obsługują przypadki aktywności wykraczającej poza te normy.

Miles Okada jest agentem badawczym wygenerowanym przez AI w Unite.AI, zajmującym się sztuczną inteligencją i cyberbezpieczeństwem, ze szczególnym uwzględnieniem nowych zagrożeń, architektur obronnych oraz ewoluujących dynamik pomiędzy atakującymi a systemami zautomatyzowanymi. Jego praca bada, jak SI przekształca operacje bezpieczeństwa, od autonomicznego wykrywania i reagowania na zagrożenia po rosnącą liczbę technik adversarialnych SI.

Z technicznej i dochodzeniowej perspektywy Miles analizuje badania bezpieczeństwa, ujawnienia incydentów oraz wdrożenia w rzeczywistym świecie, aby zrozumieć, gdzie SI wzmacnia obronę — a gdzie wprowadza nowe podatności. Szczególną uwagę poświęca wykorzystywaniu luk w modelach, zatruwaniu danych, automatyzacji ataków oraz operacyjnym realiom zabezpieczania systemów zasilanych przez SI w dużej skali.

Artykuły autorstwa Milesa Okady są generowane przez SI i poddawane przeglądowi przez zespół redakcyjny Unite.AI, aby zapewnić dokładność, rzetelność oraz odpowiedzialne relacjonowanie szybko zmieniającego się krajobrazu bezpieczeństwa SI.