Liderzy opinii
AI może zwiększyć skalę działań związanych z bezpieczeństwem. Ale czego?

Kluczowe punktyPrzetwarzanie większej ilości danych nie poprawia automatycznie wykrywania zagrożeń bez…
Zobacz więcej
- Przetwarzanie większej ilości danych nie poprawia automatycznie wykrywania zagrożeń bez kontekstu organizacyjnego.
- Dostrojone modele mogą wspierać badania na dużą skalę przy bardziej przewidywalnych kosztach niż modele frontier.
- Autonomia powinna być proporcjonalna do ryzyka, a ład zarządzania zaprojektowany przed skalowaniem agentów.
Zespoły ds. bezpieczeństwa w przedsiębiorstwach mierzą się dziś z tak dużą liczbą zdarzeń, danych telemetrycznych i alertów, że nie są w stanie realnie analizować ich ręcznie. Szacunki są różne; niektóre badania wskazują, że przeciętny zespół ds. operacji bezpieczeństwa otrzymuje ponad 4400 alertów dziennie. Wraz z rozwojem organizacji, wdrażaniem kolejnych narzędzi i wykorzystywaniem AI do przeprowadzania coraz większej liczby ataków ta liczba z pewnością będzie rosła. Już teraz obserwujemy przedsiębiorstwa, w których środowisku znajduje się dwa miliony punktów końcowych. Zespoły ds. bezpieczeństwa, które ręcznie analizują te alerty, nie mają równych szans w starciu z atakującymi, którzy coraz częściej korzystają z agentów.
Agenci AI mogą zmienić tę sytuację, przejmując od zespołów obrony analizę zdarzeń i inne powtarzalne zadania w całym środowisku. Jednak możliwość przetwarzania większej ilości danych nie przekłada się automatycznie na skuteczniejsze wykrywanie zagrożeń ani reagowanie na nie. Potrzebna jest nie tylko skala, lecz także kontekst.
Znaczenie kontekstu przy ocenie skali
Agent analizujący miliony punktów końcowych musi rozumieć, czego szuka, jakie zachowania są nietypowe w danym środowisku oraz które ustalenia wymagają dalszej analizy. Bez takiego kontekstu automatyzacja może prowadzić do skalowania szumu informacyjnego i generowania nieistotnych lub mylących wniosków.
Warto też pamiętać, że nie każda organizacja będzie mogła korzystać z modeli czołowych do analizy każdego alertu — koszty takiego rozwiązania szybko stałyby się zbyt wysokie.
Środowiska bezpieczeństwa różnią się pod względem infrastruktury, aplikacji, wymagań operacyjnych, obowiązków regulacyjnych i tolerancji ryzyka. Zespoły obrony muszą dbać o nieprzerwane działanie aplikacji, jednocześnie spełniając wymogi zgodności i unikając zakłóceń w działalności operacyjnej.
Aby agenci działali skutecznie, muszą korzystać z wiedzy organizacji, w tym z historii wcześniejszych analiz, ustalonych procedur i doświadczenia analityków. Tej wiedzy nie da się po prostu przekazać agentowi w arkuszu kalkulacyjnym ani w innym formacie — agent musi ją poznać, obserwując doświadczonych specjalistów obrony cybernetycznej przy pracy.
Dla przedsiębiorstw kluczowe pytanie brzmi: jak wykorzystać tę wiedzę organizacyjną i przełożyć ją na systemy zdolne do podejmowania spójnych decyzji, adekwatnych do kontekstu, z szybkością maszyny?
Jak wykorzystać wiedzę organizacyjną w praktyce
Organizacje potrzebują mechanizmów pozwalających gromadzić i wykorzystywać wiedzę, na której opierają się analizy, w tym wcześniejsze decyzje dotyczące przypadków, ustalone procedury oraz sposób, w jaki analitycy interpretują dowody. W przedsiębiorstwach mogą też funkcjonować „niestandardowe” procesy i narzędzia oraz nieformalna wiedza, które również trzeba uwzględnić.
Jednym z możliwych rozwiązań jest specjalizacja modeli. Dostrajanie modeli pod kątem potrzeb poszczególnych klientów korporacyjnych może umożliwić prowadzenie analiz na dużą skalę przy bardziej przewidywalnych kosztach i zachowaniu wysokiej skuteczności. Modele open source poddane dostrajaniu mogą szczególnie dobrze sprawdzać się w zadaniach obejmujących bardzo dużą liczbę punktów końcowych.
Organizacje muszą również oceniać skuteczność agentów w miarę zmian modeli, przepływów pracy i środowisk przedsiębiorstw. Środowiska syntetyczne, czyli cyfrowe bliźniaki, mogą zapewnić reprezentatywne warunki do testowania różnych wersji agentów, gdy dane produkcyjne nie są już dostępne lub stały się nieaktualne.
Dostrajanie modeli nie jest jedynym sposobem zapewnienia kontekstu. Alternatywne rozwiązania to wyszukiwanie informacji, pamięć, orkiestracja przepływów pracy i jawne mechanizmy kontroli zasad. Najważniejsze jest, aby wybrana metoda poprawiała skuteczność agenta w środowisku, w którym będzie działać.
Autonomia na dużą skalę wymaga jasnych granic, nadzoru i koordynacji
Prawidłowe rozpoznanie zagrożenia to tylko część wyzwania. Agenci muszą wiedzieć, jakie działania są uprawnieni podejmować, kiedy potrzebna jest zgoda człowieka i jak uniknąć zakłócania prawidłowego funkcjonowania firmy. Określenie, w jakich obszarach agenci mogą działać autonomicznie, a gdzie konieczne jest podejmowanie decyzji przez człowieka, ma zasadnicze znaczenie dla wdrażania im zaufanych rozwiązań.
Autonomia na dużą skalę wymaga również korzyści skali. Firmy, które wykorzystują modele czołowe do przeprowadzania milionów analiz, doprowadzą się do bankructwa. Dlatego kluczowe jest znalezienie najwydajniejszej metody prowadzenia analiz z użyciem modelu AI — niezależnie od tego, czy będzie to Small Language Model (SLM), czy model własnościowy.
Zakres autonomii powinien być proporcjonalny do ryzyka. Rutynowe, dobrze znane zadania mogą nadawać się do autonomicznego wykonywania, natomiast działania niosące poważne konsekwencje lub powodujące zakłócenia mogą wymagać zgody człowieka albo dodatkowego upoważnienia. Bezpieczeństwo przedsiębiorstwa zależy również od koordynacji między zespołami. Jeśli analiza wykaże zagrożenie wymagające zmiany konfiguracji zapory sieciowej, sprawa musi płynnie trafić do zespołu odpowiedzialnego za ten system, z zachowaniem odpowiednich uprawnień i rozliczalności za działania naprawcze.
Dlatego zarządzanie i projektowanie przepływów pracy są niezbędnymi elementami wdrażania agentów, a nie mechanizmami kontroli, które można dodać po zwiększeniu skali wykorzystania tej technologii.
Jakość rezultatów to kolejna miara sukcesu AI w cyberbezpieczeństwie
Organizacje powinny oceniać agentów na podstawie miar opartych na wynikach, takich jak trafność dochodzeń, odsetek fałszywych alarmów i przeoczonych zagrożeń, czas potrzebny na zbadanie sprawy i usunięcie problemu, koszt jednego dochodzenia, jakość eskalacji oraz przestrzeganie zasad autoryzacji.
Ciągła ewaluacja jest niezbędna, gdy zmieniają się modele i przepływy pracy. Testowanie różnych wersji agentów na reprezentatywnych przypadkach oraz korzystanie ze środowisk syntetycznych może pomóc organizacjom wykryć regresje, zanim wdrożą aktualizacje w środowisku produkcyjnym.
Liderzy ds. bezpieczeństwa muszą równoważyć korzyści z automatyzacji z ryzykiem operacyjnym związanym z wdrożeniem. Dostępność aplikacji, obowiązki w zakresie zgodności, tolerancja organizacji na ryzyko oraz harmonogram wdrożenia wpływają na to, jak szybko można wprowadzać nowe możliwości.
Sztuczna inteligencja daje zespołom ds. bezpieczeństwa szansę na rozwiązanie od dawna istniejącego problemu ograniczonych zasobów, ale sama skala działania nie jest celem. Prawdziwa szansa polega na połączeniu szybkości maszyn z kontekstem organizacyjnym, odpowiednimi uprawnieniami i ludzkim osądem, tak aby agenci potrafili odróżniać sprawy istotne od nieistotnych, podejmować właściwe działania i w razie potrzeby angażować odpowiednie osoby.












