Co czeka nasze odkrycie modeli AI Frontier w odniesieniu do przyszłości odkrywania luk w zabezpieczeniach

Kiedy Claude Mythos został ogłoszony w kwietniu, szybko stał się jednym z największych punktów dyskusji w dziedzinie cyberbezpieczeństwa w erze sztucznej inteligencji. Opracowany przez Anthropic, nowy model językowy wykazał bezprecedensowe możliwości cybernetyczne i wywołał reakcje, które sklasyfikowały go jako przełom technologiczny, a także ostrzegały, że cyberbezpieczeństwo może wejść w okres bezprecedensowych zakłóceń.

Według Anthropic, model może samodzielnie odkrywać duże ilości luk w zabezpieczeniach zero-day, zgłaszając błędy w głównych systemach operacyjnych i przeglądarkach, w tym przykłady, które pozostawały nieodkryte przez dziesięciolecia. Był również w stanie łączyć pojedyncze słabości w wieloetapowe ataki.

Jego wpływ był tak dramatyczny, że do 12 czerwca rząd Stanów Zjednoczonych nakazał Anthropic wstrzymać wszystki dostęp do tej technologii dla wszystkich obcokrajowców na świecie, w tym pracowników Anthropic o obcokrajowcach. To było powszechnie postrzegane jako reakcja na obawy, że ofensywne możliwości sztucznej inteligencji mogły osiągnąć punkt, w którym nieograniczony dostęp mógłby stworzyć nieakceptowalne, a nawet niekontrolowane ryzyka.

W ramach Projektu Glasswing, programu ujawniania i naprawy Anthropic, dostęp jest obecnie ograniczony do około 50 organizacji, w tym AWS, Apple, Google, Microsoft, CrowdStrike, Cisco i Linux Foundation, wśród innych. Te firmy otrzymały okno czasowe na naprawę krytycznych systemów przed ujawnieniem luk w zabezpieczeniach zidentyfikowanych przez Mythos, które będą publicznie ujawnione od lipca. W tym momencie branża wchodzi naprawdę w nowe terytorium.

Przekroczenie Rubikonu

Wiele osób zgadza się, że pojawienie się modeli AI Frontier oznacza, że Rubikon bezpieczeństwa został przekroczony. I niech będzie jasne: podstawowym problemem nie jest koniecznie pojawienie się określonego modelu, ale możliwość (lub nawet prawdopodobieństwo), że odkrywanie luk w zabezpieczeniach i rozwój eksploitacji samych w sobie mogą wejść w nową erę, w której sztuczna inteligencja może działać w skali i prędkości, której ludzcy badacze nie są w stanie osiągnąć.

Jeśli okaże się, że tak jest, implikacje sięgają znacznie dalej niż konkretnych luk w zabezpieczeniach; wpływają one na założenia, na których tradycyjnie opierały się procesy zarządzania lukami w zabezpieczeniach i naprawy. W szczególności, obecne procesy zarządzania lukami w zabezpieczeniach zostały opracowane w erze, w której tempo odkryć było ograniczane przez ludzkich badaczy. Sztuczna inteligencja ma potencjał, aby fundamentalnie zmienić tę równanie.

Jedną z konsekwencji jest prawdopodobnie gwałtowny wzrost liczby luk w zabezpieczeniach, które wchodzą do ekosystemu bezpieczeństwa. Objętość CVE już dramatycznie wzrosła w ostatnich latach, a zespoły bezpieczeństwa są już pod coraz większą presją, nawet przed pełnym wpływem modeli AI Frontier.

W tym kontekście samo odkrywanie luk w zabezpieczeniach może nie być już czynnikiem ograniczającym. Zamiast tego, wąskie gardło przechodzi do triage i naprawy. Wyzwanie jest pogarszane przez fakt, że czas eksploatacji skraca się od lat, a w niektórych przypadkach, eksploity pojawiają się przed udostępnieniem łatek, pozostawiając organizacjom niewiele czasu na reakcję.

Gotowość operacyjna staje się priorytetem

Co więc wygląda zaktualizowane, przydatne podejście do zarządzania lukami w zabezpieczeniach? Po pierwsze, należy je traktować jako ciągłą zdolność operacyjną, ponieważ, jak się obecnie wydaje, okno między odkryciem a wdrożeniem łaty jest często zbyt wolne. Zespoły bezpieczeństwa muszą zrozumieć, które luki w zabezpieczeniach są naprawdę eksploatowalne i które systemy są dotknięte.

Jako drugie i bardziej istotne, modele AI Frontier są narzędziami dla cyberobrony. Członkowie Glasswing mogą używać tych modeli do wykrywania i naprawy wcześniej nieodkrytych luk w zabezpieczeniach, idealnie z zaawansowanym dostępem, aby mieć przewagę nad atakującymi, kiedy nieuchronnie będą mieli dostęp do możliwości AI Frontier. Modele AI Frontier są cennym narzędziem wykrywania; jednak nie rozwiązują automatycznie aspektów operacyjnych, jak zarządzać skanowaniem AI (co jest potrzebne do skanowania, kiedy, jak orchestrować skanowanie, co robić z wynikami, jak zarządzać kosztami tokenów itp.). Niezależnie od używanego modelu (i będą się one poprawiać z czasem), zespoły bezpieczeństwa muszą być w stanie operacjonalizować możliwości AI Frontier dla cyberbezpieczeństwa szybciej, niż atakujący będą mogli wykorzystywać te możliwości do eksploatacji.

Długoterminowe wyzwanie stojące przed organizacjami nie polega więc na przygotowaniu się do jednego modelu lub konkretnego zakresu ujawnień, ale na tym, czy istniejące modele operacyjne mogą się adaptować do świata, w którym luki w zabezpieczeniach są odkrywane i uzbrajane w bezprecedensowej szybkości. Błędne rozwiązanie tego problemu może spowodować, że organizacje będą miały do czynienia z światem kłopotów.