2026 Będzie Rokiem Wybuchu Agentów AI w Przedsiębiorstwach: Czy Jesteśmy Przygotowani na Zagrożenia Bezpieczeństwa?

Przedsiębiorstwa rywalizują o wdrożenie agentów AI, ale brakuje im infrastruktury, aby to zrobić bezpiecznie. Agenci są różni od narzędzi AI: działają autonomicznie, dostęp do danych jest ciągły, a działanie odbywa się z prędkością maszyny bez potrzeby nadzoru. To tworzy całkowicie nowe ryzyka, na które musimy się przygotować.

Ludzie już używają swoich własnych agentów AI w pracy – bez konieczności poinformowania szefów. Jak możemy się upewnić, że boty OpenClaw nie usuwają ważnych plików? Trzy na cztery duże przedsiębiorstwa będą miały wdrożone systemy wieloagentowe do końca 2026 roku, według Gartner. Jak możemy się upewnić, że każdy z tych agentów nie otworzy drzwi dla hakera do ataku w nowy sposób?

Obecna infrastruktura bezpieczeństwa jest zaprojektowana do rozwiązywania znanych, ludzkich zagrożeń. Nie uwzględnia to złych agentów, które manipulują kodem przedsiębiorstwa bez naszej wiedzy. Lub złych aktorów, którzy atakują nas za pomocą wstrzykiwania poleceń: instrukcji ukrytych w kodzie lub poleceniach, które powodują, że AI ujawniają wrażliwe informacje lub wykonują kod złośliwy.

Prawda jest taka, że firmy są bardziej głodne niż przygotowane na tę nadchodzącą falę. Tylko 29% organizacji “zdecydowanie zgadza się”, że mają bezpieczne zabezpieczenia AI, według ankiety Microsoft.

Liderzy firm muszą zrobić kilka rzeczy.

1. Wdrożyć rodzime środki bezpieczeństwa AI w całej firmie.
2. Traktować agenty AI z tymi samymi środkami bezpieczeństwa co ludzi.
3. Zwiększyć widoczność tego, co ci agenci robią.

Poprzez wdrożenie tych kontroli, bezpieczeństwo może dotrzymać kroku agentom i umożliwić innowacje, zamiast je spowalniać.

Stwórz rodzime bezpieczeństwo AI

W lutym, badaczka bezpieczeństwa Meta opublikowała zaskakujący post na X: jej bot OpenClaw zaczął usuwać jej e-maile i ignorował jej polecenia, aby się zatrzymać. Do czasu, gdy była w stanie przerwać ten proces ręcznie, szkody już zostały wyrządzone.

To jest ilustracja niesamowitej prędkości, z jaką złe AI mogą działać, czyniąc ludzkie kontrolowanie niewystarczające. Bezpieczeństwo musi działać tak szybko, jak i w tych samych kanałach, co agenci AI.

To wymaga odnowienia infrastruktury bezpieczeństwa firmy, a nie tylko ulepszenia istniejących narzędzi. W tym systemowym przesunięciu w narzędziach muszą uczestniczyć różne działy.

Unikanie sytuacji, takich jak ta, w której znalazła się badaczka Meta, wymaga narzędzi AI, które wykrywają anomalie w czasie rzeczywistym i reagują automatycznie. Na przykład, agenci nadzorujący mogą być wdrożeni, aby przeglądać zadania o wysokim wpływie wykonywane przez innych agentów. Narzędzia Agentic Threat Intelligence (ATI) mogą wykryć i działać automatycznie na wczesnym etapie potencjalnego ataku.

Innym ważnym mechanizmem zapobiegawczym jest zapewnienie bezpieczeństwa samego modelu, który jest wdrażany w systemach. Platformy takie jak ProtectAI, TrojAI lub Aim Security mogą testować bezpośrednie niebezpieczeństwa, takie jak wstrzykiwanie poleceń, używając narzędzi AI do oczyszczania kodu przed publikacją.

Zabezpieczenie pochodzenia danych, do których agenci AI mają dostęp, jest również kluczowe. Narzędzia takie jak Databricks Unity Catalog, Collibra lub Alation umożliwiają zespołom zarządzanie ruchem danych.

Możemy również zapobiec manipulowaniu naszymi agentami AI, zabezpieczając fizyczne urządzenia, których używamy do ich wdrożenia. Platformy takie jak CrowdStrike mogą pomóc uniknąć nadużywania poświadczeń AI i wykryć nietypowe zachowania.

Posiadanie zasad, które rządzą Twoimi wewnętrznymi operacjami, a także tym, jak wybierasz dostawców, jest niezwykle ważne. Użyj istniejących ram przemysłowych jako przewodnika, takich jak Google SAIF, aby zbudować bezpieczną architekturę, AWS CAF-AI do zarządzania AI lub NIST AI RMF do zgodności. Projekt bezpieczeństwa AI Gen AI Security Project – inicjatywa open-source do łagodzenia ryzyka AI – oferuje odpowiednie wytyczne bezpieczeństwa dla przedsiębiorstw wdrażających AI.

Traktuj AI z tymi samymi ograniczeniami co ludzi

W zeszłym roku inwestor używał agenta AI Replit do kodowania – aż do dziewiątego dnia, agent zdecydował się usunąć kod z bazy danych produkcji, wpływając na 1200 firm.

Ponieważ agenci mogą działać autonomicznie, przyznawanie im niekontrolowanego dostępu do szerokiej gamy dokumentów, danych i interfejsów API może być katastrofalne. Jednym z powodów jest to, że firmy często nie przydzielają im “tożsamości” w tym samym sposób, co ludziom, co oznacza, że nie mogą śledzić, monitorować i zarządzać ich dostępem do różnych przestrzeni.

Firmy mogą działać, przydzielając tożsamości nie-ludzkim użytkownikom: dostawcy zarządzania tożsamością mogą ściśle kontrolować, do których obszarów agenci mają dostęp, jak długo i wskazywać niebezpieczne zachowania. To redukuje nadmierny dostęp do obszarów, których agent nie potrzebuje. Ogranicza również to, co może zrobić w obszarach, w których działa.

Przydzielanie tożsamości agentom również redukuje zagrożenie ze strony zewnętrznych aktorów.

Gdy zespół badaczy wstrzyknął złośliwe polecenia do aplikacji AI, która zarządza umowami prawnymi, jeden użytkownik mógł pobrać prywatne dane należące do innego użytkownika. Oczywiście nie było bezpiecznego rozdzielenia danych na poziomie użytkownika, a autoryzacja do tych danych została przyznana AI, nawet gdy nie była istotna dla sytuacji.

Ustanowienie granic dla “tożsamości” AI oznacza, że nie będą one miały szerokiego, “zawsze włączonego” dostępu. Na przykład, agenci będą wymagać autoryzacji do określonych funkcji lub będą miały możliwość odczytu w określonych obszarach. Dzięki temu, nawet jeśli agent AI zostanie zhakowany lub manipulowany przez złego aktora, wpływ pozostanie ograniczony, a nie katastrofalny.

Liderzy powinni również edukować swoje zespoły o zagrożeniu ze strony agentów działających potajemnie. Zagrożenie jest większe, gdy pracownicy łączą “cieniowe” agenty AI z przestrzeniami roboczymi bez wiedzy i odpowiednich zabezpieczeń ze strony liderów. Ponadto, podejście Zero Standing Privileges (ZSP) tworzy bazową linię 0 dostępu dla każdego agenta. Tak więc, jeśli pracownik połączy nieautoryzowanego agenta, wejdzie do środowiska, w którym wszystkie drzwi są zamknięte.

Miej oko na swojego agenta

Chociaż znamy analogię “AI to czarna skrzynka”, jej wdrożenie w Twoim biznesie powinno być bardzo widoczne i monitorowane.

Aby egzekwować ścisłe polityki bezpieczeństwa, każdy agent musi być zarządzany: powinien mieć wyraźnie udokumentowaną własność, odpowiedzialność i kontrolę, abyś mógł dokładnie śledzić jego ścieżki. Powinieneś mieć ciągłą telemetrię – zdalne monitorowanie – śledząc zachowanie agenta i karmiąc istniejące narzędzia bezpieczeństwa, aby mogły one wykryć anomalie i wykonać adaptacyjne ocenianie zaufania.

Liderzy muszą traktować tę nową granicę bezpieczeństwa poważnie i upewnić się, że różne zespoły są odpowiedzialne za swoje korzystanie z agentów AI. Mogą tworzyć nowe wskaźniki zgodności, takie jak “Liczba zestawów danych z potwierdzonym pochodzeniem”, “% agentów AI z zarządzanymi tożsamościami” lub “Ocena zaufania AI”.

To jest kluczowe dla prewencji, ale także dla audytu – nawet nie-ludzkie identyfikatory muszą mieć ślad audytowy, aby organizacja była zgodna.

Generalnie rozumiemy, jak ludzie się zachowują i jakie ścieżki przebywają w przestrzeniach roboczych. Ale AI to całkowicie nowy potwór. Jest wiele rzeczy, których nie wiemy o tym, jak działa. Niektóre firmy wybierają krótkoterminowe rozwiązanie, blokując AI w biurze – ale to tylko opóźni problem lub spowoduje, że pracownicy będą używać cieniowych AI. Przygotuj swoją architekturę bezpieczeństwa proaktywnie na agenty, które już stają się wszechobecne.