Jedna polityka, tysiące agentów: dlaczego zarządzanie AI w przedsiębiorstwach zawodzi przy skalowaniu

Wiele dyskusji o wdrażaniu autonomicznych agentów AI koncentruje się na zarządzaniu nimi jako kluczowym wyzwaniu — i słusznie. Gartner niedawno przewidywał, że 40% przedsiębiorstw do 2027 r. obniży rangę swoich autonomicznych agentów AI lub wycofa je z użycia — nie dlatego, że technologia zawiodła, lecz dlatego, że zawiodło zarządzanie nią. Jak twierdzi Shiva Varma, starszy dyrektor i analityk w Gartnerze, przyczyną jest „zarządzanie binarne”: traktowanie agentów albo jako całkowicie zablokowanych, albo jako w pełni godnych zaufania, bez żadnego rozwiązania pośredniego.

Obecnie wiele organizacji skłania się albo ku całkowitemu zakazowi korzystania z narzędzi AI, albo wdraża agentów bez odpowiednich zabezpieczeń. Żadne z tych podejść nie sprawdza się na dużą skalę. Nawet gdy działy IT zakazują używania zewnętrznych narzędzi AI, nadal dochodzi do nieautoryzowanego korzystania ze sztucznej inteligencji. Deweloperzy z natury chcą tworzyć i rozwiązywać problemy; jeśli zasady zarządzania wydają się nadmiernie biurokratyczne, będą omijać zabezpieczenia i korzystać z niesprawdzonych narzędzi, by nie wstrzymywać pracy. Z drugiej strony niewystarczające zabezpieczenia narażają organizacje na zagrożenia związane z bezpieczeństwem, zgodnością z przepisami i działalnością operacyjną, które z czasem się nasilają. 

Wyzwanie polega na tym, że agentami AI nie da się zarządzać w jednolity sposób za pomocą statycznego, uniwersalnego podejścia.  Era zarządzania według jednej uniwersalnej zasady dobiega końca, ponieważ systemy te różnią się profilem ryzyka — stosowanym w nich oprogramowaniem, możliwościami, poziomami dostępu i stopniem autonomii. Stosowanie statycznych zabezpieczeń z epoki przemysłowej do oprogramowania działającego z szybkością maszyn nie zda egzaminu.  Skuteczne zarządzanie będzie zależeć od tego, czy organizacje zrozumieją łańcuch dostaw oprogramowania stojący za każdym agentem i dostosują zabezpieczenia do ryzyka, jakie on wprowadza.  

Zarządzanie środowiskami programistycznymi opartymi na agentach

Rzeczywista kontrola wymaga skutecznego zarządzania wszystkimi elementami oprogramowania składającymi się na agenta. Wiele zespołów błędnie uznaje tych agentów za „niezawodnych i godnych zaufania”, pomijając standardowe elementy wpływające na ich działanie i bezpieczeństwo. 

Każdy autonomiczny agent AI jest zbudowany z typowych elementów: modelu podstawowego, serwerów MCP (Model Context Protocol), które łączą go z danymi firmy i systemami zewnętrznymi, wtyczek rozszerzających jego możliwości oraz plików z instrukcjami określającymi jego działanie. Liderzy IT powinni pamiętać, że: 

• Agenci AI to ekosystemy oprogramowania: opierają się na standardowej konfiguracji obejmującej modele, serwery MCP, narzędzia, wtyczki, umiejętności i oprogramowanie open source.
• Serwery MCP mogą stwarzać zagrożenia: łączą agentów z danymi firmowymi i można je pobierać tak jak każde inne oprogramowanie. Jeśli nie zostaną sprawdzone, mogą umożliwić hakerom dostęp do systemu. Na przykład najnowsze badania JFrog Security Research wskazują na konkretne zagrożenia w łańcuchu dostaw oprogramowania związane z mcp-run-python, w tym lukę umożliwiającą fałszowanie żądań po stronie serwera (SSRF) (CVE-2026-25904) oraz lukę wynikającą z braku izolacji (CVE-2026-25905), co może doprowadzić do całkowitego przejęcia serwera MCP.
• Wtyczki mogą zwiększać ryzyko: Różni agenci potrzebują różnych wtyczek (np. wtyczka OpenAI nie zadziała w Microsoft Copilot), więc firmy często muszą zarządzać wieloma wariantami, a pojedyncza złośliwa wtyczka może wykraść poufne informacje.
• Umiejętności określają zachowanie agenta: Te pliki z instrukcjami mówią agentowi, jak ma działać. Ponieważ deweloperzy pobierają je ze źródeł tworzonych przez społeczność, uszkodzona umiejętność może po cichu zmienić sposób działania agenta.
• Zagrożenia związane z oprogramowaniem open source: Podstawą wszystkich funkcji rozwiązań tworzonych z wykorzystaniem programowania agentowego jest użycie binariów open source do ich zapewnienia. Agenty programistyczne mogą równie łatwo sięgnąć po złośliwe pakiety zamiast bezpiecznych, nie zdając sobie sprawy z ryzyka.
• Kluczowa jest widoczność: Wiele zespołów nie wie o istnieniu tych problemów, przez co ich agenci są bardzo podatni na zagrożenia. Organizacje nadal zarządzają zależnościami oprogramowania, kierując się zaufaniem zamiast przeprowadzać dokładne kontrole.

Rola systemu będącego źródłem prawdy w skutecznym zarządzaniu AI

Wyścigu o wdrożenie agentów AI w przedsiębiorstwach nie da się wygrać, myśląc kategoriami przeszłości. Narzucenie wszystkim procesom pracy rozbudowanych, scentralizowanych łańcuchów ręcznych zatwierdzeń hamuje innowacje, natomiast brak nadzoru nad agentami stwarza niepotrzebne ryzyko.

Aby bezpiecznie wdrażać AI na dużą skalę, organizacje muszą przyjąć wielopoziomowe podejście do zarządzania komponentami oprogramowania i ich zabezpieczania, obejmującymi pakiety, binaria, serwery MCP, umiejętności i zależności. Tworząc system będący źródłem prawdy, przedsiębiorstwa mogą weryfikować wszystkie wykorzystywane komponenty, skanować je przed użyciem, egzekwować zasady we właściwym momencie cyklu rozwoju oprogramowania, a także zachować możliwość natychmiastowego przywrócenia wcześniejszej wersji. Dzięki temu, gdy zostanie ujawniona kolejna luka w zabezpieczeniach, odpowiedź na pytanie „czy jesteśmy narażeni?” będzie znana w ciągu minut, a nie dni.

Agenci AI wprowadzają jednak szerszą i znacznie szybciej zmieniającą się powierzchnię ataku. Agenci o wysokim poziomie autonomii mogą podejmować setki decyzji na minutę, łączyć wywołania narzędzi, uzyskiwać dostęp do danych i wykonywać kod szybciej, niż tradycyjne mechanizmy kontroli na etapie przyjmowania mogą za tym nadążyć. Wstępne przeglądy i procesy zatwierdzania nadal odgrywają ważną rolę, ale same nie są w stanie zabezpieczyć systemów działających z prędkością maszynową.

Agenci ci wymagają dynamicznego egzekwowania zasad w czasie działania, z możliwością wykrywania nietypowych zachowań w chwili ich wystąpienia i reagowania, zanim szkody się rozprzestrzenią. Można to porównać do wyłącznika bezpieczeństwa: odebrania dostępu do skompromitowanej umiejętności, odłączenia niezaufanego kontekstu danych lub zablokowania konkretnego wywołania narzędzia, gdy tylko coś pójdzie nie tak.

Wyjść poza podejście „jedno rozwiązanie dla wszystkich”

Sztywne, jednolite zasady zarządzania to pewna droga do porażki. Czas na wyprzedzenie problemu się kończy, a dług związany z zarządzaniem narasta wraz z przyspieszeniem wdrażania agentów. Oto cztery kroki, które liderzy ds. bezpieczeństwa i inżynierii mogą podjąć już teraz, aby wzmocnić systemy przedsiębiorstwa:

1. Zrób wykaz tego, co już działa. Większość przedsiębiorstw nie potrafi w pełni ustalić, jakie agenty AI działają w ich organizacji, nie mówiąc już o serwerach MCP, wtyczkach i plikach umiejętności, które je zasilają. Zanim będzie można ocenić ryzyko lub objąć cokolwiek nadzorem, trzeba wiedzieć, co istnieje.
2. Traktuj komponenty AI jak artefakty oprogramowania. Serwery MCP, pliki umiejętności i wtyczki to nie konfiguracja — to kod, obciążony takim samym ryzykiem w łańcuchu dostaw jak każda zależność typu open source. Weryfikuj je, skanuj i śledź ich pochodzenie tak samo jak w przypadku bibliotek stron trzecich.
3. Klasyfikuj agentów według poziomu autonomii i odpowiednio dostosowuj zabezpieczenia. Określ, co oznacza „wysoki poziom autonomii” w Twojej organizacji, i opracuj wokół tej definicji wielopoziomowe ramy polityk. Agenci o wysokim poziomie autonomii wymagają egzekwowania zasad w czasie działania, a nie tylko kontroli na etapie przyjmowania. Zacznij od najbardziej wrażliwych systemów i stopniowo rozszerzaj zakres.
4. Usprawnij zarządzanie na tyle, by programiści — ludzie i agenci — nie obchodzili jego zasad. Nieautoryzowane korzystanie z AI to problem związany z tarciami. Jeśli zatwierdzenie nowego serwera MCP trwa dwa tygodnie, programiści znajdą inne rozwiązanie. Zautomatyzowane skanowanie połączone z jasnym egzekwowaniem polityk to jedyny model, który nadąży za rzeczywistym tempem rozwoju AI.

Zarządzanie jest znacznie skuteczniejsze, gdy uwzględnia rzeczywiste ryzyko stwarzane przez poszczególnych agentów, zamiast traktować je wszystkie jednakowo. Przewagę zyskają te przedsiębiorstwa, które dostosują zasady zarządzania do realiów działania każdego agenta, opierając się na systemie ewidencyjnym egzekwującym polityki na każdym poziomie, zapewniającym wgląd w każdy komponent i umożliwiającym zespołom natychmiastową reakcję, gdy coś pójdzie nie tak.