Liderzy opinii
Dlaczego zarządzanie AI nie powodzi się

Kluczowe punktyZarządzanie musi być dostarczane jako kod, który może spowodować niepowodzenie…
Zobacz więcej
- Zarządzanie musi być dostarczane jako kod, który może spowodować niepowodzenie kompilacji, aby chronić środowisko produkcyjne.
- Tylko 10% firm jest w pełni przygotowanych do audytu systemów AI według Ernst & Young.
- Dowody generowane automatycznie przez systemy są silniejsze niż dokumentacja w przypadku audytów.
Problem nie polega na tym, że organizacje nie mają polityk AI. Polega na tym, że te polityki nie działają.
Między ładnie sformatowanym PDF a wdrożonym modelem, intencja znika. Zespoły improwizują. Wyjątki się kumulują. Zarządzanie przechodzi od systemu do negocjacji — a w regulowanych branżach, takich jak opieka zdrowotna i nauki o życiu, ta luka nie jest tylko zawstydzająca. Jest to ryzyko operacyjne.
Rozwiązanie nie polega na większej ilości dokumentacji. Polega na traktowaniu zarządzania jak oprogramowania.
Luka w zarządzaniu jest już mierzalna
Adopcja AI przyspieszyła dramatycznie, podczas gdy infrastruktura zarządzania nie nadążała. Badanie z września 2025 r. przeprowadzone przez Ernst & Young wykazało, że tylko 10% firm jest w pełni przygotowanych do audytu systemów AI. W tym samym czasie nowe badanie Ponemon wykazało, że 92% organizacji twierdzi, że AI generatywne zmieniło sposób, w jaki pracownicy uzyskują dostęp do informacji i je udostępniają, ale tylko 18% w pełni zintegrowało zarządzanie AI z programami ryzyka wewnętrznego.
Wzorzec jest spójny: AI jest już wbudowane w codzienną pracę. Nadzór wciąż dogania. Im dłużej zarządzanie pozostaje w formie dokumentu, tym gorsza staje się ta luka.
Zarządzanie, które jest wdrażane
Pomysł jest pozornie prosty: jeśli wymóg zarządzania nie może powodować niepowodzenia kompilacji oprogramowania, nie może chronić produkcji.
Prawdziwe zarządzanie ma dane wejściowe, dane wyjściowe, punkty egzekwowania i obserwowalne wyniki. Działa w sposób ciągły — nie co kwartał. I co najważniejsze, wytwarza dowody jako produkt uboczny wykonywanej pracy, a nie jako odrębny rytuał zgodności dołączony później.
Model operacyjny wygląda następująco:
Polityka → Kontrole → Dowody → Mierniki
Polityki definiują intencje. Kontrole egzekwują zachowania. Dowody udowadniają wykonanie. Mierniki potwierdzają wyniki. To nie jest nowy pomysł — to dokładnie tak, jak już działają dojrzałe systemy bezpieczeństwa i zgodności. Zmiana polega na zastosowaniu tej samej logiki do AI.
Kontrole nie są sugestiami. Dowody nie są dokumentacją. I jeśli kontrola wymaga ręcznego wysiłku, aby wytworzyć dowody, to nie jest kontrolą. To jest nadzieja.
Stopnie ryzyka, a nie teatr ryzyka
Nie każdy system AI zasługuje na równie szczegółową kontrolę. Traktowanie wewnętrznego narzędzia niskiego ryzyka z takim samym rygorem, jak model wsparcia decyzji klinicznej, jest tym, jak organizacje albo zatrzymują się, albo narażają się niepotrzebnie.
Ramowy program zarządzania ryzykiem AI NIST, opublikowany w 2023 r., dostarcza podstawowej struktury do myślenia o tym — mapowania ryzyka AI w czterech funkcjach: Govern, Map, Measure i Manage. Funkcjonalny model zarządzania przedsiębiorstwem opiera się na tej logice, z praktycznymi stopniami ryzyka:
| Stopień | Zakres | Kontrole |
| Minimalny | Narzędzia wewnętrzne, brak wrażliwych danych | Rejestracja, lekkie kontrole |
| Ograniczony | Systemy przeznaczone dla użytkowników, umiarkowane ryzyko | Dokumentacja, przegląd promptów, testy bezpieczeństwa |
| Wysoki | Decyzje podlegające regulacjom lub mające duże znaczenie | Formalna ocena ryzyka, rejestrowanie zdarzeń na potrzeby audytu, ścisła kontrola zmian |
| Zabroniony | Niedopuszczalne przypadki użycia | Zablokowane na etapie projektowania i wdrożenia |
To daje zespołom inżynierskim coś, co rzadko otrzymują od procesów zarządzania: jasność. Nie “co powinniśmy zrobić?”, ale “jaki jest ten stopień i co to wyzwala?”
Dobre zarządzanie usuwa niejasność. Wspaniałe zarządzanie usuwa debatę.
Polityka jako kod: Od doradczego do wykonalnego
Polityki zapisane w dokumentach mają charakter doradczy. Polityki zakodowane w potokach można egzekwować technicznie.
Tak jak infrastruktura jest walidowana przed wdrożeniem, systemy AI mogą być bramkowane przez automatyczne kontrole, które weryfikują, czy przypadek użycia jest zarejestrowany, czy wymagana dokumentacja istnieje, czy wyniki oceny spełniają określone progi, i czy dostęp do wrażliwych danych następuje zgodnie z zasadą najmniejszych uprawnień. Te kontrole są uruchamiane w CI/CD. Nie czekają na komitet. Nie zależą od pamięci czy dobrej woli kogokolwiek.
Open Policy Agent — projekt o statusie Graduated w Cloud Native Computing Foundation — demonstruje dokładnie, jak reguły mogą być wersjonowane, przeglądane i konsekwentnie egzekwowane w ekosystemach inżynierskich. Wzorzec jest zrozumiały. Luka polega na tym, że zespoły AI nie stosują go.
Najbezpieczniejszy system AI nie jest tym, który ma najlepsze polityki. To ten, który jest technicznie niezdolny do ich złamania.
Kontrole specyficzne dla LLM: Gdzie to staje się interesujące
AI generatywne wprowadza kategorię ryzyka, do której tradycyjne ramy zarządzania nie były przystosowane — wstrzyknięcie promptu, manipulacja wyjściem, niewłaściwe użycie narzędzi. To nie są przypadki brzegowe. To strukturalne cechy sposobu działania LLM, a jak relacja Unite.AI na temat zarządzania agentową AI zauważyła, luka w zarządzaniu staje się jeszcze bardziej wyraźna, gdy systemy AI przechodzą od odpowiedzi na pytania do podejmowania działań.
Skuteczne zarządzanie systemami GenAI wymaga kontroli specyficznych dla zachowania LLM: ścisłego rozdzielenia instrukcji systemu i danych wejściowych użytkownika, kontrolowanego dostępu do narzędzi i list dozwolonych, walidacji wyjścia przed wykonaniem, zabezpieczeń przed eksfiltracją danych i bezpiecznych domyślnych ustawień zapewniających kontrolowane działanie w razie awarii.
To mapuje się bezpośrednio na udokumentowane klasy podatności w OWASP Top 10 dla aplikacji LLM – ramach rozwijanych przez społeczność, które obecnie obejmują ponad 600 ekspertów-współpracowników z 18 krajów. Zarządzanie LLM jest mniej związane z tym, co model wie, a bardziej z tym, co system pozwala mu robić.
Dowody są infrastrukturą, a nie dokumentacją
Auditorzy nie ufają intencjom. Ufają zapisom.
W systemie, w którym zarządzanie jest wdrażane, dowody są generowane automatycznie: karty modelu opisujące przeznaczenie i ograniczenia, dokumentacja danych obejmująca pochodzenie, raporty oceny pokazujące wyniki i znane ryzyko, logi rejestrujące decyzje i zmiany. Te artefakty nie istnieją dla audytów. Istnieją, ponieważ system wymaga ich, aby funkcjonować.
Najmocniejsza pozycja audytowa jest wtedy, gdy dowody już istnieją, zanim ktoś o nie poprosi. To nie jest teoretyczne — regulatorzy już poruszają się w tym kierunku. Jak niedawna analiza na temat uzasadnionego zarządzania AI zauważyła, pytania, które regulatorzy wkrótce zadadzą, nie będą już tylko “czy zachowaliście to?”, ale “czy możecie udowodnić, co się stało, pod jaką polityką, z użyciem jakich danych i z czyjego upoważnienia?”
Prawdziwy argument: Zarządzanie jako przyspieszanie
Utrwalony mit mówi, że zarządzanie i szybkość są przeciwstawne. W praktyce źle zaprojektowane zarządzanie spowalnia zespoły. Dobrze zaprojektowane zarządzanie usuwa tarcie.
Gdy kontrole są standaryzowane, kontrole są zautomatyzowane, a oczekiwania są zakodowane, zespoły przestają negocjować i zaczynają budować. Wydania stają się bardziej przewidywalne. Decyzje przestają wymagać bohaterstwa od małej grupy specjalistów, którzy zapamiętali dokumenty polityki.
Zarządzanie skaluje się, gdy jest infrastrukturą. Nie skaluje się, gdy opiera się wyłącznie na luźnych odczuciach.
Celem nigdy nie była kontrola dla samej kontroli. To jest pęd bez chaosu – i organizacje, które to robią dobrze, nie są tymi, które mają najbardziej szczegółowy PDF. Są to te, które uczyniły właściwe zachowanie najłatwiejszą ścieżką.












