Liderzy opinii

Dlaczego zarządzanie AI nie powodzi się

Sitaram Srivatsavai
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyZarządzanie musi być dostarczane jako kod, który może spowodować niepowodzenie…
Zobacz więcej
  • Zarządzanie musi być dostarczane jako kod, który może spowodować niepowodzenie kompilacji, aby chronić środowisko produkcyjne.
  • Tylko 10% firm jest w pełni przygotowanych do audytu systemów AI według Ernst & Young.
  • Dowody generowane automatycznie przez systemy są silniejsze niż dokumentacja w przypadku audytów.

Problem nie polega na tym, że organizacje nie mają polityk AI. Polega na tym, że te polityki nie działają.

Między ładnie sformatowanym PDF a wdrożonym modelem, intencja znika. Zespoły improwizują. Wyjątki się kumulują. Zarządzanie przechodzi od systemu do negocjacji — a w regulowanych branżach, takich jak opieka zdrowotna i nauki o życiu, ta luka nie jest tylko zawstydzająca. Jest to ryzyko operacyjne.

Rozwiązanie nie polega na większej ilości dokumentacji. Polega na traktowaniu zarządzania jak oprogramowania.

Luka w zarządzaniu jest już mierzalna

Adopcja AI przyspieszyła dramatycznie, podczas gdy infrastruktura zarządzania nie nadążała. Badanie z września 2025 r. przeprowadzone przez Ernst & Young wykazało, że tylko 10% firm jest w pełni przygotowanych do audytu systemów AI. W tym samym czasie nowe badanie Ponemon wykazało, że 92% organizacji twierdzi, że AI generatywne zmieniło sposób, w jaki pracownicy uzyskują dostęp do informacji i je udostępniają, ale tylko 18% w pełni zintegrowało zarządzanie AI z programami ryzyka wewnętrznego.

Wzorzec jest spójny: AI jest już wbudowane w codzienną pracę. Nadzór wciąż dogania. Im dłużej zarządzanie pozostaje w formie dokumentu, tym gorsza staje się ta luka.

Zarządzanie, które jest wdrażane

Pomysł jest pozornie prosty: jeśli wymóg zarządzania nie może powodować niepowodzenia kompilacji oprogramowania, nie może chronić produkcji.

Prawdziwe zarządzanie ma dane wejściowe, dane wyjściowe, punkty egzekwowania i obserwowalne wyniki. Działa w sposób ciągły — nie co kwartał. I co najważniejsze, wytwarza dowody jako produkt uboczny wykonywanej pracy, a nie jako odrębny rytuał zgodności dołączony później.

Model operacyjny wygląda następująco:

Polityka → Kontrole → Dowody → Mierniki

Polityki definiują intencje. Kontrole egzekwują zachowania. Dowody udowadniają wykonanie. Mierniki potwierdzają wyniki. To nie jest nowy pomysł — to dokładnie tak, jak już działają dojrzałe systemy bezpieczeństwa i zgodności. Zmiana polega na zastosowaniu tej samej logiki do AI.

Kontrole nie są sugestiami. Dowody nie są dokumentacją. I jeśli kontrola wymaga ręcznego wysiłku, aby wytworzyć dowody, to nie jest kontrolą. To jest nadzieja.

Stopnie ryzyka, a nie teatr ryzyka

Nie każdy system AI zasługuje na równie szczegółową kontrolę. Traktowanie wewnętrznego narzędzia niskiego ryzyka z takim samym rygorem, jak model wsparcia decyzji klinicznej, jest tym, jak organizacje albo zatrzymują się, albo narażają się niepotrzebnie.

Ramowy program zarządzania ryzykiem AI NIST, opublikowany w 2023 r., dostarcza podstawowej struktury do myślenia o tym — mapowania ryzyka AI w czterech funkcjach: Govern, Map, Measure i Manage. Funkcjonalny model zarządzania przedsiębiorstwem opiera się na tej logice, z praktycznymi stopniami ryzyka:

Stopień Zakres Kontrole
Minimalny Narzędzia wewnętrzne, brak wrażliwych danych Rejestracja, lekkie kontrole
Ograniczony Systemy przeznaczone dla użytkowników, umiarkowane ryzyko Dokumentacja, przegląd promptów, testy bezpieczeństwa
Wysoki Decyzje podlegające regulacjom lub mające duże znaczenie Formalna ocena ryzyka, rejestrowanie zdarzeń na potrzeby audytu, ścisła kontrola zmian
Zabroniony Niedopuszczalne przypadki użycia Zablokowane na etapie projektowania i wdrożenia

To daje zespołom inżynierskim coś, co rzadko otrzymują od procesów zarządzania: jasność. Nie “co powinniśmy zrobić?”, ale “jaki jest ten stopień i co to wyzwala?”

Dobre zarządzanie usuwa niejasność. Wspaniałe zarządzanie usuwa debatę.

Polityka jako kod: Od doradczego do wykonalnego

Polityki zapisane w dokumentach mają charakter doradczy. Polityki zakodowane w potokach można egzekwować technicznie.

Tak jak infrastruktura jest walidowana przed wdrożeniem, systemy AI mogą być bramkowane przez automatyczne kontrole, które weryfikują, czy przypadek użycia jest zarejestrowany, czy wymagana dokumentacja istnieje, czy wyniki oceny spełniają określone progi, i czy dostęp do wrażliwych danych następuje zgodnie z zasadą najmniejszych uprawnień. Te kontrole są uruchamiane w CI/CD. Nie czekają na komitet. Nie zależą od pamięci czy dobrej woli kogokolwiek.

Open Policy Agent — projekt o statusie Graduated w Cloud Native Computing Foundation — demonstruje dokładnie, jak reguły mogą być wersjonowane, przeglądane i konsekwentnie egzekwowane w ekosystemach inżynierskich. Wzorzec jest zrozumiały. Luka polega na tym, że zespoły AI nie stosują go.

Najbezpieczniejszy system AI nie jest tym, który ma najlepsze polityki. To ten, który jest technicznie niezdolny do ich złamania.

Kontrole specyficzne dla LLM: Gdzie to staje się interesujące

AI generatywne wprowadza kategorię ryzyka, do której tradycyjne ramy zarządzania nie były przystosowane — wstrzyknięcie promptu, manipulacja wyjściem, niewłaściwe użycie narzędzi. To nie są przypadki brzegowe. To strukturalne cechy sposobu działania LLM, a jak relacja Unite.AI na temat zarządzania agentową AI zauważyła, luka w zarządzaniu staje się jeszcze bardziej wyraźna, gdy systemy AI przechodzą od odpowiedzi na pytania do podejmowania działań.

Skuteczne zarządzanie systemami GenAI wymaga kontroli specyficznych dla zachowania LLM: ścisłego rozdzielenia instrukcji systemu i danych wejściowych użytkownika, kontrolowanego dostępu do narzędzi i list dozwolonych, walidacji wyjścia przed wykonaniem, zabezpieczeń przed eksfiltracją danych i bezpiecznych domyślnych ustawień zapewniających kontrolowane działanie w razie awarii.

To mapuje się bezpośrednio na udokumentowane klasy podatności w OWASP Top 10 dla aplikacji LLM – ramach rozwijanych przez społeczność, które obecnie obejmują ponad 600 ekspertów-współpracowników z 18 krajów. Zarządzanie LLM jest mniej związane z tym, co model wie, a bardziej z tym, co system pozwala mu robić.

Dowody są infrastrukturą, a nie dokumentacją

Auditorzy nie ufają intencjom. Ufają zapisom.

W systemie, w którym zarządzanie jest wdrażane, dowody są generowane automatycznie: karty modelu opisujące przeznaczenie i ograniczenia, dokumentacja danych obejmująca pochodzenie, raporty oceny pokazujące wyniki i znane ryzyko, logi rejestrujące decyzje i zmiany. Te artefakty nie istnieją dla audytów. Istnieją, ponieważ system wymaga ich, aby funkcjonować.

Najmocniejsza pozycja audytowa jest wtedy, gdy dowody już istnieją, zanim ktoś o nie poprosi. To nie jest teoretyczne — regulatorzy już poruszają się w tym kierunku. Jak niedawna analiza na temat uzasadnionego zarządzania AI zauważyła, pytania, które regulatorzy wkrótce zadadzą, nie będą już tylko “czy zachowaliście to?”, ale “czy możecie udowodnić, co się stało, pod jaką polityką, z użyciem jakich danych i z czyjego upoważnienia?”

Prawdziwy argument: Zarządzanie jako przyspieszanie

Utrwalony mit mówi, że zarządzanie i szybkość są przeciwstawne. W praktyce źle zaprojektowane zarządzanie spowalnia zespoły. Dobrze zaprojektowane zarządzanie usuwa tarcie.

Gdy kontrole są standaryzowane, kontrole są zautomatyzowane, a oczekiwania są zakodowane, zespoły przestają negocjować i zaczynają budować. Wydania stają się bardziej przewidywalne. Decyzje przestają wymagać bohaterstwa od małej grupy specjalistów, którzy zapamiętali dokumenty polityki.

Zarządzanie skaluje się, gdy jest infrastrukturą. Nie skaluje się, gdy opiera się wyłącznie na luźnych odczuciach.

Celem nigdy nie była kontrola dla samej kontroli. To jest pęd bez chaosu – i organizacje, które to robią dobrze, nie są tymi, które mają najbardziej szczegółowy PDF. Są to te, które uczyniły właściwe zachowanie najłatwiejszą ścieżką.

Sitaram Srivatsavai jest liderem myśli w inżynierii CRM z 18+ latami doświadczenia na platformach CRM, iOS i web. Prowadzi globalne zespoły dostarczające oprogramowanie przedsiębiorstw na dużą skalę, ze szczególnym uwzględnieniem przeglądów architektury, modernizacji automatyzacji oraz zapewnienia niezawodności, zgodności regulacyjnej i skalowalności.