Dlaczego zarządzana sztuczna inteligencja jest następną granicą w miejscu pracy

Przez dekadę walczyliśmy z cieniowym IT. Nieautoryzowane aplikacje SaaS. Rogowe arkusze kalkulacyjne. Niezatwierdzone konta Dropbox. Liderzy IT budowali całe programy zgodności wokół tego problemu, a większość z nich i tak przegrała. Raport Reco AI z 2025 roku na temat stanu cieniowej sztucznej inteligencji wykazał, że tylko 47% aplikacji SaaS w ramach przeciętnej firmy jest formalnie autoryzowanych — a przeciętna organizacja zarządza obecnie 490 z nich.

To był stary problem. Nowy jest gorszy.

Problem cieniowej sztucznej inteligencji jest inny tym razem

Gdy pracownik zapisuje się na niezatwierdzony narzędzie do zarządzania projektami, szkody są ograniczone. Zadania zespołu znajdują się w niewłaściwym miejscu. Może dojdzie do niewielkiego wycieku danych. Rodzaj wycieku danych jest dość przewidywalny.

Sztuczna inteligencja jest inna. Pracownicy używają obecnie narzędzi sztucznej inteligencji do pisania komunikatów dla klientów, generowania raportów finansowych, podsumowywania poufnych spotkań i tworzenia automatycznych przepływów pracy, często bez powiadamiania o tym nikogo. Raport Microsoftu z 2024 roku na temat trendów w pracy wykazał, że 78% użytkowników sztucznej inteligencji przywozi własne narzędzia sztucznej inteligencji do pracy. Nie dlatego, że chcą być trudni lub nikczemni, ale dlatego, że narzędzia te są naprawdę przydatne i czują presję, by lepiej wykonywać swoją pracę. Jednak ich organizacje są zbyt wolne, by dostarczyć procesy, procedury i narzędzia.

Wydajność jest tutaj problemem. Gdy narzędzie sztucznej inteligencji opracowuje kontrakt z klientem, podsumowuje rozmowę prawną lub generuje raport kwartalny dla rady nadzorczej, ryzyko nie polega tylko na tym, że “nie wiemy, jakie narzędzie zostało użyte”. Polega na tym, że praktyki dotyczące danych, dokładność i podejmowanie decyzji wbudowane w te wydajności są całkowicie niewidoczne dla organizacji. Nikt nie sprawdził podpowiedzi. Nikt nie zweryfikował wyniku. Nikt nawet nie wie, że to się stało. I dlatego, że sztuczna inteligencja wydaje się tak pewna, większość użytkowników nie będzie sprawdzać źródeł i będzie bezwzględnie akceptować wyniki.

Analiza KPMG z 2025 roku na temat cieniowej sztucznej inteligencji wykazała, że 44% pracowników używających sztucznej inteligencji w pracy zrobiło to w sposób sprzeczny z polityką i wytycznymi swojej firmy. To nie jest zachowanie na marginesie. To prawie połowa siły roboczej.

Dlaczego autonomiczne agenci utrudniają (i poprawiają) sytuację

To jest miejsce, w którym rozmowa staje się interesująca. Nie mówimy już tylko o pracownikach wklejających tekst do ChatGPT. Wkraczamy w erę agentów sztucznej inteligencji — autonomicznych systemów, które mogą działać ciągle, wykonywać zadania wieloetapowe, łączyć się z firmowymi narzędziami i podejmować decyzje bez udziału człowieka w każdej decyzji.

Raport Deloitte z 2025 roku na temat trendów technologicznych opisuje to jako zmianę w kierunku “siłowego workforce” i zauważa, że wiele wczesnych wdrożeń agenty sztucznej inteligencji kończy się niepowodzeniem, ponieważ organizacje próbują zautomatyzować istniejące procesy zaprojektowane dla ludzi, zamiast przemyśleć, jak powinna przebiegać praca.

To jest rozdroże. Autonomiczna sztuczna inteligencja może iść dwiema drogami:

Pierwsza droga: więcej cieniowego IT, ale gorsze. Pracownicy uruchamiają agenci przy użyciu kont osobistych, działających na firmowym IT, łączących się z firmowymi narzędziami za pomocą osobistych kluczy API, generujących wydajności, których nikt inny w zespole nie może zobaczyć, sprawdzić ani odtworzyć. Agent uruchamia codzienny raport. Raport jest błędny. Nikt nie zauważa tego przez tygodnie, ponieważ nikt inny nawet nie wiedział, że on istnieje. To nie jest hipotetyczne. To się dzieje obecnie w organizacjach, które traktują przyjęcie sztucznej inteligencji jako indywidualną grę produktywności.

Druga droga: zarządzana autonomia. Ten sam agent uruchamia ten sam codzienny raport — ale w środowisku, w którym zespół może zobaczyć, co robi, jakie dane dotyka, kto go uruchomił i co wyprodukował. Agent jest współdzielony, a nie izolowany. Jego wydajności są widoczne. Jego uprawnienia są ograniczone. I gdy coś pójdzie nie tak, jest ślad.

Różnica między tymi dwiema drogami nie polega na technologii. Polega na środowisku.

Czym tak naprawdę jest zarządzana sztuczna inteligencja w praktyce

Zarządzanie to słowo, które powoduje, że budowniczy drżą. Zwykle oznacza “wolne”. Więcej zatwierdzeń. Więcej procesu. Więcej tarcia między ludźmi wykonującymi pracę a ludźmi zarządzającymi ryzykiem.

Ale zarządzana sztuczna inteligencja nie musi działać w ten sposób. Najlepsze wdrożenia, które widziałem, mają kilka wspólnych cech:

Widoczność domyślnie. Każda wydajność wygenerowana przez sztuczną inteligencję — każdy raport, każde alert, każdy projekt — jest widoczna dla zespołu, a nie ukryta w historii czatu kogoś. To nie jest o nadzorze. To o wspólnym kontekście. Gdy agent produkuje tygodniową analizę konkurencji, cały zespół powinien być w stanie ją zobaczyć, zakwestionować i rozwinąć.

Ograniczone uprawnienia, a nie pełny dostęp. Agent, który monitoruje Twoje logi błędów, nie potrzebuje dostępu do Twojego CRM. Agent, który generuje treści społeczne, nie potrzebuje dostępu do Twoich danych finansowych. Zasada najmniejszych przywilejów nie jest nowa. Jest po prostu rzadko stosowana do systemów sztucznej inteligencji — i powinna być.

Ślady audytowe, które naprawdę istnieją. Podręcznik McKinseya na temat bezpieczeństwa agenty sztucznej inteligencji podkreśla, że autonomiczne agenci prezentują “szereg nowych i złożonych ryzyk i słabości, które wymagają uwagi i działania teraz”. Jedna z najbardziej podstawowych: jeśli nie możesz śledzić, co agent zrobił, jakie dane dotknął i jakie decyzje podjął, nie możesz go zarządzać. Koniec.

Kontrola na poziomie zespołu, a nie tylko na poziomie IT. To jest część, w której większość ram zarządzania się myli. One scentralizują wszystkie kontrolki sztucznej inteligencji w IT lub bezpieczeństwie, co tworzy dokładnie wąskie gardło, które powoduje cieniową sztuczną inteligencję. Organizacje, które to robią dobrze, przekazują kontrolę na poziomie zespołu — pozwalając menedżerom i liderom zespołów konfigurować, ograniczać i monitorować agenci, których ich zespoły używają, w ramach barier, które IT ustawia, ale nie musi kontrolować.

Gdzie organizacje mają rację

Firmy, które wdrażają agenci sztucznej inteligencji w dobry sposób, nie są tymi, które mają najbardziej zaawansowane modele. Są to te, które mają najjaśniejsze granice operacyjne.

Widzę najmocniejsze wyniki w trzech obszarach:

Raportowanie i monitorowanie. Agenci, którzy uruchamiają zaplanowane raporty — codzienne spotkania, tygodniowe podsumowania, podsumowania logów błędów — i dostarczają je bezpośrednio do kanałów zespołu. Wartość tutaj nie polega tylko na automatyzacji. Jest spójna. Raport jest uruchamiany każdego ranka, niezależnie od tego, czy ktoś pamięta pobrać dane, czy nie. I dlatego, że jest widoczny dla zespołu, błędy są łapane szybciej.

Przepływy pracy treści i komunikacji. Projektowanie, a nie publikowanie. Agenci, którzy produkują pierwsze projekty wewnętrznych aktualizacji, podsumowań spotkań lub treści wychodzących — a następnie prezentują je do przeglądu przez człowieka. Część zarządzania jest tutaj ważna, ponieważ poprzeczka jakości jest inna, gdy wydajność idzie do klienta, a nie do wewnętrznego kanału Slack.

Analiza i alertowanie. Agenci, którzy monitorują pulpity, flagują anomalie i wysyłają alerty, gdy wskaźniki spadają poniżej oczekiwanych zakresów. To zastępuje problem “ktoś powinien to obserwować”, który dotyka każdy zespół, który kiedykolwiek stracił weekend z powodu niezauważonego problemu produkcyjnego.

Co większość organizacji nadal robi źle

Największym błędem jest traktowanie zarządzania sztuczną inteligencją jako problemu politycznego, a nie infrastrukturalnego.

Możesz napisać wszystkie polityki użycia, jakie chcesz. Jeśli Twoi pracownicy nie mają zatwierdzonego, łatwego w użyciu środowiska do wdrożenia sztucznej inteligencji, które naprawdę działa dla ich codziennych potrzeb, będą omijać Twoją politykę. To nie jest problem ludzi. To problem projektowy.

Analiza IDC na temat cieniowej sztucznej inteligencji podkreśla ten punkt wyraźnie: produktywność cieniowej sztucznej inteligencji “duszą przyjęcie sztucznej inteligencji w przedsiębiorstwie”, ponieważ organizacje są złapane między chęcią zysków a obawą przed ryzykiem. Wynikiem jest brak działania — co jest najgorszym możliwym wynikiem, ponieważ gwarantuje niekontrolowane wdrożenie.

Drugi błąd polega na traktowaniu zarządzania i prędkości jako przeciwieństw. Nie są. Najlepiej zarządzane środowiska sztucznej inteligencji są również najbardziej efektywne — ponieważ zespoły nie tracą czasu na odtwarzanie pracy, która już istnieje, debugowanie agentów, których nie można zobaczyć, lub odbudowywanie przepływów pracy, które zostały przerwane, ponieważ ktoś opuścił firmę, a jego osobiste konto sztucznej inteligencji poszło z nim.

Granica jest środowiskiem, a nie modelem

Uwaga branży jest skupiona na możliwościach modelu. Większe okna kontekstowe. Lepsze rozumowanie. Wielomodalne dane wejściowe. To wszystko ma znaczenie. Ale dla większości zespołów próbujących wykonać pracę, wąskim gardłem nie jest model. To środowisko, w którym model działa.

Czy zespół może zobaczyć, co robi? Czy mogą kontrolować, do czego ma dostęp? Czy mogą udostępnić to, co produkuje? Czy mogą ufać, że działa z odpowiednimi danymi i odpowiednimi ograniczeniami?

To są pytania infrastrukturalne, a nie pytania modelowe. I to one będą oddzielać organizacje, które uzyskają prawdziwą, trwałą wartość z sztucznej inteligencji, od tych, które po prostu dodadzą kolejną warstwę cieniowego IT.

Granica nie polega na budowaniu inteligentniejszych modeli. Polega na tworzeniu środowisk, w których inteligentne modele mogą naprawdę działać.