Korporacyjna sztuczna inteligencja potrzebuje narastającego kontekstu, zanim będzie można powierzyć jej samodzielne działanie

Wyobraź sobie poniedziałkowy poranek, na kilka godzin przed kwartalnym spotkaniem poświęconym prognozom. Osoba odpowiedzialna za finanse pyta agenta AI: „Dlaczego spadła marża brutto? Które założenia trzeba zmienić? Co firma powinna zrobić dalej?”. W ciągu kilku sekund agent pobiera informacje z wielu systemów, wskazuje kilka czynników i zaleca ograniczenie wydatków uznaniowych lub ponowne przeanalizowanie planu zatrudnienia. Odpowiedź jest jasna, szczegółowa i wiarygodna. Nic nie wskazuje na to, że jest oczywiście błędna.

Właśnie dlatego jest tak niebezpieczna. 

Gdy przyjrzymy się sprawie bliżej, okazuje się, że brakuje kilku istotnych szczegółów. Agent skorzystał z niewłaściwej wersji prognozy. Pominął zatwierdzoną korektę księgową z poprzedniego kwartału. Nie uwzględnił, że w jednym regionie obowiązują inne zasady biznesowe. Dane źródłowe nie musiały być błędne; agent po prostu nie wiedział, jak organizacja je interpretuje ani jak poszczególne elementy łączą się ze sobą. Problem nie leży w modelu — łatwo byłoby go rozwiązać, zastępując go innym. Chodzi o to, że model nie zna specyfiki tej firmy. 

Znaczna część prac nad sztuczną inteligencją dla przedsiębiorstw koncentrowała się na możliwościach modeli i autonomii agentów. Model nie jest jednak w stanie sformułować wiarygodnego wniosku dostosowanego do konkretnej firmy, jeśli nie rozumie, jak organizacja definiuje swoje wskaźniki i jak wiąże je ze sposobem prowadzenia działalności. 

Brakującą warstwą jest narastający kontekst biznesowy, czyli zarządczo kontrolowane rozumienie znaczenia danych przedsiębiorstwa: ich definicji, powiązań, założeń, obliczeń, procesów pracy, wyjątków oraz decyzji, które z czasem składają się na całość.

Kontekst ten kształtuje się w toku planowania, prognozowania, modelowania scenariuszy, analizy odchyleń, wprowadzania korekt, zbierania informacji zwrotnych, zamknięcia okresu rozliczeniowego i podejmowania zatwierdzonych decyzji. Bez niego organizacje ryzykują, że powierzą AI większą odpowiedzialność, nie zapewniając jej wystarczającego zrozumienia specyfiki firmy, by mogła rzetelnie się z niej wywiązać. 

Możliwości AI wyprzedzają gotowość przedsiębiorstw

Według 88% ankietowanych organizacji ujętych w indeksie AI Stanforda z 2026 r. wykorzystywało AI w 2025 r., jednak we wdrożeniach agentów odsetek ten pozostawał jednocyfrowy w niemal wszystkich obszarach działalności. 

Statystyki te pokazują, że przedsiębiorstwa mają dostęp do możliwości oferowanych przez AI, ale wiele z nich nie jest gotowych powierzyć jej zadań, których wykonanie może mieć istotne konsekwencje. Liderzy wiedzą, że muszą wdrażać AI, ale wciąż muszą ustalić, czy skupiają się na właściwym poziomie problemu.

Model może analizować dane, nie rozumiejąc specyfiki firmy

Modele bazowe dobrze rozpoznają wzorce, syntetyzują informacje, obsługują interakcje w języku naturalnym i analizują duże zbiory danych. Choć są to znaczące postępy, sam model coraz mniej wyróżnia się na tle innych. 

Trudniejszym wyzwaniem dla przedsiębiorstw jest nauczenie AI, co oznaczają informacje o firmie, a przede wszystkim — jak wykorzystuje się je w analizach i przy podejmowaniu decyzji.

Wiele dyskusji o zarządzaniu AI koncentrowało się na czystych danych. To konieczny krok, ale niewystarczający, jeśli AI ma być szeroko wdrażana w przedsiębiorstwach. Dwa czyste zbiory danych mogą nadal opierać się na różnych definicjach, okresach i zasadach biznesowych. 

Badanie CEO IBM z 2025 r. wykazało, że 25% inicjatyw związanych z AI przyniosło oczekiwany zwrot z inwestycji, a zaledwie 16% wdrożono na dużą skalę w całym przedsiębiorstwie. Wynik ten wpisuje się w szerszy problem związany z wdrażaniem: dostęp do modeli i danych nie gwarantuje, że system AI potrafi uwzględnić zasady organizacyjne określające, jak należy wykorzystywać informacje.

Łatwo pozyskać wydajniejsze modele. Zrozumienie specyfiki konkretnej firmy trzeba dopiero wypracować. 

Kontekst dostępny podczas wyszukiwania to nie to samo co kontekst narastający z czasem

Wiele tego, co w kontekście AI dla przedsiębiorstw określa się mianem kontekstu, jest nadal dostarczane przez wyszukiwanie w chwili otrzymania zapytania. System znajduje odpowiedni dokument, rekord lub punkt danych, wykorzystuje go do wygenerowania odpowiedzi, a przy kolejnym zapytaniu zaczyna od początku. 

Wyszukiwanie jest przydatne, ale samo w sobie nie tworzy narastającej pamięci organizacyjnej. Niewiele informacji jest zachowywanych na później, przez co AI może przy każdej nowej interakcji trafiać do firmy jak ktoś obcy.

To tak, jakby każdego ranka wdrażać do pracy nowego, błyskotliwego analityka. Zna się on na finansach i wie, jak analizować zbiory danych, ale nadal musi poznać specyfikę tej konkretnej firmy: sposób definiowania wskaźników, miarodajną wersję prognozy, powody zatwierdzenia wyjątku oraz założenia, które wielokrotnie okazują się błędne.

Narastający kontekst pełni inną funkcję. Zamiast resetować się przy każdym zapytaniu lub cyklu planowania, z czasem się kumuluje. Każde dochodzenie, scenariusz, korekta, zatwierdzenie i decyzja mogą składać się na zarządczo kontrolowane rozumienie sposobu działania organizacji. Dzięki temu kolejne cykle mogą opierać się na ustaleniach z wcześniejszych, zamiast przy każdym zapytaniu na nowo odkrywać te same powiązania, zasady i sposoby pracy. 

Nie oznacza to, że należy przechowywać wszystko bezterminowo. Użyteczny kontekst organizacyjny musi mieć jasno określony zakres, dawać się korygować, uwzględniać uprawnienia i być możliwy do prześledzenia aż do źródła. Organizacje muszą zachowywać to, co istotne, a jednocześnie zapewnić możliwość identyfikowania i korygowania z czasem nieaktualnych założeń, tymczasowych wyjątków i błędnych interpretacji.

Zaufanie zależy od tego, co kryje się pod modelem

Model jest najbardziej widoczną częścią systemu AI, ale rzadko to od niego zależy, czy organizacja może zaufać uzyskanemu wynikowi. 

Sprawny model może zbadać odchylenie, przeanalizować możliwe wyjaśnienia i zalecić działanie. To, czy organizacja może polegać na tej rekomendacji, zależy od architektury otaczającej model. 

Gartner ustalił, że organizacje zgłaszające udane inicjatywy AI inwestują nawet cztery razy więcej w fundamenty, takie jak jakość danych, zarządzanie, kadry przygotowane do pracy z AI i zarządzanie zmianą, w stosunku do przychodów, niż organizacje osiągające słabe wyniki.

Zarządzana warstwa kontekstu jest częścią tych fundamentów i znajduje się między systemami źródłowymi, modelami a działaniami biznesowymi. 

To również obszar, w którym należy oddzielić inteligentne działanie od determinizmu. AI może prowadzić analizy, przygotowywać projekty i formułować rekomendacje. Po sprawdzeniu i zatwierdzeniu działania jego realizacja powinna przebiegać zgodnie z zarządzanymi obliczeniami, kontrolą uprawnień, mechanizmami kontroli zapisu zwrotnego i ścieżkami audytu. Elastyczność, dzięki której model przydaje się podczas analiz, nie zawsze jest właściwa, gdy trzeba wprowadzić zmianę w działalności firmy.

Model może zalecić, co należy zrobić. To otaczająca go architektura, w tym zatwierdzenie przez człowieka i mechanizmy kontroli systemowej, określa, na co można sobie pozwolić.

Ograniczenia zwiększające użyteczność agentów

Agenci są wdrażani szybciej, niż powstają mechanizmy ich kontroli. KPMG ustaliła, że odsetek organizacji wdrażających przynajmniej niektórych agentów AI wzrósł z 11% w pierwszym kwartale 2025 r. do 42% w trzecim kwartale. Gartner poinformował jednak, że tylko 13% organizacji zdecydowanie zgodziło się, że ma odpowiednie struktury zarządzania agentami.

Ta rozbieżność ma znaczenie, ponieważ możliwości i uprawnienia to odrębne decyzje projektowe. System może mieć techniczną możliwość dostępu do bazy danych, korygowania prognozy lub uruchamiania przepływu pracy. Nie oznacza to jednak, że należy mu pozwolić robić to samodzielnie. 

Przed powierzeniem agentom istotnych zadań organizacje powinny wprowadzić trzy ograniczenia.

• Ustalenie wspólnego znaczenia

Zanim agent będzie mógł spójnie wnioskować na ich podstawie, należy uzgodnić definicje, wskaźniki, hierarchie, kalendarze fiskalne i zasady obliczeń. 

Nie należy oczekiwać, że AI po cichu rozstrzygnie spory, których sama organizacja nie rozwiązała. Bez wspólnego rozumienia może uznać sprzeczne definicje za równoważne i wygenerować odpowiedź spójną, lecz błędną z punktu widzenia działalności operacyjnej.

• Określenie, co zachować na przyszłość

Organizacje muszą określić, które korekty, zatwierdzenia, decyzje i wyniki mają stawać się kontekstem wielokrotnego użytku. Potrzebują też zasad dotyczących przechowywania, dostępu i wprowadzania korekt. 

Użyteczna pamięć jest selekcjonowana i zarządzana, a nie gromadzona bez wyboru. W przeciwnym razie nieaktualne założenie lub jednorazowy wyjątek mogą po cichu zmienić przyszłe rekomendacje.

• Oddzielenie rekomendacji od zobowiązania do działania

Analiza, rekomendacja, proponowana zmiana, realizacja zatwierdzona przez człowieka i ograniczona realizacja autonomiczna to różne poziomy uprawnień. Agenci powinni mieć tożsamości i uprawnienia odpowiednie do każdego z tych poziomów.

Ocena musi obejmować również cały łańcuch działania: jakie informacje pobrano, jaki kontekst wykorzystano, jakie narzędzia wywołano, co się zmieniło i czy tę zmianę można cofnąć. 

Testowanie wyłącznie końcowej odpowiedzi pomija większość sposobów, na jakie może zawieść przepływ pracy oparty na agentach.

Możliwości opisują, co agent potrafi zrobić, a zasady zarządzania określają, na co ma pozwolenie.

Autonomia wymaga czegoś więcej niż samych możliwości

W przedstawionym na początku scenariuszu dotyczącym marży szybkość jest przydatna tylko wtedy, gdy system wie również, która prognoza jest wiążąca, który wyjątek zatwierdzono, jakie działania może podjąć i kto nadal ponosi za nie odpowiedzialność. 

Uważam, że AI w przedsiębiorstwach zyska zaufanie tylko wtedy, gdy będzie uwzględniać właściwy kontekst z przeszłości i potrafi wyjaśnić, jak doszła do wyniku mającego istotne konsekwencje. 

Organizacje powinny zbudować tę warstwę kontekstu i kontroli, zanim rozszerzą autonomię agentów. Zmieni się sposób wykonywania pracy, ale odpowiedzialność pozostanie.