Gdy Model Nie Jest Problemem, a Proces Tak

Wyobraź sobie powszechny scenariusz w usługach finansowych. Zespół wdrożenia AI do przeglądu umów: setki stron, powtarzające się klauzule i rutynowa praca, która normalnie zajmuje pracownikom dni. Model identyfikuje ryzyko i odniesienia do poprawnych paragrafów. Jednak wynik nie daje się zestawić.

Okazuje się, że problem leży w folderze umów, gdzie pliki siedzą obok siebie nazwane contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx i contract_finalfinal_THIS_ONE.docx.

AI wybrał najbardziej niedawno zapisany plik. Ale ten plik był starszą wersją, którą ktoś przypadkowo otworzył i zapisywał w zeszłym tygodniu.

Model zrobił dokładnie to, do czego został zaprojektowany. Proces jednak go zawodził.

Gdy Model Nie Jest Problemem

W moim poprzednim artykule, argumentowałem, że niepowodzenia AI zaczynają się poza modelem – w zarządzaniu, własności i strukturach decyzyjnych otaczających go. Ale zarządzanie jest tylko częścią problemu. Nawet dobrze zarządzany system AI będzie miał trudności, jeśli proces pod nim zależy od przestarzałych dokumentów, nieformalnych wyjątków lub ścieżek zatwierdzania zaprojektowanych dla znacznie wolniejszego tempa pracy.

Gdy system AI produkuje słaby wynik, model jest zwykle pierwszym podejrzanym. Może on halucynował, nie zrozumiał zadania lub otrzymał słaby sygnał. Ale czasami model zrobił dokładnie to, do czego został zaprojektowany. Awaria wystąpiła w procesie, który dostarczył jego informacje lub w organizacji, która nie mogła działać na jego wyjściu.

Wdrożenie AI ujawnia problemy procesowe, które zawsze istniały, ale nie były widoczne – jak narzędzie diagnostyczne. Ujawnia słabości, które ludzie wcześniej rekompensowali bez myślenia: brakujący kontekst, niejasna własność i nieformalne rozwiązania, które nigdy nie zostały udokumentowane.

Szybkość Bez Pojemności

AI nie tylko przyspiesza wyjście. Przyspiesza również eskalacje, prośby o decyzje i odkrywanie problemów. Model sygnalizuje anomalie w czasie rzeczywistym, a nie w piątek popołudniu, kiedy ktoś w końcu znajduje czas, aby przejrzeć logi.

Organizacje nie są przygotowane do tego tempa. Procesy zatwierdzania, ścieżki eskalacji, uprawnienia decyzyjne – wszystko to zostało skalibrowane do ludzkiej szybkości. Kiedy AI produkuje wyjścia szybciej, niż organizacja może je absorbować, mogą wystąpić trzy rzeczy:

• AI czeka na decyzję, kasując zysk wydajności.
• Pracownicy ignorują jego wyjście i wracają do tego, co uważają za działające – starego procesu.
• Pracownicy przekazują decyzje do przodu bez właściwej weryfikacji, ponieważ czują presję, aby utrzymać szybkość.

Niektórzy pracownicy wracają do ręcznych kontroli, ponieważ wydają im się one bezpieczniejsze. Inni zatwierdzają wyniki, których nie mieli czasu zweryfikować, ponieważ czują presję, aby utrzymać szybkość obiecaną przez technologię. W obu przypadkach organizacja płaci za szybsze wyjście bez stania się szybszą w podejmowaniu odpowiedzialnych decyzji.

Własność może również stać się niejasna. Kto jest odpowiedzialny za przeglądanie sygnalizowanej anomalii, decydowanie, czy model jest niepoprawny i eskalowanie problemu, gdy są zaangażowane kilka zespołów? Bez wyraźnej odpowiedzi AI kontynuuje działanie w tle, produkując wyjścia, których nikt naprawdę nie włada.

To odzwierciedla szerszy problem organizacyjny. Jak analizował Forbes w analizie z końca 2025 roku, kiedy technologia zmienia procesy pracy szybciej, niż organizacja może je absorbować, wynikiem nie jest wydajność, ale przepracowanie. AI może przyspieszyć jeden etap procesu, ale jego wartość nadal zależy od tego, czy otaczająca organizacja może absorbować i działać na podstawie tego, co produkuje.

Cicha Wiedza, Której Nikt Nie Napisał

Wyobraź sobie, że Martin wie, iż umowa firmy z dostawcą zawiera wyjątek od płatności poniżej 2 000 euro. Zostało to uzgodnione ustnie trzy lata temu, ale nigdy nie udokumentowane. Kiedy firma wdrożenia AI do automatyzacji zatwierdzania płatności, system blokuje płatność – słusznie, zgodnie z umową pisemną.

To jest wiedza niejawna: wiedza organizacyjna, która żyje w głowach ludzi, a nie w systemach. Każda firma ma ją. I większość firm nie ma pojęcia, ile jej mają.

AI może korzystać tylko z wiedzy, która została udostępniona mu. Wyjątek Martina nie istnieje z punktu widzenia systemu. Bez tego kontekstu jego decyzja może być technicznie poprawna, ale operacyjnie błędna.

McKinsey zidentyfikował ten sam wyzwanie w wdrożeniach AI. Budowanie skutecznych agentów AI wymaga od firm zakodowania praktyk ekspertów, które mogą istnieć w standardowych procedurach – lub tylko jako wiedza niejawna w głowach pracowników. Innymi słowy: wdrożenie AI może być pierwszym razem, kiedy organizacja zobaczy, jak wiele proces zależy od tego, co wie Martin.

Fałszywe Źródło Prawdy

Najbardziej niebezpieczny wynik AI nie jest zawsze wyraźnie niepoprawny. Może to być wiarygodna, profesjonalna odpowiedź wyprodukowana z przestarzałych informacji.

Przez lata wiele departamentów działało z wieloma wersjami tego samego dokumentu, ponieważ Jane z działu prawnego zawsze wiedziała, która wersja jest autorytatywna. AI, niestety, nie.

Chyba że został mu podany zestaw reguł do rozróżniania wersji, system nie ma powodu, aby kwestionować dokument, który otrzymuje. I tak AI przegląda dokumenty prawidłowo – na niewłaściwym dokumencie. To może być gorsze niż brak przeglądu w ogóle, ponieważ wynik wygląda wiarygodnie.

Doświadczony pracownik może wiedzieć, gdzie jest prawda, i może nawigować przez chaos. System jednak potrzebuje niezawodnego sposobu identyfikacji, która informacja jest bieżąca, zatwierdzona i istotna.

Wiedza niejawna, niewiarygodne dokumenty i procesy zatwierdzania zbudowane dla ludzkiej szybkości wydają się oddzielnymi problemami. Ale mają one ten sam korzeń. Żaden z nich nie został stworzony przez AI, ale AI sprawia, że trudniej je ignorować.

Pytania do Odpowiedzi Przed Budową Agenta

Przed wdrożeniem agenta AI organizacja powinna być w stanie odpowiedzieć na trzy pytania.

Na jakie decyzje opierają się na wiedzy, która nigdy nie została udokumentowana?

To oznacza identyfikację wyjątków, skrótów i decyzji, które doświadczeni pracownicy stosują bez opisywania ich świadomie. Wywiady same mogą nie ujawnić wszystkiej tej wiedzy. Organizacje mogą musieć obserwować, jak praca jest wykonywana w praktyce, i porównać ją z oficjalnym procesem.

Jak system identyfikuje informacje, które są bieżące, zatwierdzone i istotne?

Udostępnienie agentowi dostępu do większej liczby dokumentów nie rozwiązuje problemu, jeśli nie może odróżnić zatwierdzonej umowy od projektu lub aktywnej polityki od przestarzałej. Wersjonowanie, własność, status zatwierdzenia i reguły przechowywania muszą być wystarczająco jasne, aby system mógł określić, który źródło powinno rządzić jego decyzją.

Czy istniejące procesy zatwierdzania i eskalacji mogą pochłonąć ilość i szybkość jego wyjścia?

Zespoły powinny oszacować nie tylko, ile pracy agent może wykonać, ale także, ile przeglądów, wyjątków i eskalacji ta praca może wygenerować. NIST AI Risk Management Framework zaleca wyraźne określenie ról i odpowiedzialności za nadzór ludzki nad systemami AI. Te powinny być zaprojektowane dla oczekiwanego wolumenu przed wdrożeniem systemu – a nie po tym, jak pracownicy zostaną przytłoczeni przez niego.

To nie są pytania, na które należy odpowiedzieć raz i zapomnieć. Procesy się zmieniają, dokumenty się starzeją, a nieudokumentowane wyjątki gromadzą się ponownie. Gotowość zatem musi być utrzymana, a nie tylko ustanowiona przed uruchomieniem.

Gotowość AI Zaczyna Się Od Procesu

Gotowość AI nie jest tylko testem technologii. Jest to test, czy organizacja uczyniła swoje własne procesy wystarczająco jawne, aby technologia mogła działać w ich ramach.

Przygotowanie organizacji do AI wymaga więc więcej niż wybranie modelu lub zbudowanie agenta. Oznacza to wyjaśnienie własności, identyfikację autorytatywnych informacji, udokumentowanie wyjątków i przeprojektowanie, jak wyjścia są przeglądane, eskalowane i realizowane.

To jest trudna praca, ale nieudane wdrożenie ostatecznie zmusi organizację do jej wykonania. Jedyną zmienną jest czas.