Dlaczego same lepsze dane nie wystarczą agentom AI

Przez lata jedną z najczęściej powtarzanych rad dotyczących AI w przedsiębiorstwach było to, by najpierw zadbać o jakość danych. Logika jest prosta: jeśli system ma podejmować użyteczne decyzje, potrzebuje dokładnych i łatwo dostępnych informacji.

To stwierdzenie pozostaje aktualne, ale staje się niewystarczające, ponieważ agenci AI przechodzą od odpowiadania na pytania i generowania treści do podejmowania działań w imieniu pracowników i organizacji. Dane mogą informować agenta o tym, co jest prawdą w odniesieniu do klienta, transakcji, roszczenia lub wniosku, ale niekoniecznie wskazują, co powinno wydarzyć się dalej ani jakie będą konsekwencje podjęcia danego działania. To rozróżnienie ma znaczenie, gdy agent nie tylko udziela odpowiedzi, lecz także zatwierdza wniosek, aktualizuje rekord, kontaktuje się z klientem lub posuwa sprawę naprzód.

Od pracowników przedsiębiorstw oczekuje się, że nauczą się działać w strukturze obejmującej ścieżki zatwierdzania, zasady biznesowe, zależności, wyjątki i procedury eskalacji — agenci również potrzebują sposobu, by działać w ten sposób. Ponieważ Gartner przewiduje, że do końca 2026 r. 40% aplikacji dla przedsiębiorstw będzie zawierać agentów AI przeznaczonych do konkretnych zadań, w porównaniu z mniej niż 5% w 2025 r., coraz trudniej będzie ignorować luki w wiedzy agentów. 

Gartner przewiduje również, że do 2028 r. wyspecjalizowani agenci AI działający w określonych dziedzinach wygenerują 80% wymiernego zwrotu z inwestycji w agentową AI. Specjalizacja jest ważna, ale rozwiązuje tylko część problemu. Znajomość konkretnej dziedziny nie mówi agentowi automatycznie, gdzie zaczyna się i kończy jego odpowiedzialność, jak jego zadanie wpisuje się w szerszy proces ani kto powinien przejąć sprawę, gdy wykracza ona poza zakres jego kompetencji. Aby agenci mogli stać się niezawodnymi uczestnikami pracy w przedsiębiorstwach, potrzebują zarówno kontekstu przebiegu procesów pracy, jak i danych biznesowych.

Dobre dane nie mówią agentowi, co stanie się dalej

Rozważmy wniosek kredytowy, w przypadku którego agent może mieć dostęp do historii finansowej wnioskodawcy, informacji o zatrudnieniu i innych istotnych danych. Informacje te mogą pomóc mu zrozumieć wniosek, ale nie mówią, jak organizacja go rozpatruje.

Jakie kontrole należy przeprowadzić najpierw? Co się zmienia, gdy wnioskodawca spełnia jeden warunek, ale nie spełnia innego? Jakie informacje są niezbędne, zanim sprawa będzie mogła przejść do kolejnego etapu? Które decyzje można podejmować automatycznie, a które trzeba przekazać analitykowi kredytowemu?

W większości procesów w przedsiębiorstwach występuje wiele takich ścieżek warunkowych. Proces może przebiegać automatycznie po spełnieniu określonych kryteriów, zatrzymać się na czas zebrania dodatkowych informacji albo obrać zupełnie inny kierunek w razie wystąpienia wyjątku. Wybór właściwego kolejnego działania zależy nie tylko od dostępnych informacji, lecz także od aktualnego etapu procesu i tego, co już się wydarzyło.

To zmienia znaczenie niezawodności agenta w przedsiębiorstwie. Dokładna odpowiedź nie wystarczy, jeśli kolejne działanie jest błędne. Agent może poprawnie zinterpretować dostępne informacje, a mimo to przenieść sprawę do niewłaściwego etapu, pominąć wymagane zatwierdzenie lub zadziałać, zanim zostanie spełniony warunek wstępny.

McKinsey niedawno przedstawiła wnioski z pracy z firmą z sektora technologii medycznych, która odkryła, że używana przez nią platforma AI nie obsługiwała kilku kluczowych reguł przepływu pracy. Zamiast przesunąć termin uruchomienia, by rozwiązać te problemy, firma kontynuowała działania zgodnie z planem i ostatecznie nie zrealizowała szacunkowo 30% zakładanej wartości AI. Ten przykład podkreśla, że przedsiębiorstwa muszą uwzględniać proces, w którym wykonywane jest zadanie, a nie tylko informacje potrzebne do jego realizacji. 

Dostosuj zabezpieczenia do decyzji, które może podejmować agent

Wraz ze wzrostem zdolności agentów do podejmowania działań zasady zarządzania nimi również muszą być bardziej szczegółowe. Agent pobierający dokument z zasadami nie wiąże się z takim samym ryzykiem jak agent, który zmienia konto klienta, zatwierdza płatność lub inicjuje transakcję. Organizacje łatwo jednak popadają w jedną z dwóch skrajności: pozwalają agentom działać zbyt swobodnie albo wymagają ludzkiego zatwierdzenia niemal każdej czynności.

Zakres kontroli nad agentem powinien odpowiadać decyzjom, które może on podejmować, oraz potencjalnym konsekwencjom tych decyzji. Działanie obarczone niskim ryzykiem i powtarzalne może być odpowiednie do samodzielnego wykonania. Inne działanie może wymagać zatwierdzenia, jeśli jego wartość przekracza określony próg. Nietypowy przypadek może wymagać natychmiastowego przekazania pracownikowi.

Nadzór człowieka jest najbardziej użyteczny, gdy jest stosowany celowo. Jeśli ktoś musi zatwierdzać każdy rutynowy krok, znika znaczna część korzyści z wdrożenia agenta. Usunięcie punktów kontrolnych w przypadku decyzji, które rzeczywiście wymagają osądu lub odpowiedzialności, stwarza jednak inny problem.

IBM Research opowiada się za jasnymi zasadami określającymi działania, które agenci mogą podejmować, oraz momenty, w których wymagany jest nadzór człowieka. Te mechanizmy kontroli muszą również uwzględniać proces, w którym uczestniczy agent. Uprawnienia agenta nie muszą pozostawać niezmienne od początku do końca sprawy. To, co może bezpiecznie zrobić, może zależeć od etapu procesu, już zweryfikowanych informacji, wcześniej podjętych decyzji i konsekwencji kolejnego działania.

Oznacza to, że organizacje muszą uwzględnić zasady nadzoru w samym przepływie pracy. Zamiast przyznawać agentowi szeroki zakres uprawnień i polegać na nim w każdej sytuacji, mogą określić, gdzie wolno mu działać samodzielnie, jakie dodatkowe warunki muszą zostać spełnione i w którym momencie odpowiedzialność należy przekazać człowiekowi. Pytanie dotyczy więc nie tyle tego, czy agent jest autonomiczny, ile tego, w jakich miejscach procesu autonomia ma sens.

Agenci muszą współpracować z istniejącymi strukturami firmy

Kontekst procesu staje się jeszcze ważniejszy, gdy agent musi współdziałać z pozostałymi elementami przedsiębiorstwa. Organizacje nie zaczynają od zera. Pojedyncze zapytanie klienta może już przechodzić między systemem CRM, repozytorium dokumentów, platformą do zarządzania sprawami i systemem ERP, angażując przy tym pracowników z kilku działów.

Samo wdrożenie agenta w jednym obszarze takiego środowiska nie sprawi, że cały proces stanie się wydajniejszy. Agent może bezbłędnie wykonać swoje zadanie, ale jeśli pracownik musi potem skopiować jego wynik do innej aplikacji, ustalić, kto powinien zająć się nim jako następny, albo ręcznie wznowić proces w innym miejscu, wąskie gardło po prostu się przesunęło.

Dlatego przedsiębiorstwa powinny postrzegać agentów jako uczestników większego procesu, a nie odizolowane narzędzia. Co uruchamia agenta? Jakie informacje otrzymuje? Za co odpowiada? Dokąd trafia praca po wykonaniu zadania? I co się dzieje, gdy agent nie może go wykonać?

Te pytania nabierają jeszcze większego znaczenia, gdy organizacje wdrażają wiele wyspecjalizowanych agentów. Deloitte uznało koordynację za kluczowy wymóg dla firm przechodzących na systemy wieloagentowe, w których różne agenty mogą pełnić odrębne role i koordynować pracę. Koordynacja w przedsiębiorstwie musi obejmować także sposób, w jaki agenty komunikują się i współpracują ze sobą, a nie tylko sposób ich indywidualnego działania. Bez takiego nadzoru agenty mogą działać w oparciu o niepełny kontekst, inicjować sprzeczne działania lub omijać ustalone zasady biznesowe i procedury zatwierdzania. Agenty nadal działają w organizacjach, w których funkcjonują istniejące aplikacje, pracownicy, zasady biznesowe i procesy trwające niekiedy dni, tygodnie lub miesiące.

Należy zacząć od procesu, który trzeba zrealizować, i ustalić, jakie miejsce zajmują w nim agenty, ludzie oraz istniejące systemy. Agent może samodzielnie wykonać jeden etap, inny agent przeprowadzić specjalistyczną kontrolę, pracownik podjąć decyzję wymagającą osądu, a istniejący system zrealizować transakcję końcową. Najważniejsze, by zadania mogły przechodzić między uczestnikami bez utraty kontekstu.

Autonomia wymaga struktury

Zapewnienie agentom większej struktury nie oznacza, że każde działanie wymaga kolejnego ograniczenia. W rzeczywistości może być wręcz przeciwnie. Jasno określone procesy mogą zwiększyć pewność organizacji co do tego, gdzie agenty mogą działać samodzielnie, ponieważ granice ich uprawnień, wyjątki i sytuacje wymagające eskalacji zostały już zdefiniowane. Agent nie potrzebuje nieograniczonej swobody, by przynosić wymierne korzyści. Potrzebuje wystarczającego zakresu odpowiedzialności, by posuwać pracę naprzód, odpowiedniego kontekstu, by wiedzieć, co zrobić dalej, oraz jasności co do tego, kiedy odpowiedzialność należy przekazać komuś innemu.

Lepsze dane będą nadal zwiększać możliwości agentów. Jednak same możliwości nie wystarczą, by agent był użyteczny w przedsiębiorstwie. Prawdziwym sprawdzianem jest to, czy potrafi podjąć właściwe działanie we właściwym momencie procesu i w granicach wyznaczonych przez firmę.