Od automatyzacji do poznania: Ewolucja AI agentowej

Od dziesięcioleci automatyzacja przedsiębiorstw podążała za znaną logiką: definiować proces, kodować kroki i pozwolić oprogramowaniu wykonywać je konsekwentnie. Skrypty automatyzowały polecenia, runbooki rejestrowały procedury, orkiestracja łączyła zadania w różnych systemach, a AIOps wprowadziło uczenie maszynowe do rosnącej ilości danych operacyjnych. Każdy postęp zwiększał możliwości automatyzacji, ale ludzie wciąż podejmowali większość decyzji. To oni określali proces; oprogramowanie je realizowało.

Agentic AI zmienia tę relację. Zamiast zaczynać od ustalonego zestawu instrukcji, agent może rozpocząć od celu i opracować, jak go realizować w określonych granicach. Wymaga to czegoś więcej niż wygenerowanie odpowiedzi. System musi zinterpretować cel, zgromadzić odpowiedni kontekst, ocenić dowody, wykorzystać pamięć, wybrać spośród narzędzi lub automatyzacji oraz dostosować się w miarę zmiany warunków. Anthropic wyciąga podobny podział między przepływami pracy, w których modele i narzędzia podążają za zdefiniowanymi ścieżkami kodu, a agentami, w których model może dynamicznie kierować własnym procesem i użyciem narzędzi.

Od deterministycznego wykonania do adaptacyjnych decyzji

Żadne z tego nie czyni tradycyjnej automatyzacji przestarzałą. W rzeczywistości deterministyczna automatyzacja nadal jest właściwym rozwiązaniem, gdy ścieżka od znanego stanu do działania jest dobrze zrozumiana. Jeśli usługa nie przejdzie kontroli zdrowia, uruchom ją ponownie. Jeśli żądanie spełnia określone kryteria, skieruj je do odpowiedniej kolejki. Jeśli interfejs przekroczy próg, otwórz zgłoszenie i przeprowadź diagnostykę. To właśnie tego rodzaju powtarzalne działania automatyzacja obsługuje skutecznie.

AIOps rozszerzyło ten model, pomagając organizacjom interpretować, co się działo przed uruchomieniem automatyzacji: korelowanie zdarzeń, identyfikowanie anomalii, redukcję szumu i dodawanie kontekstu. AI agentowa robi kolejny krok, wprowadzając ocenę pomiędzy sygnałem a działaniem. Pytanie nie brzmi już tylko „Jaki przepływ pracy uruchamia ten warunek?”. Staje się „Biorąc pod uwagę cel i dostępne dowody, jaki jest najlepszy kolejny krok?”.

Rozważmy degradującą się usługę. Agent może potrzebować przeanalizować telemetry, topologię, ostatnie zmiany, zgłoszenia, dane konfiguracyjne, historyczne incydenty oraz wpływ na biznes, zanim zdecyduje, co zrobić. W jednej sytuacji dowody mogą wskazywać na znane rozwiązanie, a w innej agent może potrzebować zebrać więcej informacji lub uruchomić diagnostykę w trybie tylko do odczytu. Gdy potencjalny wpływ jest duży lub dowody niejednoznaczne, właściwą decyzją może być zaangażowanie człowieka. Ta zdolność do dostosowywania ścieżki w oparciu o to, co system odkryje, jest znaczącą zmianą.

Kontekst i pamięć zmieniają jakość decyzji

Agencja bez kontekstu nie jest zbyt przydatna. Ten sam objaw może oznaczać coś zupełnie innego w zależności od topologii, działań konserwacyjnych, ostatnich zmian, zależności lub wpływu na klienta. Doświadczeni operatorzy rozumieją to intuicyjnie; rzadko podejmują istotne decyzje na podstawie jednego odizolowanego sygnału. Tworzą pełen obraz, oddzielają obserwację od wnioskowania i decydują, jaką pewność dowody zasługują.

Pamięć dodaje kolejny wymiar. Google Cloud identyfikuje pamięć jako kluczowy element architektur agentowych, ponieważ pomaga agentom utrzymywać kontekst i wykorzystywać informacje z poprzednich interakcji. W operacjach możliwości są szersze niż po prostu odtworzenie starego zgłoszenia. Przydatna pamięć operacyjna może zachować to, co wydarzyło się, gdy pojawiły się podobne warunki, które hipotezy okazały się prawidłowe, jakie podjęto działania naprawcze, czy zadziałały, czy zostały wycofane, oraz czego operatorzy nauczyli się później. Gdy to doświadczenie zostanie zweryfikowane, może stać się dowodem dla kolejnej decyzji, a nie wiedzą, która znika w raporcie po‑incydentalnym lub pozostaje w głowie eksperta.

Istnieje ciekawa paralela w nauce o poznaniu. Badania nad odciążaniem poznawczym analizują, jak ludzie używają zewnętrznych narzędzi i działań, aby zmniejszyć wymagania mentalne zadania, podczas gdy badania nad użyciem narzędzi wykazały, że powtarzalna interakcja z narzędziami może zmienić sposób, w jaki ludzie postrzegają swoje praktyczne możliwości działania. Analogia do AI w przedsiębiorstwach nie powinna być brana dosłownie, ale podstawowa idea jest przydatna: narzędzia robią więcej niż oszczędzają czas. Z czasem mogą zmienić nasze podejście do problemu. Znane badania nad londyńskimi taksówkarzami i umiejętnościami nawigacyjnymi przypominają, że długotrwałe doświadczenie może kształtować samą kognicję. Dla przedsiębiorstw pytanie projektowe nie brzmi więc jedynie, ile pracy agent może przejąć, ale czy system człowiek‑agent staje się lepszy w rozumieniu i radzeniu sobie ze złożonością.

Agenci powinni orkiestrwać automatyzację, a nie ją zastępować

To także powód, dla którego nie postrzegam AI agentowej jako odrzucenia automatyzacji. Na początku mojej kariery spędziłem lata budując automatyzację operacyjną i jedna lekcja pozostała ze mną: samo wykonanie nie wystarczy. Automatyzacja musi zdobyć zaufanie. Operatorzy potrzebują pewności, że właściwe działanie jest stosowane w odpowiedniej sytuacji, z odpowiednią autoryzacją i wystarczającymi dowodami, aby zrozumieć przyczynę.
Praktyczna architektura agentowa opiera się na tej inwestycji. Istniejące skrypty, przepływy pracy, API, platformy orkiestracji i narzędzia specyficzne dla domeny stają się możliwościami, które agent może wywołać w odpowiednich momentach. Jeśli dowody potwierdzają znane rozwiązanie, agent może użyć sprawdzonej automatyzacji zamiast improwizować nowe działanie. Jeśli dowody są niekompletne, może prowadzić dalsze dochodzenie. Wartość płynie z połączenia niezawodnego wykonania z bardziej adaptacyjnym podejmowaniem decyzji dotyczącym tego, kiedy i jak to wykonanie ma nastąpić.

Większa autonomia zwiększa znaczenie zarządzania

Moment, w którym oprogramowanie może wybierać spośród działań, oznacza, że zarządzanie nie może już być czymś dopisanym po fakcie. Agent przedsiębiorstwa musi rozumieć nie tylko, co technicznie może zrobić, ale także, co jest dozwolone w określonym środowisku, przy danym poziomie ryzyka i pod określoną tożsamością lub rolą. Ramy zarządzania ryzykiem AI NIST odzwierciedlają szersze spojrzenie na zarządzanie, organizując zarządzanie ryzykiem AI wokół zasad govern, map, measure i manage, przy czym zarządzanie działa we wszystkich pozostałych funkcjach.

W praktyce oznacza to, że agent powinien być w stanie przedstawić dowody stojące za rekomendacją, jasno wskazać, jakich systemów i danych użył, ujawnić niepewność, respektować wymogi zatwierdzeń oraz pozostawić ślad audytu tego, co się wydarzyło. Odwracalność ma również znaczenie. Diagnostyka w trybie tylko do odczytu i zmiana konfiguracji produkcyjnej nie powinny mieć tego samego progu autonomii.

Nadzór ludzki w związku z tym staje się bardziej precyzyjny, zamiast po prostu zanikać. Ten sam agent może autonomicznie zbierać dowody, rekomendować rozwiązanie, wymagać zatwierdzenia przed działaniem o wyższym ryzyku, a następnie weryfikować, czy zatwierdzone działanie rzeczywiście zadziałało. Celem nie jest ogólne stwierdzenie, że ludzie są „w” lub „poza” pętlą. Chodzi o umieszczenie ludzkiego osądu w punktach, w których wnosi on największą wartość.

Prawdziwa przewaga polega na tym, co dzieje się po działaniu

Być może najważniejsza różnica pojawia się po podjęciu działania. Tradycyjna automatyzacja zazwyczaj pyta, czy przepływ pracy zakończył się sukcesem. System poznawczy powinien zadać trudniejsze pytanie: czy działanie przyniosło zamierzony rezultat i czego powinniśmy się nauczyć z tego, co się wydarzyło?

To zmienia wartość pętli sprzężenia zwrotnego. Udane rozwiązanie może wzmocnić dowody dla podobnej sytuacji w przyszłości. Nieudana hipoteza powinna sprawić, że system będzie mniej skłonny do powtarzania tego samego rozumowania. Korekta operatora może poprawić kolejną rekomendację, podczas gdy wycofanie może ujawnić, że pewność przekroczyła to, co uzasadniały dostępne dowody. Z czasem ważnym zasobem nie jest po prostu większa biblioteka automatyzacji. To skumulowany związek pomiędzy sytuacjami, dowodami, decyzjami, działaniami i wynikami.

Patrząc na to w ten sposób, ewolucja automatyzacji przedsiębiorstw nie polega tak bardzo na zastępowaniu jednej generacji technologii kolejną, lecz na dodawaniu nowych możliwości wokół tego, co już działa. Skrypty kodowały działania, runbooki rejestrowały procedury, orkiestracja je łączyła, a AIOps pomagało interpretować coraz bardziej złożone sygnały operacyjne. AI agentowa dodaje zdolność realizacji celów, rozumowania w kontekście i na podstawie dowodów, korzystania z pamięci, wyboru spośród dostępnych możliwości, działania w ramach zarządzanych granic oraz uczenia się na podstawie wyniku.

Końcowy cel nie powinien być nieograniczoną autonomią. Powinna to być odpowiedzialna autonomia: systemy, które potrafią rozpoznać, kiedy należy działać, kiedy badać, kiedy poprosić o pozwolenie i kiedy się zatrzymać. To przejście od automatyzacji do poznania — nie maszyny zastępujące ludzkie operacje, lecz przedsiębiorstwa opracowujące lepszy sposób postrzegania, decydowania, działania i uczenia się.