Twój agent AI wie wszystko — i nic nie rozumie

“Powinniśmy dołączyć do rodziców mojej żony w ich podróży do Irlandii” — to zdanie, które na pierwszy rzut oka wydaje się niewinnie, wywołało u mnie dreszcz.

Moja żona i ja podróżujemy bardzo często. Wiemy, co nam się podoba. Rodzice mojej żony, z drugiej strony, rzadko podróżują dalej niż kilkaset mil od swojego domu i opuścili kraj razem tylko raz — na nasz ślub.

Na dodatek, ta podróż była prezentem bożonarodzeniowym od mojego teścia dla mojej teściowej, aby mogła odwiedzić swoją rodzinę, może po raz ostatni.

Mogłem wyobrazić sobie, jak ta podróż się rozwinie w jednym słowie: katastrofa. Jak na świecie moglibyśmy połączyć dzikie doświadczenia i oczekiwania, aby mieć niesamowitą podróż — lub przynajmniej nie nienawidzić się nawzajem na końcu?

Jak każdy szanujący się technofile, sięgnąłem po technologię — konkretnie po AI.

Ale nie spodziewałem się, że mój mały eksperyment z kodowaniem wibrującym aplikacją planowania podróży rodzinnej zasilaną przez AI nauczy mnie prawie wszystkiego, co muszę wiedzieć o stosowaniu AI w IT przedsiębiorstw.

Im więcej karmisz AI, tym głupsze się staje

Większość wdrożeń AI w przedsiębiorstwach podąża za przewidywalnym wzorcem. Organizacje zaczynają od udzielenia agentowi zestawu instrukcji i połączenia go z źródłem informacji, czy to jest RAG (Retrieval-Augmented Generation) framework, istniejąca baza wiedzy, czy nawet MCP server. Następnie warstwę LLM i pozwól mu działać.

Problem polega na tym, że LLM w swojej istocie są głupie. Nie wiedzą, jak priorytetować wszystkie informacje, które mają do dyspozycji, więc tendencja jest taka, że traktują każdy element kontekstu równie. Człowiek musi dodać warstwę kuracji, ucząc model, co jest ważne, a co nie. Bez kuracji, otrzymujesz AI, które wie wszystko i nic nie rozumie.

Trzy rodzaje pamięci, które mają znaczenie

Skuteczna kuracja AI w przedsiębiorstwie oznacza maksymalne wykorzystanie trzech konkretnych rodzajów pamięci.

Pierwszym jest pamięć instytucjonalna, która na początku może wydawać się dość podstawowa. Kiedy ktoś mówi „usługi finansowe”, agent wie, że ma na myśli dział Financial Services firmy, a nie cały przemysł. To staje się trwałą wiedzą organizacyjną wypełnioną definicjami, preferencjami i konwencjami, które nie zmieniają się często. Gdy ta wiedza rozciąga się na wiedzę instytucjonalną dotyczącą priorytetów strategicznych, kluczowych inicjatyw i dynamiki organizacyjnej, staje się bogatym źródłem kontekstu instytucjonalnego.

Następnie jest historia działań, która koncentruje się na znaczących decyzjach, zadaniach i wydarzeniach. Kiedy zgłoszony jest bilet serwisowy lub wdrożony system, agent rozpoznaje to działanie i rejestruje je w historii działań. To staje się historycznym zapisem, który łączy kontekst organizacyjny.

Wreszcie, jest krótkoterminowy kontekst konwersacyjny. Można to porównać do chwili-chwilowej interakcji z agentem. Jest to przydatne w danej chwili, ale tendencja jest taka, że traci na znaczeniu szybko.

Weźmy te trzy rodzaje pamięci razem, tworzą one system ważenia, którego brakuje ogólnym modelom AI. Teraz, kiedy ktoś mówi agentowi o firmie, klasyfikuje i priorytetuje całą tę pamięć i kuracji informacji, które są ważne. To tworzy rdzeń tego, co AI powinno dostarczać: nie tylko dane z dziedziny, ale i osąd z dziedziny.

Czym jest pamięć po kuracji w skali

Ale wystarczająco o ramach, jak to wygląda w praktyce? Oto, co odkryliśmy, budując te agenty.

Jednym z typowych scenariuszy IT jest wysłanie biletu serwisowego do agenta help desk. Powiedzmy, że Twoje Outlook nie działa, więc wpisujesz opis problemu i czekasz, aż agent przejrzy i zaproponuje rozwiązanie.

Ale z pamięcią po kuracji działającą na Twoją korzyść, lepszy proces mógłby polegać na zrobieniu zrzutu ekranu, który pokazuje błąd Outlook, i przesłaniu go do agenta. Teraz agent (1) korzysta z pamięci instytucjonalnej, aby zrozumieć Twoje środowisko pracy; (2) sprawdza historię działań w celu znalezienia powiązanych incydentów; i (3) stosuje sąd kontekstowy, aby znaleźć konkretnego rozwiązania, a nie tylko ogólne odpowiedzi.

Wynikiem jest agent, który nie musi zgadywać odpowiedzi na podstawie zrzutu ekranu. Teraz on naprawdę przesłuchuje, patrzy na wszystkie informacje, które są dostępne, i dostarcza bardziej przydatną odpowiedź. Agent mógłby nawet rozszerzyć się na sieć lub efekt roju, patrząc na innych użytkowników w systemie, aby zobaczyć, czy problem z Outlook jest tylko Twoim problemem, czy też problemem przedsiębiorstwa.

Kontekstualizacja historii lub pamięci jest różnicą. Jeśli nie kuracji pamięci skutecznie, pozostaniesz w tyle tych, którzy to robią. Jest niezbędne, aby mieć architekturę, która wie, jak zarządzać tymi danymi w czasie i rozumie, co przechowywać, co wyświetlać, a co puścić.

Z powrotem do podróży

Więc, jak mój AI-powierzony planista podróży zmienił mój pogląd na AI w IT przedsiębiorstwa?

To, co zbudowałem, to aplikacja, która działała jako nasz osobisty konserwator podróży i zaczęła od „wywiadu” z każdym uczestnikiem. Wszyscy wyjaśniliśmy, co dla nas było ważne w podróży: co było konieczne, a co mogliśmy pominąć. Co więcej, zapytała nas o nasze „dlaczego” — dlaczego coś było dla nas ważne, co to dla nas znaczyło.

Korzystając z tych informacji, zrobiła dwie rzeczy. Po pierwsze, skuracji plan podróży, który był zrównoważony, aby dostarczyć coś dla każdego — mogliśmy wszystko zobaczyć nasze pragnienia i preferencje reprezentowane w planie, jaki wyprodukowała.

Ale, oczywiście, ten pierwszy plan był tylko projektem. Było jeszcze wiele pytań do odpowiedzi.

I to było momentem, kiedy nastąpiła prawdziwa magia. Zapytaliśmy agenta o hotel lub atrakcję lub jazdę, a odpowiedzi, które nam dał, były wzbogacone kontekstem naszej unikalnej sytuacji: „To byłby długi przejazd dla dzieci, ale mój teść pokochałby zamek (i unikalną kawiarnię obok) — i to mogłoby być idealnym miejscem dla mojej żony, aby dostać masaż.”

Pełen tego bogatego zrozumienia, co było dla nas ważne, mógł nam pomóc w planowaniu i udoskonalaniu naszej podróży w sposób, który nie sądzę, że byłby możliwy w żaden inny sposób.

I to było w jednym z tych pierwszych momentów, kiedy zrozumiałem, co musimy zbudować dla naszych klientów przedsiębiorstw: inteligentne systemy, które są tak obciążone kontekstem organizacyjnym, transakcyjnym i osobistym, że każda odpowiedź i każda interakcja będą jak odcisk palca: całkowicie unikalne dla tej chwili i interakcji, aby dostarczyć rodzaj wartości, który po prostu nie mógłby wystąpić w żaden inny sposób.