Twój agent AI wie wszystko — i nic nie rozumie

„Powinniśmy dołączyć do moich rodziców w ich podróży do Irlandii” — to zdanie wydawało się niewinnie, ale posłało dreszcz po mojej krzyżu.

Moja żona i ja podróżujemy bardzo często. Wiemy, co nam się podoba. Rodzice mojej żony rzadko podróżują dalej niż kilkaset mil od swojego domu i opuścili kraj razem tylko raz — na nasz ślub.

Co więcej, ta podróż była prezentem bożonarodzeniowym od mojego teścia dla mojej teściowej, aby mogła odwiedzić swoją rodzinę, może po raz ostatni.

Mogłem sobie wyobrazić, jak ta podróż się rozwinie w jednym słowie: katastrofa. Jak na świecie moglibyśmy połączyć dzikie doświadczenia i oczekiwania, aby mieć niesamowitą podróż — lub przynajmniej nie nienawidzić się nawzajem na końcu?

Jak każdy szanujący się technofile, sięgnąłem po technologię — konkretnie po AI.

Ale nie spodziewałem się, że mój mały eksperyment z kodowaniem aplikacji planowania podróży AI nauczy mnie prawie wszystkiego, co muszę wiedzieć o stosowaniu AI w IT przedsiębiorstw.

Im więcej karmisz AI, tym głupsze się staje

Większość wdrożeń AI w przedsiębiorstwach podąża za przewidywalnym wzorcem. Organizacje zaczynają od podania agentowi zestawu instrukcji i połączenia go z źródłem informacji, czy to jest RAG (Retrieval-Augmented Generation) framework, istniejąca baza wiedzy, czy nawet MCP server. Następnie warstwę LLM i pozwól jej działać.

Problem polega na tym, że LLM w swojej istocie są głupie. Nie wiedzą, jak priorytetować wszystkie informacje, które mają do dyspozycji, więc tendencja jest taka, że traktują każdy element kontekstu równie. Człowiek musi dodać warstwę kuracji, ucząc model, co jest ważne, a co nie. Bez kuracji otrzymujesz AI, które wie wszystko i nic nie rozumie.

Trzy typy pamięci, które mają znaczenie

Skuteczna kuracja AI w przedsiębiorstwie oznacza maksymalne wykorzystanie trzech konkretnych typów pamięci.

Pierwszym jest pamięć instytucjonalna, która może wydawać się dość podstawowa na początku. Kiedy ktoś mówi „usługi finansowe”, agent wie, że ma na myśli dział Financial Services firmy i nie cały przemysł. To staje się trwałą wiedzą organizacyjną wypełnioną definicjami, preferencjami i konwencjami, które rzadko się zmieniają. Gdy to się rozciąga na wiedzę instytucjonalną o priorytetach strategicznych, kluczowych inicjatywach i dynamice organizacyjnej, staje się bogatym źródłem kontekstu instytucjonalnego.

Następnie jest historia działań, która koncentruje się na znaczących decyzjach, zadaniach i wydarzeniach. Kiedy zgłoszony jest bilet serwisowy lub wdrożony system, agent rozpoznaje to działanie i rejestruje je w historii działań. To staje się historycznym rekordem, który łączy kontekst organizacyjny.

Wreszcie, jest krótkotrwały kontekst konwersacyjny. Można to uznać za chwilę od chwili interakcji z agentem. Jest to przydatne w tym momencie, ale traci na znaczeniu szybko.

Biorąc to wszystko razem, te trzy typy pamięci tworzą system wag, którego brakuje ogólnym modelom AI. Teraz, kiedy ktoś mówi agentowi o firmie, klasyfikuje i priorytetuje całą pamięć i kuracji informacji, które są ważne. To tworzy rdzeń tego, co AI powinno dostarczyć: nie tylko dane z dziedziny, ale również osąd z dziedziny.

Czym jest pamięć kuracyjna w skali

Ale wystarczająco o ramach, jak to wygląda w praktyce? Oto, co odkryliśmy, budując te agenty.

Typowym scenariuszem IT jest wysłanie biletu serwisowego do agenta help desk. Powiedzmy, że Twoja aplikacja Outlook nie działa, więc wpisujesz opis problemu i czekasz, aż agent przeanalizuje i zaproponuje rozwiązanie.

Ale dzięki pamięci kuracyjnej, lepszy proces mógłby obejmować zrobienie zrzutu ekranu, który pokazuje błąd Outlook, i przesłanie go do agenta. Teraz agent (1) korzysta z pamięci instytucjonalnej, aby zrozumieć Twoje środowisko pracy; (2) sprawdza historię działań w celu znalezienia powiązanych incydentów; i (3) stosuje sąd kontekstowy, aby znaleźć konkretnego rozwiązania, a nie tylko ogólne odpowiedzi.

Wynikiem jest inteligentny agent, który nie musi zgadywać odpowiedzi na podstawie zrzutu ekranu. Teraz naprawdę przesłuchuje, patrzy na wszystkie informacje, które są dostępne, i dostarcza bardziej przydatną odpowiedź. Agent mógłby nawet rozszerzyć się na sieć lub efekt roju, patrząc na innych użytkowników w systemie, aby zobaczyć, czy problem z Outlook jest tylko Twoim problemem, czy problemem przedsiębiorstwa.

Kontekstualizacja historii lub pamięci jest różnicą. Jeśli nie kurujesz swojej pamięci skutecznie, zostaniesz w tyle tych, którzy to robią. Ważne jest, aby mieć architekturę, która wie, jak zarządzać tymi danymi w czasie i rozumie, co przechowywać, co wyświetlać, a co puścić.

Z powrotem do podróży

Więc, jak mój planista podróży AI zmienił moje spojrzenie na AI w IT przedsiębiorstwa?

Co zbudowałem, to aplikacja, która działała jako nasz osobisty konserwator podróży i zaczęła od „przesłuchania” każdego uczestnika. Wszyscy wyjaśniliśmy, co było dla nas ważne w tej podróży: co było konieczne, a co mogliśmy pominąć. Co więcej, zapytała nas o nasze „dlaczego” — dlaczego coś było dla nas ważne, co to dla nas znaczyło.

Używając tych informacji, zrobiła dwie rzeczy. Po pierwsze, skuracji plan podróży, który był zbalansowany, aby dostarczyć coś dla każdego — mogliśmy wszystko zobaczyć nasze pragnienia i preferencje reprezentowane w planie, jaki wyprodukowała.

Ale, oczywiście, ten pierwszy plan podróży był tylko szkicem. Było jeszcze wiele pytań do odpowiedzi.

I to było moment, kiedy nastąpiła prawdziwa magia. Zapytaliśmy agenta o hotel lub atrakcję lub jazdę, a odpowiedzi, które dał nam, były wzbogacone kontekstem naszej unikalnej sytuacji: „To byłaby długa jazda dla dzieci, ale mój teść pokochałby zamek (i unikalną kawiarnię obok) — i to mogłoby być idealne miejsce dla mojej żony, aby dostać masaż.”

Pełen tego bogatego zrozumienia, co było dla nas ważne, mógł pomóc nam zaplanować i udoskonalić naszą podróż w sposób, który nie sądzę, że byłby możliwy w żaden inny sposób.

I to było w jednym z tych pierwszych momentów, kiedy zrozumiałem, co musimy zbudować dla naszych klientów przedsiębiorstw: inteligentne systemy, które były tak obciążone kontekstem organizacyjnym, transakcyjnym i osobistym, że każda odpowiedź i każda interakcja byłyby jak odcisk palca: całkowicie unikalne dla tego momentu i interakcji, aby dostarczyć rodzaj wartości, który po prostu nie mógłby się wydarzyć w żaden inny sposób.