Twój agent AI wie wszystko — i niczego nie rozumie

„Powinniśmy dołączyć do moich rodziców w ich podróży do Irlandii” — to pozornie niewinne zdanie przyprawiło mnie o dreszcze.

Moja żona i ja podróżujemy bardzo często. Wiemy, co nam się podoba. Rodzice mojej żony rzadko podróżują dalej niż kilkaset mil od swojego domu i opuścili kraj razem tylko raz — na nasz ślub.

Co więcej, ta podróż była prezentem bożonarodzeniowym od mojego teścia dla mojej teściowej, aby mogła odwiedzić swoją rodzinę, może po raz ostatni.

Mogłem sobie wyobrazić, jak ta podróż się rozwinie w jednym słowie: katastrofa. Jak na świecie moglibyśmy połączyć tak bardzo odmienne doświadczenia i oczekiwania, aby mieć niesamowitą podróż — lub przynajmniej nie nienawidzić się nawzajem na końcu?

Jak każdy szanujący się miłośnik technologii, sięgnąłem po technologię — konkretnie po AI.

Ale nie spodziewałem się, że mój mały eksperyment z tworzeniem metodą vibe coding aplikacji wspomaganej AI do planowania rodzinnej podróży nauczy mnie prawie wszystkiego, co muszę wiedzieć o stosowaniu AI w IT przedsiębiorstw.

Im więcej karmisz AI, tym głupsze się staje

Większość wdrożeń AI w przedsiębiorstwach podąża za przewidywalnym wzorcem. Organizacje zaczynają od podania agentowi zestawu instrukcji i połączenia go ze źródłem informacji, czy to jest RAG (Retrieval-Augmented Generation) jako framework, istniejąca baza wiedzy czy nawet serwer MCP. Następnie dodają duży model językowy (LLM) i pozwalają mu działać.

Problem polega na tym, że LLM w swojej istocie są głupie. Nie wiedzą, jak priorytetować wszystkie informacje, które mają do dyspozycji, więc tendencja jest taka, że traktują każdy element kontekstu jednakowo. Człowiek musi dodać warstwę selekcji i porządkowania informacji, ucząc model, co jest ważne, a co nie. Bez takiej selekcji otrzymujesz AI, które wie wszystko i nic nie rozumie.

Trzy typy pamięci, które mają znaczenie

Skuteczna selekcja i organizacja informacji dla AI w przedsiębiorstwie oznacza maksymalne wykorzystanie trzech konkretnych typów pamięci.

Pierwszym jest pamięć instytucjonalna, która może wydawać się dość podstawowa na początku. Kiedy ktoś mówi „usługi finansowe”, agent wie, że ma na myśli dział Financial Services firmy i nie cały przemysł. To staje się trwałą wiedzą organizacyjną wypełnioną definicjami, preferencjami i konwencjami, które rzadko się zmieniają. Gdy to się rozciąga na wiedzę instytucjonalną o priorytetach strategicznych, kluczowych inicjatywach i dynamice organizacyjnej, staje się bogatym źródłem kontekstu instytucjonalnego.

Następnie jest historia działań, która koncentruje się na znaczących decyzjach, zadaniach i wydarzeniach. Kiedy zgłoszony jest wniosek o wsparcie lub wdrożony system, agent rozpoznaje to działanie i rejestruje je w historii działań. To staje się historycznym rekordem, który łączy kontekst organizacyjny.

Wreszcie, jest krótkotrwały kontekst konwersacyjny. Można to uznać za interakcję z agentem z chwili na chwilę. Jest to przydatne w tym momencie, ale zwykle szybko traci na znaczeniu.

Biorąc to wszystko razem, te trzy typy pamięci tworzą system wag, którego brakuje ogólnym modelom AI. Teraz, kiedy ktoś mówi agentowi o firmie, klasyfikuje całą tę pamięć, nadaje jej priorytety i wybiera ważne informacje. To tworzy rdzeń tego, co AI powinno dostarczyć: nie tylko dane z dziedziny, ale również osąd z dziedziny.

Jak wygląda wyselekcjonowana pamięć w dużej skali

Ale dość już o ramach, jak to wygląda w praktyce? Oto, co odkryliśmy, samodzielnie budując tych agentów.

Typowym scenariuszem IT jest wysłanie zgłoszenia problemu do agenta help desk. Powiedzmy, że Twoja aplikacja Outlook nie działa, więc wpisujesz opis problemu i czekasz, aż agent przeanalizuje i zaproponuje rozwiązanie.

Ale dzięki wyselekcjonowanej pamięci, lepszy proces mógłby obejmować zrobienie zrzutu ekranu, który pokazuje błąd Outlook, i przesłanie go do agenta. Teraz agent (1) korzysta z pamięci instytucjonalnej, aby zrozumieć Twoje środowisko pracy; (2) sprawdza historię działań w celu znalezienia powiązanych incydentów; i (3) wykorzystuje ocenę opartą na kontekście, aby znaleźć konkretne rozwiązanie, a nie tylko ogólną odpowiedź.

Wynikiem jest inteligentny agent, który nie musi zgadywać odpowiedzi na podstawie zrzutu ekranu. Teraz rzeczywiście bada sytuację, patrzy na wszystkie informacje, które są dostępne, i dostarcza bardziej przydatną odpowiedź. Agent mógłby nawet rozszerzyć się na efekt sieci lub roju, patrząc na innych użytkowników w systemie, aby zobaczyć, czy problem z Outlook jest tylko Twoim problemem, czy problemem przedsiębiorstwa.

To osadzenie historii lub pamięci w kontekście robi różnicę. Jeśli nie wybierasz i nie porządkujesz swojej pamięci skutecznie, zostaniesz w tyle za tymi, którzy to robią. Ważne jest, aby mieć architekturę, która wie, jak zarządzać tymi danymi w czasie i rozumie, co przechowywać, co wyświetlać, a co puścić.

Z powrotem do podróży

Więc, jak mój planista podróży AI zmienił moje spojrzenie na AI w IT przedsiębiorstwa?

Zbudowałem aplikację, która działała jako nasz osobisty konsjerż podróżny i zaczęła od przeprowadzenia „wywiadu” z każdym uczestnikiem. Wszyscy wyjaśniliśmy, co było dla nas ważne w tej podróży: co było konieczne, a co mogliśmy pominąć. Co więcej, zapytała nas o nasze „dlaczego” — dlaczego coś było dla nas ważne, co to dla nas znaczyło.

Używając tych informacji, zrobiła dwie rzeczy. Po pierwsze, opracowała zrównoważony plan podróży, w którym każdy znalazł coś dla siebie — wszyscy widzieliśmy w nim odzwierciedlenie własnych pragnień i preferencji.

Ale, oczywiście, ten pierwszy plan podróży był tylko szkicem. Było jeszcze wiele pytań wymagających odpowiedzi.

I to był moment, kiedy nastąpiła prawdziwa magia. Zapytaliśmy agenta o hotel lub atrakcję lub jazdę, a odpowiedzi, które dał nam, były wzbogacone kontekstem naszej unikalnej sytuacji: „To byłaby długa jazda dla dzieci, ale mój teść pokochałby zamek (i unikalną kawiarnię obok) — i to mogłoby być idealne miejsce dla mojej żony, aby dostać masaż.”

Dzięki tak głębokiemu zrozumieniu tego, co było dla nas ważne, aplikacja mogła pomóc nam zaplanować i udoskonalić naszą podróż w sposób, który moim zdaniem nie byłby możliwy przy użyciu żadnej innej metody.

I to było w jednym z tych pierwszych momentów, kiedy zrozumiałem, co musimy zbudować dla naszych klientów korporacyjnych: inteligentne systemy, które były tak obciążone kontekstem organizacyjnym, transakcyjnym i osobistym, że każda odpowiedź i każda interakcja byłyby jak odcisk palca: całkowicie unikalne dla tego momentu i interakcji, aby dostarczyć rodzaj wartości, który po prostu nie mógłby się wydarzyć w żaden inny sposób.