Rozszyfrowywanie możliwości i wyzwań dla agentów LLM w generatywnej sztucznej inteligencji

Obserwujemy postęp aplikacji Generatywnej Sztucznej Inteligencji napędzanych przez duże modele językowe (LLM) od prompty do retrieval augmented generation (RAG) do agentów. Agenci są szeroko dyskutowani w branży i kręgach badawczych, głównie ze względu na moc, jaką ta technologia daje do transformacji aplikacji przedsiębiorstw i zapewnienia lepszych doświadczeń klientów. Istnieją powszechne wzorce budowy agentów, które umożliwiają pierwsze kroki w kierunku ogólnej sztucznej inteligencji (AGI).

W moim poprzednim artykule, zobaczyliśmy drabinę inteligencji wzorców budowy aplikacji opartych na LLM. Zaczynając od prompty, które ujmują problem i wykorzystują pamięć wewnętrzną LLM do generowania wyjścia. Z RAG, uzupełniamy prompty o zewnętrzną wiedzę wyszukiwaną z bazy danych wektorowej, aby kontrolować wyjścia. Następnie, łącząc wywołania LLM, możemy budować przepływy pracy, aby zrealizować złożone aplikacje. Agenci przenoszą to na wyższy poziom, automatycznie określając, jak te łańcuchy LLM mają być tworzone. Zobaczmy to szczegółowo.

Agenci – pod maską

Kluczowy wzorzec w przypadku agentów polega na tym, że wykorzystują one moc zrozumienia języka LLM, aby utworzyć plan rozwiązania danego problemu. LLM rozumie problem i daje nam sekwencję kroków, aby rozwiązać problem. Jednak nie kończy się to tam. Agenci nie są czystym systemem wsparcia, który zapewni nam rekomendacje dotyczące rozwiązania problemu, a następnie przekaże pałeczkę nam, abyśmy podjęli zalecane kroki. Agenci są wyposażeni w narzędzia, które pozwalają im wykonać akcję. Strasznie, prawda?!

Jeśli zapytamy agenta o podstawowe pytanie, takie jak:

Człowiek: Która firma została założona przez wynalazcę telefonu?

Poniżej znajduje się próbka myślowych kroków, które agent może podjąć.

Agent (MYŚLENIE):

• Myśl: Muszę wyszukać wynalazcę telefonu.
• Akcja: Wyszukaj [wynalazca telefonu]
• Obserwacja: Alexander Graham Bell
• Myśl: Muszę wyszukać firmę założoną przez Alexandra Grahama Bella
• Akcja: Wyszukaj [firma założona przez Alexandra Grahama Bella]
• Obserwacja: Alexander Graham Bell założył American Telephone and Telegraph Company (AT&T) w 1885 roku
• Myśl: Znalazłem odpowiedź. Zwrócę ją.

Agent (ODPOWIEDŹ): Alexander Graham Bell założył AT&T w 1885 roku

Można zobaczyć, że agent podąża metodyczną drogą rozkładania problemu na podproblemy, które można rozwiązać, podejmując określone akcje. Akcje te są rekomendowane przez LLM, a my możemy je mapować na określone narzędzia, aby je zaimplementować. Moglibyśmy włączyć narzędzie wyszukiwania dla agenta, tak aby gdy zorientuje się, że LLM zaproponował wyszukiwanie jako akcję, wywoła to narzędzie z parametrami podanymi przez LLM. Wyszukiwanie tutaj odbywa się w Internecie, ale może być również przekierowane do wyszukiwania wewnętrznej bazy wiedzy, takiej jak baza danych wektorowej. System staje się samowystarczalny i może samodzielnie rozwiązywać złożone problemy, wykonując szereg kroków. Ramy takie jak LangChain i LLaMAIndex dają nam łatwy sposób budowy tych agentów i łączenia ich z narzędziami i API. Amazon niedawno uruchomił swój framework Bedrock Agents, który zapewnia interfejs wizualny do projektowania agentów.

Pod maską agenci stosują specjalny styl wysyłania prompty do LLM, co powoduje, że generują one plan akcji. Powyższy wzorzec Myśl-Akcja-Obserwacja jest popularny w typie agenta zwanym ReAct (Reasoning and Acting). Inne typy agentów obejmują MRKL i Plan & Execute, które głównie różnią się stylem prompty.

Dla bardziej złożonych agentów akcje mogą być związane z narzędziami, które powodują zmiany w systemach źródłowych. Na przykład, moglibyśmy połączyć agenta z narzędziem, które sprawdza saldo urlopu i składa wniosek o urlop w systemie ERP dla pracownika. Teraz moglibyśmy zbudować ładny chatbota, który będzie wchodził w interakcje z użytkownikami i za pomocą polecenia czatu składał wniosek o urlop w systemie. Nie ma już skomplikowanych ekranów do składania wniosków o urlop, a jedynie prosty, zunifikowany interfejs czatu. Brzmi to ekscytująco!?

Ostrzeżenia i potrzeba odpowiedzialnej sztucznej inteligencji

A co, jeśli mamy narzędzie, które wywołuje transakcje na rynku akcji przy użyciu preautoryzowanego API? Budujemy aplikację, w której agent studiuje zmiany akcji (za pomocą narzędzi) i podejmuje decyzje o kupnie i sprzedaży akcji. Co, jeśli agent sprzeda niewłaściwą akcję, ponieważ urojenie i podjął błędną decyzję? Ponieważ LLM są ogromnymi modelami, trudno jest określić, dlaczego podejmują pewne decyzje, stąd urojenia są powszechne w przypadku braku odpowiednich barier ochronnych.

Chociaż agenci są fascynujący, prawdopodobnie już zgadliście, jak niebezpieczni mogą być. Jeśli uroją i podejmą błędną akcję, która może spowodować ogromne straty finansowe lub poważne problemy w systemach przedsiębiorstw. Stąd odpowiedzialna sztuczna inteligencja staje się coraz bardziej istotna w erze aplikacji napędzanych przez LLM. Zasady odpowiedzialnej sztucznej inteligencji dotyczące odtwarzalności, przejrzystości i odpowiedzialności starają się ustawić bariery ochronne na decyzjach podejmowanych przez agenty i sugerują analizę ryzyka, aby określić, które akcje wymagają interwencji człowieka. Im bardziej złożone agenci są projektowani, tym więcej wymagają scrupulatności, przejrzystości i odpowiedzialności, aby upewnić się, że wiemy, co robią.

Końcowe myśli

Możliwość agentów generowania ścieżki logicznych kroków z akcjami zbliża ich bardzo do ludzkiego rozumowania. Wyposażenie ich w jeszcze potężniejsze narzędzia może dać im supermoce. Wzorce takie jak ReAct starają się emulować, jak ludzie rozwiązują problemy, i zobaczymy lepsze wzorce agentów, które będą istotne w określonych kontekstach i dziedzinach (bankowości, ubezpieczeń, opieki zdrowotnej, przemysłu itd.). Przyszłość jest już tutaj, a technologia za agentami jest gotowa do użycia. Jednocześnie musimy zachować bliską uwagę na bariery ochronne odpowiedzialnej sztucznej inteligencji, aby upewnić się, że nie budujemy Skynetu!