Decodificarea oportunităților și provocărilor pentru agenții LLM în Inteligența Artificială Generativă

Vedem o evoluție a aplicațiilor de Inteligență Artificială Generativă, alimentate de modele de limbaj mare (LLM), de la prompturi la generare augmentată de recuperare (RAG) și până la agenți. Agenții sunt discutați intens în cercurile industriale și de cercetare, în principal datorită puterii pe care o oferă această tehnologie pentru a transforma aplicațiile pentru întreprinderi și a oferi experiențe superioare pentru clienți. Există modele comune pentru crearea de agenți care permit primii pași către inteligența artificială generală (AGI).

În articolul meu anterior articol, am văzut o scară de inteligență a modelelor pentru crearea de aplicații alimentate de LLM. Începând cu prompturi care captează domeniul problemei și folosesc memoria internă a LLM pentru a genera ieșire. Cu RAG, îmbunătățim promptul cu cunoștințe externe căutate dintr-o bază de date vectorială pentru a controla ieșirile. Următorul, prin înlănțuirea apelurilor LLM, putem crea fluxuri de lucru pentru a realiza aplicații complexe. Agenții duc acest lucru la un nivel superior, determinând în mod automat cum sunt create aceste lanțuri LLM. Să aruncăm o privire în detaliu.

Agenți – Sub capotă

Un model cheie pentru agenți este acela că folosesc puterea de înțelegere a limbajului LLM pentru a face un plan despre cum să rezolve o problemă dată. LLM înțelege problema și ne oferă o secvență de pași pentru a rezolva problema. Cu toate acestea, nu se oprește aici. Agenții nu sunt doar un sistem de suport care vă oferă recomandări pentru a rezolva problema și apoi vă lasă să urmați pașii recomandați. Agenții sunt echipați cu instrumente pentru a trece la acțiune. Înfricoșător, nu-i așa!?

Dacă îi punem agenților o întrebare simplă, de genul:

Om: Care a fost compania fondată de inventatorul telefonului?

Următorul este un exemplu de pași de gândire pe care agenții i-ar putea urma.

Agenții (GÂNDIRE):

• Gândire: Trebuie să caut inventatorul telefonului.
• Acțiune: Caută [inventatorul telefonului]
• Observație: Alexander Graham Bell
• Gândire: Trebuie să caut o companie fondată de Alexander Graham Bell
• Acțiune: Caută [companie fondată de Alexander Graham Bell]
• Observație: Alexander Graham Bell a fondat compania American Telephone and Telegraph Company (AT&T) în 1885
• Gândire: Am găsit răspunsul. Îl voi returna.

Agenții (RĂSPUNS): Alexander Graham Bell a fondat AT&T (T ) în 1885

Puteți vedea că agenții urmează o metodă metodică de a descompune problema în subprobleme care pot fi rezolvate prin acțiuni specifice. Acțiunile aici sunt recomandate de LLM, și putem mapa aceste acțiuni la instrumente specifice pentru a le implementa. Am putea activa un instrument de căutare pentru agenți, astfel încât atunci când realizează că LLM a oferit căutarea ca acțiune, va apela acest instrument cu parametrii oferiți de LLM. Căutarea aici se face pe internet, dar poate fi redirecționată pentru a căuta o bază de cunoștințe internă, cum ar fi o bază de date vectorială. Sistemul devine astfel autosuficient și poate determina cum să rezolve probleme complexe, urmând o serie de pași. Cadre precum LangChain și LLaMAIndex oferă o modalitate ușoară de a crea astfel de agenți și de a conecta instrumente și API. Amazon (AMZN ) a lansat recent framework-ul Bedrock Agents, care oferă o interfață vizuală pentru proiectarea agenților.

Sub capotă, agenții urmează un model special de a trimite prompturi către LLM, care îi fac să genereze un plan de acțiune. Modelul gândire-acțiune-observație este popular într-un tip de agent numit ReAct (Raționament și Acțiune). Alte tipuri de agenți includ MRKL și Plan & Execute, care se deosebesc în principal prin stilul de promptare.

Pentru agenți mai complexi, acțiunile pot fi legate de instrumente care cauzează schimbări în sistemele sursă. De exemplu, am putea conecta agenții la un instrument care verifică soldul de vacanță și solicită concediu într-un sistem ERP pentru un angajat. Acum am putea crea un chatbot care interacționează cu utilizatorii și, prin intermediul unei comenzi de chat, solicită concediu în sistem. Niciun ecran complex pentru solicitarea de concediu, o interfață de chat unificată. Sună interesant!?

Rezerve și nevoia de Inteligență Artificială Responsabilă

Și ce se întâmplă dacă avem un instrument care invocă tranzacții de tranzacționare a acțiunilor, utilizând o API preautorizată? Construim o aplicație în care agenții studiază modificările acțiunilor (utilizând instrumente) și iau decizii pentru cumpărarea și vânzarea de acțiuni. Și ce se întâmplă dacă agenții vând acțiunile greșite, deoarece au halucinat și au luat o decizie greșită? Deoarece LLM sunt modele mari, este dificil să determinăm de ce iau anumite decizii, astfel încât halucinațiile sunt comune în absența unor garduri de protecție corespunzătoare.

În timp ce agenții sunt toți fascinanți, probabil ați ghicit deja cât de periculoși pot fi. Dacă halucinează și iau o acțiune greșită, care poate cauza pierderi financiare mari sau probleme majore în sistemele întreprinderilor. Prin urmare, Inteligența Artificială Responsabilă devine din ce în ce mai importantă în era aplicațiilor alimentate de LLM. Principiile Inteligenței Artificiale Responsabile, în jurul reproductibilității, transparenței și responsabilității, încearcă să pună garduri de protecție pe deciziile luate de agenți și sugerează analiza riscurilor pentru a decide care acțiuni necesită un om în buclă. Pe măsură ce se proiectează agenți mai complexi, aceștia necesită o atenție mai mare, transparență și responsabilitate pentru a ne asigura că știm ce fac.

Gânduri finale

Capacitatea agenților de a genera o cale de pași logici cu acțiuni îi apropie foarte mult de raționamentul uman. Împuternicindu-i cu instrumente și mai puternice, le pot oferi superputeri. Modele precum ReAct încearcă să emuleze modul în care oamenii rezolvă problemele, și vom vedea modele de agenți mai bune, care vor fi relevante pentru contexte și domenii specifice (bancare, asigurări, sănătate, industrial, etc.). Viitorul este aici, și tehnologia din spatele agenților este gata pentru a fi utilizată. În același timp, trebuie să ținem o atenție strânsă la gardurile de protecție ale Inteligenței Artificiale Responsabile, pentru a ne asigura că nu construim Skynet!