Decodificare delle Opportunità e delle Sfide per gli Agenti LLM nell’Intelligenza Artificiale Generativa

Stiamo assistendo a una progressione di applicazioni di Intelligenza Artificiale Generativa alimentate da modelli linguistici di grandi dimensioni (LLM) dai prompt alla generazione aumentata di recupero (RAG) agli agenti. Gli agenti sono molto discussi nei circoli industriali e di ricerca, soprattutto per il potere che questa tecnologia fornisce per trasformare le applicazioni aziendali e offrire esperienze clienti superiori. Esistono modelli comuni per la costruzione di agenti che consentono i primi passi verso l’intelligenza artificiale generale (AGI).

Nel mio precedente articolo, abbiamo visto una scala di intelligenza di modelli per la costruzione di applicazioni alimentate da LLM. Iniziando con i prompt che catturano il dominio del problema e utilizzano la memoria interna di LLM per generare l’output. Con RAG, aumentiamo il prompt con conoscenze esterne ricercate da un database vettoriale per controllare gli output. Successivamente, concatenando le chiamate a LLM, possiamo costruire flussi di lavoro per realizzare applicazioni complesse. Gli agenti portano questo a un livello successivo auto-determinando come queste catene LLM debbano essere formate. Vediamo nel dettaglio.

Agenti – Sotto il cofano

Un modello chiave con gli agenti è che utilizzano il potere di comprensione linguistica di LLM per pianificare come risolvere un problema dato. LLM comprende il problema e ci fornisce una sequenza di passaggi per risolvere il problema. Tuttavia, non si ferma lì. Gli agenti non sono un puro sistema di supporto che fornirà raccomandazioni sulla risoluzione del problema e poi passerà il testimone a noi per eseguire i passaggi raccomandati. Gli agenti sono dotati di strumenti per andare avanti ed eseguire l’azione. Spaventoso, vero!?

Se chiediamo a un agente una domanda basilare come questa:

Umano: Quale azienda ha fondato l’inventore del telefono?

Di seguito è riportato un esempio di passaggi di pensiero che un agente potrebbe eseguire.

Agente (PENSANDO):

• Pensiero: Devo cercare l’inventore del telefono.
• Azione: Cerca [inventore del telefono]
• Osservazione: Alexander Graham Bell
• Pensiero: Devo cercare un’azienda fondata da Alexander Graham Bell
• Azione: Cerca [azienda fondata da Alexander Graham Bell]
• Osservazione: Alexander Graham Bell ha cofondato la American Telephone and Telegraph Company (AT&T) nel 1885
• Pensiero: Ho trovato la risposta. La restituirò.

Agente (RISPOSTA): Alexander Graham Bell ha cofondato AT&T nel 1885

Si può vedere che l’agente segue un metodo sistematico per scomporre il problema in sottoproblemi che possono essere risolti eseguendo azioni specifiche. Le azioni qui sono raccomandate da LLM e possiamo mapparle su strumenti specifici per implementare queste azioni. Potremmo abilitare uno strumento di ricerca per l’agente in modo che, quando si rende conto che LLM ha fornito la ricerca come azione, chiami questo strumento con i parametri forniti da LLM. La ricerca qui è su Internet, ma potrebbe essere reindirizzata per cercare una base di conoscenze interna come un database vettoriale. Il sistema ora diventa autosufficiente e può capire come risolvere problemi complessi seguendo una serie di passaggi. Framework come LangChain e LLaMAIndex forniscono un modo semplice per costruire questi agenti e connettersi a strumenti e API. Amazon ha recentemente lanciato il suo framework Bedrock Agents, che fornisce un’interfaccia visiva per la progettazione degli agenti.

Sotto il cofano, gli agenti seguono uno stile speciale di invio di prompt a LLM che li fanno generare un piano di azione. Il modello di pensiero-azione-osservazione sopra è popolare in un tipo di agente chiamato ReAct (Ragionamento e Azione). Altri tipi di agenti includono MRKL e Plan & Execute, che differiscono principalmente nello stile di prompt.

Per agenti più complessi, le azioni possono essere legate a strumenti che causano modifiche in sistemi di origine. Ad esempio, potremmo connettere l’agente a uno strumento che controlla il saldo delle vacanze e richiede un congedo in un sistema ERP per un dipendente. Ora potremmo costruire un bel chatbot che interagisce con gli utenti e, tramite un comando di chat, richiede un congedo nel sistema. Niente più schermi complessi per richiedere congedi, un’interfaccia di chat unificata e semplice. Sembra emozionante!?

Caveats e necessità di Intelligenza Artificiale Responsabile

E se abbiamo uno strumento che invoca transazioni su azioni utilizzando un’API pre-autorizzata? Costruiamo un’applicazione in cui l’agente studia i cambiamenti azionari (utilizzando strumenti) e prende decisioni per noi sull’acquisto e sulla vendita di azioni. E se l’agente vende l’azione sbagliata perché ha allucinato e preso una decisione errata? Poiché LLM sono modelli enormi, è difficile capire perché prendono alcune decisioni, quindi le allucinazioni sono comuni in assenza di adeguate barriere di sicurezza.

Mentre gli agenti sono affascinanti, probabilmente avrete capito quanto possano essere pericolosi. Se allucinano e prendono un’azione errata, potrebbero causare enormi perdite finanziarie o problemi significativi nei sistemi aziendali. Pertanto, l’Intelligenza Artificiale Responsabile sta diventando di importanza fondamentale nell’era delle applicazioni alimentate da LLM. I principi di Intelligenza Artificiale Responsabile sulla riproducibilità, trasparenza e responsabilità cercano di porre barriere di sicurezza alle decisioni prese dagli agenti e suggeriscono un’analisi dei rischi per decidere quali azioni richiedono un intervento umano. Man mano che vengono progettati agenti più complessi, richiedono maggiore scrutinio, trasparenza e responsabilità per assicurarsi di sapere cosa stanno facendo.

Pensieri finali

La capacità degli agenti di generare un percorso di passaggi logici con azioni li avvicina molto al ragionamento umano. Dotarli di strumenti più potenti può dar loro superpoteri. Modelli come ReAct cercano di emulare come gli esseri umani risolvono i problemi e vedremo migliori modelli di agenti che saranno rilevanti per contesti e domini specifici (banca, assicurazione, sanità, industria, ecc.). Il futuro è qui e la tecnologia dietro gli agenti è pronta per noi. Allo stesso tempo, dobbiamo mantenere una stretta attenzione alle barriere di sicurezza dell’Intelligenza Artificiale Responsabile per assicurarci di non costruire Skynet!