Decoding Opportunities en Uitdagingen voor LLM-Agents in Generatieve AI

We zien een vooruitgang van Generatieve AI-toepassingen die worden aangedreven door grote taalmodellen (LLM) van prompts tot retrieval augmented generation (RAG) tot agents. Agents worden zwaar besproken in de industrie en onderzoekskringen, voornamelijk vanwege de kracht die deze technologie biedt om Enterprise-toepassingen te transformeren en superieure klantervaringen te bieden. Er zijn gemeenschappelijke patronen voor het bouwen van agents die de eerste stappen mogelijk maken naar kunstmatige algemene intelligentie (AGI).

In mijn vorige artikel, hebben we een ladder van intelligentie van patronen voor het bouwen van LLM-gepowered toepassingen gezien. Beginnend met prompts die het probleemdomein vastleggen en het interne geheugen van LLM gebruiken om output te genereren. Met RAG voegen we de prompt toe met externe kennis die wordt gezocht uit een vectordatabase om de output te controleren. Vervolgens kunnen we door LLM-aanroepen te ketenen workflows bouwen om complexe toepassingen te realiseren. Agents brengen dit naar een hoger niveau door automatisch te bepalen hoe deze LLM-ketens moeten worden gevormd. Laten we hier dieper in duiken.

Agents – Onder de motorkap

Een belangrijk patroon met agents is dat ze de taalbegripskracht van LLM gebruiken om een plan te maken over hoe een bepaald probleem moet worden opgelost. LLM begrijpt het probleem en geeft ons een reeks stappen om het probleem op te lossen. Maar het stopt daar niet. Agents zijn geen puur ondersteuningsysteem dat aanbevelingen zal geven over het oplossen van het probleem en vervolgens de bal doorgeeft aan u om de aanbevolen stappen te nemen. Agents zijn uitgerust met hulpmiddelen om verder te gaan en actie te ondernemen. Angstaanjagend, nietwaar!?

Als we een agent een eenvoudige vraag stellen zoals:

Mens: Welk bedrijf is opgericht door de uitvinder van de telefoon?

Hieronder volgt een voorbeeld van de denkstappen die een agent kan nemen.

Agent (DENKEN):

• Gedachte: Ik moet zoeken naar de uitvinder van de telefoon.
• Actie: Zoeken [uitvinder van telefoon]
• Observatie: Alexander Graham Bell
• Gedachte: Ik moet zoeken naar een bedrijf dat is opgericht door Alexander Graham Bell
• Actie: Zoeken [bedrijf opgericht door Alexander Graham Bell]
• Observatie: Alexander Graham Bell was mede-oprichter van de American Telephone and Telegraph Company (AT&T) in 1885
• Gedachte: Ik heb het antwoord gevonden. Ik zal terugkeren.

Agent (ANTWOORD): Alexander Graham Bell was mede-oprichter van AT&T in 1885

U kunt zien dat de agent een methodische manier volgt om het probleem te splitsen in subproblemen die kunnen worden opgelost door specifieke acties te ondernemen. De acties hier worden aanbevolen door LLM en we kunnen deze koppelen aan specifieke hulpmiddelen om deze acties uit te voeren. We kunnen een zoekhulpmiddel inschakelen voor de agent, zodat wanneer het beseft dat LLM een zoekactie heeft aanbevolen, het dit hulpmiddel zal aanroepen met de parameters die zijn verstrekt door LLM. De zoekactie hier is op internet, maar kan ook worden omgeleid naar een interne kennisdatabase, zoals een vectordatabase. Het systeem wordt nu zelfstandig en kan complexe problemen oplossen door een reeks stappen te volgen. Kaders zoals LangChain en LLaMAIndex bieden een eenvoudige manier om deze agents te bouwen en te koppelen aan hulpmiddelen en API’s. Amazon heeft onlangs hun Bedrock Agents-kader gelanceerd, dat een visuele interface biedt voor het ontwerpen van agents.

Onder de motorkap volgen agents een speciale stijl van prompts naar LLM sturen, waardoor ze een actieplan genereren. Het bovenstaande patroon van Gedachte-Actie-Observatie is populair in een type agent genaamd ReAct (Redeneren en Handelen). Andere typen agents omvatten MRKL en Plan & Execute, die voornamelijk verschillen in hun promptstijl.

Voor meer complexe agents kunnen de acties worden gekoppeld aan hulpmiddelen die veranderingen veroorzaken in bron-systemen. Bijvoorbeeld, we kunnen de agent koppelen aan een hulpmiddel dat controleert op vakantie-saldo en verlof aanvraagt in een ERP-systeem voor een werknemer. Nu kunnen we een leuke chatbot bouwen die met gebruikers communiceert en via een chat-opdracht verlof aanvraagt in het systeem. Geen complexe schermen meer voor het aanvragen van verlof, een eenvoudige, uniforme chat-interface. Klinkt spannend!?

Voorzorgsmaatregelen en behoefte aan Verantwoorde AI

Wat als we een hulpmiddel hebben dat transacties activeert op aandelenhandel met een vooraf geautoriseerde API? U bouwt een toepassing waarin de agent koersveranderingen bestudeert (met hulpmiddelen) en beslissingen neemt over het kopen en verkopen van aandelen. Wat als de agent de verkeerde aandelen verkoopt omdat het hallucineert en een verkeerde beslissing neemt? Aangezien LLM enorme modellen zijn, is het moeilijk om te bepalen waarom ze sommige beslissingen nemen, vandaar dat hallucinaties veel voorkomen bij het ontbreken van adequate voorzorgsmaatregelen.

Terwijl agents fascinerend zijn, hebt u waarschijnlijk al geraden hoe gevaarlijk ze kunnen zijn. Als ze hallucineren en een verkeerde actie ondernemen, kunnen ze enorme financiële verliezen of grote problemen in Enterprise-systemen veroorzaken. Vandaar dat Verantwoorde AI van het grootste belang wordt in de tijd van LLM-gepowered toepassingen. De principes van Verantwoorde AI rondom reproduceerbaarheid, transparantie en verantwoordelijkheid proberen voorzorgsmaatregelen te nemen voor beslissingen die door agents worden genomen en suggereren risico-analyse om te bepalen welke acties een menselijke tussenkomst nodig hebben. Naarmate meer complexe agents worden ontworpen, hebben ze meer onderzoek, transparantie en verantwoordelijkheid nodig om ervoor te zorgen dat we weten wat ze doen.

Afsluitende gedachten

De mogelijkheid van agents om een logische reeks stappen met acties te genereren, brengt hen dicht bij menselijke redenering. Het uitrusten van agents met krachtigere hulpmiddelen kan hen superkrachten geven. Patronen zoals ReAct proberen de manier te imiteren waarop mensen problemen oplossen en we zullen betere agent-patronen zien die relevant zijn voor specifieke contexten en domeinen (banking, verzekeringen, gezondheidszorg, industriële, enz.). De toekomst is hier en de technologie achter agents is klaar voor ons om te gebruiken. Tegelijkertijd moeten we goede aandacht besteden aan de voorzorgsmaatregelen van Verantwoorde AI om ervoor te zorgen dat we geen Skynet bouwen!