Mahdollisuuksien ja haasteiden koodaus LLM-agenteille generatiivisessa tekoälyssä

Näemme generatiivisen tekoälyn sovellusten kehittymistä suurten kielen mallien (LLM) avulla alkaen vihjeistä ja jatkuen hakijajärjestelmien kanssa ja edelleen agenteihin. Agenteista keskustellaan paljon teollisuuden ja tutkimuksen piirissä, lähinnä siksi, että tämä teknologia antaa mahdollisuuden muuttaa yrityssovelluksia ja tarjota parempia asiakaskokemuksia. On olemassa yleisiä malleja agenttien luomiseen, jotka mahdollistavat ensiaskeleet kohti tekoälyä (AGI).

Aikaisemmassa artikkelissani, näimme älymäisen portaan, joka koostuu suurten kielen mallien avulla tehtyjen sovellusten malleista. Aloittaen vihjeillä, jotka sisältävät ongelman luonteen ja käyttävät LLM:n sisäistä muistia tulosten luomiseen. RAG: n kanssa me parannamme vihjettä ulkoisella tiedolla, jota haetaan vektorigraafisesta tietokannasta tulosten ohjaamiseksi. Seuraavaksi ketjuamalla LLM-kutsuja voimme luoda työvirran, jotta voidaan toteuttaa monimutkaisia sovelluksia. Agentit vievät tämän seuraavalle tasolle automaattisesti määrittelemällä, miten nämä LLM-ketjut on muodostettu. Tarkastellaan tätä yksityiskohtaisemmin.

Agentit – Moottorin alla

Avainmalli agenteille on, että ne käyttävät LLM:n kielen ymmärtämismahdollisuuksia suunnitelman luomiseen ongelman ratkaisemiseksi. LLM ymmärtää ongelman ja antaa meille sarjan askelia ongelman ratkaisemiseksi. Mutta se ei päätty siihen. Agentit eivät ole pelkästään tuki, joka antaa suosituksia ongelman ratkaisemiseksi ja sitten siirtää vastuun teille. Agentit ovat valtuutettu työkaluilla, jotka sallivat heidän toteuttaa toiminnan. Pelottavaa, eikö?

Jos kysymme agentilta perus kysymyksen, kuten:

Ihminen: Mikä yritys keksijä perusti puhelimen?

Seuraavassa on esimerkki siitä, miten agentti voi ajatella.

Agentti (AJATTELU):

• Ajatus: Minun on etsittävä puhelimen keksijä.
• Toiminto: Hae [puhelimen keksijä]
• Havainto: Alexander Graham Bell
• Ajatus: Minun on etsittävä yritys, jonka Alexander Graham Bell perusti
• Toiminto: Hae [yritys, jonka Alexander Graham Bell perusti]
• Havainto: Alexander Graham Bell perusti yhdessä American Telephone and Telegraph Company (AT&T): n vuonna 1885
• Ajatus: Olen löytänyt vastauksen. Palautan sen.

Agentti (VASTAUS): Alexander Graham Bell perusti AT&T: n vuonna 1885

Voit nähdä, että agentti seuraa järjestelmällistä tapaa, jossa ongelma jaetaan aliongelmiin, joita voidaan ratkaista erityisillä toimilla. Toimet tässä suositellaan LLM: llä, ja voimme kytkeä nämä toimet tiettyihin työkaluihin. Voisimme ottaa käyttöön hakutyökalun agentille, jotta kun se tajuaa, että LLM on antanut haun toimintona, se kutsuu tätä työkalua parametreilla, jotka LLM on antanut. Haku tässä on internetissä, mutta se voidaan myös ohjata hakemaan sisäistä tietokantaa, kuten vektorigraafista tietokantaa. Järjestelmästä tulee itsestään riippuvainen ja se voi ratkaista monimutkaisia ongelmia seuraamalla sarjaa askelia. Kehykset, kuten LangChain ja LLaMAIndex, antavat meille helpon tavan rakentaa nämä agentit ja kytkeä ne työkaluihin ja API: iin. Amazon on vastikään lanseerannut Bedrock Agents -kehyksensä, joka tarjoaa visuaalisen käyttöliittymän agenttien suunnittelua varten.

Moottorin alla agentit seuraavat erityistä tyyliä lähettääksesi LLM: lle vihjeitä, jotka saavat aikaan toimintasuunnitelman. Yllä mainittu Ajatus-Toiminto-Havainto -malli on suosittu agenteissa, jotka ovat ReAct (Reasoning and Acting) -tyyppisiä. Muita agenttityyppejä ovat MRKL ja Plan & Execute, jotka eroavat lähinnä vihjeiden tyylissä.

Monimutkaisemmissa agenteissa toimet voivat liittyä työkaluihin, jotka aiheuttavat muutoksia lähdejärjestelmissä. Esimerkiksi voisimme kytkeä agentin työkaluun, joka tarkistaa lomarahaa ja hakee lomaa ERP-järjestelmästä työntekijälle. Nyt voisimme rakentaa mukavan chatbotin, joka vuorovaikuttaa käyttäjien kanssa ja soittaa lomaa järjestelmään yhden chat-komennon avulla. Ei enää monimutkaisia näyttöjä loman hakemiseksi, vaan yksinkertainen yhdistetty chat-liittymä. Kuulostaa jännittävältä!

Vaara ja tarve vastuullisesta tekoälystä

Mitä jos meillä on työkalu, joka kutsuu transaktioita osakekaupassa ennalta määritellyn API: n avulla? Rakennamme sovelluksen, jossa agentti tutkii osakekurssien muutoksia (työkalujen avulla) ja tekee päätöksiä osakkeiden osto- ja myyntiohjeista. Mitä jos agentti myy väärän osakkeen, koska se harhautuu ja tekee väärän päätöksen? Koska LLM:t ovat suuria malleja, on vaikea kertoa, miksi ne tekevät joitain päätöksiä, joten harhautuminen on yleistä ilman asianmukaisia varotoimia.

Vaikka agentit ovat kaikki mielenkiintoisia, olet luultavasti arvannut, kuinka vaarallisia ne voivat olla. Jos ne harhautuvat ja tekevät väärän toiminnan, se voi aiheuttaa suuria taloudellisia tappioita tai suuria ongelmia yritysjärjestelmissä. Siksi Vastuullinen tekoäly on tärkeässä asemassa LLM-pohjaisissa sovelluksissa. Vastuullisen tekoälyn periaatteet, kuten toistettavuus, avoimuus ja vastuu, pyrkivät asettamaan rajoituksia agenttien tekemiin päätöksiin ja ehdottavat riskianalyysiä, jotta voidaan päättää, mitkä toimet vaativat ihmisen osallistumista. Mitä monimutkaisempia agenteja suunnitellaan, niitä tarvitaan tarkemmin, avoimemmin ja vastuullisemmin, jotta voidaan varmistaa, että tiedetään, mitä he tekevät.

Lopputajat

Agenttien kyky luoda looginen polku toimilla saa heidät hyvin lähelle ihmisen päättelyä. Antamalla heille voimakkaampia työkaluja voidaan antaa heille supervoimia. Mallit, kuten ReAct, pyrkivät jäljittelemään, miten ihmiset ratkaisevat ongelmia, ja näemme parempia agenttimalleja, jotka ovat relevantteja tiettyihin konteksteihin ja aloihin (pankki, vakuutus, terveydenhuolto, teollisuus jne.). Tulevaisuus on täällä, ja agenttien takana oleva teknologia on valmis meidän käyttöömme. Samalla meidän on pidettävä huolta Vastuullisen tekoälyn varotoimista, jotta voidaan varmistaa, ettei meidän ole rakennettu Skynet: iä!