Kuinka suuret kielimallit (LLM) voimaavat tulevaisuuden sovellukset

Generatiivinen tekoäly ja erityisesti kielen maku – ChatGPT on joka paikassa. Suurten kielimallien (LLM) teknologia tulee olemaan merkittävässä roolissa tulevaisuuden sovellusten kehittämisessä. LLM:t ovat hyviä ymmärtämään kieltä laajan esikoulutuksen ansiosta, joka on tehty perusmalleille julkisessa tekstidomeenissa, mukaan lukien koodi. Menetelmät kuten valvottu hienosäätö ja vahvistettu oppiminen ihmisten palautteen (RLHF) kanssa tekevät näistä LLM:istä entistä tehokkaampia vastaamaan tiettyihin kysymyksiin ja keskustelemaan käyttäjien kanssa. Kun siirrymme seuraavaan vaiheeseen AI-sovelluksiin, jotka perustuvat LLM:ihin, seuraavat avainkomponentit tulevat olemaan ratkaisevia näille seuraaville sovelluksille. Alla oleva kuva näyttää tämän etenemisen, ja kun siirrymme ylöspäin ketjussa, rakennamme enemmän älykkyyttä ja autonomiaa sovelluksiimme. Tarkastellaan näitä eri tasoja.

LLM-kutsut:

Nämä ovat suoria kutsuja täydennys- tai keskustelumalleihin LLM-toimittajan kautta, kuten Azure OpenAI tai Google PaLM tai Amazon Bedrock. Nämä kutsut ovat hyvin peruspromptteja ja käyttävät pääasiassa LLM:n sisäistä muistia tuottamaan tuloksen.

Esimerkki: Kysymällä perusmallilta “kerro vitsi”. Antaa hyvin vähän kontekstia ja malli luottaa sisäiseen esikoulutettuun muistiin tuloksen tuottamiseen (korostettu vihreällä alla olevassa kuvassa – käyttäen Azure OpenAI:ta).

Promptit:

Seuraava älykkyystaso on lisäämällä yhä enemmän kontekstia prompoteihin. On olemassa tekniikoita prompTIen suunnittelussa, joita voidaan soveltaa LLM:ihin, jotta ne antaisivat räätälöityjä vastauksia. Esimerkiksi, kun luodaan sähköposti käyttäjälle, voidaan käyttää joitain kontekstia käyttäjästä, aiemmista ostoista ja käyttäytymismalleista promppina räätälöidä sähköpostia. Käyttäjät, jotka ovat tuttuja ChatGPT:stä, tietävät eri menetelmiä promppien antamiseen, kuten esimerkkejä, joita LLM käyttää vastauksen rakentamiseen. Promptit täydentävät LLM:n sisäistä muistia lisäämällä kontekstia. Esimerkki alla.

Upottamiset:

Upottamiset vievät promptit seuraavalle tasolle etsimällä tietokannasta kontekstia ja liittämällä sen promppiin. Tässä ensimmäinen askel on luoda suuri asiakirja-arkisto, joka on hakukoneen avulla etsittävissä, ja täyttää vektorigraafisen tietokannan. Tähän käytetään upottamismallia, kuten ‘ada’ OpenAI:sta, joka ottaa tekstinpätkän ja muuttaa sen n-uloitteiseksi vektoriksi. Nämä upottamiset sieppaavat tekstin kontekstin, joten samankaltaiset lauseet ovat lähellä toisiaan vektoriavaruudessa. Kun käyttäjä syöttää kysymyksen, se muunnetaan myös upottamiseksi ja se verrataan tietokannan vektoreihin. Näin saadaan 5-10 parasta vastaavaa tekstinpätkää kysymykselle, jotka muodostavat kontekstin. Kysymys ja konteksti välitetään LLM:lle vastaamaan kysymykseen ihmismaisella tavalla.

Ketjut:

Ketjut ovat tällä hetkellä kehittynein ja kypsyin teknologia, jota käytetään laajasti LLM-sovellusten rakentamiseen. Ketjut ovat deterministisiä, jossa LLM-kutsujen sarja on yhdistetty toisiinsa, jolloin tulokset virtaavat yhdestä LLM:stä toiseen. Esimerkiksi voimme käyttää LLM-kutsua kysymään SQL-tietokannasta asiakaslistaa ja lähettää sen toiselle LLM:lle, joka luo räätälöidyt sähköpostit asiakkaille. Nämä LLM-ketjut voidaan integroida olemassa oleviin sovellusvirroksiin tuottamaan arvokkaampia tuloksia. Käyttämällä ketjuja voidaan lisätä LLM-kutsuihin ulkoisia syöteitä, kuten API-kutsuja ja tietograafien integrointia, jotta voidaan antaa kontekstia. Lisäksi, koska on useita LLM-toimittajia, kuten OpenAI, AWS Bedrock, Google PaLM, MosaicML jne., voidaan sekoittaa ja yhdistää LLM-kutsuja ketjuiksi. Ketjujen osille, joilla on rajoitettu älykkyys, voidaan käyttää alempaa LLM:ää, kuten ‘gpt3.5-turbo’, kun taas edistyneemmille tehtäville voidaan käyttää ‘gpt4’:ää. Ketjut tarjoavat abstraktion datalle, sovelluksille ja LLM-kutsuille.

Agentit:

Agentit ovat aiheena monissa verkossa käydyissä keskusteluissa, erityisesti suhteessa tekoälyyn (AGI). Agentit käyttävät edistynyttä LLM:ää, kuten ‘gpt4’ tai ‘PaLM2’, suunnittelemaan tehtäviä sen sijaan, että ne olisivat ennalta määritettyjä ketjuja. Kun on käyttäjän pyynnöt, agentti päättää, mitä tehtäviä kutsua ja rakentaa dynaamisesti ketjun. Esimerkiksi, kun konfiguroidaan agentti komennolla “ilmoita asiakkaille, kun lainojen korko muuttuu hallituksen sääntelyn vuoksi”. Agenttirunko tekee LLM-kutsun päättääkseen, mitä askelia tehdä tai mitä ketjua rakentaa. Tässä se kutsuu sovelluksen, joka etsii sääntelysivustoja ja poimii uusimman korkotason, sitten LLM-kutsu etsii tietokannasta asiakaslistan, joka on vaikuttunut, ja lopulta luodaan sähköposti ilmoittamaan kaikille.

Lopputunnustelut

LLM on nopeasti kehittyvä teknologia, ja parempia malleja ja sovelluksia julkaistaan joka viikko. LLM:stä agentteihin on älykkyyden portaat, ja kun siirrymme ylöspäin, rakennamme monimutkaisia autonomisia sovelluksia. Paremmat mallit tarkoittavat tehokkaampia agenteja, ja seuraavat sukupolven sovellukset perustuvat niihin. Aika näyttää, kuinka edistyneitä seuraavat sukupolven sovellukset tulevat olemaan ja mitä malleja ne perustuvat.