Ajatusjohtajat
Miten suuret kielimallit (LLM) mahdollistavat tulevaisuuden sovellukset

Keskeiset kohdatAgentit käyttävät kehittyneitä LLM-malleja kuten GPT-4 tehtävien dynaamiseen…
Näytä lisää
- Agentit käyttävät kehittyneitä LLM-malleja kuten GPT-4 tehtävien dynaamiseen suunnitteluun ja ketjujen autonomiseen rakentamiseen.
- Ketjut yhdistävät useita LLM-kutsuja ulkoiseen dataan luodakseen deterministisiä sovellusworkflowja.
- Embeddaukset mahdollistavat LLM-mallien vastaamiseen kyselyihin käyttämällä vektoritietokannoista haettua kontekstia.
Generatiivinen tekoäly ja erityisesti kieleen keskittyvä muoto – ChatGPT on joka paikassa. Suurten kielimallien (LLM) teknologia tulee olemaan merkittävässä roolissa tulevaisuuden sovellusten kehittämisessä. LLM:t ovat hyviä ymmärtämään kieltä laajan esikoulutuksen ansiosta, joka on tehty perusmalleille biljoonilla riveillä julkista tekstiä, mukaan lukien koodi. Menetelmät kuten valvottu hienosäätö ja ihmispalautteeseen perustuva vahvistusoppiminen (RLHF) tekevät näistä LLM:istä entistä tehokkaampia vastaamaan tiettyihin kysymyksiin ja keskustelemaan käyttäjien kanssa. Kun siirrymme seuraavaan vaiheeseen AI-sovelluksiin, jotka perustuvat LLM:ihin, seuraavat avainkomponentit tulevat olemaan ratkaisevia näille seuraaville sovelluksille. Alla oleva kuva näyttää tämän etenemisen, ja kun siirrymme ylöspäin ketjussa, rakennamme enemmän älykkyyttä ja autonomiaa sovelluksiimme. Tarkastellaan näitä eri tasoja.

LLM-kutsut:
Nämä ovat suoria kutsuja täydennys- tai keskustelumalleihin LLM-toimittajan kautta, kuten Azure OpenAI tai Google PaLM tai Amazon Bedrock. Nämä kutsut ovat hyvin peruspromptteja ja käyttävät pääasiassa LLM:n sisäistä muistia tuottamaan tuloksen.
Esimerkki: Perusmallilta, kuten text-davincilta, voi pyytää: “Kerro vitsi”. Annat hyvin vähän kontekstia ja malli luottaa sisäiseen esikoulutettuun muistiin tuloksen tuottamiseen (korostettu vihreällä alla olevassa kuvassa – käyttäen Azure OpenAI:ta).

Promptit:
Seuraava älykkyystaso on lisäämällä yhä enemmän kontekstia prompoteihin. On olemassa tekniikoita promptien suunnittelussa, joita voidaan soveltaa LLM:ihin, jotta ne antaisivat räätälöityjä vastauksia. Esimerkiksi, kun luodaan sähköposti käyttäjälle, voidaan käyttää joitain kontekstia käyttäjästä, aiemmista ostoista ja käyttäytymismalleista promppina räätälöidä sähköpostia. Käyttäjät, jotka ovat tuttuja ChatGPT:stä, tietävät eri menetelmiä promppien antamiseen, kuten esimerkkejä, joita LLM käyttää vastauksen rakentamiseen. Promptit täydentävät LLM:n sisäistä muistia lisäämällä kontekstia. Esimerkki alla.

Upottamiset:
Upottamiset vievät promptit seuraavalle tasolle etsimällä tietokannasta kontekstia ja liittämällä sen promppiin. Tässä ensimmäinen askel on luoda suuri asiakirja-arkisto, joka on hakukoneen avulla etsittävissä, ja täyttää vektoritietokannan. Tähän käytetään upottamismallia, kuten ‘ada’ OpenAI:sta, joka ottaa tekstinpätkän ja muuttaa sen n-ulotteiseksi vektoriksi. Nämä upottamiset sieppaavat tekstin kontekstin, joten samankaltaiset lauseet ovat lähellä toisiaan vektoriavaruudessa. Kun käyttäjä syöttää kysymyksen, se muunnetaan myös upottamiseksi ja se verrataan tietokannan vektoreihin. Näin saadaan 5-10 parasta vastaavaa tekstinpätkää kysymykselle, jotka muodostavat kontekstin. Kysymys ja konteksti välitetään LLM:lle vastaamaan kysymykseen ihmismaisella tavalla.
Ketjut:
Ketjut ovat tällä hetkellä kehittynein ja kypsyin teknologia, jota käytetään laajasti LLM-sovellusten rakentamiseen. Ketjut ovat deterministisiä, jossa LLM-kutsujen sarja on yhdistetty toisiinsa, jolloin tulokset virtaavat yhdestä LLM:stä toiseen. Esimerkiksi voimme käyttää LLM-kutsua kysymään SQL-tietokannasta asiakaslistaa ja lähettää sen toiselle LLM:lle, joka luo räätälöidyt sähköpostit asiakkaille. Nämä LLM-ketjut voidaan integroida olemassa oleviin sovellusvirroksiin tuottamaan arvokkaampia tuloksia. Käyttämällä ketjuja voidaan lisätä LLM-kutsuihin ulkoisia syöteitä, kuten API-kutsuja ja tietograafien integrointia, jotta voidaan antaa kontekstia. Lisäksi, koska on useita LLM-toimittajia, kuten OpenAI, AWS Bedrock, Google PaLM, MosaicML jne., voidaan sekoittaa ja yhdistää LLM-kutsuja ketjuiksi. Ketjujen osille, joilla on rajoitettu älykkyys, voidaan käyttää alempaa LLM:ää, kuten ‘gpt3.5-turbo’, kun taas edistyneemmille tehtäville voidaan käyttää ‘gpt4’:ää. Ketjut tarjoavat abstraktion datalle, sovelluksille ja LLM-kutsuille.
Agentit:
Agentit ovat aiheena monissa verkossa käydyissä keskusteluissa, erityisesti suhteessa yleiseen tekoälyyn (AGI). Agentit käyttävät edistynyttä LLM:ää, kuten ‘gpt4’ tai ‘PaLM2’, suunnittelemaan tehtäviä sen sijaan, että ne olisivat ennalta määritettyjä ketjuja. Kun on käyttäjän pyynnöt, agentti päättää, mitä tehtäviä kutsua ja rakentaa dynaamisesti ketjun. Esimerkiksi, kun konfiguroidaan agentti komennolla “ilmoita asiakkaille, kun lainan vuotuinen korkoprosentti (APR) muuttuu hallituksen sääntelyn vuoksi”. Agenttirunko tekee LLM-kutsun päättääkseen, mitä askelia tehdä tai mitä ketjua rakentaa. Tässä se kutsuu sovelluksen, joka etsii sääntelysivustoja ja poimii uusimman korkotason, sitten LLM-kutsu etsii tietokannasta niiden asiakkaiden sähköpostiosoitteet, joihin muutos vaikuttaa, ja lopulta luodaan sähköposti ilmoittamaan kaikille.
Lopuksi
LLM on nopeasti kehittyvä teknologia, ja parempia malleja ja sovelluksia julkaistaan joka viikko. LLM:stä agentteihin on älykkyyden portaat, ja kun siirrymme ylöspäin, rakennamme monimutkaisia autonomisia sovelluksia. Paremmat mallit tarkoittavat tehokkaampia agenteja, ja seuraavat sukupolven sovellukset perustuvat niihin. Aika näyttää, kuinka edistyneitä seuraavat sukupolven sovellukset tulevat olemaan ja millaisiin toimintamalleihin ne perustuvat.





![AI-generated image (GPT-2 + Photoshop [non-AI]) - a maintenance worker scrapes the word 'Relations' from the frosted glass door of an office labeled 'Human Relations', above newly painted 'Employee Relations', while an HR manager points toward a partially obscured seated industrial robot inside. A yellow-and-black border reads 'AI FANTASY INSIDE' and 'REALITY OUTSIDE'.](https://www.unite.ai/wp-content/uploads/2026/07/handbook-MAIN-400x240.jpg)
![AI-generated image (GPT-2 + Photoshop [non-AI]) - a maintenance worker scrapes the word 'Relations' from the frosted glass door of an office labeled 'Human Relations', above newly painted 'Employee Relations', while an HR manager points toward a partially obscured seated industrial robot inside. A yellow-and-black border reads 'AI FANTASY INSIDE' and 'REALITY OUTSIDE'.](https://www.unite.ai/wp-content/uploads/2026/07/handbook-MAIN-80x80.jpg)





