Kehotesuunnittelu ChatGPT:ssä

ChatGPT on saanut paljon huomiota AI-piirissä sen julkaisun jälkeen, kerätessään yli 100 miljoonaa käyttäjää ennätyksellisessä ajassa. ChatGPT:n vaikuttavan suorituskyvyn ja monipuolisuuden salaisuus piilee hienovaraisesti sen ohjelmoinnissa olevassa taidossa eli kehotesuunnittelussa.

DALL-E, MidJourney ja StableDiffusion korostivat generatiivisen AI:n disruptoivan potentiaalin vuonna 2022. Mutta OpenAI:n ChatGPT oli se, joka todella otti keskeisen aseman myöhemmin vuonna 2022. Tämä momentum ei osoittanut hidastuvan merkkejä.

Google ilmoitti Bardista ja Meta vastasi Open AI:n ChatGPT:hen Llama 2:lla, mikä on merkittävästi lisännyt tekoälykilvan vauhtia. Antamalla näille malleille syötteitä, ohjaamme niiden käyttäytymistä ja vastauksia. Tämä tekee meistä kaikista tietynlaisia kehotesuunnittelijoita. Teknologiayritykset ovat ottaneet tämän huomioon. Venture-pääomasijoittajat ovat sijoittaneet varoja kehotesuunnitteluun keskittyviin startup-yrityksiin, kuten Vellum AI:hin. Lisäksi Forbes raportoi, että kehotesuunnittelijat ansaitsevat palkkoja, jotka ylittävät 300 000 dollaria, mikä osoittaa elinvoimaista ja arvokasta työmarkkinaa.

Tässä artikkelissa selvitämme kehotesuunnittelun maailmaa ChatGPT:n yhteydessä. Tutkimme sen keskeisiä periaatteita ja tekniikoita ja tarkastelemme niiden kaupallisia sovelluksia.

Tutkitaan ensin, miten ChatGPT toimii ja mikä keskeinen rooli kehotesuunnittelulla on tässä prosessissa.

ChatGPT:n kehotesuunnittelun taustalla oleva toiminta

ChatGPT:n menestyksen salaisuus on sen kyky ymmärtää ja jäljitellä ihmisen keskustelun nuansseja. Malli on koulutettu monipuoliseen internet-tekstiin, mutta se ei tiedä tiettyjä asiakirjoja tai lähteitä koulutusjoukossaan, mikä lähdetekstin mukaan varmistaa yleistämisen yksittäisiin lähteisiin keskittymisen sijaan. Tämä koulutuslähestymistapa mahdollistaa ChatGPT:lle luovan vastausten generoimisen, monimutkaisten dialogien navigoinnin ja jopa huumorin osoittamisen. On kuitenkin tärkeää muistaa, että ChatGPT ei todella ymmärrä tai omista uskomuksia; se generoi vastauksia pohjautuen malleihin, joita se on oppinut koulutuksen aikana.

ChatGPT:n kyky ymmärtää ja vastata ihmisen kieleen hienovaraisesti ja kontekstuaalisesti tekee siitä erittäin monikäyttöisen työkalun.

Näiden mallien mekaniikka perustuu “tokeneihin” – erillisiin kielen palasiin, jotka voivat olla yksittäisiä merkkejä tai kokonaisia sanoja. Nämä mallit toimivat tietyn määrän tokenien kanssa kerran (4096 GPT-3.5-Turbo tai 8192 tai 32768 GPT-4), ennustamalla seuraavan tokenien järjestyksen. Mallit käsittelevät tokenit monimutkaisen lineaarisen algebran avulla, ennustamalla todennäköisimmän seuraavan tokenin.

Esimerkiksi yksinkertainen yhdeksän sanan lause voi muuttua kymmeneksi tokeniksi. Jopa yksittäinen monimutkainen sana voi muuttua useaksi tokeniksi, mikä auttaa mallia ymmärtämään ja generoida kieltä paremmin. Jopa kielillä, joilla on monimutkaiset sanarakenteet, kuten saksalla, hallitaan tokenisoinnin kautta.

GPT (Generative Pre-trained Transformer) -mallit toimivat generoimalla yhden tokenin kerrallaan, aloittaen ensimmäisestä tokenista ja jatkuvaan viimeiseen asti. Jokaisen tokenin generoimisen jälkeen malli käy koko järjestyksen läpi uudelleen ja prosessoi sen uudelleen generoidakseen seuraavan tokenin. Tämä iteraatioprosessi jatkuu, kunnes viimeinen tokeni on generoitu, mikä tekee tekstin generoimisesta prosessin, joka on samanlainen kuin suuri for-silmukka.

Mutta tässä on koukku – näiden vastausten laatu riippuu suurelta osin syötteenä annetuista kehotteista. Ihmisen kanssa käytävän keskustelun ohjaaminen vaatii tietyn tason taitoa ja ymmärrystä. Tässä kehotesuunnittelu tulee kuvaan.

Mitä kehotesuunnittelu on?

Kehotesuunnittelu on taito laatia täsmällisiä ja tehokkaita kehotteita tai syötteitä, jotka ohjaavat ChatGPT:n kaltaisia tekoälymalleja (luonnollisen kielen käsittely ja konenäkö) tuottamaan mahdollisimman kustannustehokkaita, tarkkoja, hyödyllisiä ja turvallisia tuloksia.

Kehotesuunnittelu ei rajoitu vain tekstin generointiin, vaan sillä on laajat sovellukset koko AI-alalla. Se on yhä enenevissä määrin käytössä alueilla, kuten robotti-prosessiautomaatiobotit, 3D-resurssit, käsikirjoitukset, robotti-ohjeet ja muut tyypit sisältöä ja digitaalista mediaa. Se yhdistää ainutlaatuisella tavalla logiikkaa, koodausta, taidetta ja joissakin tapauksissa erityisiä määritteitä.

Kehote voi sisältää luonnollista kieltä, kuvia tai muuntyyppistä syötedataa. Tulokset voivat kuitenkin vaihdella huomattavasti tekoälypalvelusta ja työkalusta toiseen. Kullakin työkalulla on omat erityiset määritteensä, jotka kuvaavat sanojen painotuksia, tyylejä, näkökulmia, asettelua tai muita halutun vastauksen ominaisuuksia.

Kehotesuunnittelu on välttämätöntä luodaksesi parempia AI-pohjaisia palveluita ja saadaksesi parempia tuloksia olemassa olevista generatiivisista AI-työkaluista. Esimerkiksi yrityskehittäjät käyttävät usein kehotesuunnittelua sovittaakseen suuria kielimalleja, kuten GPT-3, asiakasrajapinnassa toimivan chatbotin pohjaksi tai tehtäviin, kuten luodakseen alan mukaisia sopimuksia.

Tämä iteraatioprosessi kehotteen hienosäätöä ja AI-suorituskyvyn mittaamista on avainelementti, joka mahdollistaa AI-mallien generoimisen erittäin kohdennettuja, hyödyllisiä vastauksia erilaisissa konteksteissa.

Miten tulla kehotesuunnittelijaksi?

GPT-4-mallin kyky ymmärtää monimutkaiset ohjeet ja ratkaista tarkasti monimutkaisia ongelmia tekee siitä arvokkaan resurssin. On kuitenkin eri tapoja päästä käsiksi tähän mallin kykyihin, ja ymmärtäminen näistä on tärkeää kehotesuunnittelijan roolissa optimoidaksesi sekä tehokkuutta että kustannustehokkuutta.

On käytännössä kaksi tapaa käyttää GPT-malleja, kuten GPT-4. Yksi tapa on Open AI:n kautta, jossa kustannukset lasketaan syöte- ja tulostetokenien mukaan. Tässä skenaariossa kustannukset 1 000 tokenia kohti voivat vaihdella kontekstin koosta riippuen. Esimerkiksi suuremmassa 32K-kontekstissa kustannus voi nousta 0,06 dollariin syötetokeneille ja 0,12 dollariin tulostetokeneille. Näin ollen, kun käsitellään suurta määrää pyynnöitä, käytön kustannukset voivat kertyä nopeasti.

Toisaalta ChatGPT, joka hyödyntää GPT-4-mallia, toimii tilauspohjaisella mallilla.

Kehotesuunnittelun toinen tärkeä tehtävä on mallin parametrin säätö. Tämä prosessi käsittää muuttujien säätämistä, joita malli käyttää ennusteiden tekemiseen. Säätämällä näitä parametreja kehotesuunnittelijat voivat parantaa mallin vastausten laatua ja tarkkuutta, tehdäkseen ne kontekstuaalisesti relevantimmiksi ja hyödyllisimmiksi.

Vaikka monet kehotesuunnittelijat tulevat teknologiataustasta, alan monitieteinen luonne tekee siitä saatavilla henkilöille erilaisista ammatillista taustoista. Kasvava määrä kirjailijoita, tutkijoita ja jopa taiteilijoita hyödyntää ainutlaatuisia taitojaan parantamaan AI-mallien tehokkuutta. Tämä muutos heijastuu myös työmarkkinoilla, jossa kasvava määrä yrityksiä etsii kehotesuunnittelijoita, joilla on monipuolinen taitojen ja taustojen kirjo.

Kehotteiden suunnittelu ja kehotesuunnittelu ChatGPT:ssä

Kehotteiden suunnittelu ja kehotesuunnittelu ovat kriittisiä kielimallien suorituskyvyn optimoinnissa ja ne vaativat enemmän kuin vain kysymyksen muodostamista; ne edellyttävät syvää ymmärrystä AI-mallista ja pitkälle iteratiivista ja hiottua lähestymistapaa.

Kehotteen suunnittelu

Kehotteen suunnittelu on pohjimmiltaan taitoa ja tiedettä, jossa laaditaan ChatGPT:n kaltaiselle suurelle kielimallille ihanteellinen kehote selkeästi määritellyn tavoitteen saavuttamiseksi. Se on sekoitus:

• Ymmärrystä LLM:stä: Erilaiset kielimallit voivat reagoida eri tavoilla samaan kehotteeseen. Lisäksi tietyt kielimallit voivat olla erityisiä avainsanoja tai laukaisimia, joita ne tulkkaavat tietyllä tavalla.
• Alan tietämys: Asiantuntemus relevantissa alalla on olennaista kehotteen suunnittelussa. Esimerkiksi kehotteen luominen, joka johtaa lääketieteelliseen diagnoosiin, vaatii lääketieteellistä tietämystä.
• Iteratiivinen lähestymistapa ja laadun mittaaminen: Kehotteen luomisprosessi usein sisältää koetta ja virhettä. Siksi on tärkeää olla tapa arvioida tulosteen laatua pelkän subjektiivisen arvion lisäksi, erityisesti kun käytetään kehotetta laajemmassa mittakaavassa.

Kehotesuunnittelu

Kehotesuunnittelu on laajempi alue kehotteen suunnittelua, joka sisältää useita kriittisiä prosesseja:

• Kehotteiden suunnittelu suuressa mittakaavassa: Tämä prosessi sisältää metakehotteiden suunnittelun (kehote, joka luo muita kehotteita) ja kehotemallien suunnittelun, jotka ovat parametrillisia kehotteita, jotka voidaan toteuttaa suorittamisen aikana.
• Työkalujen suunnittelu ja integrointi: Kehote voi joskus sisältää ulkoisten työkalujen tuloksia, ja näiden työkalujen sulauttaminen järjestelmään on tärkeää.
• Työnkulun suunnittelu, kehotteiden hallinta: LLM-sovelluksen käyttöönotto, kuten chatbotti, usein edellyttää kehotekirjastojen hallintaa, oikean kehotteen valintaa ja eri työkalujen tehokasta integrointia.
• Kehotteiden arviointi ja laadunvarmistus: Tämä osa sisältää metriikkojen ja prosessien määrittelyn kehotteiden arvioimiseksi sekä automaattisesti että ihmisten osallistumisella.
• Kehotteen optimointi: AI-mallin kustannukset ja viive voivat riippua mallin valinnasta ja kehotteen pituudesta (tokenien määrä).

Monet automaattiset kehotteen suunnittelumenetelmät, työkalut ja kehykset on kehitetty hallinnoimaan kehotteita suuressa mittakaavassa. On kuitenkin tärkeää ymmärtää, että mikään näistä työkaluista ei voi korvata kokeneen kehotesuunnittelijan hienovaraista ymmärrystä, harkintaa ja kokemusta.

Kehotesuunnittelu: Tekniikat ja parhaat käytännöt

1) Kehotteen sijoittaminen ja kuvaus

Ohjeiden sijoittaminen kehotteen alkuun voi vaikuttaa merkittävästi AI:n ymmärtämiseen ja vastaukseen. Kuvitellaan tehtävää, jossa tiivistetään teksti luettelopisteenä tärkeimmistä kohdista. Vähemmän tehokas lähestymistapa voisi olla:

Käyttäjä: Tiivistä teksti alla olevana luettelopisteenä tärkeimmistä kohdista.
{sisältö tähän}

Toisaalta tehokkaampi tekniikka voisi olla:

Käyttäjä: Tiivistä teksti alla olevana luettelopisteenä tärkeimmistä kohdista.
Teksti: “””
{sisältö tähän}
“””

Erottamalla selkeästi ohjeet ja konteksti symboleilla, kuten ### tai “””, AI-malli voi paremmin erottaa tehtävänsä ja tekstin, jota se tarvitsee prosessoida, antaen tarkemmat ja relevantimmat vastaukset.

Toiseksi, olemalla tarkka, kuvaava ja yksityiskohtainen kontekstista, odotetusta tuloksesta, pituudesta, muodosta, tyylistä jne., voidaan parantaa merkittävästi AI-vastausten tarkkuutta. Oletetaan, että haluat tuottaa tieteellisestä artikkelista lyhyen, kiinnostavan ja maallikolle ymmärrettävän yhteenvedon. Epämääräinen ohje ”Tiivistä tieteellinen artikkeli” tuottaisi heikomman tuloksen kuin täsmällinen ja yksityiskohtainen kehote:

Käyttäjä: Generoi lyhyt (n. 200 sanaa) mielenkiintoinen yhteenveto seuraavasta tieteellisestä artikkelista. Yhteenveto on ymmärrettävissä henkilölle, jolla ei ole tieteellistä taustaa, ja se heijastaa artikkelin keskeisiä löytöjä.
Artikkeli: “””
{tieteellinen artikkeli tähän}
“””

2) Henkilöhahmo-malli

Henkilöhahmo-malli on strategia, joka asettaa AI:n toimimaan tietyn persoonan, kuten ammattiroolin tai kuvitteellisen hahmon, näkökulmasta. Tämä taktiikka mahdollistaa mallille antaa ulostuloja, jotka liittyvät tietyn roolin tehtäviin, joita henkilöhahmo hoitaisi. Esimerkiksi voitaisiin ohjeistaa AI toimimaan kyberturvallisuuden asiantuntijana koodin tarkastelun aikana. Tämä malli on erityisen hyödyllinen, kun käyttäjillä on apua tarve, mutta he eivät ole varmoja tarkasta yksityiskohdasta, jota he tarvitsevat tuloksesta.

Oletetaan esimerkki:

Käyttäjä: “Omaksu Ranskan vallankumoukseen erikoistuneen kokeneen historioitsijan rooli. Tässä roolissa selitä avain tapahtumat ja syyt, jotka johtivat Ranskan monarkian tuhoon.”

Tässä skenaariossa AI odotetaan vastaavan syvällisellä analyysillä Ranskan vallankumouksesta, keskittyen monarkian tuhoon, kuten historioitsija tekisi.

Uuden tiedon esittäminen

ChatGPT ei omista tietoa koulutuksensa jälkeisistä tapahtumista, eikä se voi antaa tietoa viimeaikaisista päivityksistä. Kuitenkin voit esittää uuden tiedon mallille kehotteen kautta.

Käyttäjä: “Mikä on kryptovaluutta?”
ChatGPT: “Kryptovaluutta on tyyppi digitaalista tai virtuaalista rahaa, joka käyttää salakirjoitusta turvallisuuden vuoksi. Tunnetuin kryptovaluutta on Bitcoin.”

Nyt, jos lisäämme kehotteeseen hieman enemmän kontekstia, voimme tehdä selityksestä vielä intuitiivisemman:

Käyttäjä: “Selitä kryptovaluutan käsite lukio-opiskelijalle, joka opiskelee digitaalista taloutta”
ChatGPT: “Kuvittele, että pelaat verkkopeliä ja sinulla on pelirahaa, jonka voit käyttää hahmojen tai uusien ominaisuuksien ostamiseen. Kryptovaluutta on jonkinlainen vastaava, mutta sen sijaan, että se on rajoitettu peliin, voit käyttää sitä oikean maailman tuotteiden ja palveluiden ostamiseen. Se on digitaaliraha, jota ei hallinnoi pankki tai hallitus.”

3) Kehotteen kokorajoitukset

Ymmärtäminen ChatGPT:n koko rajoituksesta on olennaista, koska se vaikuttaa suoraan syötteen ja tulosteen määrään. Kielimallit eivät ole suunniteltu käsittelemään rajattomia määriä tietoa kerran. Niillä on sisäänrakennettu rajoitus kehotteen koosta, jonka voimme luoda ja syöttää. Tämä rajoitus vaikuttaa kehotteen suunnittelun ja toteutuksen suunnitteluun.

Lähdeteksti ilmoittaa ChatGPT:n tokenrajaksi yleensä 2048 tokenia, joka sisältää sekä kehotteen että generoidun tuloksen. Tämä tarkoittaa, että pitkät kehotteet voivat rajoittaa tuloksen pituutta. Siksi on tärkeää pitää kehotteet lyhyinä ja informatiivisina.

Käytännössä meidän on toimittava kuin toimittajat, valitsemalla valikoivasti tärkeintä tietoa tehtävään. Kuvittele, että kirjoitat artikkelin tai tutkielman, jossa on sana- tai sivurajoitus – et voi vain dumpata satunnaisia faktoja, vaan valitset ja rakentelet tietoa aiheeseen liittyvänä.

Käyttäjä: “Anna yhteenveto toisen maailmansodan tärkeimmistä tapahtumista alle 1000 sanan mittaiseksi.”

Tunnustamalla mallin tokenin rajoitukset, tämä kehote ohjaa AI:ta antamaan yhteenveto toisen maailmansodan tiivistettynä ja kattavasti.

Toistuvat kehotteet: Keskustelutilanteessa voit uudelleen käyttää kehotteita tai hienosäätää niitä edellisten vastausten perusteella. Tämä antaa keskustelun virtauksen ja ylläpitää kontekstia vuorovaikutuksessa.

4) Kysymyksen hienosäätömalli

ChatGPT voi myös auttaa kysymyksen hienosäätössä. Esimerkiksi, jos kysyt kysymyksen, se voi ehdottaa paremmin muotoiltua kysymystä tarkempien tuloksien saamiseksi.

Kysymyksen hienosäätömalli käsittää LLM:n, joka hienosäätää käyttäjän kysymyksiä. Se on erityisen hyödyllinen, kun käyttäjät eivät ole asiantuntijoita aihealueella tai ovat epävarmoja siitä, miten muotoilla kysymyksensä.

Esimerkkikehote voisi näyttää tältä:

Käyttäjä: “Kun kysyn datatiedettä koskevan kysymyksen, ehdota minulle paremmin muotoiltua kysymystä, joka ottaa huomioon tilastollisen analyysin yksityiskohdat, ja kysy, haluanko jatkaa hienosäätetyn kysymyksen kanssa.”

Tässä AI odotetaan hienosäätävän käyttäjän yleisiä data-analyysikysymyksiä tarkempiin kysymyksiin, jotka ottaa huomioon tilastollisen analyysin yksityiskohdat.

5) Kognitiivinen verifikaattorimalli

Kognitiivinen verifikaattorimalli jakaa monimutkaiset kysymykset pienempiin, hallitettaviin alakysymyksiin. Nämä alakysymysten vastaukset yhdistetään antamaan kattava vastaus pääkysymykseen. Tämä lähestymistapa on hyödyllinen, kun alkuperäiset kysymykset ovat liian yleisiä tai kun tarvitaan lisää selkeyttä antaaksesi täydellisen vastauksen.

Esimerkiksi:

Käyttäjä: “Jos kysyn kysymyksen ilmastonmuutoksesta, jaa se kolmeen pienempään kysymykseen, jotka auttavat minua antamaan tarkemman vastauksen. Yhdistä näiden alakysymysten vastaukset antaaksesi lopullisen vastauksen.”

Tässä AI jakaa monimutkaisen kysymyksen ilmastonmuutoksesta kolmeen hallittavaan alakysymykseen. Saatuaan vastaukset näihin alakysymyksiin, AI yhdistää ne antaakseen kattavan ja tarkan vastauksen.

Tämä malli käsittää useiden kysymysten generoimisen saadaksesi lopullisen vastauksen. Se on prosessi verifikaatiota ja tietojen konsolidointia vahvan lopullisen tuloksen saamiseksi.

6) Muutamaan esimerkkiin perustuva kehottaminen

Muutamaan esimerkkiin perustuva kehottaminen on voimakas lähestymistapa, jolla voidaan opettaa AI-malleja seuraamaan tiettyjä malleja tai suorittamaan tehtäviä. Ideana on syöttää malliin useita esimerkkejä ennen kuin kysytään haluttu kysymys. Tämä auttaa asettamaan toivottua käyttäytymistä ja ohjaa mallin vastauksia.

Oletetaan skenaariota, jossa käyttäjä yrittää luoda lyhyen, mielenkiintoisen markkinointitekstin uudelle teknologiajärjestelmälle:

Käyttäjä: “Tässä on esimerkkejä teknologiajärjestelmien markkinointitekstejä: ‘Koe musiikki aivan uudella tavalla huippuluokan langattomilla kuulokkeillamme.’ ‘Vangitse maailmaasi upeassa 4K-laadussa meidän ultra-sleekin toimintakameralla.’ Anna markkinointiteksti meidän uudelle AI-pohjaiselle älykellolemme.”

ChatGPT: “Anna arjellesi lisää voimaa tekoälyä hyödyntävällä älykellollamme, joka tukee terveyttäsi, yhteydenpitoasi ja tuottavuuttasi.” Muutamaan esimerkkiin perustuvan kehottamisen huomattava ominaisuus on, että se ei edellytä yksityiskohtaista selitystä tehtävän suorittamiseksi. Sen sijaan se edellyttää esimerkkejä siitä, mitä tehdään, mikä tekee siitä hyvän sovelluksen moniin sovelluksiin.

Lisäksi tämä tekniikka laajenee yksinkertaisen syöte-vastaus-parin yli. Malli voidaan opettaa käsittelemään välivaiheita tavoitteen saavuttamiseksi.

7) Ketjuajattelumalli

Viimeaikaisessa tutkimusartikkelissaan ”Chain-of-Thought Prompting Elicits Reasoning in Large Language Models” Jason Wei ja hänen tiiminsä pyrkivät herättämään päättelyä suurissa kielen malleissa. Sen sijaan, että käytettäisiin perinteisiä, suoria kehotteita, tiimi käyttää sarjaa toisiinsa liittyviä kehotteita, muodostamaan “ketjuajattelun”.

Esimerkiksi, jos käyttäjä on kiinnostunut tekoälyn vaikutuksista työmarkkinoihin:

Käyttäjä: “Voitko selittää lyhyesti, mitä tekoäly on?”

ChatGPT: “Tekoäly, tai AI, viittaa koneen kykyyn jäljitellä älykästä ihmisen käyttäytymistä. Se on suunniteltu koneiden, jotka voivat ajatella ja oppia ihmisten tavoin, mahdollistaen tehtäviä, kuten kielien kääntämistä, päätöksentekoa ja ongelmanratkaisua, muun muassa.”

Käyttäjä: “Miten tekoäly vaikuttaa nykyiseen työmarkkinaan?”

ChatGPT: “Tekoäly luo uusia työpaikkoja ja muuttaa olemassa olevien työpaikkojen luonnetta. Toisaalta se automatisoi rutiininomaiset tehtävät, johtaa työpaikkojen menetykseen tiettyjen alojen osalta. Toisaalta se luo uusia työpaikkoja, joita ei aiemmin ollut olemassa, kuten tekoälyn eettiset virkamiehet, data-analyytikot ja koneoppimisen insinöörit. Lisäksi tekoäly voi täydentää ihmisten rooleja, mahdollistaen heidän suorittaa tehtäviä tehokkaammin ja tarkemmin.”

Ketjuajattelumalli seuraa sarjaa liittyviä kehotteita, joka muodostaa “keskustelun” mallin kanssa, joka ohjaa sitä tarkempiin ja kontekstuaalisesti soveltuvampiin vastauksiin.

ChatGPT:n API ja kehotesuunnittelu kehittäjän näkökulmasta

Kehittäjän tai tutkijan näkökulmasta kehotesuunnittelu on monimutkaisempi prosessi. Se käsittää algoritmien ja tekniikoiden suunnittelun, jotta AI-malli voisi ymmärtää ja vastata kehotteisiin tehokkaammin. Tämä voi sisältää strategioita epäselvien kehotteiden käsittelyyn, kehotteiden kontekstin tunnistamiseen tai kehotteiden ketjutus, jotta herätetään monimutkaisempia ajatteluprosesseja AI:ssa.

Yllä olevassa kuvassa käyttäjä vuorovaikuttaa chat-liittymän kanssa, jota ohjaa GPT-4. Käyttäjän syöte parannetaan selkeyden ja kontekstuaalisen johdonmukaisuuden vuoksi erityisellä moduulilla ennen kuin se syötetään AI-malliin. Tämän moduulin rooli on parantaa ja yksilöidä käyttäjän syötettä paremman ymmärtämisen ja kontekstin ylläpitämisen vuoksi. AI-mallin vastaus, joka on muodostettu parannetusta kehotteesta, palautetaan käyttäjälle chat-liittymän kautta. Vuorovaikutuksen historia päivitetään jatkuvasti, ylläpitäen keskustelun kontekstia. Kokonaisuudessaan tämä kaavio havainnollistaa dynaamisen käyttäjä-AI-keskustelun, jonka kehotesuunnittelun tekniikat mahdollistavat.

ChatGPT API:n liittymä on suunniteltu useilla hyperparametreillä, jotka antavat käyttäjille mahdollisuuden hienosäätää tekoälyn vastauksia kehotteisiin tehokkaammiksi ja monipuolisemmiksi. Nämä sisältävät lämpötila-, enimmäispituus-, stop-merkkijonot-, Top P-, taajuusrangaistus- ja läsnäoloparametrit. Tutkitaan, miten ne toimivat ja miten niitä voidaan soveltaa eri konteksteissa.

1) Lämpötila

Lämpötilaparametri vaikuttaa AI-vastausten satunnaisuuteen. Korkeampi lämpötila, kuten 1,0, rohkaisee enemmän satunnaisia tuloksia, johtaa monipuolisiin mutta mahdollisesti aiheeseen liittymättömiin vastauksiin. Toisaalta alempi lämpötila, kuten 0,2, ohjaa AI:ta valitsemaan enemmän deterministisiä vastauksia, jotka ovat hyödyllisiä keskittyneille ja tarkoille tuloksille, mutta ne voivat puuttua monipuolisuudesta.

Esimerkki: Jos kirjoitat luovan tarinan ja haluat ennalta arvaamattomia, mielikuvituksellisia elementtejä, aseta lämpötila korkeaksi arvoon. Kehote voisi olla: “Kirjoita lyhyt tarina aikamatkustavasta kissasta.” Korkealla lämpötilalla saat ehkä villin, fantastisen tarinan, jossa on ennalta arvaamattomia käänteitä.

2) Enimmäispituus

Tämä parametri hallitsee mallin tulosteen tokenmäärän enimmäispituutta; lähdeteksti sisällyttää tähän sekä syöte- että tulostetokenit. Korkeamman rajan asettaminen sallii pitemmät vastaukset, kun taas matalampi raja pitää tuloksen lyhyenä ja konsiisena.

Esimerkki: Lyhyille vastauksille triviaalikysymyksiin, kuten “Kuka voitti Nobelin kirjallisuuspalkinnon vuonna 2020?”, haluat ehkä asettaa enimmäispituuden matalaksi arvoon, varmistaaksesi, että vastaus on konsiinen ja suora.

3) Stop-merkkijonot

Stop-merkkijonot ovat tiettyjä teksti merkkijonoja, joissa malli lopettaa tulosteen generoimisen, kun se kohtaa ne. Tämä ominaisuus voi olla hyödyllinen tulosteen pituuden hallinnassa tai ohjeistaa mallia lopettamaan loogisissa päätepisteissä.

Esimerkki: Muodollisessa kirjeessä voit käyttää “Ystävällisin” stop-merkkijonona, jotta AI ei generoi lisää tekstiä kirjeen lopetuksen jälkeen.

4) Top P

Top P -parametri, myös tunnettu ydinotantana, on menetelmä, joka tarjoaa dynaamisen valinnan sanojen määrästä, jotka otetaan huomioon kussakin ennusteen vaiheessa. Alempi arvo, kuten 0,5, johtaa turvallisempiin, keskittyneempiin tuloksiin. Korkeampi arvo, kuten 0,9, sisältää laajemman sanavalikoiman, johtaa monipuolisempiin tuloksiin.

Esimerkki: Jos luot AI:ta kirjoittamaan runoja ja haluat, että se käyttää laajaa sanastoa ja tyyliin liittyviä fraaseja, voit asettaa Top P -arvon korkeaksi. Kehote voisi olla: “Kirjoita runo syksyn kauneudesta.”

5) Taajuusrangaistus

Lähdetekstin mukaan taajuusrangaistus ohjaa, kuinka paljon malli suosii vähemmän yleisiä sanoja. Korkeampi rangaistus (jopa 1) rohkaisee mallia käyttämään vähemmän yleisiä sanoja, kun taas matalampi arvo (alas -1) suosii yleisempiä sanoja.

Esimerkki: Jos generoit liiketoimintasuunnitelman ja haluat välttää jargonia, voit asettaa taajuusrangaistuksen matalaksi arvoon, pitääksesi kielen selkeänä ja helposti ymmärrettävänä.

6) Läsnäoloparametri

Lähdetekstin mukaan läsnäoloparametri vaikuttaa, kuinka paljon mallia rangaistaan uusien ideoiden tai aiheiden generoimisesta, jotka eivät ole olleet aiemmin keskusteluhistoriassa. Korkeammat arvot ohjeistavat mallia pitämään kiinni aiemmin mainituista aiheista, kun taas matalammat arvot antavat mallille enemmän vapautta esittää uusia konsepteja.

Esimerkki: Ideointitilanteissa voit asettaa läsnäoloparametrin matalaksi arvoon, rohkaistaaksesi monipuolista ideoita. Voit käyttää kehotetta, kuten “Luo innovatiivisia markkinointistrategioita verkkokoulutus-alustalle.”

Teollisuuden sovellukset kehotteen insinööreille