Tärkeä opas nopeaan suunnitteluun ChatGPT:ssä

Sen perustamisen jälkeen, ChatGPT on tehnyt aaltoja tekoälyn alalla ja houkutellut yli 100 miljoonaa käyttäjää ennätysajassa. ChatGPT:n vaikuttavan suorituskyvyn ja monipuolisuuden salainen kastike piilee sen ohjelmoinnin hienovaraisesti kätketyssä taiteessa – nopeassa suunnittelussa.

Vuonna 2022 lanseeratut DALL-E, MidJourney ja StableDiffusion korostivat Generative AI:n häiritsevää potentiaalia. Mutta se oli Avaa AI's ChatGPT, joka todella nousi keskipisteeseen myöhemmin vuonna 2022. Eikä tämä vauhti osoittanut merkkejä hidastumisesta.

Googlen ilmoitus Bardista ja Meta's Lamma 2  vastaus OpenAI:n ChatGPT:hen on merkittävästi vahvistanut tekoälykilpailun vauhtia. Tarjoamalla näille malleille syötteitä ohjaamme niiden käyttäytymistä ja vastauksia. Tämä tekee meistä kaikista tietyssä määrin insinöörejä. Teknologiateollisuus on huomannut. Pääomasijoittajat kaatavat varoja startup-yrityksiin, jotka keskittyvät nopeaan suunnitteluun, kuten Vellum AI. Lisäksi Forbes raportoi, että insinöörit ohjaavat palkat yli 300,000 XNUMX dollariaosoitus kukoistavista ja arvokkaista työmarkkinoista.

Tässä artikkelissa selvitämme nopean suunnittelun maailman ChatGPT:n yhteydessä. Tutustumme ydinperiaatteisiin ja tekniikoihin sekä tutkimme niiden kaupallisia sovelluksia.

Ymmärrämme ensin, kuinka ChatGPT toimii ja mikä keskeinen rooli nopealla suunnittelulla on tässä prosessissa.

Mekaniikka ChatGPT:n nopean suunnittelun takana

ChatGPT:n menestyksen salainen kastike on sen kyky ymmärtää ja jäljitellä ihmisten keskustelun vivahteita. Malli on koulutettu monenlaiseen Internet-tekstiin, mutta mikä tärkeintä, se ei tunne koulutussarjassaan tiettyjä asiakirjoja tai lähteitä, mikä varmistaa yleistyksen spesifisyyden yli. Tämän koulutustavan avulla ChatGPT voi luoda luovia vastauksia, navigoida monimutkaisissa dialogeissa ja jopa osoittaa huumorintajua. On kuitenkin tärkeää muistaa, että ChatGPT ei todellakaan ymmärrä tai sillä ei ole uskomuksia; se luo vastauksia koulutuksen aikana oppimiensa mallien perusteella.

ChatGPT:n kyky ymmärtää ihmisten kieltä ja vastata siihen vivahteilla ja kontekstitietoisella tavalla tekee niistä uskomattoman monipuolisia työkaluja.

Näiden mallien mekaniikka perustuu "tunnusten" käsitteeseen – erillisiin kielenpaloihin, jotka voivat vaihdella yhdestä merkistä kokonaiseen sanaan. Nämä mallit toimivat tietyllä määrällä tokeneita kerrallaan (4096 GPT-3.5-Turbolle tai 8192 tai 32768 GPT-4:lle) ennustaen seuraavan todennäköisten merkkien sarjan. Mallit käsittelevät tokeneita käyttämällä monimutkaista lineaarista algebraa ennustaen todennäköisimmän myöhemmän tokenin.

Esimerkiksi yksinkertainen yhdeksän sanan lause voi muuttua kymmeneksi merkkiksi. Jopa yksi monimutkainen sana voi muuttua useiksi tokeneiksi, mikä auttaa mallia ymmärtämään ja luomaan kieltä paremmin. Jopa kieliä, joilla on monimutkainen sanarakenne, kuten saksa, hallitaan tokenisoinnin avulla.

GPT (Generative Pre-trained Transformer) -mallit toimivat luomalla yhden tunnuksen kerrallaan alkaen ensimmäisestä tunnuksesta ja jatkamalla viimeiseen. Kunkin tunnuksen luomisen jälkeen malli käy uudelleen koko sekvenssissä ja käsittelee sen uudelleen seuraavan tunnuksen luomiseksi. Tämä iteratiivinen prosessi jatkuu, kunnes lopullinen merkki on luotu, mikä tekee tekstin luomisesta samanlaista kuin iso for-silmukka.

Mutta tässä on saalis – näiden vastausten laatu riippuu suurelta osin niiden saamista kehotuksista. Aivan kuten keskustelun ohjaaminen ihmisen kanssa, myös keskustelun ohjaaminen ChatGPT:n kanssa vaatii tietyn tason taitoa ja ymmärrystä. Siellä nopea suunnittelu tulee esiin.

Mitä on nopea suunnittelu?

Prompt Engineering on taidetta luoda tarkkoja, tehokkaita kehotteita/syötteitä ohjaamaan tekoälyä (NLP/Vision) mallit, kuten ChatGPT, luomaan kustannustehokkaimpia, tarkimpia, hyödyllisimpiä ja turvallisimpia tulosteita.

Nopea suunnittelu ei rajoitu vain tekstin luomiseen, vaan sillä on laaja valikoima sovelluksia kaikkialla AI-alueella. Sitä käytetään yhä enemmän sellaisilla aloilla kuin robottiprosessiautomaatiobotit, 3D-resurssit, skriptit, robottiohjeet ja muun tyyppinen sisältö ja digitaalinen media. Se tarjoaa ainutlaatuisen sekoituksen logiikkaa, koodausta, taidetta ja tietyissä tapauksissa erityisiä muuntajia.

Vaikka kehote voi sisältää luonnollisen kielen tekstiä, kuvia tai muun tyyppistä syöttödataa, tulos voi vaihdella huomattavasti tekoälypalveluiden ja -työkalujen välillä. Jokaisella työkalulla on erityiset muokkaimet, jotka kuvaavat sanojen painoa, tyylejä, näkökulmia, asettelua tai muita halutun vastauksen ominaisuuksia.

Tämä kenttä on välttämätön parempien tekoälypohjaisten palveluiden luomiseksi ja ylivertaisten tulosten saamiseksi olemassa olevilla generatiivisilla tekoälytyökaluilla. Esimerkiksi yrityskehittäjät käyttävät usein nopeaa suunnittelua räätälöidäkseen suuria kielimalleja (LLM, kuten GPT-3) asiakasta vasten. chatbot tai hoitaa tehtäviä, kuten alakohtaisten sopimusten luomista.

Tämä iteratiivinen tekoälyn suorituskyvyn nopean tarkentamisen ja mittaamisen prosessi on avaintekijä, jotta tekoälymallit voivat tuottaa erittäin kohdennettuja, hyödyllisiä vastauksia eri yhteyksissä.

Nopeaksi insinööriksi tuleminen

GPT-4-mallin kyky ymmärtää monimutkaisia ​​ohjeita ja ratkaista monimutkaisia ​​ongelmia tarkasti tekee siitä korvaamattoman resurssin. On kuitenkin olemassa erilaisia ​​menetelmiä käyttää tämän mallin ominaisuuksia, ja niiden ymmärtäminen voi olla ratkaisevan tärkeää nopean insinöörin roolin kannalta sekä tehokkuuden että kustannustehokkuuden optimoinnissa.

GPT-malleissa, kuten GPT-4:ssä, on periaatteessa kaksi tapaa. Yksi tapa on OpenAI:n API, jossa kustannukset lasketaan syöttö- ja lähtötunnistekohtaisesti. Tässä skenaariossa 1 32 tunnuksen kustannukset voivat vaihdella kontekstin koon mukaan. Esimerkiksi suuremmassa 0.06 0.12 kontekstissa hinta voi nousta jopa XNUMX dollariin syöttötokeneista ja XNUMX dollariin lähtötunnisteista. Siten, kun käsitellään suuria määriä pyyntöjä, käyttökustannukset voivat nopeasti kertyä.

Vaihtoehtoisesti ChatGPT, joka hyödyntää GPT-4-mallia, toimii tilauspohjaisella mallilla.

Toinen tärkeä tehtävä nopeassa suunnittelussa on malliparametrien viritys. Tämä prosessi sisältää muuttujien säätämisen, joita malli käyttää ennusteiden tekemiseen. Hienosäätämällä näitä parametreja, nopeat insinöörit voivat parantaa mallin vastausten laatua ja tarkkuutta, mikä tekee niistä kontekstuaalisempia ja hyödyllisempiä.

Vaikka monet nopeat insinöörit tulevat teknisestä taustasta, alan monitieteisyys mahdollistaa sen, että se on saatavilla erilaisista ammatillisista taustoista tuleville henkilöille. Yhä useammin kirjoittajat, tutkijat ja jopa taiteilijat hyödyntävät ainutlaatuisia taitojaan parantaakseen tekoälymallien tehokkuutta. Tämä muutos näkyy myös työmarkkinoilla, kun yhä useammat yritykset etsivät nopeita insinöörejä, joilla on monipuoliset taidot ja taustat.

Nopea suunnittelu ja suunnittelu ChatGPT:ssä

Nopealla suunnittelulla ja suunnittelulla on ratkaiseva rooli kielimallien suorituskyvyn optimoinnissa, ja se sisältää enemmän kuin vain kysymysten laatimisen; Ne edellyttävät syvällistä tekoälymallin ymmärtämistä ja erittäin iteratiivista ja hienostunutta lähestymistapaa.

Nopea suunnittelu

Pikasuunnittelu on pohjimmiltaan taidetta ja tiedettä luoda täydellinen kehote tietylle suurelle kielimallille (LLM), kuten ChatGPT:lle, selkeästi määritellyn tavoitteen saavuttamiseksi. Se on sekoitus:

• LLM:n ymmärtäminen: Eri kielimallit voivat vastata vaihtelevasti samaan kehotteeseen. Lisäksi tietyillä kielimalleilla voi olla ainutlaatuisia avainsanoja tai laukaisimia, joita ne tulkitsevat tietyllä tavalla.
• Domain Knowledge: Asiantuntemus asiaankuuluvalla alalla on ratkaisevan tärkeää ohjeiden suunnittelussa. Esimerkiksi kehotteen luominen lääketieteellisen diagnoosin päättelemiseksi vaatisi lääketieteellistä tietoa.
• Iteratiivinen lähestymistapa ja laadun mittaaminen: Ihanteellisen kehotteen luomiseen liittyy usein yritystä ja erehdystä. Siksi on tärkeää, että on mahdollista arvioida tulosteen laatua pelkän subjektiivisen arvion lisäksi, erityisesti käytettäessä kehotetta laajemmassa mittakaavassa.

Nopea suunnittelu

Nopea suunnittelu on nopean suunnittelun laajennettu alue, joka sisältää useita kriittisiä prosesseja:

• Kehotteiden suunnittelu mittakaavassa: Tämä prosessi sisältää metakehotteiden (kehotteet, jotka luovat muita kehotteita) ja kehotemallien suunnittelun, jotka ovat parametroituja kehotteita, jotka voidaan ilmentää ajon aikana.
• Työkalujen suunnittelu ja integrointi: Kehotteet voivat joskus sisältää tuloksia ulkoisista työkaluista, ja näiden työkalujen integrointi saumattomasti järjestelmään on ratkaisevan tärkeää.
• Työnkulku, suunnittelu ja pikahallinta: LLM-sovelluksen, kuten chatbotin, käyttöönotto edellyttää usein kehotteiden kirjastojen hallintaa, oikeiden kehotteiden suunnittelua ja valintaa sekä erilaisten työkalujen tehokasta integrointia.
• Kehotteiden arviointi ja laadunvarmistus: Tämä näkökohta sisältää mittareiden ja prosessien määrittelyn kehotteiden arvioimiseksi sekä automaattisesti että ihmisen mukana.
• Kehotteen optimointi: AI-mallin hinta ja latenssi voivat riippua mallin valinnasta ja kehotteen pituudesta (tokenien määrästä).

Monia automatisoituja kehotteiden suunnittelumenetelmiä, työkaluja ja kehyksiä on kehitetty kehotteiden hallintaan mittakaavassa. On kuitenkin tärkeää ymmärtää, että mikään näistä työkaluista ei voi korvata kokeneen nopean insinöörin vivahteikas ymmärrystä, arvostelukykyä ja kokemusta.

Nopea suunnittelu: tekniikat ja parhaat käytännöt

1) Nopea sijoitus ja kuvaus

Ohjeiden sijoittaminen kehotteen alkuun voi vaikuttaa merkittävästi tekoälyn ymmärtämiseen ja reagointiin. Harkitse tehtävää tehdä yhteenveto tekstistä luettelomerkkimuodossa. Vähemmän tehokas lähestymistapa olisi:

käyttäjä: Tee yhteenveto alla olevasta tekstistä tärkeimpien kohtien luettelona.
{tekstisyöttö tähän}

Toisaalta tehokkaampi tekniikka voisi olla:

käyttäjä: Tee yhteenveto alla olevasta tekstistä tärkeimpien kohtien luettelona.
Teksti: """
{tekstisyöttö tähän}
"" "

Erottelemalla selkeästi ohjeet ja kontekstin symboleilla, kuten ### tai "", tekoälymalli voi määritellä paremmin tehtävänsä ja käsiteltävän tekstin, mikä antaa tarkempia ja osuvampia vastauksia.

Toiseksi kontekstin, odotetun tuloksen, pituuden, muodon, tyylin ja niin edelleen täsmällinen, kuvaileva ja yksityiskohtainen kuvaus voi parantaa merkittävästi tekoälyvastausten tarkkuutta. Oletetaan, että sinun on luotava lyhyt yleiskatsaus tieteellisestä artikkelista mukaansatempaavalla, maallikoystävällisellä tyylillä. Epämääräinen ohje, kuten "Tee yhteenveto tieteellisestä paperista", antaisi vähemmän tehokkaita tuloksia kuin tietty, yksityiskohtainen kehote:

käyttäjä: Luo lyhyt (noin 200 sanaa), mukaansatempaava yhteenveto seuraavasta tieteellisestä artikkelista. Tiivistelmän tulee olla ymmärrettävä jollekulle, jolla ei ole tieteellistä taustaa, mutta se heijastelee tarkasti paperin keskeisiä havaintoja.
Paperi: """
{tieteellisen paperin teksti täällä}
"" "

2) Persona Pattern

Persona Pattern on strategia, joka asettaa tekoälyn toimimaan tietystä näkökulmasta, kuten ammatillisesta roolista tai kuvitteellisesta hahmosta. Tämä taktiikka antaa mallille mahdollisuuden tarjota tuotoksia, jotka liittyvät tiettyihin rooleihin, joita henkilö hoitaisi. Tekoälyä voitaisiin esimerkiksi ohjeistaa toimimaan kyberturvallisuuden asiantuntijana koodin tarkistuksen aikana. Tämä malli on erityisen hyödyllinen, kun käyttäjät tarvitsevat apua, mutta eivät ole varmoja tulosteen vaadituista tarkoista yksityiskohdista.

Otetaan esimerkkinä seuraava:

käyttäjä: "Oleta Ranskan vallankumoukseen erikoistuneen vanhemman historioitsijan persoona. Selitä tuo persoona huomioon ottaen tärkeimmät tapahtumat ja syyt, jotka johtavat Ranskan monarkian kaatumiseen."

Tässä skenaariossa tekoälyn odotetaan vastaavan perusteellisella analyysillä Ranskan vallankumouksesta, keskittyen monarkian kaatumiseen, kuten historioitsija tekisi.

Esittelyssä uutta tietoa

ChatGPT:llä ei ole koulutusrajaansa ylittävää tietoa, joten se ei voi tarjota tietoja viimeaikaisista tapahtumista tai päivityksistä koulutuksensa jälkeen. Voit kuitenkin tuoda malliin uusia tietoja kehotteidesi kautta.

käyttäjä: "Mikä on kryptovaluutta?"
ChatGPT: "Kryptovaluutta on eräänlainen digitaalinen tai virtuaalinen valuutta, joka käyttää salausta turvallisuuden vuoksi. Tunnetuin kryptovaluutta on Bitcoin.

Jos nyt lisäämme kehotteeseen hieman kontekstia, voimme tehdä selityksestä vieläkin intuitiivisemman:

käyttäjä: "Selitä kryptovaluutan käsite digitaalista rahoitusta opiskelevalle lukiolaiselle"
ChatGPT: "Kuvittele, että pelaat online-videopeliä ja voit ansaita pelirahaa ostaaksesi päivityksiä tai uusia hahmoja. Kryptovaluutta on tavallaan sellainen, mutta sen sijaan, että se rajoittuisi peliin, voit käyttää sitä todellisten tuotteiden ja palvelujen ostamiseen. Se on kuin digitaalista rahaa, jota mikään pankki tai hallitus ei hallitse."

3) Kehotteen kokorajoitukset

ChatGPT:n kokorajoituksen ymmärtäminen on välttämätöntä, koska se vaikuttaa suoraan syöttämiemme tietojen määrään ja tyyppiin. Kielimalleja ei ole rakennettu käsittelemään rajattomasti dataa kerralla. Niillä on luontainen rajoitus sen kehotteen koosta, jonka voimme luoda ja syöttää. Tällä rajoituksella on syvällinen vaikutus kehotteiden suunnitteluun ja suorittamiseen.

ChatGPT:llä on merkkirajoitus (yleensä 2048 merkkiä), joka sisältää sekä kehotteen että luodun vastauksen. Tämä tarkoittaa, että pitkät kehotteet voivat rajoittaa vastauksen pituutta. Siksi on tärkeää pitää kehotteet ytimekkäinä mutta informatiivisina.

Käytännössä meidän on toimittava toimittajina ja valittava valikoivasti käsillä olevaan tehtävään sopivimmat tiedot. Kuvittele, että kirjoitat paperin tai artikkelin, jossa on sana- tai sivurajoitus – et voi vain jättää satunnaisia ​​tosiasioita, vaan valita ja jäsentää huolellisesti aiheeseen liittyvää tietoa.

käyttäjä: "Kun otetaan huomioon mallin rajoitukset, tiivistä toisen maailmansodan tärkeimmät tapahtumat alle 1000 sanalla."

Tunnusttamalla mallin merkkirajoitukset, tämä kehote ohjaa tekoälyä antamaan tiiviin mutta kattavan yhteenvedon toisesta maailmansodasta.

Kehotteet toistuvaa käyttöä varten: Keskustelutilanteessa voit käyttää kehotteita uudelleen tai tarkentaa niitä aiempien vastausten perusteella. Tämä antaa keskustelun virtauksen ja säilyttää kontekstin vuorovaikutuksessa.

4) Kysymyksen tarkennuskuvio

ChatGPT voi myös auttaa tarkentamaan kysymyksiäsi. Jos esimerkiksi kysyt kysymyksen, se voi ehdottaa paremmin muotoiltua kysymystä tarkempien tulosten saamiseksi.

Kysymyksen tarkennusmalli tarkoittaa, että LLM jalostaa käyttäjän esittämiä kysymyksiä. Se on erityisen hyödyllinen silloin, kun käyttäjät eivät ole toimialueen asiantuntijoita tai he eivät ole varmoja siitä, miten kysymyksensä muotoillaan.

Esimerkkikehote voi näyttää tältä:

käyttäjä: "Aina kun esitän kysymyksen datatieteestä, ehdota tarkempaa kysymystä tilastoanalyysin erityispiirteet huomioon ottaen ja kysy, haluanko jatkaa tarkennetun kysymyksen kanssa."

Tässä tekoälyn odotetaan tarkentavan käyttäjän yleisiä datatieteen kysymyksiä yksityiskohtaisemmiksi kysymyksiksi ottaen huomioon tilastollisen analyysin näkökohdat.

5) Kognitiivinen todentajamalli

Kognitiivinen vahvistusmalli jakaa monimutkaiset kysymykset pienempiin, hallittavissa oleviin alakysymyksiin. Vastaukset näihin alakysymyksiin yhdistetään sitten kattavan vastauksen saamiseksi pääkysymykseen. Tämä lähestymistapa on hyödyllinen, kun alkukysymykset ovat liian korkeatasoisia tai kun tarvitaan lisäselvyyttä täydellisen vastauksen saamiseksi.

Esimerkiksi:

käyttäjä: "Jos esitän kysymyksen ilmastonmuutoksesta, jaa se kolmeen pienempään kysymykseen, jotka auttavat sinua antamaan tarkemman vastauksen. Yhdistä näiden alakysymysten vastaukset saadaksesi lopullinen vastaus."

Tässä skenaariossa tekoäly jakaa ilmastonmuutosta koskevan monimutkaisen kysymyksen kolmeen hallittavaan alakysymykseen. Saatuaan vastaukset näihin alakysymyksiin tekoäly yhdistää ne tarjotakseen kattavamman ja tarkemman vastauksen.

Tämä malli edellyttää useiden kysymysten luomista tarkemman lopullisen vastauksen saamiseksi. Se on tietojen todentamis- ja konsolidointiprosessi vankan lopputuloksen saavuttamiseksi

6) Muutaman laukauksen kehottava lähestymistapa

Muutaman laukauksen kehotus on tehokas tapa opettaa tekoälymalleja noudattamaan tiettyjä malleja tai suorittamaan tehtäviä. Ajatuksena on syöttää malliin useita esimerkkejä ennen halutun kysymyksen esittämistä. Tämä auttaa määrittämään halutun käyttäytymisen ja ohjaamaan mallin vastauksia.

Harkitse skenaariota, jossa käyttäjä yrittää laatia tiiviin, houkuttelevan markkinointitekstin uudelle teknologia-gadgetille:

käyttäjä: "Tässä on esimerkkejä teknisistä markkinointikopioista: "Koe musiikkia ennennäkemättömällä tavalla huippuluokan langattomilla kuulokkeillamme." "Kaappaa maailmasi upeassa 4K-resoluutiossa erittäin tyylikkäällä toimintakamerallamme." Luo näiden esimerkkien perusteella markkinointikopio uudelle tekoälyllä toimivalle älykellollemme."

ChatGPT: "Tehosta elämäntyyliäsi tekoälyllä toimivalla älykellollamme, joka on kumppanisi terveydelle, yhteyksille ja tuottavuudelle." Muutaman kerran oppimisen merkittävä piirre on, että se ei vaadi yksityiskohtaista kuvausta tehtävän suorittamisesta. Sen sijaan se vaatii esittelyä siitä, mitä tehdään, mikä voi tehdä siitä hyvän sopivuuden moniin sovelluksiin.

Lisäksi tämä tekniikka ulottuu yksinkertaista tulo-lähtöpariliitosta pidemmälle. Malli voidaan myös opettaa käsittelemään välivaiheita tavoitteen saavuttamiseksi.

7) Ajatusketjun kehotus

Heidän tuoreessa tutkimuspaperissaan "Ajatusketjun kehotus saa aikaan päättelyn suurissa kielimalleissa” kirjoittajat Jason Wei ja tiimi pyrkivät stimuloimaan päättelyä suurissa kielimalleissa. Sen sijaan, että käyttäisivät perinteisiä suoria kehotteita, tiimi käyttää useita toisiinsa liittyviä kehotteita, jotka muodostavat "ajatusketjun".

Käyttäjä voi esimerkiksi olla kiinnostunut tekoälyn mahdollisista vaikutuksista työmarkkinoille:

käyttäjä: "Voisitko selittää lyhyesti tekoälyn käsitteen?"

ChatGPT: "Tekoäly eli AI viittaa koneen kykyyn jäljitellä älykästä ihmisen käyttäytymistä. Kyse on sellaisten koneiden suunnittelusta, jotka voivat ajatella ja oppia kuten ihmiset, jolloin ne voivat suorittaa tehtäviä, kuten kielten kääntämistä, päätöksentekoa ja ongelmanratkaisua.

käyttäjä: "Miten tekoäly vaikuttaa nykyisiin työmarkkinoihin?"

ChatGPT: "Tekoäly luo sekä uusia työpaikkoja että muuttaa olemassa olevien luonnetta. Toisaalta se automatisoi rutiinitehtävät, mikä johtaa työpaikkojen siirtymiseen tietyillä aloilla. Toisaalta se luo kysyntää rooleille, joita ei aiemmin ollut, kuten tekoälyn eettisiä virkamiehiä, data-analyytikoita ja koneoppimisen insinöörejä. Lisäksi tekoäly voi lisätä ihmisten rooleja, jolloin ihmiset voivat suorittaa tehtäviä tehokkaammin ja tarkemmin."

Ajatusketjun kehotus seuraa asiaan liittyvien kehotteiden etenemistä ja ylläpitää "keskustelua" mallin kanssa, joka ohjaa sitä kohti tarkempia ja kontekstuaalisesti sopivampia vastauksia.

ChatGPT-sovellusliittymän ja nopean suunnittelun ymmärtäminen kehittäjän näkökulmasta

Kehittäjän tai tutkijan näkökulmasta nopea suunnittelu on monimutkaisempi prosessi. Se sisältää algoritmien ja tekniikoiden suunnittelun, jotka auttavat tekoälymallia ymmärtämään kehotteita ja reagoimaan niihin tehokkaammin. Tämä voi sisältää strategioita epäselvien kehotteiden käsittelemiseksi, kehotteiden kontekstin tunnistamiseksi tai kehotteiden ketjuttamiseksi yhteen monimutkaisempien ajatteluprosessien stimuloimiseksi tekoälyssä.

Yllä olevassa kuvassa käyttäjä on vuorovaikutuksessa GPT-4:llä toimivan chat-liittymän kanssa. Erikoismoduuli parantaa niiden syöttöä selkeyden ja kontekstuaalisen johdonmukaisuuden vuoksi ennen kuin ne syötetään tekoälymalliin. Tämän moduulin tehtävänä on tarkentaa ja parantaa käyttäjän panosta ymmärryksen parantamiseksi ja samalla ylläpitää keskustelun kontekstia. Tekoälyn vastaus, joka on muotoiltu hienostuneen kehotteen perusteella, palautetaan käyttäjälle chat-käyttöliittymän kautta. Vuorovaikutushistoriaa päivitetään johdonmukaisesti ja keskustelukonteksti säilyy. Kaiken kaikkiaan tämä kaavio havainnollistaa nopean suunnittelutekniikan mahdollistamaa dynaamista käyttäjä-AI-keskusteluvirtaa.

- ChatGPT API:t käyttöliittymä on suunniteltu erilaisilla hyperparametreillä, joiden avulla käyttäjät voivat tarkentaa tekoälyn vastauksia kehotteisiin tehden niistä tehokkaampia ja monipuolisempia. Näitä ovat lämpötila-, enimmäispituus- ja pysäytysjaksot -parametrit. Tutkitaan kuinka ne toimivat ja niitä voidaan hyödyntää eri yhteyksissä.

1) Lämpötila

Lämpötilaparametri vaikuttaa tekoälyn vasteiden satunnaisuuteen. Korkeampi lämpötila, kuten 1.0, kannustaa satunnaisempaan ulostuloon, mikä johtaa erilaisiin, mutta mahdollisesti aiheeseen kuulumattomiin reaktioihin. Sitä vastoin alhaisempi lämpötila, kuten 0.2, kehottaa tekoälyä valitsemaan deterministisempiä vasteita, jotka voivat olla hyödyllisiä kohdistetuille ja tietyille lähdölle, mutta niistä voi puuttua vaihtelua.

Esimerkki: Jos kirjoitat luovaa tarinaa ja haluat arvaamattomia, mielikuvituksellisia elementtejä, aseta lämpötila korkeampaan arvoon. Kehotus voisi olla: "Kirjoita lyhyt tarina aikamatkustavasta kissasta." Korkealla lämpötilalla saatat saada villin, fantastisen tarinan, jossa on arvaamattomia käänteitä.

2) Suurin pituus

Tämä parametri ohjaa mallin lähdön maksimipituutta, joka sisältää sekä viestisyötteen että viestin lähdön tunnukset. Korkeamman rajan asettaminen mahdollistaa laajemmat vastaukset, kun taas alempi raja pitää lähdön lyhyenä ja ytimekkäänä.

Esimerkki: Lyhyet vastaukset triviakysymyksiin, kuten "Kuka voitti kirjallisuuden Nobelin vuonna 2020?" saatat haluta asettaa enimmäispituuden pieneksi arvoksi varmistaaksesi, että vastaus on ytimekäs ja suora.

3) Lopeta sekvenssit

Pysäytyssekvenssit ovat tiettyjä tekstijonoja, joissa malli lakkaa tuottamasta lisätulostusta, kun se kohtaa ne. Tämä ominaisuus voi olla hyödyllinen ohjattaessa lähdön pituutta tai käskemään mallia pysähtymään loogisiin päätepisteisiin.

Esimerkki: Muodollisen kirjeen kohdalla voit käyttää "Ystävällisin terveisin" lopetusjaksona varmistaaksesi, että tekoäly ei luo muuta tekstiä kirjeen oikean lopun lisäksi.

4) Yläosa P

'Top P' -parametri, joka tunnetaan myös nimellä nucleus sampling, on menetelmä, joka tarjoaa dynaamisen valinnan mallin ennusteiden kussakin vaiheessa tarkasteltujen sanojen lukumäärästä. Pienempi arvo, kuten 0.5, johtaa turvallisempiin ja tarkempiin tulosteisiin. Suurempi arvo, kuten 0.9, sisältää laajemman sanavalikoiman, mikä johtaa monipuolisempiin tuloksiin.

Esimerkki: Jos luot tekoälyä runojen kirjoittamista varten ja haluat sen käyttävän laajaa sanastoa ja tyylilauseita, voit asettaa 'Top P' -arvon suuremmaksi. Kehotus voisi olla: "Säveltä runo syksyn kauneudesta."

5) Taajuusrangaistus

Frequency Penalty määrittää, kuinka paljon mallin tulee suosia harvempia sanoja. Korkeampi rangaistus (enintään 1) kannustaa mallia käyttämään vähemmän yleisiä sanoja, kun taas pienempi arvo (alle -1) rohkaisee mallia käyttämään yleisempiä sanoja.

Esimerkki: Jos yrität luoda yritysehdotusta ja haluat välttää ammattislangia, voit asettaa taajuusrangaistuksen pienemmäksi, jotta kieli pysyy selkeänä ja helposti saatavilla.

6) Läsnäolorangaistus

Läsnäolorangaistus -parametri vaikuttaa siihen, kuinka paljon mallia rangaistaan ​​uusien ideoiden tai aiheiden luomisesta, joita ei ollut keskusteluhistoriassa. Korkeammat arvot rohkaisevat mallia pysymään jo mainituissa aiheissa, kun taas pienemmät arvot mahdollistavat uusien käsitteiden esittelyn vapaammin.

Esimerkki: Aivoriihi-istunnoissa voit asettaa läsnäolorangaistuksen pienemmäksi, jotta saataisiin aikaan erilaisia ​​ideoita. Voit käyttää kehotetta, kuten "Luo innovatiivisia markkinointistrategioita verkkokoulutusalustalle".

Prompt Engineeringin teollinen soveltaminen