Oluline juhend kiireks inseneritööks ChatGPT-s

Alates selle käivitamisest ChatGPT on AI-sfääris laineid löönud, meelitades rekordajaga üle 100 miljoni kasutaja. ChatGPT muljetavaldava jõudluse ja mitmekülgsuse salakaste peitub kunstis, mis on peenelt peidetud selle programmeerimisse – kiires inseneritöös.

2022. aastal käivitatud DALL-E, MidJourney ja StableDiffusion rõhutasid generatiivse AI häirivat potentsiaali. Aga oli küll Avage AI's ChatGPT, mis tõusis 2022. aastal tõeliselt kesksele kohale. Ja see hoog ei näidanud mingeid märke aeglustumisest.

Google'i teadaanne Bardist ja Meta Lamma 2  vastus OpenAI ChatGPT-le on oluliselt võimendanud tehisintellekti võidujooksu hoogu. Varustades neid mudeleid sisenditega, juhime nende käitumist ja vastuseid. See muudab meid kõiki teatud määral inseneride jaoks kiireks. Tehnikatööstus on seda märganud. Riskikapitalistid valavad raha idufirmadesse, mis keskenduvad kiirele projekteerimisele, näiteks Vellum AI. Veelgi enam, Forbes teatab, et käskivad insenerid palgad üle 300,000 XNUMX dollari, mis näitab edukat ja väärtuslikku tööturgu.

Selles artiklis selgitame välja kiire insenerimaailma ChatGPT kontekstis. Uurime põhiprintsiipe ja tehnikaid ning uurime nende kaubanduslikke rakendusi.

Alustuseks mõistame, kuidas ChatGPT toimib ja kiire inseneritöö keskset rolli selles protsessis mängib.

ChatGPT kiire projekteerimise taga olev mehaanika

ChatGPT edu salajane kaste on selle võime mõista ja jäljendada inimliku vestluse nüansse. Mudel on koolitatud mitmekülgse Interneti-teksti kohta, kuid peamine on see, et see ei tunne oma koolituskomplektis konkreetseid dokumente ega allikaid, tagades üldistuse spetsiifilisusest. See koolitusmeetod võimaldab ChatGPT-l luua loomingulisi vastuseid, navigeerida keerulistes dialoogides ja isegi näidata huumorimeelt. Siiski on oluline meeles pidada, et ChatGPT ei mõista tegelikult ega oma tõekspidamisi; see genereerib vastuseid koolituse käigus õpitud mustrite põhjal.

ChatGPT võime mõista inimkeelt ja sellele vastata nüansirikkalt ja kontekstiteadlikult muudab need uskumatult mitmekülgseteks tööriistadeks.

Nende mudelite mehaanika toetub mõistele "märgid" – diskreetsed keeletükid, mis võivad ulatuda ühest märgist terve sõnani. Need mudelid töötavad kindla arvu žetoonidega korraga (4096 GPT-3.5-Turbo või 8192 või 32768 GPT-4 puhul), ennustades järgmist tõenäoliste märkide jada. Mudelid töötlevad märke keeruka lineaaralgebra abil, ennustades kõige tõenäolisemat järgnevat märgi.

Näiteks võib lihtne üheksasõnaline lause muutuda kümneks märgiks. Isegi üks keeruline sõna võib muutuda mitmeks märgiks, mis aitab mudelil keelt paremini mõista ja genereerida. Isegi keeruka sõnastruktuuriga keeli, näiteks saksa keelt, hallatakse tokeniseerimise kaudu.

GPT (Generative Pre-trained Transformer) mudelid genereerivad ühe märgi korraga, alustades esimesest märgist ja jätkates kuni viimaseni. Pärast iga märgi genereerimist vaatab mudel uuesti kogu jada ja töötleb seda uuesti, et luua järgmine märk. See iteratiivne protsess jätkub kuni lõpliku märgi genereerimiseni, muutes teksti genereerimise sarnaseks suure for-tsükliga.

Kuid siin on konks – nende vastuste kvaliteet sõltub suuresti saadud viipadest. Nii nagu vestluse juhtimine inimesega, nõuab ka ChatGPT-ga dialoogi juhtimine teatud oskusi ja mõistmist. Siin tulebki mängu kiire inseneritöö.

Mis on Prompt Engineering?

Prompt Engineering on kunst luua täpseid ja tõhusaid viipasid/sisendit AI suunamiseks (NLP/Vision) mudelid, nagu ChatGPT, et luua kõige kuluefektiivsemaid, täpsemaid, kasulikke ja ohutumaid väljundeid.

Kiire projekteerimine ei piirdu ainult teksti genereerimisega, vaid sellel on laiaulatuslikud rakendused kogu AI domeenis. Seda kasutatakse üha enam sellistes valdkondades nagu robotprotsesside automatiseerimise robotid, 3D-varad, skriptid, roboti juhised ning muud tüüpi sisu ja digitaalne meedia. See pakub ainulaadset segu loogikast, kodeerimisest, kunstist ja teatud juhtudel spetsiaalsetest modifikaatoritest.

Kuigi viip võib sisaldada loomulikus keeles teksti, pilte või muud tüüpi sisendandmeid, võib väljund tehisintellekti teenuste ja tööriistade lõikes oluliselt erineda. Igal tööriistal on oma spetsiaalsed modifikaatorid, mis kirjeldavad soovitud vastuse sõnade, stiilide, perspektiivide, paigutuse või muude omaduste kaalu.

See väli on hädavajalik paremate tehisintellektiga töötavate teenuste loomiseks ja olemasolevate generatiivsete AI-tööriistadega paremate tulemuste saamiseks. Näiteks ettevõtete arendajad kasutavad sageli kiiret insenertehnilist lahendust, et kohandada suuri keelemudeleid (LLM-e), nagu GPT-3, et pakkuda kliendile suunatud jõudu. chatbot või tegeleda selliste ülesannetega nagu valdkonnapõhiste lepingute loomine.

See iteratiivne kiire täiustamise ja tehisintellekti jõudluse mõõtmise protsess on võtmeelement, mis võimaldab tehisintellekti mudelitel luua väga sihipäraseid ja kasulikke vastuseid erinevates kontekstides.

Kiireks inseneriks saamine

GPT-4 mudeli võime keerulistest juhistest aru saada ja keerulisi probleeme täpselt lahendada muudab selle hindamatuks ressursiks. Selle mudeli võimalustele juurdepääsuks on aga erinevaid meetodeid ja nende mõistmine võib olla ülioluline kiire inseneri rolli jaoks nii tõhususe kui ka kulutasuvuse optimeerimisel.

GPT-mudelitega, nagu GPT-4, suhtlemiseks on sisuliselt kaks võimalust. Üks võimalus on läbi OpenAI API, kus kulusid arvutatakse sisend- ja väljundmärgiste kohta. Selle stsenaariumi korral võivad kulud 1 märgi kohta konteksti suurusest olenevalt kõikuda. Näiteks suuremas 32K kontekstis võib kulu tõusta kuni 0.06 dollarini sisendmärkide puhul ja 0.12 dollarini väljundmärkide puhul. Seega võivad suure hulga päringute töötlemisel kasutuskulud kiiresti koguneda.

Teise võimalusena töötab ChatGPT, mis kasutab GPT-4 mudelit, tellimuspõhisel mudelil.

Teine kiire projekteerimise põhiülesanne hõlmab mudeli parameetrite häälestamist. See protsess hõlmab muutujate kohandamist, mida mudel prognooside tegemiseks kasutab. Neid parameetreid täpsustades saavad kiired insenerid parandada mudeli vastuste kvaliteeti ja täpsust, muutes need kontekstiliselt asjakohasemaks ja kasulikumaks.

Kuigi paljud kiired insenerid on pärit tehnilise taustaga, muudab valdkonna multidistsiplinaarne olemus selle kättesaadavaks erineva professionaalse taustaga inimestele. Järjest enam kasutavad kirjanikud, teadlased ja isegi kunstnikud oma ainulaadseid oskusi tehisintellekti mudelite tõhususe suurendamiseks. See nihe kajastub ka tööturul, kuna üha rohkem ettevõtteid otsib mitmekülgsete oskuste ja taustaga kiireid insenere.

Kiire projekteerimine ja projekteerimine ChatGPT-s

Kiire projekteerimine ja projekteerimine mängivad olulist rolli keelemudelite toimivuse optimeerimisel ja hõlmavad enamat kui lihtsalt küsimuste koostamist; need nõuavad AI mudeli sügavat mõistmist ning väga iteratiivset ja rafineeritud lähenemist.

Kiire disain

Kiire kujundus on oma olemuselt kunst ja teadus, et luua täiuslik viip antud suure keelemudeli (LLM), nagu ChatGPT jaoks, et saavutada selgelt määratletud eesmärk. See on segu:

• LLM-i mõistmine: erinevad keelemudelid võivad samale viipale reageerida erinevalt. Lisaks võivad teatud keelemudelitel olla kordumatud märksõnad või käivitajad, mida nad teatud viisil tõlgendavad.
• Domeeniteadmised: teadmised vastavas valdkonnas on viipade koostamisel üliolulised. Näiteks meditsiinilise diagnoosi järeldamise viipe loomine nõuab meditsiinilisi teadmisi.
• Iteratiivne lähenemine ja kvaliteedi mõõtmine: ideaalse viipe loomise protsess hõlmab sageli katse-eksitusi. Seetõttu on ülioluline võimalus hinnata väljundi kvaliteeti lisaks subjektiivsele hinnangule, eriti kui kasutatakse viipa suuremas ulatuses.

Kiire inseneritöö

Kiire projekteerimine on kiire projekteerimise laiendatud valdkond, mis hõlmab mitmeid kriitilisi protsesse.

• Viipade kujundamine mastaapselt: see protsess hõlmab metaviibade (muid viipasid genereerivate viipade) ja viipade mallide kujundamist, mis on parameetritega viibad, mida saab käitusajal luua.
• Tööriistade väljatöötamine ja integreerimine: Viibad võivad mõnikord sisaldada väliste tööriistade tulemusi ning nende tööriistade sujuv integreerimine süsteemi on ülioluline.
• Töövoog, planeerimine ja viipehaldus: LLM-rakenduse, nagu vestlusroboti, juurutamine nõuab sageli viipade teekide haldamist, õigete viipade kavandamist ja valimist ning erinevate tööriistade tõhusat integreerimist.
• Viipade hindamine ja kvaliteedi tagamine: see aspekt hõlmab mõõdikute ja protsesside määratlemist, et hinnata viipasid nii automaatselt kui ka inimeste osalusel.
• Viipa optimeerimine: AI mudeli maksumus ja latentsus võivad sõltuda mudeli valikust ja viipa pikkusest (märkide arvust).

Viipade ulatuslikuks haldamiseks on välja töötatud palju automatiseeritud viipade kujundamise lähenemisviise, tööriistu ja raamistikke. Siiski on oluline mõista, et ükski neist tööriistadest ei saa asendada kogenud kiire inseneri nüansirikast arusaamist, otsustusvõimet ja kogemusi.

Kiire tehnika: tehnikad ja parimad tavad

1) Kiire paigutus ja kirjeldus

Juhiste paigutamine viipa algusesse võib oluliselt mõjutada tehisintellekti mõistmist ja reageerimist. Mõelge ülesandele teha tekstist kokkuvõte täppide vormingus. Vähem tõhus meetod oleks:

Kasutaja: Tehke allolevast tekstist kokkuvõte kõige olulisemate punktide täppide loeteluna.
{tekstisisestus siia}

Teisest küljest võib tõhusam tehnika olla:

Kasutaja: Tehke allolevast tekstist kokkuvõte kõige olulisemate punktide täppide loeteluna.
Tekst: ""
{tekstisisestus siia}
„”

Eraldades selgelt juhised ja konteksti selliste sümbolitega nagu ### või "", saab tehisintellekti mudel paremini piiritleda oma ülesande ja teksti, mida ta peab töötlema, andes seeläbi täpsemaid ja asjakohasemaid vastuseid.

Teiseks võib tehisintellekti vastuste täpsust oluliselt suurendada, kui olla konkreetne, kirjeldav ja üksikasjalik konteksti, oodatava tulemuse, pikkuse, vormingu, stiili ja muu kohta. Oletame, et peate looma lühikese ülevaate teadustööst kaasahaaravas ja võhikusõbralikus stiilis. Ebamäärane juhis, nagu „Teake teadustööst kokkuvõte”, annaks konkreetse üksikasjaliku viipaga võrreldes vähem tõhusaid tulemusi:

Kasutaja: koostage lühike (umbes 200 sõna) kaasahaarav kokkuvõte järgmisest teadustööst. Kokkuvõte peaks olema arusaadav kellelegi, kellel pole teaduslikku tausta, kuid kajastama täpselt töö peamisi leide.
Paber: ""
{teaduspaberi tekst siin}
„”

2) Persona muster

Persona muster on strateegia, mis seab tehisintellekti teatud vaatenurgast, näiteks professionaalsest rollist või väljamõeldud tegelaskujust, toimima. See taktika võimaldab mudelil pakkuda väljundeid, mis on seotud konkreetsete rollidega, mida isik täidab. Näiteks võib tehisintellektile anda korralduse tegutseda koodide ülevaatuse ajal küberturvalisuse eksperdina. See muster on eriti kasulik, kui kasutajad vajavad abi, kuid pole kindlad väljundis nõutavates täpsetes üksikasjades.

Võtke näiteks järgmine.

Kasutaja: „Võtke end Prantsuse revolutsioonile spetsialiseerunud ajaloolasena. Arvestades seda isikut, selgitage peamisi sündmusi ja põhjuseid, mis viisid Prantsuse monarhia lagunemiseni.

Selle stsenaariumi korral peaks AI vastama Prantsuse revolutsiooni süvaanalüüsiga, keskendudes monarhia langemisele, nagu seda teeks ajaloolane.

Tutvustame uut teavet

ChatGPT-l ei ole teadmisi väljaspool koolituse piirmäära, mistõttu ei saa ta pakkuda teavet hiljutiste sündmuste või koolitusejärgsete värskenduste kohta. Siiski saate oma viipade kaudu mudelile uut teavet tutvustada.

Kasutaja: "Mis on krüptovaluuta?"
ChatGPT: “Krüptovaluuta on teatud tüüpi digitaalne või virtuaalne valuuta, mis kasutab turvalisuse tagamiseks krüptograafiat. Tuntuim krüptovaluuta on Bitcoin.

Nüüd, kui lisame viipale veidi rohkem konteksti, saame selgituse veelgi intuitiivsemaks muuta:

Kasutaja: "Selgitage krüptovaluuta mõistet keskkooliõpilasele, kes õpib digitaalset rahandust"
ChatGPT: „Kujutage ette, et mängite võrgus videomängu ja saate mänguraha teenida, et osta uuendusi või uusi tegelasi. Krüptovaluuta on omamoodi, kuid selle asemel, et piirduda mänguga, saate seda kasutada reaalsete kaupade ja teenuste ostmiseks. See on nagu digitaalne raha, mida ükski pank ega valitsus ei kontrolli.

3) Viipade suuruse piirangud

ChatGPT suuruse piirangu mõistmine on oluline, kuna see mõjutab otseselt sisestatava teabe mahtu ja tüüpi. Keelemudelid ei ole loodud töötlema korraga piiramatut arvu andmeid. Neil on loomupärane piirang selle viipa suurusele, mida saame luua ja sisestada. Sellel piirangul on sügav mõju viipade kavandamisele ja täitmisele.

ChatGPT-l on lubade limiit (tavaliselt 2048 luba), mis hõlmab nii viipa kui ka genereeritud vastust. See tähendab, et pikad viiped võivad vastuse pikkust piirata. Seetõttu on oluline, et juhised oleksid lühikesed, kuid samas informatiivsed.

Praktilises kasutuses peame tegutsema toimetajatena, valides valikuliselt antud ülesande jaoks kõige asjakohasema teabe. Kujutage ette, et kirjutate artiklit või artiklit sõna- või leheküljepiiranguga – te ei saa lihtsalt juhuslikke fakte maha jätta, vaid hoolikalt valida ja struktureerida teemaga seotud teavet.

Kasutaja: "Arvestades mudeli sümboolseid piiranguid, võtke II maailmasõja põhisündmused kokku vähem kui 1000 sõnaga."

Tunnistades mudeli märgipiiranguid, suunab see viip tehisintellektile esitama II maailmasõja kohta kokkuvõtliku, kuid põhjaliku kokkuvõtte.

Korduva kasutamise viibad: vestlusstsenaariumi korral saate viipasid uuesti kasutada või eelmiste vastuste põhjal täpsustada. See annab vestlusvoo ja säilitab suhtluse konteksti.

4) Küsimuse täpsustamise muster

ChatGPT võib samuti aidata teie küsimusi täpsustada. Näiteks kui esitate küsimuse, võib see täpsemate tulemuste saamiseks soovitada paremini sõnastatud küsimust.

Küsimuse täpsustamise muster hõlmab LLM-i, mis täpsustab kasutaja esitatud küsimusi. See on eriti kasulik, kui kasutajad ei ole domeeni eksperdid või pole kindlad, kuidas oma küsimust sõnastada.

Näidisviipa võib välja näha järgmine:

Kasutaja: "Kui esitan andmeteaduse kohta küsimuse, soovitage täpsustatud küsimust, võttes arvesse statistilise analüüsi spetsiifikat, ja küsige, kas ma tahan täpsustatud küsimusega jätkata."

Siin peaks AI täpsustama kasutaja üldisi andmeteaduslikke küsimusi üksikasjalikumateks küsimusteks, võttes arvesse statistilise analüüsi aspekte.

5) Kognitiivse kontrolli muster

Kognitiivse kontrolli muster jagab keerulised küsimused väiksemateks, hallatavateks alamküsimusteks. Seejärel kombineeritakse vastused nendele alaküsimustele, et saada põhiküsimusele ammendav vastus. See lähenemisviis on kasulik, kui esialgsed küsimused on liiga kõrgetasemelised või kui täieliku vastuse saamiseks on vaja täiendavat selgust.

Näiteks:

Kasutaja: „Kui esitan küsimuse kliimamuutuste kohta, jagage see kolmeks väiksemaks küsimuseks, mis aitaksid teil täpsema vastuse anda. Lõpliku vastuse saamiseks ühendage nende alamküsimuste vastused.

Selle stsenaariumi korral jagab tehisintellekt keerulise küsimuse kliimamuutuste kohta kolmeks juhitavaks alamküsimuseks. Pärast nendele alamküsimustele vastuste saamist kombineerib tehisintellekt need, et anda põhjalikum ja täpsem vastus.

See muster hõlmab mitme küsimuse genereerimist, et saada täpsem lõplik vastus. See on teabe kontrollimise ja konsolideerimise protsess tugeva lõppväljundi saavutamiseks

6) Väheste võtetega lähenemine

Mõne võttega viip on võimas lähenemisviis AI mudelite õpetamiseks konkreetseid mustreid järgima või ülesandeid täitma. Idee on anda modellile enne soovitud küsimuse esitamist mitmeid näiteid. See aitab määrata soovitud käitumist ja suunata mudeli vastuseid.

Mõelge stsenaariumile, kus kasutaja proovib koostada uue tehnikavidina jaoks kokkuvõtliku ja mõjuva turundusliku koopia:

Kasutaja: "Siin on mõned näited tehniliste turunduskoopiate kohta: "Meie tipptasemel juhtmevabade kõrvaklappidega kogege muusikat nagu ei kunagi varem." "Jäädvustage oma maailm vapustava 4K eraldusvõimega meie ülipeenikese tegevuskaameraga." Nende näidete põhjal koostage meie uue AI-toega nutikella turunduseksemplar.

ChatGPT: "Mõjutage oma elustiili meie AI-toega nutikellaga, mis on teie tervise, ühenduvuse ja tootlikkuse kaaslane." Vähese võttega õppimise tähelepanuväärne omadus on see, et see ei nõua ülesande täitmise üksikasjalikku kirjeldust. Selle asemel on vaja demonstreerida, mida tehakse, mis võib muuta selle paljude rakenduste jaoks hästi sobivaks.

Lisaks ulatub see tehnika kaugemale lihtsast sisend-väljund sidumisest. Mudelit saab õpetada käsitlema ka vahesamme eesmärgi saavutamiseks.

7) Mõtteahela õhutamine

Oma hiljutises uurimistöös "Mõtteahela õhutamine tekitab suurtes keelemudelites arutluskäiku” autorite Jason Wei ja meeskonna eesmärk on stimuleerida arutluskäiku suurtes keelemudelites. Traditsiooniliste otseste viipade kasutamise asemel kasutab meeskond rida omavahel seotud viipasid, moodustades "mõtteahela".

Näiteks võib kasutaja olla huvitatud tehisintellekti võimalikust mõjust tööturgudele.

Kasutaja: "Kas saaksite lühidalt selgitada tehisintellekti mõistet?"

ChatGPT: "Tehisintellekt ehk AI viitab masina võimele imiteerida intelligentset inimese käitumist. See seisneb masinate kujundamises, mis suudavad mõelda ja õppida nagu inimesed, võimaldades neil muu hulgas täita selliseid ülesandeid nagu keele tõlkimine, otsuste tegemine ja probleemide lahendamine.

Kasutaja: "Kuidas AI mõjutab praegust tööturgu?"

ChatGPT: „AI loob nii uusi töökohti kui ka muudab olemasolevate olemust. Ühest küljest automatiseerib see rutiinseid ülesandeid, mis viib teatud sektorites töökohtade ümberpaigutamiseni. Teisest küljest tekitab see nõudlust rollide järele, mida varem ei eksisteerinud, näiteks tehisintellekti eetikaametnikud, andmeanalüütikud ja masinõppeinsenerid. Lisaks võib AI suurendada inimeste rolle, võimaldades inimestel ülesandeid tõhusamalt ja täpsemalt täita.

Mõtteahela õhutamine järgib seotud viipade edenemist, säilitades "vestluse" mudeliga, mis suunab selle täpsemate ja kontekstipõhisemate vastuste poole.

ChatGPT API ja kiire projekteerimise mõistmine arendaja vaatenurgast

Arendaja või teadlase vaatenurgast on kiire projekteerimine keerulisem protsess. See hõlmab algoritmide ja tehnikate kavandamist, mis aitavad AI-mudelil viipasid tõhusamalt mõista ja neile reageerida. See võib hõlmata strateegiaid mitmetähenduslike juhiste käsitlemiseks, viipade konteksti tuvastamiseks või viipade aheldamiseks, et stimuleerida keerukamaid mõtteprotsesse AI-s.

Ülaltoodud illustratsioonil suhtleb kasutaja vestlusliidesega, mida toetab GPT-4. Spetsiaalne moodul täiustab nende sisendit selguse ja kontekstuaalse järjepidevuse huvides, enne kui need AI-mudelisse suunatakse. Selle mooduli ülesanne on täiustada ja täiustada kasutaja panust paremaks mõistmiseks, säilitades samal ajal vestluse konteksti. AI vastus, mis on koostatud täiustatud viipa alusel, tagastatakse kasutajale vestlusliidese kaudu. Interaktsiooni ajalugu uuendatakse järjepidevalt, säilitades vestluse konteksti. Üldiselt illustreerib see diagramm kasutajate ja tehisintellekti dünaamilist vestlusvoogu, mida võimaldavad kiired inseneritehnikad.

. ChatGPT API-d liides on konstrueeritud erinevate hüperparameetritega, mis võimaldavad kasutajatel täpsustada AI vastuseid viipadele, muutes need tõhusamaks ja mitmekülgsemaks. Nende hulka kuuluvad parameetrid Temperature, Maximum Length ja Stop Sequences. Uurime, kuidas need toimivad ja mida saab erinevates kontekstides kasutada.

1) Temperatuur

Temperatuuri parameeter mõjutab AI vastuste juhuslikkust. Kõrgem temperatuur, näiteks 1.0, soodustab juhuslikumat väljundit, mille tulemuseks on mitmekesised, kuid potentsiaalselt teemavälised vastused. Seevastu madalam temperatuur, nagu 0.2, sunnib AI-d valima deterministlikumaid vastuseid, mis võivad olla kasulikud keskendunud ja spetsiifiliste väljundite jaoks, kuid millel võib puududa mitmekesisus.

Näide: kui kirjutate loomingulist lugu ja soovite ettearvamatuid, kujutlusvõimelisi elemente, seadke temperatuur kõrgemale väärtusele. Viip võiks olla: "Kirjutage lühike lugu ajas rändavast kassist." Kõrge temperatuuriga võite saada metsiku, fantastilise loo koos ettearvamatute pööretega.

2) Maksimaalne pikkus

See parameeter juhib mudeli väljundi maksimaalset märgi pikkust, mis hõlmab nii sõnumi sisendis kui ka sõnumi väljundis olevaid märke. Kõrgema limiidi seadmine võimaldab pikemaid vastuseid, samas kui alumine piir hoiab väljundi lühikese ja ülevaatlikuna.

Näide: lühikeste vastuste jaoks triviaküsimustele, nagu „Kes võitis 2020. aastal Nobeli kirjandusauhinna?” võiksite määrata maksimaalse pikkuse väikese väärtuse, tagades, et vastus on lühike ja otsene.

3) Peatage järjestused

Stoppjärjestused on konkreetsed tekstistringid, mille puhul mudel nendega kokku puutudes lõpetab edasise väljundi genereerimise. See funktsioon võib olla kasulik väljundi pikkuse juhtimiseks või mudelil loogilistes lõpp-punktides peatumise juhendamisel.

Näide. Ametliku kirja puhul võite stoppjärjestusena kasutada sõna "Lugupidamisega" tagamaks, et tehisintellekt ei loo täiendavat teksti peale kirja õige lõpu.

4) Ülemine P

"Top P" parameeter, tuntud ka kui tuuma proovivõtt, on meetod, mis pakub mudeli prognooside igas etapis arvesse võetud sõnade arvu dünaamilist valikut. Madalam väärtus, näiteks 0.5, annab turvalisemad ja fokusseeritumad väljundid. Suurem väärtus, nagu 0.9, sisaldab laiemat sõnade valikut, mis toob kaasa mitmekesisemad väljundid.

Näide. Kui loote tehisintellekti luuletuste kirjutamiseks ja soovite, et see kasutaks laia sõnavara ja stiilifraase, võite määrata „Top P” suurema väärtuse. Viipe võiks olla: "Koosta luuletus sügise ilust."

5) Sagedustrahv

Sagedustrahv määrab, kui palju mudel peaks eelistama harvem esinevaid sõnu. Kõrgem trahv (kuni 1) julgustab mudelit kasutama vähem levinud sõnu, samas kui madalam väärtus (kuni -1) julgustab mudelit kasutama rohkem levinud sõnu.

Näide. Kui proovite luua äriettepanekut ja soovite vältida žargooni, võite määrata sageduskaristuse väiksemaks, et keel oleks selge ja juurdepääsetav.

6) Kohaloleku karistus

Kohaloleku karistuse parameeter mõjutab seda, kui palju mudelit karistatakse uute ideede või teemade genereerimise eest, mida vestluse ajaloos ei olnud. Kõrgemad väärtused julgustavad mudelit juba mainitud teemade juurde jääma, madalamad aga võimaldavad mudelil uusi mõisteid vabamalt juurutada.

Näide: ajurünnakute puhul võite määrata kohalolekutrahvi madalamale väärtusele, et julgustada erinevaid ideid. Võite kasutada viipasid, näiteks „Looge veebipõhise haridusplatvormi jaoks uuenduslikke turundusstrateegiaid”.

Kiire inseneritöö tööstuslik rakendamine