Osnovni vodič za brzi inženjering u ChatGPT-u

Od svog pokretanja, ChatGPT stvara valove u sferi umjetne inteligencije, privlačeći više od 100 milijuna korisnika u rekordnom vremenu. Tajni umak za impresivnu izvedbu i svestranost ChatGPT-a leži u umjetnosti koja je suptilno smještena unutar njegovog programiranja – brzom inženjeringu.

Pokrenuti 2022., DALL-E, MidJourney i StableDiffusion istaknuli su razorni potencijal Generative AI. Ali bilo je Otvori AIChatGPT korisnika koji je doista zauzeo središnje mjesto kasnije 2022. I ovaj zamah nije pokazivao znakove usporavanja.

Googleova najava Barda i Meta's Lamma 2  odgovor na OpenAI-jev ChatGPT značajno je pojačao zamah utrke umjetne inteligencije. Dajući tim modelima ulazne podatke, vodimo njihovo ponašanje i reakcije. To nas sve čini brzim inženjerima do određenog stupnja. Tehnološka industrija je to primijetila. Ulagači rizičnog kapitala ulažu sredstva u startupe koji se fokusiraju na brzi inženjering, npr Vellum AI. Štoviše, Forbes izvještava da brzi inženjeri zapovijedaju plaće veće od 300,000 dolara, što je pokazatelj uspješnog i vrijednog tržišta rada.

U ovom ćemo članku demistificirati svijet brzog inženjeringa u kontekstu ChatGPT-a. Istražit ćemo temeljna načela i tehnike te ispitati njihovu komercijalnu primjenu.

Prvo shvatimo kako ChatGPT funkcionira i ključnu ulogu ima brzo inženjerstvo u ovom procesu.

Mehanika iza brzog inženjeringa ChatGPT-a

Tajna uspjeha ChatGPT-a je njegova sposobnost da razumije i oponaša nijanse ljudskog razgovora. Model se obučava na raznolikom rasponu internetskog teksta, ali što je ključno, ne poznaje specifične dokumente ili izvore u svom skupu za obuku, osiguravajući generalizaciju umjesto specifičnosti. Ovaj pristup obuci omogućuje ChatGPT-u generiranje kreativnih odgovora, upravljanje složenim dijalozima, pa čak i pokazivanje smisla za humor. Međutim, važno je upamtiti da ChatGPT ne razumije uistinu niti ima uvjerenja; generira odgovore na temelju obrazaca koje je naučio tijekom treninga.

Sposobnost ChatGPT-a da razumije i odgovori na ljudski jezik na nijansiran način svjestan konteksta čini ih nevjerojatno svestranim alatima.

Mehanika ovih modela počiva na konceptu 'tokena'—diskretnih dijelova jezika koji mogu varirati od jednog znaka do cijele riječi. Ovi modeli rade s određenim brojem tokena odjednom (4096 za GPT-3.5-Turbo ili 8192 ili 32768 za GPT-4), predviđajući sljedeći niz vjerojatnih tokena. Modeli obrađuju tokene pomoću složene linearne algebre, predviđajući najvjerojatniji sljedeći token.

Na primjer, jednostavna rečenica od devet riječi mogla bi se pretvoriti u deset tokena. Čak se i jedna složena riječ može pretvoriti u više tokena, što pomaže modelu da bolje razumije i generira jezik. Čak se i jezicima sa složenim strukturama riječi, poput njemačkog, upravlja putem tokenizacije.

GPT (Generative Pre-trained Transformer) modeli rade tako da generiraju jedan po jedan token, počevši od prvog tokena i nastavljajući do posljednjeg. Nakon generiranja svakog tokena, model ponovno pregledava cijeli niz i ponovno ga obrađuje kako bi generirao sljedeći token. Ovaj iterativni proces nastavlja se sve dok se ne generira konačni token, čineći generiranje teksta sličnim velikoj for-petlji.

Ali ovdje je caka – kvaliteta tih odgovora uvelike ovisi o upitima koje prima. Baš kao i upravljanje razgovorom s čovjekom, vođenje dijaloga s ChatGPT-om zahtijeva određenu razinu vještine i razumijevanja. Tu na scenu stupa brzi inženjering.

Što je Prompt Engineering?

Prompt Engineering je umjetnost izrade preciznih, učinkovitih upita/inputa za usmjeravanje AI (NLP/Vision) modelira poput ChatGPT-a prema stvaranju najisplativijih, točnih, korisnih i sigurnih rezultata.

Brzo inženjerstvo nije ograničeno samo na generiranje teksta, već ima široku primjenu u domeni umjetne inteligencije. Sve se više koristi u područjima kao što su robotski roboti za automatizaciju procesa, 3D sredstva, skripte, upute robota i druge vrste sadržaja i digitalnih medija. Pruža jedinstvenu mješavinu logike, kodiranja, umjetnosti i, u određenim slučajevima, posebnih modifikatora.

Dok upit može uključivati ​​tekst na prirodnom jeziku, slike ili druge vrste ulaznih podataka, izlaz se može značajno razlikovati od AI usluga i alata. Svaki alat ima svoje posebne modifikatore koji opisuju težinu riječi, stilova, perspektiva, rasporeda ili drugih svojstava željenog odgovora.

Ovo je polje ključno za stvaranje boljih usluga utemeljenih na umjetnoj inteligenciji i postizanje vrhunskih rezultata iz postojećih generativnih alata umjetne inteligencije. Enterprise programeri, na primjer, često koriste brzi inženjering kako bi prilagodili velike jezične modele (LLM-ove) kao što je GPT-3 kako bi osnažili klijente okrenute chatbot ili obavljati zadatke poput izrade ugovora specifičnih za industriju.

Ovaj iterativni proces brzog usavršavanja i mjerenja performansi umjetne inteligencije ključni je element u omogućavanju modela umjetne inteligencije da generiraju visoko ciljane, korisne odgovore u različitim kontekstima.

Postati brzi inženjer

Sposobnost modela GPT-4 u razumijevanju složenih uputa i točnom rješavanju zamršenih problema čini ga neprocjenjivim resursom. Međutim, postoje različite metode za pristup mogućnostima ovog modela, a njihovo razumijevanje može biti presudno za ulogu brzog inženjera u optimizaciji učinkovitosti i isplativosti.

U osnovi postoje dva načina za uključivanje u GPT modele kao što je GPT-4. Jedan od načina je kroz OpenAI API, gdje se troškovi izračunavaju po ulaznim i izlaznim tokenima. U ovom scenariju, troškovi po 1K tokena mogu varirati ovisno o veličini konteksta. Na primjer, u većem kontekstu od 32 K cijena bi mogla ići do 0.06 USD za ulazne tokene i 0.12 USD za izlazne tokene. Stoga, kada se obrađuje velika količina zahtjeva, trošak korištenja može se brzo akumulirati.

Alternativno, ChatGPT, koji koristi model GPT-4, radi na modelu koji se temelji na pretplati.

Drugi ključni zadatak u brzom inženjeringu uključuje podešavanje parametara modela. Ovaj proces uključuje prilagodbu varijabli koje model koristi za izradu predviđanja. Finim podešavanjem ovih parametara, brzi inženjeri mogu poboljšati kvalitetu i točnost odgovora modela, čineći ih kontekstualno relevantnijima i korisnijima.

Iako mnogi brzi inženjeri dolaze iz tehničkog okruženja, multidisciplinarna priroda ovog područja čini ga dostupnim pojedincima iz različitih profesionalnih sredina. Pisci, istraživači, pa čak i umjetnici sve više iskorištavaju svoje jedinstvene vještine kako bi poboljšali učinkovitost AI modela. Ova se promjena odražava i na tržištu rada, sa sve većim brojem tvrtki koje traže brze inženjere s različitim vještinama i iskustvom.

Brzi dizajn i inženjering u ChatGPT-u

Brzi dizajn i inženjering igraju ključnu ulogu u optimiziranju performansi jezičnih modela i uključuju više od pukog oblikovanja pitanja; oni zahtijevaju duboko razumijevanje modela umjetne inteligencije i vrlo iterativan i rafiniran pristup.

Brzi dizajn

Dizajn brzih poruka, u svojoj srži, umjetnost je i znanost stvaranja savršenih brzih poruka za određeni veliki jezični model (LLM), kao što je ChatGPT, za postizanje jasno postavljenog cilja. To je mješavina:

• Razumijevanje LLM-a: Različiti jezični modeli mogu različito odgovoriti na isti upit. Štoviše, određeni jezični modeli mogu imati jedinstvene ključne riječi ili okidače koje tumače na specifičan način.
• Poznavanje domene: Stručnost u relevantnom području ključna je pri dizajniranju upita. Na primjer, generiranje upita za zaključivanje medicinske dijagnoze zahtijeva medicinsko znanje.
• Iterativni pristup i mjerenje kvalitete: Proces stvaranja idealnog prompta često uključuje pokušaje i pogreške. Stoga je ključno imati način za procjenu kvalitete izlaza izvan subjektivne prosudbe, osobito kada se upit koristi u većoj mjeri.

Brzi inženjering

Brzi inženjering je prošireno područje brzog dizajna koje uključuje nekoliko kritičnih procesa:

• Dizajn promptova na razini: Ovaj proces uključuje dizajn meta promptova (promptova koji generiraju druge prompte) i predložaka promptova, koji su parametrizirani prompti koji se mogu instancirati tijekom izvođenja.
• Dizajn i integracija alata: Upiti ponekad mogu uključivati ​​rezultate vanjskih alata, a besprijekorna integracija tih alata u sustav je ključna.
• Tijek rada, planiranje i upravljanje promptima: implementacija LLM aplikacije, poput chatbota, često zahtijeva upravljanje bibliotekama promptova, planiranje i odabir pravih promptova te učinkovito integriranje raznih alata.
• Procjena i osiguranje kvalitete upita: Ovaj aspekt uključuje definiranje metrike i procesa za procjenu upita i automatski i uz sudjelovanje ljudi.
• Optimizacija upita: Trošak i latencija AI modela mogu ovisiti o izboru modela i duljini upita (broju tokena).

Razvijeni su mnogi pristupi, alati i okviri automatiziranog dizajna brzih poruka za upravljanje brojnim upitima. Međutim, važno je razumjeti da nijedan od ovih alata ne može zamijeniti nijansirano razumijevanje, prosudbu i iskustvo iskusnog brzog inženjera.

Brzi inženjering: tehnike i najbolji primjeri iz prakse

1) Brzo postavljanje i opis

Postavljanje uputa na početku upita može značajno utjecati na razumijevanje i odgovor umjetne inteligencije. Razmotrite zadatak sažimanja teksta u formatu nabrajanja. Manje učinkovit pristup bio bi:

korisnik: Sažmite donji tekst kao popis najvažnijih točaka.
{ovdje unesite tekst}

S druge strane, učinkovitija tehnika mogla bi biti:

korisnik: Sažmite donji tekst kao popis najvažnijih točaka.
Tekst: “””
{ovdje unesite tekst}
""

Jasnim odvajanjem uputa i konteksta simbolima kao što su ### ili “””, AI model može bolje razgraničiti svoj zadatak i tekst koji treba obraditi, dajući na taj način točnije i relevantnije odgovore.

Drugo, biti specifičan, opisan i detaljan o kontekstu, očekivanom ishodu, duljini, formatu, stilu i tako dalje može značajno poboljšati preciznost odgovora AI-ja. Pretpostavimo da trebate generirati kratak pregled znanstvenog rada u privlačnom stilu prilagođenom laicima. Nejasna uputa poput "Sažeti znanstveni rad" dala bi manje učinkovite rezultate u usporedbi s određenim, detaljnim upitom:

korisnik: Generirajte kratak (otprilike 200 riječi), zanimljiv sažetak sljedećeg znanstvenog rada. Sažetak bi trebao biti razumljiv nekome tko nema znanstvenu pozadinu, dok bi točno odražavao ključne nalaze rada.
Papir: “””
{tekst znanstvenog rada ovdje}
""

2) Uzorak osobe

Persona Pattern je strategija koja postavlja AI da funkcionira iz određene perspektive, kao što je profesionalna uloga ili fiktivni lik. Ova taktika omogućuje modelu da pruži rezultate povezane sa specifičnim ulogama koje bi osoba nosila. Na primjer, netko bi mogao uputiti AI da djeluje kao stručnjak za kibernetičku sigurnost tijekom pregleda koda. Ovaj je obrazac posebno koristan kada korisnici trebaju pomoć, ali nisu sigurni koji su točni detalji potrebni u izlazu.

Uzmimo sljedeće kao primjer:

korisnik: “Preuzmite personu starijeg povjesničara specijaliziranog za Francusku revoluciju. S obzirom na tu osobu, objasnite ključne događaje i razloge koji su doveli do pada francuske monarhije.”

U ovom scenariju očekuje se da će AI odgovoriti dubinskom analizom Francuske revolucije, usredotočujući se na pad monarhije, kao što bi to učinio povjesničar.

Predstavljamo nove informacije

ChatGPT ne posjeduje znanje izvan svoje granice obuke, stoga ne može pružiti informacije o nedavnim događajima ili ažuriranjima nakon svoje obuke. Međutim, možete unijeti nove informacije u model putem svojih upita.

korisnik: “Što je kriptovaluta?”
ChatGPT: “Kriptovaluta je vrsta digitalne ili virtualne valute koja koristi kriptografiju za sigurnost. Najpoznatija kriptovaluta je Bitcoin.”

Sada, ako upitu dodamo malo više konteksta, možemo učiniti objašnjenje još intuitivnijim:

korisnik: “Objasnite koncept kriptovalute srednjoškolcu koji studira digitalne financije”
ChatGPT: “Zamislite da igrate online videoigru i postoji novac za igru ​​koji možete zaraditi za kupnju nadogradnji ili novih likova. Kriptovaluta je na neki način takva, ali umjesto da bude ograničena na igru, zapravo je možete koristiti za kupnju dobara i usluga iz stvarnog svijeta. To je poput digitalnog novca koji nijedna banka ili vlada ne kontrolira.”

3) Ograničenja brze veličine

Razumijevanje ograničenja veličine ChatGPT-a je bitno jer ono izravno utječe na količinu i vrstu informacija koje možemo unijeti. Jezični modeli nisu izgrađeni za obradu neograničenog broja podataka odjednom. Imaju inherentno ograničenje na veličinu upita koji možemo stvoriti i unijeti. Ovo ograničenje ima duboke implikacije na dizajn i izvođenje upita.

ChatGPT ima ograničenje tokena (obično 2048 tokena), što uključuje i upit i generirani odgovor. To znači da dugačke upute mogu ograničiti duljinu odgovora. Stoga je važno da upute budu sažete, ali ipak informativne.

U praktičnoj uporabi, moramo djelovati kao urednici, selektivno birajući najrelevantnije informacije za zadatak koji imamo. Zamislite da pišete rad ili članak s ograničenjem broja riječi ili stranica – ne možete samo izbaciti nasumične činjenice, već pažljivo odabrati i strukturirati informacije relevantne za temu.

korisnik: "S obzirom na token ograničenja modela, sažeti ključne događaje Drugog svjetskog rata u manje od 1000 riječi."

Uvažavajući ograničenja tokena modela, ovaj upit usmjerava AI da pruži koncizan, ali sveobuhvatan sažetak Drugog svjetskog rata.

Upiti za ponovnu upotrebu: U razgovornom scenariju možete ponovno upotrijebiti upite ili ih poboljšati na temelju prethodnih odgovora. To daje tijek razgovora i održava kontekst u interakciji.

4) Obrazac preciziranja pitanja

ChatGPT također može pomoći u pročišćavanju vaših pitanja. Na primjer, ako postavite pitanje, ono može predložiti bolje formulirano pitanje za točnije rezultate.

Uzorak preciziranja pitanja uključuje LLM pročišćavanje pitanja koje postavlja korisnik. Osobito je korisno kada korisnici nisu stručnjaci u određenom području ili nisu sigurni kako formulirati svoje pitanje.

Primjer upita može izgledati ovako:

korisnik: "Kad god postavim pitanje o znanosti o podacima, predložite pročišćenije pitanje s obzirom na specifičnosti statističke analize i pitajte želim li nastaviti s pročišćenim pitanjem."

Ovdje se očekuje da će umjetna inteligencija precizirati korisnička opća pitanja o znanosti o podacima na detaljnija pitanja s obzirom na aspekte statističke analize.

5) Uzorak kognitivnog verifikatora

Uzorak kognitivnog verifikatora rastavlja složena pitanja na manja podpitanja kojima se može upravljati. Odgovori na ta potpitanja zatim se kombiniraju kako bi se dobio opsežan odgovor na glavno pitanje. Ovaj je pristup koristan kada su početna pitanja previsoka ili kada je potrebna dodatna jasnoća za pružanje cjelovitog odgovora.

Na primjer:

korisnik: “Ako postavim pitanje o klimatskim promjenama, podijelite ga na tri manja pitanja koja bi vam pomogla da date točniji odgovor. Kombinirajte odgovore na ova potpitanja da biste dobili konačan odgovor.”

U ovom scenariju, AI će složeno pitanje o klimatskim promjenama rastaviti na tri podpitanja koja se mogu riješiti. Nakon što primi odgovore na ova potpitanja, AI će ih kombinirati kako bi pružio sveobuhvatniji i točniji odgovor.

Ovaj obrazac uključuje generiranje više pitanja kako bi se dobio točniji konačni odgovor. To je proces provjere i konsolidacije informacija za robustan konačni rezultat

6) Pristup s nekoliko udaraca

Poticanje s nekoliko udaraca moćan je pristup za podučavanje AI modela da slijede određene obrasce ili izvršavaju zadatke. Ideja je nahraniti model brojnim primjerima prije postavljanja željenog pitanja. To pomaže postaviti željeno ponašanje i usmjeravati odgovore modela.

Razmotrimo scenarij u kojem korisnik pokušava sastaviti koncizan, uvjerljiv marketinški tekst za novi tehnološki gadget:

korisnik: "Evo nekoliko primjera primjeraka za tehnološki marketing: 'Doživite glazbu kao nikada prije s našim vrhunskim bežičnim slušalicama.' 'Snimite svoj svijet u zapanjujućoj 4K s našom ultra-elegantnom akcijskom kamerom.' Uzimajući u obzir ove primjere, izradite marketinšku kopiju za naš novi pametni sat koji pokreće AI."

ChatGPT: “Osnažite svoj životni stil s našim pametnim satom koji pokreće AI, vašim suputnikom za zdravlje, povezivost i produktivnost.” Izvanredna značajka učenja u nekoliko pokušaja je da ono ne zahtijeva detaljan opis kako izvršiti zadatak. Umjesto toga, zahtijeva demonstracije onoga što se radi, što ga može učiniti dobrim za mnoge aplikacije.

Nadalje, ova tehnika nadilazi jednostavno uparivanje ulaza i izlaza. Model se također može naučiti da upravlja posrednim koracima za postizanje cilja.

7) Poticanje u lancu misli

U njihovom nedavnom istraživačkom radu, "Poticanje u lancu misli potiče rasuđivanje u modelima velikih jezika” autori Jason Wei i tim imaju za cilj potaknuti razmišljanje unutar velikih jezičnih modela. Umjesto upotrebe tradicionalnih, izravnih upita, tim se koristi nizom međusobno povezanih upita, tvoreći 'lanac misli'.

Na primjer, korisnika bi mogao zanimati potencijalni utjecaj umjetne inteligencije na tržišta rada:

korisnik: “Možete li ukratko objasniti koncept umjetne inteligencije?”

ChatGPT: “Umjetna inteligencija, ili AI, odnosi se na sposobnost stroja da oponaša inteligentno ljudsko ponašanje. Radi se o dizajniranju strojeva koji mogu razmišljati i učiti poput ljudi, omogućujući im da obavljaju zadatke kao što su prijevod jezika, donošenje odluka i rješavanje problema, među ostalim.”

korisnik: "Kako AI utječe na trenutno tržište rada?"

ChatGPT: “AI stvara nova radna mjesta i mijenja prirodu postojećih. S jedne strane, automatizira rutinske zadatke, što dovodi do premještanja poslova u određenim sektorima. S druge strane, stvara potražnju za ulogama koje prije nisu postojale, kao što su službenici za etiku umjetne inteligencije, analitičari podataka i inženjeri strojnog učenja. Osim toga, AI može povećati ljudske uloge, omogućujući ljudima da izvršavaju zadatke učinkovitije i točnije.”

Poticanje u lancu misli slijedi niz povezanih poticaja, održavajući 'razgovor' s modelom koji ga vodi prema preciznijim i kontekstualno prikladnijim odgovorima.

Razumijevanje ChatGPT API-ja i brzog inženjeringa iz perspektive programera

Iz perspektive programera ili istraživača, brzi inženjering je složeniji proces. To uključuje dizajn algoritama i tehnika koje pomažu AI modelu da učinkovitije razumije i odgovori na upite. To bi moglo uključivati ​​strategije za rukovanje dvosmislenim uputama, identificiranje konteksta uputa ili ulančavanje uputa kako bi se potaknuli složeniji misaoni procesi u umjetnoj inteligenciji

Na gornjoj ilustraciji, korisnik komunicira sa sučeljem za chat, koje pokreće GPT-4. Njihov unos je poboljšan radi jasnoće i kontekstualne dosljednosti pomoću specijaliziranog modula prije nego što se unese u AI model. Uloga ovog modula je pročistiti i poboljšati unos korisnika radi boljeg razumijevanja, istovremeno održavajući kontekst razgovora. Odgovor umjetne inteligencije, izrađen na temelju rafiniranog odziva, vraća se korisniku putem sučelja za chat. Povijest interakcije dosljedno se ažurira, održavajući kontekst razgovora. Općenito, ovaj dijagram ilustrira dinamički tijek razgovora između korisnika i umjetne inteligencije omogućen brzim inženjerskim tehnikama.

Korištenje električnih romobila ističe ChatGPT API-ji sučelje je osmišljeno s različitim hiperparametrima koji korisnicima omogućuju da poboljšaju odgovore umjetne inteligencije na upite, čineći ih učinkovitijima i svestranijima. Oni uključuju parametre temperature, maksimalne duljine i sekvence zaustavljanja. Istražimo kako funkcioniraju i kako se mogu koristiti u različitim kontekstima.

1) Temperatura

Parametar temperature utječe na slučajnost odgovora umjetne inteligencije. Viša temperatura, kao što je 1.0, potiče više nasumičnog izlaza, što rezultira različitim, ali potencijalno nevezanim odgovorima. Nasuprot tome, niža temperatura, poput 0.2, potiče AI da izabere determinističkije odgovore, što može biti korisno za fokusirane i specifične rezultate, ali može nedostajati raznolikosti.

Primjer: Ako pišete kreativnu priču i želite nepredvidive, maštovite elemente, postavite temperaturu na višu vrijednost. Uputa bi mogla biti: "Napišite kratku priču o mački koja putuje kroz vrijeme." S visokom temperaturom možete dobiti divlju, fantastičnu priču s nepredvidivim obratima.

2) Maksimalna duljina

Ovaj parametar kontrolira maksimalnu duljinu tokena izlaza modela, koji uključuje i tokene u ulaznoj i izlaznoj poruci. Postavljanje višeg ograničenja omogućuje opširnije odgovore, dok niže ograničenje održava izlaz kratkim i sažetim.

Primjer: Za kratke odgovore na trivijalna pitanja poput: "Tko je dobio Nobelovu nagradu za književnost 2020.?" možda biste željeli postaviti maksimalnu duljinu na nisku vrijednost, osiguravajući da je odgovor koncizan i izravan.

3) Zaustavi sekvence

Zaustavni nizovi su specifični nizovi teksta gdje, kada model naiđe na njih, prestaje generirati daljnji izlaz. Ova značajka može biti korisna za kontrolu duljine izlaza ili davanje uputa modelu da se zaustavi na logičkim krajnjim točkama.

Primjer: Za formalno pismo, možete koristiti "S poštovanjem," kao sekvencu za zaustavljanje kako biste bili sigurni da umjetna inteligencija neće generirati dodatni tekst izvan ispravnog završetka pisma.

4) Gornji P

Parametar 'Top P', također poznat kao uzorkovanje jezgre, metoda je koja pruža dinamički odabir broja riječi koje se razmatraju u svakom koraku predviđanja modela. Niža vrijednost, poput 0.5, dovodi do sigurnijih, fokusiranijih rezultata. Viša vrijednost, poput 0.9, uključuje širi izbor riječi, što dovodi do raznolikijih rezultata.

Primjer: ako stvarate umjetnu inteligenciju za pisanje pjesama i želite da koristi široku lepezu vokabulara i stilskih fraza, možete postaviti 'Top P' na višu vrijednost. Poziv bi mogao biti: "Skladi pjesmu o ljepoti jeseni."

5) Kazna učestalosti

Frequency Penalty kontrolira koliko model treba favorizirati manje učestale riječi. Veća kazna (do 1) potiče model da koristi manje uobičajene riječi, dok niža vrijednost (do -1) potiče model da koristi više uobičajenih riječi.

Primjer: ako pokušavate generirati poslovni prijedlog i želite izbjeći žargon, možete postaviti nižu vrijednost učestalosti kako bi jezik ostao jasan i pristupačan.

6) Kazna za prisutnost

Parametar Presence Penalty utječe na to koliko će model biti kažnjen za generiranje novih ideja ili tema koje nisu bile prisutne u povijesti razgovora. Više vrijednosti potiču model da se drži već spomenutih tema, dok niže vrijednosti omogućuju modelu da slobodnije uvodi nove koncepte.

Primjer: Za sesije brainstorminga, možete postaviti kaznu prisutnosti na nižu vrijednost kako biste potaknuli raznolik niz ideja. Mogli biste upotrijebiti upit poput: "Generirajte inovativne marketinške strategije za online obrazovnu platformu."

Primjena brzog inženjeringa u industriji