Ghidul esențial pentru ingineria promtului în ChatGPT

De la lansarea sa, ChatGPT a făcut valuri în sfera inteligenței artificiale, atrăgând peste 100 de milioane de utilizatori în timp record. Secretul succesului și versatilității ChatGPT se află într-o artă subtil încorporată în programarea sa – ingineria promtului.

Lansat în 2022, DALL-E, MidJourney și StableDiffusion au subliniat potențialul disruptiv al inteligenței artificiale generative. Dar a fost Open AI ChatGPT care a luat cu adevărat centrul atenției la sfârșitul anului 2022. Și acest impuls nu a arătat semne de încetinire.

Anunțul Google (GOOGL ) cu privire la Bard și răspunsul Meta la ChatGPT al OpenAI au amplificat semnificativ impulsul cursei inteligenței artificiale. Prin furnizarea acestor modele cu intrări, le ghidăm comportamentul și răspunsurile. Acest lucru ne face pe toți ingineri de promt într-o anumită măsură. Industria tehnologică a luat act. Capitaliștii de risc investesc fonduri în startup-uri care se concentrează pe ingineria promtului, cum ar fi Vellum AI. Mai mult, Forbes raportează că inginerii de promt primesc salarii care depășesc 300.000 de dolari, ceea ce indică o piață a locurilor de muncă înfloritoare și valoroasă.

În acest articol, vom demistifica lumea ingineriei promtului în contextul ChatGPT. Vom explora principiile și tehnicile de bază și vom examina aplicațiile lor comerciale.

Să începem prin a înțelege cum funcționează ChatGPT și rolul cheie pe care îl joacă ingineria promtului în acest proces.

Mecanica din spatele ingineriei promtului ChatGPT

Secretul din spatele succesului ChatGPT este capacitatea sa de a înțelege și de a imita nuanțele conversației umane. Modelul este antrenat pe o gamă diversă de texte de pe internet, dar în mod crucial, nu cunoaște documente sau surse specifice din setul său de antrenare, asigurând generalizarea în detrimentul specificității. Acest abordare de antrenare permite ChatGPT să genereze răspunsuri creative, să navigheze prin dialoguri complexe și chiar să arate un simț al umorului. Cu toate acestea, este important de reținut că ChatGPT nu înțelege cu adevărat sau nu are convingeri; generează răspunsuri pe baza modelelor pe care le-a învățat în timpul antrenării.

Capacitatea ChatGPT de a înțelege și de a răspunde la limbajul uman într-un mod nuanțat și conștient de context îl face un instrument incredibil de versatil.

Mecanica acestor modele se bazează pe conceptul de “tokeni” – fragmente discrete de limbaj care pot varia de la un singur caracter la un cuvânt întreg. Aceste modele lucrează cu un număr specific de tokeni la un moment dat (4096 pentru GPT-3.5-Turbo sau 8192 sau 32768 pentru GPT-4), prevăzând următoarea secvență de tokeni probabili. Modelele procesează tokenii folosind algebra liniară complexă, prevăzând tokenul cel mai probabil următor.

De exemplu, o propoziție simplă de nouă cuvinte ar putea deveni zece tokeni. Chiar și un singur cuvânt complex ar putea deveni mai mulți tokeni, ceea ce ajută modelul să înțeleagă și să genereze limbajul mai bine. Chiar și limbile cu structuri de cuvinte complexe, cum ar fi germana, sunt gestionate prin tokenizare.

Modelele GPT (Transformator Generativ Preantrenat) funcționează generând un token la un moment dat, începând de la primul token și continuând până la ultimul. După generarea fiecărui token, modelul reexaminează întreaga secvență și o procesează din nou pentru a genera următorul token. Acest proces iterativ continuă până când este generat tokenul final, făcând generarea de text similară cu o buclă mare “for”.

Dar iată problema – calitatea acestor răspunsuri depinde în mare măsură de prompturile pe care le primește. La fel ca și când conduci o conversație cu un om, ghidarea unei conversații cu ChatGPT necesită un anumit nivel de abilitate și înțelegere. Aici intervine ingineria promtului.

Ce este ingineria promtului?

Ingineria promtului este arta de a crea prompturi precise și eficiente pentru a ghida modelele de inteligență artificială (NLP/Viziune) cum ar fi ChatGPT spre a genera ieșiri cele mai rentabile, precise, utile și sigure.

Ingineria promtului nu se limitează doar la generarea de text, ci are aplicații extinse în întregul domeniu al inteligenței artificiale. Este din ce în ce mai mult utilizată în domenii precum automatizarea proceselor robotice, active 3D, scripturi, instrucțiuni robot și alte tipuri de conținut și medii digitale. Oferește o combinație unică de logică, codare, artă și, în anumite cazuri, modificatori speciali.

Deși un prompt poate include text în limbaj natural, imagini sau alte tipuri de date de intrare, ieșirea poate varia semnificativ între servicii și unelte de inteligență artificială. Fiecare unelte are modificatori speciali care descriu greutatea cuvintelor, stiluri, perspective, layout sau alte proprietăți ale răspunsului dorit.

Acest domeniu este esențial pentru crearea de servicii mai bune bazate pe inteligență artificială și pentru obținerea de rezultate superioare din uneltele generative de inteligență artificială existente. Dezvoltatorii de întreprinderi, de exemplu, utilizează adesea ingineria promtului pentru a adapta modelele de limbaj mare (LLM) cum ar fi GPT-3 pentru a alimenta un chatbot orientat către client sau pentru a gestiona sarcini precum crearea de contracte specifice industriei.

Acest proces iterativ de rafinare a promptului și de măsurare a performanței inteligenței artificiale este un element cheie în permiterea modelelor de inteligență artificială să genereze răspunsuri extrem de direcționate și utile în diverse contexte.

Devenirea unui inginer de promt

Modelul GPT-4 are o capacitate remarcabilă de a înțelege instrucțiuni complexe și de a rezolva probleme intricate cu precizie, făcându-l o resursă inestimabilă. Cu toate acestea, există diferite metode de a accesa capacitățile acestui model, și înțelegerea lor poate fi crucială pentru rolul unui inginer de promt în optimizarea atât a eficienței, cât și a cost-eficienței.

Există, în esență, două moduri de a interacționa cu modelele GPT, cum ar fi GPT-4. Unul dintre ele este prin API-ul OpenAI, unde costurile sunt calculate pe baza tokenilor de intrare și ieșire. În acest scenariu, costurile pe 1.000 de tokeni pot varia în funcție de dimensiunea contextului. De exemplu, într-un context mai mare de 32K, costul ar putea ajunge până la 0,06 dolari pentru tokenii de intrare și 0,12 dolari pentru tokenii de ieșire. Astfel, atunci când se gestionează un volum ridicat de solicitări, costul utilizării poate crește rapid.

Alternativ, ChatGPT, care utilizează modelul GPT-4, funcționează pe baza unui model de abonament.

O altă sarcină cheie în ingineria promtului implică reglarea parametrilor modelului. Acest proces implică ajustarea variabilelor pe care modelul le utilizează pentru a face previziuni. Prin reglarea acestor parametri, inginerii de promt pot îmbunătăți calitatea și precizia răspunsurilor modelului, făcându-le mai relevante din punct de vedere contextual și mai utile.

Deși mulți ingineri de promt provin dintr-un mediu tehnic, natura multidisciplinară a acestui domeniu îl face accesibil indivizilor din diverse medii profesionale. În mod tot mai frecvent, scriitori, cercetători și chiar artiști își valorifică abilitățile unice pentru a îmbunătăți eficacitatea modelelor de inteligență artificială. Această schimbare se reflectă și pe piața muncii, unde o serie tot mai mare de companii caută ingineri de promt cu o gamă largă de abilități și medii.

Proiectarea și ingineria promtului în ChatGPT

Proiectarea și ingineria promtului joacă un rol critic în optimizarea performanței modelelor de limbaj și implică mai mult decât simpla creare de întrebări; necesită o înțelegere profundă a modelului de inteligență artificială și o abordare extrem de iterativă și rafinată.

Proiectarea promtului

Proiectarea promtului, în esență, este arta și știința de a crea promptul perfect pentru un model de limbaj mare (LLM) dat, cum ar fi ChatGPT, pentru a atinge un obiectiv clar definit. Este o combinație de:

• Înțelegerea LLM: Diferite modele de limbaj pot răspunde diferit la același prompt. Mai mult, anumite modele de limbaj pot avea cuvinte cheie sau declanșatoare unice, pe care le interpretează într-un mod specific.
• Cunoașterea domeniului: Expertiza în domeniul relevant este crucială atunci când se proiectează prompturi. De exemplu, generarea unui prompt pentru a infera un diagnostic medical ar necesita cunoștințe medicale.
• Abordare iterativă și măsurare a calității: Procesul de creare a promptului ideal implică adesea încercări și erori. Prin urmare, este vital să aveți o modalitate de a evalua calitatea ieșirii dincolo de simpla judecată subiectivă, mai ales atunci când utilizați promptul la scară mai mare.

Ingineria promtului

Ingineria promtului este un domeniu extins al proiectării promtului care include mai multe procese critice:

• Proiectarea promtului la scară: Acest proces include proiectarea meta-prompturilor (prompturi care generează alte prompturi) și șabloane de prompturi, care sunt prompturi parametrizate care pot fi instantiate la runtime.
• Proiectarea și integrarea uneltelor: Prompturile pot include uneori rezultate din unelte externe, și integrarea acestor unelte în sistem în mod transparent este crucială.
• Planificarea fluxului de lucru, gestionarea și proiectarea promtului: Implementarea unei aplicații LLM, cum ar fi un chatbot, necesită adesea gestionarea bibliotecilor de prompturi, planificarea și alegerea prompturilor potrivite, și integrarea eficientă a diverselor unelte.
• Evaluarea și asigurarea calității promtului: Acest aspect include definirea metricilor și proceselor pentru a evalua prompturile atât automat, cât și cu implicarea umană.
• Optimizarea promtului: Costul și latența modelului de inteligență artificială pot depinde de alegerea modelului și de lungimea promtului (număr de tokeni).

Multe abordări automate de proiectare a promtului, unelte și cadre au fost dezvoltate pentru a gestiona prompturi la scară. Cu toate acestea, este important de înțeles că niciuna dintre aceste unelte nu poate înlocui înțelegerea nuanțată, judecata și experiența unui inginer de promt experimentat.

Ingineria promtului: Tehnici și cele mai bune practici

1) Plasarea și descrierea promtului

Plasarea instrucțiunilor la începutul promtului poate avea un impact semnificativ asupra înțelegerii și răspunsului inteligenței artificiale. Luați în considerare sarcina de a rezuma un text într-o listă cu puncte a punctelor cele mai importante. O abordare mai puțin eficientă ar fi:

Utilizator: Rezumați textul de mai jos sub formă de listă cu puncte a punctelor cele mai importante.
{textul de intrare aici}

Pe de altă parte, o tehnică mai eficientă ar putea fi:

Utilizator: Rezumați textul de mai jos sub formă de listă cu puncte a punctelor cele mai importante.
Text: “””
{textul de intrare aici}
“””

Prin separarea clară a instrucțiunilor și a contextului cu simboluri precum ### sau “”, modelul de inteligență artificială poate delimita mai bine sarcina sa și textul pe care trebuie să îl proceseze, oferind astfel răspunsuri mai precise și mai relevante.

În al doilea rând, a fi specific, descriptiv și detaliat cu privire la context, rezultatul așteptat, lungime, format, stil și așa mai departe poate îmbunătăți semnificativ precizia răspunsurilor inteligenței artificiale. Să presupunem că aveți nevoie de a genera o scurtă prezentare a unui articol științific într-un stil captivant și accesibil pentru non-specialiști. Un prompt vag precum “Rezumați articolul științific” ar oferi rezultate mai puțin eficiente în comparație cu un prompt specific și detaliat:

Utilizator: Generați o scurtă prezentare (aproximativ 200 de cuvinte) a articolului științific de mai jos. Prezentarea trebuie să fie înțeleasă de cineva fără cunoștințe științifice, reflectând în același timp cu acuratețe principalele constatări ale articolului.
Articol: “””
{textul articolului științific aici}
“””

2) Modelul de persoană

Modelul de persoană este o strategie care setează inteligența artificială să funcționeze dintr-o anumită perspectivă, cum ar fi un rol profesional sau un personaj fictiv. Această tactică permite modelului să ofere ieșiri legate de rolurile specifice pe care le gestionează persoana. De exemplu, puteți instrui inteligența artificială să acționeze ca un expert în securitate cibernetică în timpul unei revizuiri de cod.

Luați în considerare următorul exemplu:

Utilizator: “Asigurați-vă că sunteți o persoană care are rolul de istoric specializat în Revoluția Franceză. Din această perspectivă, explicați evenimentele cheie și motivele care au condus la căderea monarhiei franceze.”

În acest scenariu, inteligența artificială este așteptată să ofere o analiză aprofundată a Revoluției Franceze, concentrându-se pe căderea monarhiei, așa cum ar face un istoric.

Introducerea de informații noi

ChatGPT nu posedă cunoștințe dincolo de punctul său de antrenare, astfel încât nu poate oferi informații despre evenimente recente sau actualizări post-antrenare. Cu toate acestea, puteți introduce informații noi în model prin prompturile dvs.

Utilizator: “Ce este criptomoneda?”
ChatGPT: “Criptomoneda este un tip de monedă digitală sau virtuală care utilizează criptografia pentru securitate. Cea mai cunoscută criptomonedă este Bitcoin.”

Acum, dacă adăugăm un pic mai mult context la prompt, putem face explicația și mai intuitivă:

Utilizator: Explicați conceptul de criptomonedă unui elev de liceu care studiază finanțe digitale.
ChatGPT: “Imaginați-vă că jucați un joc video online și există bani de joc pe care îi puteți câștiga pentru a cumpăra upgrade-uri sau caractere noi. Criptomoneda este similară, dar în loc să fie limitată la joc, o puteți folosi pentru a cumpăra bunuri și servicii reale.”

3) Limitări de dimensiune a promtului

Înțelegerea limitărilor de dimensiune ale ChatGPT este esențială, deoarece aceasta afectează direct volumul și tipul de informații pe care le putem introduce. Modelele de limbaj nu sunt concepute pentru a procesa date nelimitate deodată. Ele au o constrângere în dimensiunea promtului pe care îl putem crea și introduce. Această limitare are implicații profunde pentru proiectarea și executarea promtului.

ChatGPT are o limită de tokeni (în general 2048 de tokeni), care include atât promptul, cât și răspunsul generat. Acest lucru înseamnă că prompturile lungi pot limita lungimea răspunsului. Prin urmare, este important să păstrăm prompturile concise, dar informative.

În utilizarea practică, trebuie să acționăm ca editori, selectând cu atenție informațiile cele mai relevante pentru sarcina de îndeplinit. Imaginați-vă scriind un articol sau o lucrare cu o limită de cuvinte sau pagini – nu puteți doar să vărsați fapte aleatorii, ci trebuie să selectați și să structurați informațiile relevante pentru subiect.

Utilizator: “Având în vedere limitările de tokeni ale modelului, rezumați evenimentele cheie ale celui de-al Doilea Război Mondial în mai puțin de 1000 de cuvinte.”

Prin recunoașterea limitărilor de tokeni ale modelului, acest prompt direcționează inteligența artificială să ofere o prezentare concisă, dar cuprinzătoare a celui de-al Doilea Război Mondial.

Prompturi pentru utilizare repetată: Într-un scenariu conversațional, puteți reutiliza prompturi sau le puteți rafina pe baza răspunsurilor anterioare. Acest lucru oferă un flux conversațional și menține contextul în interacțiune.

4) Modelul de rafinare a întrebărilor

ChatGPT poate, de asemenea, să vă ajute să rafinați întrebările. De exemplu, dacă puneți o întrebare, poate sugera o întrebare mai bine formulată pentru rezultate mai precise.

Modelul de rafinare a întrebărilor implică LLM-ul care rafinează întrebările puse de utilizator. Acesta este deosebit de util atunci când utilizatorii nu sunt experți într-un anumit domeniu sau nu sunt siguri cum să formuleze întrebarea.

Un exemplu de prompt ar putea arăta astfel:

Utilizator: “Când pun o întrebare despre știința datelor, sugerați o întrebare mai rafinată, luând în considerare aspectele specifice analizei statistice și întrebați dacă doresc să continuăm cu întrebarea rafinată.”

Aici, inteligența artificială este așteptată să rafineze întrebările generale despre știința datelor în întrebări mai detaliate, care iau în considerare aspectele analizei statistice.

5) Modelul de verificare cognitivă

Modelul de verificare cognitivă descompune întrebări complexe în sub-întrebări mai mici și gestionabile. Răspunsurile la aceste sub-întrebări sunt apoi combinate pentru a oferi un răspuns cuprinzător la întrebarea principală. Acestă abordare este utilă atunci când întrebările inițiale sunt prea generale sau când se necesită clarificări suplimentare pentru a oferi un răspuns complet.

De exemplu:

Utilizator: “Dacă pun o întrebare despre schimbările climatice, descompuneți-o în trei sub-întrebări mai mici care ar ajuta la obținerea unui răspuns mai precis. Combinați apoi răspunsurile la aceste sub-întrebări pentru a oferi răspunsul final.”

În acest scenariu, inteligența artificială va descompune întrebarea complexă despre schimbările climatice în trei sub-întrebări gestionabile. După ce primește răspunsurile la aceste sub-întrebări, inteligența artificială le va combina pentru a oferi un răspuns mai cuprinzător și precis.

Acest model implică generarea de întrebări multiple pentru a obține un răspuns final mai precis. Este un proces de verificare și consolidare a informațiilor pentru a obține un output robust.

6) Abordarea de promptare cu puține exemple

Promptarea cu puține exemple este o abordare puternică pentru a învăța modelele de inteligență artificială să urmeze anumite modele sau să execute sarcini. Ideea este de a alimenta modelul cu un număr de exemple înainte de a pune întrebarea dorită. Acest lucru ajută la stabilirea comportamentului dorit și la ghidarea răspunsurilor modelului.

Considerați un scenariu în care un utilizator încearcă să creeze o copie de marketing concisă și captivantă pentru un nou gadget tehnologic:

Utilizator: “Iată câteva exemple de copii de marketing tehnologic: ‘Experimentați muzica ca niciodată mai înainte cu căștile noastre wireless de ultimă generație.’ ‘Capturați lumea dvs. în 4K ultraslim cu camera noastră de acțiune.’ Pe baza acestor exemple, creați o copie de marketing pentru noul nostru ceas inteligent cu inteligență artificială.”

ChatGPT: “Dezvoltați-vă stilul de viață cu ceasul nostru inteligent cu inteligență artificială, partenerul dvs. pentru sănătate, conectivitate și productivitate.” Caracteristica remarcabilă a învățării cu puține exemple este că nu necesită o descriere detaliată a modului în care se execută sarcina. În schimb, necesită demonstrații ale ceea ce se face, ceea ce o face potrivită pentru multe aplicații.

Mai mult, această tehnică se extinde dincolo de simpla asociere intrare-ieșire. Modelul poate fi învățat să gestioneze pași intermediari pentru a atinge un obiectiv.

7) Abordarea de promptare în lanț

Într-unul dintre articolele lor recente de cercetare, “Promptarea în lanț stimulează raționamentul în modelele de limbaj mare“, autorii Jason Wei și echipa sa încearcă să stimuleze raționamentul în interiorul modelelor de limbaj mare. În loc de a utiliza prompturi tradiționale și directe, echipa utilizează o serie de prompturi interconectate, formând un “lanț de gândire”.

De exemplu, un utilizator ar putea fi interesat de impactul potențial al inteligenței artificiale asupra pieței muncii:

Utilizator: “Puteți explica pe scurt conceptul de inteligență artificială?”

ChatGPT: “Inteligența artificială, sau AI, se referă la capacitatea unei mașini de a imita comportamentul inteligent uman. Este vorba despre proiectarea mașinilor care pot gândi și învăța ca oamenii, permițându-le să execute sarcini precum traducerea limbajului, luarea deciziilor și rezolvarea problemelor, printre altele.”

Utilizator: “Cum influențează inteligența artificială piața actuală a muncii?”

ChatGPT: “Inteligența artificială creează atât locuri de muncă noi, cât și schimbă natura celor existente. Pe de o parte, automatizează sarcini repetitive, ceea ce poate duce la disponibilizări în anumite sectoare. Pe de altă parte, creează cerere pentru roluri care nu existau anterior, cum ar fi ofițeri de etică AI, analiști de date și ingineri de învățare automată. În plus, inteligența artificială poate îmbunătăți rolurile umane, permițând oamenilor să își desfășoare sarcinile mai eficient și mai precis.”

Abordarea de promptare în lanț urmează o serie de prompturi interconectate, menținând o “conversație” cu modelul care îl direcționează către răspunsuri mai precise și mai contextualizate.

Înțelegerea API-ului ChatGPT și a ingineriei promtului din perspectiva unui dezvoltator

Din perspectiva unui dezvoltator sau cercetător, ingineria promtului este un proces mai complex. Implică proiectarea de algoritmi și tehnici pentru a ajuta modelul de inteligență artificială să înțeleagă și să răspundă la prompturi mai eficient. Acest lucru poate include strategii pentru a gestiona prompturi ambigue, a identifica contextul prompturilor sau a lega prompturi împreună pentru a stimula procese de gândire mai complexe în inteligența artificială.

În ilustrația de mai sus, un utilizator interacționează cu o interfață de chat, alimentată de GPT-4. Intrarea lor este îmbunătățită pentru claritate și coerență contextuală de către un modul specializat înainte de a fi alimentată în modelul de inteligență artificială. Rolul acestui modul este de a rafina și îmbunătăți intrarea utilizatorului pentru o mai bună înțelegere, menținând în același timp contextul conversației. Răspunsul inteligenței artificiale, creat pe baza promptului rafinat, este returnat utilizatorului prin interfața de chat. Istoria interacțiunii este actualizată în mod constant, menținând contextul conversațional. În general, acest diagram ilustrează un flux dinamic de conversație utilizator-inteligență artificială, facilitat de tehnici de inginerie a promtului.

Interfața API-ului ChatGPT este proiectată cu diverse hiperparametri care permit utilizatorilor să rafineze răspunsurile inteligenței artificiale la prompturi, făcându-le mai eficiente și mai versatile. Acestea includ parametrii Temperatură, Lungime maximă, Secvențe de oprire și altele. Să explorăm cum funcționează acestea și cum pot fi utilizate în diverse contexte.

1) Temperatură

Parametrul Temperatură influențează aleatorietatea răspunsurilor inteligenței artificiale. O temperatură mai ridicată, cum ar fi 1,0, încurajează ieșiri mai aleatorii, rezultând în răspunsuri diverse, dar posibil în afara subiectului. În contrast, o temperatură mai scăzută, cum ar fi 0,2, îndeamnă inteligența artificială să selecteze răspunsuri mai deterministice, care pot fi benefice pentru ieșiri focalizate și specifice, dar pot lipsi varietate.

Exemplu: Dacă scrieți o poveste creativă și doriți elemente imprevizibile și imaginative, setați temperatura la o valoare mai ridicată. Un prompt ar putea fi: “Scrieți o poveste scurtă despre o pisică care călătorește în timp.” Cu o temperatură ridicată, ați putea obține o poveste sălbatică și fantastică, cu întorsături neprevăzute.

2) Lungime maximă

Acest parametru controlează lungimea maximă a tokenilor de ieșire a modelului, care include atât tokenii din intrare, cât și cei din ieșire. Setarea unei limite mai mari permite răspunsuri mai extinse, în timp ce o limită mai scăzută menține ieșirea scurtă și concisă.

Exemplu: Pentru răspunsuri scurte la întrebări de tip trivia, cum ar fi “Cine a câștigat Premiul Nobel pentru Literatură în 2020?”, ați putea seta lungimea maximă la o valoare scăzută, asigurându-vă că răspunsul este concis și direct.

3) Secvențe de oprire

Secvențele de oprire sunt șiruri de caractere specifice la care, atunci când modelul le întâlnește, încetează să genereze ieșiri suplimentare. Această funcție poate fi utilă pentru controlul lungimii ieșirii sau pentru a instrui modelul să se oprească la puncte logice de încheiere.

Exemplu: Pentru o scrisoare formală, ați putea utiliza “Cu stimă” ca secvență de oprire pentru a asigura că inteligența artificială nu generează text suplimentar dincolo de încheierea corespunzătoare a scrisorii.

4) Top P

Parametrul “Top P”, cunoscut și sub numele de eșantionare nucleară, este o metodă care oferă o selecție dinamică a numărului de cuvinte luate în considerare la fiecare pas al previziunilor modelului. O valoare mai scăzută, cum ar fi 0,5, conduce la ieșiri mai sigure și mai focalizate. O valoare mai ridicată, cum ar fi 0,9, include o selecție mai largă de cuvinte, ducând la ieșiri mai diverse.

Exemplu: Dacă creați un model de inteligență artificială pentru a scrie poezii și doriți ca aceasta să utilizeze o gamă largă de vocabular și fraze stilistice, ați putea seta “Top P” la o valoare mai ridicată. Un prompt ar putea fi: “Compune o poezie despre frumusețea toamnei.”

5) Penalizarea frecvenței

Penalizarea frecvenței controlează cât de mult ar trebui modelul să favorizeze cuvintele mai puțin frecvente. O penalizare mai ridicată (până la 1) încurajează modelul să utilizeze cuvinte mai puțin comune, în timp ce o valoare mai scăzută (până la -1) îl îndeamnă să utilizeze cuvinte mai comune.

Exemplu: Dacă generați un plan de afaceri și doriți să evitați jargonul, ați putea seta penalizarea frecvenței la o valoare mai scăzută pentru a păstra limbajul clar și accesibil.

6) Penalizarea prezenței

Penalizarea prezenței afectează cât de mult ar trebui modelul să fie penalizat pentru generarea de idei sau subiecte noi care nu au fost menționate în istoria conversației. Valori mai ridicate îl încurajează pe model să se țină de subiectele menționate anterior, în timp ce valori mai scăzute permit modelului să introducă concepte noi mai liber.

Exemplu: Pentru sesiuni de brainstorming, ați putea seta penalizarea prezenței la o valoare mai scăzută pentru a încuraja o gamă diversă de idei. Ați putea utiliza un prompt precum: “Generați strategii de marketing inovatoare pentru o platformă educațională online.”

Apliicații industriale ale ingineriei promtului