De Essentiële Gids voor Prompt Engineering in ChatGPT

Sinds de lancering van ChatGPT heeft het bedrijf golven gemaakt in de AI-sfeer, met meer dan 100 miljoen gebruikers in recordtijd. Het geheim achter de indrukwekkende prestaties en veelzijdigheid van ChatGPT ligt in een kunst die subtiel in zijn programmering is verwerkt – prompt engineering.

Na de lancering van DALL-E, MidJourney en StableDiffusion in 2022, werd de disruptieve potentie van Generatieve AI onderstreept. Maar het was Open AI‘s ChatGPT dat echt centraal stond later in 2022. En deze momentum liet geen tekenen van vertraging zien.

Google’s aankondiging van Bard en Meta’s Lamma 2 als antwoord op OpenAI’s ChatGPT heeft de momentum van de AI-race aanzienlijk versterkt. Door deze modellen inputs te geven, sturen we hun gedrag en antwoorden. Dit maakt ons allemaal tot een zekere mate prompt engineers. De technologie-industrie heeft hierop gereageerd. Venture capitalists steken geld in startups die zich richten op prompt engineering, zoals Vellum AI. Bovendien meldt Forbes dat prompt engineers salarissen verdienen die meer dan $300.000 bedragen, wat wijst op een bloeiende en waardevolle arbeidsmarkt.

In dit artikel zullen we de wereld van prompt engineering in de context van ChatGPT ontsluieren. We zullen de kernprincipes en -technieken onderzoeken en hun commerciële toepassingen bekijken.

Laten we eerst begrijpen hoe ChatGPT functioneert en de cruciale rol die prompt engineering hierin speelt.

De Mechanismen Achter ChatGPT Prompt Engineering

Het geheim achter ChatGPT’s succes ligt in zijn vermogen om de nuances van menselijke conversatie te begrijpen en te imiteren. Het model is getraind op een diverse reeks internetteksten, maar het weet geen specifieke documenten of bronnen in zijn trainingsset, waardoor het generaliseert in plaats van specifiek te zijn. Deze trainingsaanpak stelt ChatGPT in staat om creatieve antwoorden te genereren, complexe dialogen te navigeren en zelfs een gevoel voor humor te tonen. Het is echter belangrijk om te onthouden dat ChatGPT niet echt begrijpt of gelooft; het genereert antwoorden op basis van patronen die het tijdens de training heeft geleerd.

ChatGPT’s vermogen om menselijke taal te begrijpen en te reageren op een nuancesvolle en contextuele manier maakt het een uiterst veelzijdig instrument.

De mechanismen van deze modellen zijn gebaseerd op het concept van ‘tokens’ – discrete stukken taal die variëren van een enkel karakter tot een heel woord. Deze modellen werken met een specifiek aantal tokens tegelijk (4096 voor GPT-3.5-Turbo of 8192 of 32768 voor GPT-4), waarbij ze de volgende reeks waarschijnlijke tokens voorspellen. De modellen verwerken de tokens met behulp van complexe lineaire algebra, waarbij ze de meest waarschijnlijke volgende token voorspellen.

Als voorbeeld kan een eenvoudige negenwoordzinnige zin worden omgezet in tien tokens. Zelfs een enkel complex woord kan worden omgezet in meerdere tokens, wat het model helpt om taal beter te begrijpen en te genereren. Zelfs talen met complexe woordstructuren, zoals Duits, worden beheerd door tokenisatie.

GPT (Generative Pre-trained Transformer) modellen werken door één token tegelijk te genereren, beginnend bij het eerste token en doorgaand tot het laatste. Na het genereren van elk token, keert het model terug naar de hele reeks en verwerkt deze opnieuw om het volgende token te genereren. Dit iteratieve proces gaat door totdat het laatste token is gegenereerd, waardoor de generatie van tekst lijkt op een grote for-lus.

Maar hier is het punt – de kwaliteit van deze antwoorden hangt grotendeels af van de prompts die het ontvangt. Net als het sturen van een conversatie met een mens, vereist het sturen van een dialoog met ChatGPT een zeker niveau van vaardigheid en begrip. Dat is waar prompt engineering om de hoek komt kijken.

Wat is Prompt Engineering?

Prompt Engineering is de kunst van het creëren van precieze, effectieve prompts/inputs om AI-modellen zoals ChatGPT te leiden naar het genereren van de meest kosteneffectieve, nauwkeurige, nuttige en veilige outputs.

Prompt engineering is niet alleen beperkt tot tekstgeneratie, maar heeft een brede toepassing in het hele AI-domein. Het wordt steeds vaker gebruikt in gebieden zoals robotische procesautomatisering, 3D-assets, scripts, robotinstructies en andere soorten inhoud en digitale media. Het biedt een unieke combinatie van logica, codering, kunst en in sommige gevallen speciale modificatoren.

Terwijl een prompt natuurlijke taaltekst, afbeeldingen of andere soorten invoergegevens kan omvatten, kan de output aanzienlijk variëren over AI-diensten en -tools. Elk hulpmiddel heeft zijn speciale modificatoren die de gewicht van woorden, stijlen, perspectieven, lay-out of andere eigenschappen van het gewenste antwoord beschrijven.

Dit veld is essentieel voor het creëren van betere AI-gebaseerde diensten en het behalen van superieure resultaten uit bestaande generatieve AI-hulpmiddelen. Enterprise-ontwikkelaars gebruiken bijvoorbeeld prompt engineering om Large Language Models (LLM’s) zoals GPT-3 aan te passen om een klantgerichte chatbot te laten werken of taken uit te voeren zoals het maken van branche-specifieke contracten.

Deze iteratieve proces van prompt verfijning en meten van AI-prestaties is een sleutelonderdeel in het mogelijk maken van AI-modellen om zeer gerichte, nuttige antwoorden te genereren in verschillende contexten.

Worden een Prompt Engineer

Het model GPT-4 heeft een indrukwekkend vermogen om complexe instructies te begrijpen en ingewikkelde problemen nauwkeurig op te lossen, waardoor het een waardevolle bron is. Er zijn echter verschillende methoden om toegang te krijgen tot de mogelijkheden van dit model, en het begrijpen van deze methoden is cruciaal voor de rol van een prompt engineer in het optimaliseren van zowel efficiëntie als kosteneffectiviteit.

Er zijn twee manieren om met GPT-modellen zoals GPT-4 te werken. De ene manier is via de API van OpenAI, waarbij de kosten per invoer- en uitvoertoken worden berekend. In dit scenario kunnen de kosten per 1K tokens fluctueren op basis van de contextgrootte. Bijvoorbeeld, in een grotere context van 32K, kan de kosten oplopen tot $0,06 voor invoertokens en $0,12 voor uitvoertokens. Dus, wanneer u te maken heeft met een grote hoeveelheid aanvragen, kan de gebruikskosten snel oplopen.

Als alternatief werkt ChatGPT, dat het GPT-4-model gebruikt, op basis van een abonnementsmodel.

Een andere belangrijke taak in prompt engineering is het afstemmen van modelparameters. Dit proces omvat het aanpassen van de variabelen die het model gebruikt om voorspellingen te doen. Door deze parameters te verfijnen, kunnen prompt engineers de kwaliteit en nauwkeurigheid van de antwoorden van het model verbeteren, waardoor ze meer contextueel relevant en nuttig worden.

Hoewel veel prompt engineers een technische achtergrond hebben, maakt de multidisciplinaire aard van het veld het toegankelijk voor individuen met diverse professionele achtergronden. Steeds vaker gebruiken schrijvers, onderzoekers en zelfs kunstenaars hun unieke vaardigheden om de effectiviteit van AI-modellen te verbeteren. Deze verschuiving wordt weerspiegeld in de arbeidsmarkt, waar een groeiend aantal bedrijven prompt engineers zoekt met een breed scala aan vaardigheden en achtergronden.

Prompt Design en Engineering in ChatGPT

Prompt Design en Engineering spelen een cruciale rol in het optimaliseren van de prestaties van taalmodellen en omvatten meer dan alleen vragen stellen; ze vereisen een diep begrip van het AI-model en een zeer iteratief en verfijnd aanpak.

Prompt Design

Prompt design, in zijn kern, is de kunst en wetenschap van het creëren van de perfecte prompt voor een bepaald groot taalmodel (LLM), zoals ChatGPT, om een duidelijk gesteld doel te bereiken. Het is een combinatie van:

• Begrip van het LLM: Verschillende taalmodellen kunnen verschillend reageren op dezelfde prompt. Bovendien kunnen bepaalde taalmodellen unieke trefwoorden of triggers hebben die ze op een specifieke manier interpreteren.
• Domeinkennis: Deskundigheid in het relevante veld is cruciaal bij het ontwerpen van prompts. Bijvoorbeeld, het genereren van een prompt om een medische diagnose te doen, zou medische kennis vereisen.
• Iteratieve aanpak en kwaliteitsmeting: Het proces van het creëren van de ideale prompt omvat vaak trial en error. Daarom is het hebben van een manier om de uitvoerkwaliteit te evalueren, los van alleen subjectieve beoordeling, essentieel, vooral wanneer de prompt op grote schaal wordt gebruikt.

Prompt Engineering

Prompt engineering is een uitgebreid domein van prompt design dat verschillende kritieke processen omvat:

• Ontwerp van prompts op grote schaal: Dit proces omvat het ontwerp van meta-prompts (prompts die andere prompts genereren) en prompt-sjablonen, die parameterized prompts zijn die op runtime kunnen worden geïnstantieerd.
• Hulpmiddelontwerp en integratie: Prompts kunnen soms resultaten van externe hulpmiddelen bevatten, en het naadloos integreren van deze hulpmiddelen in het systeem is cruciaal.
• Werkstroom, planning en promptbeheer: Het implementeren van een LLM-toepassing, zoals een chatbot, vereist vaak het beheren van bibliotheken van prompts, het plannen en kiezen van de juiste prompts, en het efficiënt integreren van verschillende hulpmiddelen.
• Evaluatie en kwaliteitsborging van prompts: Dit aspect omvat het definiëren van metrics en processen om prompts zowel automatisch als met menselijke betrokkenheid te evalueren.
• Prompt optimalisatie: De kosten en latentie van het AI-model kunnen afhankelijk zijn van de keuze van het model en de lengte van de prompt (aantal tokens).

Veel geautomatiseerde prompt design-benaderingen, -hulpmiddelen en -kaders zijn ontwikkeld om prompts op grote schaal te beheren. Het is echter belangrijk om te begrijpen dat geen van deze hulpmiddelen de nuance, oordeel en ervaring van een ervaren prompt engineer kan vervangen.

Prompt Engineering: Technieken en Beste Praktijken

1) Prompt Plaatsing en Beschrijving

Het plaatsen van instructies aan het begin van de prompt kan een aanzienlijke invloed hebben op het begrip en de reactie van de AI. Overweeg de taak om een tekst samen te vatten in een opsomming. Een minder effectieve aanpak zou zijn:

Gebruiker: Samenvat de tekst hieronder als een opsomming van de belangrijkste punten.
{tekst invoeren hier}

Aan de andere kant zou een effectievere techniek zijn:

Gebruiker: Samenvat de tekst hieronder als een opsomming van de belangrijkste punten.
Tekst: “””
{tekst invoeren hier}
“””

Door duidelijk de instructies en de context te scheiden met symbolen zoals ### of “”, kan het AI-model zijn taak beter afbakenen en de tekst die het moet verwerken, waardoor het meer accurate en relevante antwoorden kan geven.

Ten tweede kan het zijn om specifiek, beschrijvend en gedetailleerd te zijn over de context, het verwachte resultaat, de lengte, het formaat, de stijl enzovoort, waardoor de precisie van AI-antwoorden aanzienlijk kan worden verbeterd. Stel dat u een korte samenvatting van een wetenschappelijk artikel moet genereren in een aantrekkelijke, voor leken begrijpelijke stijl. Een vage instructie zoals “Samenvat het wetenschappelijke artikel” zou minder effectieve resultaten opleveren in vergelijking met een specifieke, gedetailleerde prompt:

Gebruiker: Genereer een korte (ongeveer 200 woorden) samenvatting van het volgende wetenschappelijke artikel. De samenvatting moet begrijpelijk zijn voor iemand zonder wetenschappelijke achtergrond, terwijl het de belangrijkste bevindingen van het artikel nauwkeurig weergeeft.
Artikel: “””
{wetenschappelijk artikeltekst hier}
“””

2) Persona Patroon

Het Persona Patroon is een strategie die de AI ertoe aanzet om te functioneren vanuit een bepaald perspectief, zoals een professionele rol of fictief personage. Deze tactiek stelt het model in staat om outputs te produceren die verband houden met de specifieke rollen die de persona zou behandelen. Bijvoorbeeld, u zou de AI kunnen instrueren om te handelen als een cybersecurity-expert tijdens een code-review. Dit patroon is vooral nuttig wanneer gebruikers hulp nodig hebben maar niet zeker zijn van de exacte details die in de output vereist zijn.

Neem het volgende als voorbeeld:

Gebruiker: “Ga ervan uit dat je een senior historicus bent die zich specialiseert in de Franse Revolutie. Geef, vanuit die persona, een uitleg over de belangrijkste gebeurtenissen en redenen die leidden tot het verval van de Franse monarchie.”

In deze situatie wordt van de AI verwacht dat het een diepgaande analyse van de Franse Revolutie zal geven, met de focus op het verval van de monarchie, zoals een historicus zou doen.

Introductie van Nieuwe Informatie

ChatGPT beschikt niet over kennis die verder gaat dan zijn trainingsdeadline, dus het kan geen informatie over recente gebeurtenissen of updates na zijn training verstrekken. U kunt echter nieuwe informatie aan het model verstrekken via uw prompts.

Gebruiker: “Wat is cryptocurrency?”
ChatGPT: “Cryptocurrency is een soort digitale of virtuele valuta die cryptografie gebruikt voor beveiliging. De meest bekende cryptocurrency is Bitcoin.”

Als we nu wat meer context toevoegen aan de prompt, kunnen we de uitleg nog intuïtiever maken:

Gebruiker: “Leg het concept van cryptocurrency uit aan een middelbare scholier die digitaal financieren bestudeert”
ChatGPT: “Stel je voor dat je een online videospel speelt en er spelgeld is dat je kunt verdienen om upgrades of nieuwe personages te kopen. Cryptocurrency is een soortgelijk concept, maar in plaats van beperkt te zijn tot het spel, kun je het echt gebruiken om echte goederen en diensten te kopen. Het is als digitaal geld dat geen bank of overheid controleert.”

3) Prompt Grootte Beperkingen

Het begrijpen van de groottebeperking van ChatGPT is essentieel, omdat dit rechtstreeks de hoeveelheid en het type informatie beïnvloedt die we kunnen invoeren. Taalmodellen zijn niet ontworpen om onbeperkte gegevens tegelijk te verwerken. Ze hebben een inherente beperking op de grootte van de prompt die we kunnen maken en invoeren. Deze beperking heeft diepgaande implicaties voor het ontwerp en de uitvoering van prompts.

ChatGPT heeft een tokenlimiet (meestal 2048 tokens), die zowel de prompt als het gegenereerde antwoord omvat. Dit betekent dat lange prompts de lengte van het antwoord kunnen beperken. Daarom is het belangrijk om prompts bondig maar informatief te houden.

In praktische toepassing moeten we handelen als redacteuren, selectief kiezend voor de meest relevante informatie voor de taak die we uitvoeren. Stel dat u een paper of artikel moet schrijven met een woord- of paginalimiet – u kunt niet zomaar willekeurige feiten dumpen, maar moet zorgvuldig selecteren en structureren van informatie relevant voor het onderwerp.

Gebruiker: “Gegeven de tokenlimiet van het model, samenvat de belangrijkste gebeurtenissen van de Tweede Wereldoorlog in minder dan 1000 woorden.”

Door de tokenlimiet van het model te erkennen, geeft deze prompt de AI de opdracht om een bondige maar uitgebreide samenvatting van de Tweede Wereldoorlog te geven.

Prompts voor Herhaald Gebruik: In een conversatiescenario kunt u prompts hergebruiken of verfijnen op basis van eerdere antwoorden. Dit geeft een conversatieflow en behoudt de context in de interactie.

4) Vraag Verfijning Patroon

ChatGPT kan ook helpen bij het verfijnen van uw vragen. Als u bijvoorbeeld een vraag stelt, kan het een beter geformuleerde vraag suggereren voor meer accurate resultaten.

Het Vraag Verfijning Patroon omvat het verfijnen van vragen door het LLM. Het is vooral nuttig wanneer gebruikers geen experts zijn in een domein of niet zeker zijn over de exacte details die in de output vereist zijn.

Een voorbeeldprompt kan er als volgt uitzien:

Gebruiker: “Wanneer ik een vraag stel over datawetenschap, stel een meer verfijnde vraag voor, met inachtneming van statistische analyse-specifieke aspecten, en vraag of ik door wil gaan met de verfijnde vraag.”

Hier wordt van de AI verwacht dat het de algemene vragen over datawetenschap verfijnt tot meer gedetailleerde vragen met inachtneming van statistische analyse-aspecten.

5) Cognitieve Verificatie Patroon

Het Cognitieve Verificatie Patroon breekt complexe vragen af in kleinere, beheersbare sub-vragen. De antwoorden op deze sub-vragen worden vervolgens gecombineerd om een uitgebreid antwoord op de hoofdvraag te geven. Deze aanpak is nuttig wanneer de initiële vragen te algemeen zijn of wanneer aanvullende duidelijkheid nodig is om een compleet antwoord te geven.

Bijvoorbeeld:

Gebruiker: “Als ik een vraag stel over klimaatverandering, breek deze af in drie kleinere vragen die u zullen helpen een meer accurate antwoord te geven. Combineer de antwoorden op deze sub-vragen om het finale antwoord te geven.”

Hier zal de AI de complexe vraag over klimaatverandering afbreken in drie beheersbare sub-vragen. Na het ontvangen van antwoorden op deze sub-vragen, zal de AI deze combineren om een meer uitgebreid en accurate reactie te geven.

Dit patroon omvat het genereren van meerdere vragen om een meer accurate finale reactie te verkrijgen. Het is een proces van verificatie en consolidatie van informatie voor een robuust finale output

6) Weinig-Shot Prompting Benadering

Weinig-shot prompting is een krachtige benadering voor het leren van AI-modellen om specifieke patronen te volgen of taken uit te voeren. Het idee is om het model te voeden met een aantal voorbeelden voordat u de gewenste vraag stelt. Dit helpt bij het instellen van het gewenste gedrag en het leiden van de reacties van het model.

Overweeg een scenario waarin een gebruiker probeert om een bondige, overtuigende marketingtekst te schrijven voor een nieuwe technologie-gadget:

Gebruiker: “Hier zijn enkele voorbeelden van technische marketingteksten: ‘Ervaring muziek zoals nooit tevoren met onze baanbrekende draadloze hoofdtelefoons.’ ‘Vang uw wereld op in verbluffende 4K met onze ultramoderne actiecamera.’ Gegeven deze voorbeelden, schrijf een marketingtekst voor onze nieuwe AI-gebaseerde smartwatch.”

ChatGPT: “Empower uw levensstijl met onze AI-gebaseerde smartwatch, uw metgezel voor gezondheid, connectiviteit en productiviteit.” Het opmerkelijke aspect van weinig-shot learning is dat het geen gedetailleerde beschrijving vereist van hoe de taak moet worden uitgevoerd. In plaats daarvan vereist het demonstraties van wat er wordt gedaan, wat het een goede keuze maakt voor veel toepassingen.

Bovendien kan deze techniek zich uitstrekken tot het behandelen van tussenstappen om een doel te bereiken.

7) Chain-of-Thought Prompting

In hun recente onderzoeksartikel “Chain-of-Thought Prompting Elicits Reasoning in Large Language Models” proberen Jason Wei en zijn team de redenering binnen grote taalmodellen te stimuleren. In plaats van traditionele, directe prompts te gebruiken, maakt het team gebruik van een reeks verbonden prompts, die een ‘chain-of-thought’ vormen.

Als voorbeeld kan een gebruiker geïnteresseerd zijn in de potentiële impact van kunstmatige intelligentie op de arbeidsmarkt:

Gebruiker: “Kunt u kort uitleggen wat kunstmatige intelligentie is?”

ChatGPT: “Kunstmatige Intelligentie, of AI, verwijst naar de capaciteit van een machine om intelligent menselijk gedrag te imiteren. Het gaat over het ontwerpen van machines die kunnen denken en leren als mensen, waardoor ze taken kunnen uitvoeren zoals taalvertaling, besluitvorming en probleemoplossing, onder andere.”

Gebruiker: “Hoe beïnvloedt AI de huidige arbeidsmarkt?”

ChatGPT: “AI creëert zowel nieuwe banen als verandert de aard van bestaande banen. Enerzijds automatiseert het routine taken, wat leidt tot banenverlies in bepaalde sectoren. Anderzijds creëert het vraag naar rollen die eerder niet bestonden, zoals AI-ethiekfunctionarissen, data-analisten en machine learning-engineers. Bovendien kan AI menselijke rollen aanvullen, waardoor mensen taken efficiënter en nauwkeuriger kunnen uitvoeren.”

Chain-of-thought prompting volgt een reeks van verwante prompts, waardoor een ‘conversatie’ met het model ontstaat die het naar meer precieze en contextueel passende antwoorden leidt.

Begrijpen van ChatGPT API en Prompt Engineering vanuit een Ontwikkelaarsperspectief

Vanuit het perspectief van een ontwikkelaar of onderzoeker is prompt engineering een complexer proces. Het omvat het ontwerpen van algoritmen en technieken om het AI-model te helpen prompts beter te begrijpen en te reageren. Dit kan strategieën omvatten voor het omgaan met dubbelzinnige prompts, het identificeren van de context van prompts of het koppelen van prompts om complexere denkprocessen in de AI te stimuleren.

In de bovenstaande illustratie communiceert een gebruiker met een chatinterface, aangedreven door GPT-4. De invoer van de gebruiker wordt verfijnd voor duidelijkheid en contextuele consistentie door een gespecialiseerde module voordat deze wordt doorgegeven aan het AI-model. De rol van deze module is om de invoer van de gebruiker te verfijnen en te versterken voor beter begrip, terwijl deze ook de context van het gesprek behoudt. Het antwoord van de AI, gegenereerd op basis van de verfijnde prompt, wordt teruggegeven aan de gebruiker via de chatinterface. De interactiegeschiedenis wordt consistent bijgewerkt, waardoor de conversatiecontext behouden blijft. Over het algemeen illustreert deze afbeelding een dynamische gebruiker-AI-conversatieflow die mogelijk wordt gemaakt door prompt engineering-technieken.

De ChatGPT API is ontworpen met verschillende hyperparameters die gebruikers in staat stellen om de antwoorden van de AI op prompts te verfijnen, waardoor ze effectiever en veelzijdiger worden. Deze omvatten de Temperature, Maximum Length en Stop Sequences parameters. Laten we onderzoeken hoe ze functioneren en in verschillende contexten kunnen worden gebruikt.

1) Temperatuur

De temperatuurparameter beïnvloedt de randomiteit van de antwoorden van de AI. Een hogere temperatuur, zoals 1,0, moedigt meer random output aan, wat resulteert in diverse maar mogelijk off-topic antwoorden. Aan de andere kant moedigt een lagere temperatuur, zoals 0,2, de AI aan om meer deterministische antwoorden te kiezen, wat nuttig kan zijn voor gefocuste en specifieke outputs, maar kan ontbreken aan variatie.

Voorbeeld: Als u een creatief verhaal schrijft en onvoorspelbare, fantasierijke elementen wilt, stelt u de temperatuur in op een hogere waarde. Een prompt kan zijn: “Schrijf een kort verhaal over een tijdreizende kat.” Met een hoge temperatuur kunt u een wild, fantasierijk verhaal met onvoorspelbare wendingen krijgen.

2) Maximale Lengte

Deze parameter controleert de maximale tokenlengte van de output van het model, inclusief zowel de tokens in de invoer als de uitvoer. Het instellen van een hogere limiet staat toe dat langere antwoorden gegenereerd worden, terwijl een lagere limiet de output kort en bondig houdt.

Voorbeeld: Voor korte antwoorden op trivia-vragen zoals “Wie won de Nobelprijs voor Literatuur in 2020?” kunt u de maximale lengte instellen op een lage waarde, waardoor het antwoord bondig en direct is.

3) Stop Sequences

Stop sequences zijn specifieke tekenreeksen waar, wanneer het model deze tegenkomt, het stopt met het genereren van verdere output. Deze functie kan nuttig zijn voor het controleren van de lengte van de output of het instrueren van het model om te stoppen bij logische eindpunten.

Voorbeeld: Voor een formeel briefje kunt u “Yours sincerely” gebruiken als stop sequence om ervoor te zorgen dat de AI geen extra tekst gegenereert na het einde van de brief.

4) Top P

De ‘Top P’ parameter, ook bekend als nucleus sampling, is een methode die een dynamische selectie van het aantal woorden biedt dat bij elke stap van de voorspellingen van het model wordt overwogen. Een lagere waarde, zoals 0,5, leidt tot veiligere, meer gefocuste outputs. Een hogere waarde, zoals 0,9, omvat een bredere selectie van woorden, waardoor meer diverse outputs ontstaan.

Voorbeeld: Als u een AI wilt maken om gedichten te schrijven en u wilt dat het een breed scala aan vocabulaire en stijl gebruikt, kunt u ‘Top P’ instellen op een hogere waarde. Een prompt kan zijn: “Componeren van een gedicht over de schoonheid van de herfst.”

5) Frequentie Penalty

Frequentie Penalty controleert hoezeer het model de voorkeur geeft aan minder frequente woorden. Een hogere penalty (tot 1) moedigt het model aan om minder gebruikelijke woorden te gebruiken, terwijl een lagere waarde (tot -1) het model aanmoedigt om meer gebruikelijke woorden te gebruiken.

Voorbeeld: Als u een bedrijfsvoorstel wilt genereren en u wilt voorkomen dat het jargon bevat, kunt u de frequentiepenalty instellen op een lagere waarde om de taal duidelijk en toegankelijk te houden.

6) Aanwezigheids Penalty

De Aanwezigheids Penalty parameter beïnvloedt hoezeer het model wordt gestraft voor het genereren van nieuwe ideeën of onderwerpen die niet in de conversatiegeschiedenis aanwezig zijn. Hogere waarden moedigen het model aan om bij onderwerpen te blijven die al zijn genoemd, terwijl lagere waarden het model toestaan om nieuwe concepten vrijer te introduceren.

Voorbeeld: Voor brainstormsessies kunt u de aanwezigheidspenalty instellen op een lagere waarde om een diverse reeks ideeën aan te moedigen. U kunt een prompt gebruiken als: “Genereer innovatieve marketingstrategieën voor een online educatief platform.”

Industriële Toepassing van Prompt Engineering