Den Essentiella Guiden Till Prompt Engineering I ChatGPT

Sedan dess lansering har ChatGPT gjort vågor i AI-sfären, lockat över 100 miljoner användare på rekordtid. Hemligheten bakom ChatGPT:s imponerande prestanda och flexibilitet ligger i en konst som subtilt är införd i dess programmering – prompt engineering.

Lanserad 2022, DALL-E, MidJourney och StableDiffusion underströk den disruptiva potentialen för Generative AI. Men det var Open AI:s ChatGPT som verkligen tog centrumscenen senare 2022. Och denna momentum visade inga tecken på att avta.

Googles tillkännagivande av Bard och Metas Lamma 2-svar på OpenAI:s ChatGPT har avsevärt förstärkt momentum i AI-löpningsbanan. Genom att ge dessa modeller indata, guiderar vi deras beteende och svar. Detta gör oss alla till viss del promptingenjörer. Teknisk industri har tagit notis. Riskkapitalister häller in pengar i startups som fokuserar på prompt engineering, som Vellum AI. Dessutom rapporterar Forbes att promptingenjörer har löner som överstiger $300 000, vilket tyder på en blomstrande och värdefull arbetsmarknad.

I den här artikeln kommer vi att avmystifiera världen av prompt engineering i sammanhanget med ChatGPT. Vi kommer att utforska de grundläggande principerna och teknikerna och undersöka deras kommersiella tillämpningar.

Låt oss först förstå hur ChatGPT fungerar och den avgörande roll som prompt engineering spelar i den här processen.

Den Mekaniska Bakgrunden Till ChatGPT Prompt Engineering

Hemligheten bakom ChatGPT:s framgång ligger i dess förmåga att förstå och imitera nyanserna i mänskligt samtal. Modellen är tränad på en mångfaldig uppsättning internettext, men avgörande, den känner inte till specifika dokument eller källor i sin träningsuppsättning, vilket säkerställer generalisering över specificitet. Denna träningsmetod tillåter ChatGPT att generera kreativa svar, navigera komplexa dialoger och till och med visa en känsla av humor. Men det är viktigt att komma ihåg att ChatGPT inte verkligen förstår eller har övertygelser; den genererar svar baserat på mönster den lärde under träningsprocessen.

ChatGPT:s förmåga att förstå och svara på mänskligt språk på ett nyanserat och kontextmedvetet sätt gör dem otroligt flexibla verktyg.

Mekanismen bakom dessa modeller vilar på begreppet “token” – diskreta bitar av språk som kan sträcka sig från en enda karaktär till ett helt ord. Dessa modeller arbetar med ett visst antal token i taget (4096 för GPT-3.5-Turbo eller 8192 eller 32768 för GPT-4), förutsägande den nästa sekvensen av troliga token. Modellerna bearbetar token med hjälp av komplex linjär algebra, förutsägande den mest sannolika efterföljande token.

Till exempel kunde en enkel nioords mening bli tio token. Även ett enda komplext ord kunde bli flera token, vilket hjälper modellen att bättre förstå och generera språk. Även språk med komplexa ordstrukturer, som tyska, hanteras genom tokenisering.

GPT (Generative Pre-trained Transformer) modeller fungerar genom att generera en token i taget, börjande från den första token och fortsättande upp till den sista. Efter att ha genererat varje token, återbesöker modellen hela sekvensen och bearbetar den igen för att generera den nästa token. Denna iterativa process fortsätter tills den sista token genereras, vilket gör generationen av text liknande en stor for-slinga.

Men här är grejen – kvaliteten på dessa svar beror till stor del på de prompt de får. Precis som att styra en konversation med en människa, kräver att guida en dialog med ChatGPT en viss nivå av färdighet och förståelse. Det är här prompt engineering kommer in i bilden.

Vad Är Prompt Engineering?

Prompt Engineering är konsten att skapa precisa, effektiva prompt/indata för att guida AI-modeller (NLP/Vision) som ChatGPT mot att generera de mest kostnadseffektiva, exakta, användbara och säkra utdata.

Prompt engineering är inte bara begränsat till textgenerering utan har en bred tillämpning inom hela AI-domänen. Det används alltmer inom områden som robotprocessautomatisering, 3D-tillgångar, manus, robotinstruktioner och andra typer av innehåll och digitala medier. Det erbjuder en unik blandning av logik, kodning, konst och i vissa fall, specialmodifikatorer.

Medan en prompt kan innehålla naturligt språkstext, bilder eller andra typer av indata, kan utdata variera avsevärt mellan AI-tjänster och verktyg. Varje verktyg har sina specialmodifikatorer som beskriver vikten av ord, stilar, perspektiv, layout eller andra egenskaper hos det önskade svaret.

Denna fält är avgörande för att skapa bättre AI-drivna tjänster och uppnå bättre resultat från befintliga generativa AI-verktyg. Företagsutvecklare, till exempel, använder ofta prompt engineering för att anpassa stora språkmodeller (LLM) som GPT-3 för att driva en kundorienterad chatbot eller hantera uppgifter som att skapa branschspecifika kontrakt.

Denna iterativa process av prompt förfining och mätning av AI-prestanda är en nyckelkomponent i att möjliggöra AI-modeller att generera högt riktade, användbara svar i olika sammanhang.

Att Bli En Promptingenjör

GPT-4-modellens förmåga att förstå komplexa instruktioner och lösa intrikata problem med precision gör den till en ovärderlig resurs. Men det finns olika metoder för att komma åt denna modells förmågor, och att förstå dessa kan vara avgörande för en promptingenjörs roll i att optimera både effektivitet och kostnadseffektivitet.

Det finns i princip två sätt att engagera sig med GPT-modeller som GPT-4. Ett sätt är genom OpenAI:s API, där kostnader beräknas per indata- och utdatatoken. I detta scenario kan kostnaderna per 1K token variera beroende på kontextstorlek. Till exempel, i en större 32K-kontext, kunde kostnaden gå upp till $0,06 för indata-token och $0,12 för utdatatoken. Så, när man hanterar en hög volym av förfrågningar, kan kostnaden för användning snabbt ackumuleras.

Alternativt, ChatGPT, som utnyttjar GPT-4-modellen, fungerar på en prenumerationsbaserad modell.

En annan viktig uppgift i prompt engineering innefattar modellparameterjustering. Denna process innebär att justera variablerna som modellen använder för att göra förutsägelser. Genom att finjustera dessa parametrar kan promptingenjörer förbättra kvaliteten och exaktheten hos modellens svar, vilket gör dem mer kontextuellt relevanta och användbara.

Även om många promptingenjörer kommer från en teknisk bakgrund, gör fältets tvärvetenskapliga natur det tillgängligt för individer från olika professionella bakgrunder. Alltmer, författare, forskare och till och med konstnärer utnyttjar sina unika färdigheter för att förbättra effektiviteten hos AI-modeller. Denna förändring återspeglas också på arbetsmarknaden, där allt fler företag söker promptingenjörer med en bred uppsättning färdigheter och bakgrunder.

Prompt Design Och Engineering I ChatGPT

Prompt Design och Engineering spelar en avgörande roll i att optimera prestandan hos språkmodeller och innefattar mer än bara att skapa frågor; de kräver en djup förståelse av AI-modellen och en högt iterativ och raffinerad strategi.

Prompt Design

Prompt design, i dess kärna, är konsten och vetenskapen att skapa den perfekta prompten för en given stor språkmodell (LLM), som ChatGPT, för att uppnå ett tydligt uttalat mål. Det är en blandning av:

• Förståelse av LLM: Olika språkmodeller kan svara olika på samma prompt. Dessutom kan vissa språkmodeller ha unika nyckelord eller utlösare som de tolkar på ett specifikt sätt.
• Domänkunskap: Expertis inom det relevanta området är avgörande när man designar prompt. Till exempel, att generera en prompt för att dra en medicinsk diagnos skulle kräva medicinsk kunskap.
• Iterativ Approach Och Kvalitetsmätning: Processen att skapa den ideala prompten innefattar ofta trial and error. Därför är det viktigt att ha ett sätt att utvärdera utdatans kvalitet utöver bara subjektiv bedömning, särskilt när man använder prompten i större skala.

Prompt Engineering

Prompt engineering är en utvidgad sfär av prompt design som inkluderar flera kritiska processer:

• Design Av Prompt I Stor Skala: Denna process inkluderar designen av meta-prompt (prompt som genererar andra prompt) och promptmallar, som är parameteriserade prompt som kan instansieras vid körning.
• Verktygsdesign Och Integration: Prompt kan ibland innehålla resultat från externa verktyg, och att integrera dessa verktyg sömlöst i systemet är avgörande.
• Arbetsflöde, Planering Och Prompt Hantering: Distributionen av en LLM-ansökan, som en chatbot, kräver ofta hantering av bibliotek med prompt, planering och val av rätt prompt, och effektiv integration av olika verktyg.
• Utvärdering Och Kvalitetsgaranti Av Prompt: Denna aspekt inkluderar att definiera mått och processer för att utvärdera prompten både automatiskt och med mänskligt deltagande.
• Prompt Optimering: Kostnaden och fördröjningen hos AI-modellen kan bero på valet av modell och längden på prompten (antalet token).

Många automatiserade prompt design-ansatser, verktyg och ramverk har utvecklats för att hantera prompt i stor skala. Men det är viktigt att förstå att inget av dessa verktyg kan ersätta den nyanserade förståelsen, bedömningen och erfarenheten hos en erfaren promptingenjör.

Prompt Engineering: Tekniker Och Bästa Praxis

1) Prompt Placering Och Beskrivning

Att placera instruktioner i början av prompten kan ha en betydande inverkan på AI:s förståelse och svar. Överväg uppgiften att sammanfatta en text i en punktformad lista med de viktigaste punkterna. En mindre effektiv strategi skulle vara:

Användare: Sammanfatta texten nedan som en punktformad lista med de viktigaste punkterna.
{text inmatning här}

På andra sidan, en mer effektiv teknik kunde vara:

Användare: Sammanfatta texten nedan som en punktformad lista med de viktigaste punkterna.
Text: “””
{text inmatning här}
“””

Genom att tydligt separera instruktionerna och kontexten med symboler som ### eller “”, kan AI-modellen bättre avgränsa sin uppgift och den text den behöver bearbeta, vilket ger mer exakta och relevanta svar.

Andra, genom att vara specifik, beskrivande och detaljerad om kontexten, det förväntade resultatet, längden, formatet, stilen och så vidare, kan avsevärt förbättra precisionen hos AI-svar. Anta att du behöver generera en kort sammanfattning av en vetenskaplig artikel på ett engagerande, lättförståeligt sätt för lekmän. En vag instruktion som “Sammanfatta den vetenskapliga artikeln” skulle ge mindre effektiva resultat jämfört med en specifik, detaljerad prompt:

Användare: Generera en kort (ca 200 ord) sammanfattning av den följande vetenskapliga artikeln. Sammanfattningen ska vara förståelig för någon utan vetenskaplig bakgrund, samtidigt som den korrekt återger artikeln viktigaste fynd.
Artikel: “””
{vetenskaplig artikeltext här}
“””

2) Persona Mönster

Persona Mönster är en strategi som sätter AI till att fungera från ett visst perspektiv, som en professionell roll eller en fiktiv karaktär. Denna taktik möjliggör att modellen ger utdata relaterade till de specifika roller personan skulle hantera. Till exempel kunde man instruera AI att agera som en cybersäkerhetsexpert under en kodgranskning. Detta mönster är särskilt användbart när användare behöver hjälp men är osäkra på de exakta detaljerna som krävs i utdatat.

Ta följande som exempel:

Användare: “Anta personan av en senior historiker som specialiserat sig på den franska revolutionen. Med denna person, förklara de viktigaste händelserna och orsakerna till den franska monarkins fall.”

I detta scenario förväntas AI svara med en djupgående analys av den franska revolutionen, fokuserande på monarkins fall, som en historiker skulle.

Introducera Ny Information

ChatGPT besitter inte kunskap utöver sin träningsgräns, så den kan inte ge information om sena händelser eller uppdateringar efter dess träningsdatum. Men du kan introducera ny information till modellen via dina prompt.

Användare: “Vad är kryptovaluta?”
ChatGPT: “Kryptovaluta är en typ av digital eller virtuell valuta som använder kryptografi för säkerhet. Den mest kända kryptovalutan är Bitcoin.”

Nu, om vi lägger till lite mer kontext till prompten, kan vi göra förklaringen ännu mer intuitiv:

Användare: “Förklara kryptovalutans koncept till en gymnasieelev som studerar digital ekonomi”
ChatGPT: “Tänk dig att du spelar ett online-spel och det finns spel-pengar du kan tjäna för att köpa uppgraderingar eller nya karaktärer. Kryptovaluta är lite som det, men istället för att vara begränsad till spelet, kan du faktiskt använda den för att köpa riktiga varor och tjänster. Det är som digitalt pengar som ingen bank eller regering kontrollerar.”

3) Prompt Storleksbegränsningar

Att förstå ChatGPT:s storleksbegränsning är avgörande eftersom det direkt påverkar volymen och typen av information vi kan mata in. Språkmodeller är inte byggda för att bearbeta obegränsad data på en gång. De har en inbyggd begränsning på storleken på prompten vi kan skapa och mata in. Denna begränsning har djupgående konsekvenser för designen och genomförandet av prompt.

ChatGPT har en tokenbegränsning (vanligtvis 2048 token), som inkluderar både prompten och den genererade responsen. Detta innebär att långa prompt kan begränsa längden på responsen. Därför är det viktigt att hålla prompten koncisa men informativa.

I praktisk användning måste vi fungera som redaktörer, selektivt välja den mest relevanta informationen för uppgiften. Tänk dig att skriva en artikel eller en uppsats med ett ord- eller sidbegränsning – du kan inte bara dumpa slumpmässiga fakta, utan noggrant välja och strukturera information relevant för ämnet.

Användare: “Med tanke på tokenbegränsningarna för modellen, sammanfatta de viktigaste händelserna i andra världskriget på mindre än 1000 ord.”

Genom att erkänna modellens tokenbegränsningar, dirigerar denna prompt AI att ge en koncis men omfattande sammanfattning av andra världskriget.

Prompt för upprepad användning: I en konversations scenario, kan du återanvända prompt eller förfinade dem baserat på tidigare svar. Detta ger en konversationsflöde och upprätthåller kontexten i interaktionen.

4) Frågeförfiningsmönster

ChatGPT kan också hjälpa till att förfinade dina frågor. Till exempel, om du ställer en fråga, kan den föreslå en bättre formulerad fråga för mer exakta resultat.

Frågeförfiningsmönstret innefattar att LLM förfinar frågorna som ställs av användaren. Det är särskilt användbart när användare inte är experter inom ett område eller är osäkra på hur de ska formulera sin fråga.

Ett exempel på en prompt kan se ut så här:

Användare: “När jag ställer en fråga om data science, föreslå en mer förfinad fråga som tar hänsyn till statistiska analysdetaljer och fråga om jag vill fortsätta med den förfinade frågan.”

Här förväntas AI förfinade användarens allmänna data science-frågor till mer detaljerade frågor som tar hänsyn till statistiska analysaspekter.

5) Kognitiv Verifieringsmönster

Kognitiv Verifieringsmönster bryter ner komplexa frågor i mindre, hanterbara underfrågor. Svaren på dessa underfrågor kombineras sedan för att ge en omfattande svar på den ursprungliga frågan. Denna strategi är användbar när initiala frågor är för högnivå eller när ytterligare klarhet behövs för att ge ett fullständigt svar.

Till exempel:

Användare: “Om jag ställer en fråga om klimatförändring, bryt ner den i tre mindre frågor som skulle hjälpa dig att ge ett mer exakt svar. Kombinera svaren på dessa underfrågor för att ge det slutliga svaret.”

I detta scenario kommer AI att bryta ner den komplexa frågan om klimatförändring i tre hanterbara underfrågor. Efter att ha fått svar på dessa underfrågor, kommer AI att kombinera dem för att ge ett mer omfattande och exakt svar.

Detta mönster innefattar att generera flera frågor för att få ett mer exakt slutligt svar. Det är en process av verifiering och konsolidering av information för ett robust slutligt utdata

6) Fåskottspromptning

Fåskottspromptning är en kraftfull strategi för att lära AI-modeller att följa specifika mönster eller utföra uppgifter. Idén är att mata modellen med ett antal exempel innan man ställer den önskade frågan. Detta hjälper till att etablera det önskade beteendet och guida modellens svar.

Överväg ett scenario där en användare försöker skriva en koncis och övertygande marknadsföringskopia för en ny teknikpryl:

Användare: “Här är några exempel på teknikmarknadsföringskopior: ‘Upplev musik som aldrig förr med våra banbrytande trådlösa hörlurar.’ ‘Fånga din värld i häpnadsväckande 4K med vår ultra-sleka aktionskamera.’ Med dessa exempel, skriv en marknadsföringskopia för vår nya AI-drivna smartklocka.”

ChatGPT: “Förädla din livsstil med vår AI-drivna smartklocka, din kompanjon för hälsa, anslutning och produktivitet.” Den anmärkningsvärda funktionen i fåskottslärande är att det inte kräver en detaljerad beskrivning av hur man utför uppgiften. Istället kräver det demonstrationer av vad som görs, vilket kan göra det till en bra passform för många tillämpningar.

Dessutom kan modellen läras att hantera mellanliggande steg för att uppnå ett mål.

7) Tänkekedjepromptning

I sin senaste forskningsartikel, “Tänkekedjepromptning Elicits Reasoning in Large Language Models” syftar författarna Jason Wei och team till att stimulera resonemang inom stora språkmodeller. Istället för att använda traditionella, direkta prompt, använder teamet en serie sammanlänkade prompt, som bildar en “tänkekedja”.

Till exempel, en användare kan vara intresserad av den potentiella påverkan av artificiell intelligens på arbetsmarknaden:

Användare: “Kan du kort förklara konceptet artificiell intelligens?”

ChatGPT: “Artificiell intelligens, eller AI, refererar till förmågan hos en maskin att imitera intelligent mänskligt beteende. Det handlar om att designa maskiner som kan tänka och lära sig som människor, vilket möjliggör uppgifter som språköversättning, beslutsfattande och problemlösning, bland annat.”

Användare: “Hur påverkar AI den nuvarande arbetsmarknaden?”

ChatGPT: “AI skapar både nya jobb och förändrar naturen hos befintliga. Å ena sidan automatiserar det rutinuppgifter, vilket leder till jobbförlust i vissa sektorer. Å andra sidan skapar det efterfrågan på roller som tidigare inte fanns, som AI-etiska officerare, dataanalytiker och maskinlärningsingenjörer. Dessutom kan AI förstärka mänskliga roller, vilket möjliggör för människor att utföra uppgifter mer effektivt och exakt.”

Tänkekedjepromptning följer en progression av relaterade prompt, som upprätthåller en “konversation” med modellen som guider den mot mer precisa och kontextuellt lämpliga svar.

Att Förstå ChatGPT API Och Prompt Engineering Från En Utvecklares Perspektiv

Från en utvecklares eller forskares perspektiv är prompt engineering en mer komplex process. Den involverar designen av algoritmer och tekniker för att hjälpa AI-modellen att förstå och svara på prompt mer effektivt. Detta kan inkludera strategier för att hantera tvetydiga prompt, identifiera kontexten för prompt eller kedja prompt för att stimulera mer komplexa tankeprocesser i AI

I ovanstående illustration interagerar en användare med en chattgränssnitt, driven av GPT-4. Deras indata förbättras för tydlighet och kontextuell konsekvens av en specialiserad modul innan den matas in i AI-modellen. Rollen för denna modul är att förbättra och förfinade användarens indata för bättre förståelse, samtidigt som den upprätthåller kontexten för konversationen. AI:s svar, skapat baserat på den förbättrade prompten, returneras till användaren via chattgränssnittet. Interaktionshistoriken uppdateras konsekvent, vilket upprätthåller konversationskontexten. Sammantaget illustrerar denna bild en dynamisk användar-AI-konversationsflöde möjliggjord av prompt engineering-tekniker.

ChatGPT API:s gränssnitt är utformat med olika hyperparametrar som möjliggör användare att förbättra AI:s svar på prompt, vilket gör dem mer effektiva och flexibla. Dessa inkluderar parametrarna Temperatur, Maximal Längd och Stoppsekvenser. Låt oss undersöka hur de fungerar och kan användas i olika sammanhang.

1) Temperatur

Temperaturparametern påverkar slumpmässigheten hos AI:s svar. En högre temperatur, som 1,0, uppmuntrar mer slumpmässiga utdata, vilket resulterar i varierande men potentiellt avvikande svar. Å andra sidan, en lägre temperatur, som 0,2, uppmanar AI att välja mer deterministiska svar, vilket kan vara fördelaktigt för fokuserade och specifika utdata, men kan sakna variation.

Exempel: Om du skriver en kreativ berättelse och vill ha oförutsägbara, fantasifulla element, ställ in temperaturen till en högre värde. En prompt kunde vara: “Skriv en kort berättelse om en tidsresande katt.” Med en hög temperatur, kan du få en vild och fantasifull berättelse med oförutsägbara vändningar och svängar.

2) Maximal Längd

Denna parameter kontrollerar den maximala tokenlängden för modellens utdata, som inkluderar både token i meddelandeindata och meddelandeutdata. Att ställa in en högre gräns tillåter längre svar, medan en lägre gräns håller utdatat kort och koncist.

Exempel: För korta svar på triviafrågor som “Vem vann Nobelpriset i litteratur 2020?” kan du ställa in den maximala längden till ett lågt värde, vilket säkerställer att svaret är koncist och direkt.

3) Stoppsekvenser

Stoppsekvenser är specifika strängar av text där, när modellen möter dem, den upphör att generera ytterligare utdata. Denna funktion kan vara användbar för att kontrollera längden på utdatat eller instruera modellen att sluta vid logiska slutpunkter.

Exempel: För ett formellt brev, kunde du använda “Yours sincerely” som en stoppsekvens för att säkerställa att AI inte genererar någon ytterligare text utöver den korrekta avslutningen på brevet.

4) Top P

Top P-parametern, även känd som kärnsampling, är en metod som tillåter en dynamisk urval av antalet ord som övervägs vid varje steg i modellens förutsägelser. Ett lägre värde, som 0,5, leder till säkrare, mer fokuserade utdata. Ett högre värde, som 0,9, inkluderar en bredare urval av ord, vilket leder till mer varierande utdata.

Exempel: Om du skapar en AI för att skriva dikter och vill att den använder en bred uppsättning av ord och stilistiska fraser, kan du ställa in “Top P” till ett högre värde. En prompt kunde vara: “Komponera en dikt om höstens skönhet.”

5) Frekvensstraff

Frekvensstraffet kontrollerar hur mycket modellen bör föredra mindre frekventa ord. Ett högre straff (upp till 1) uppmuntrar modellen att använda mindre vanliga ord, medan ett lägre värde (ned till -1) uppmuntrar modellen att använda vanligare ord.

Exempel: Om du genererar ett affärsförslag och vill undvika jargong, kan du ställa in frekvensstraffet till ett lägre värde för att hålla språket klart och tillgängligt.

6) Närvarostraff

Närvarostraffet påverkar hur mycket modellen straffas för att generera nya idéer eller ämnen som inte fanns i konversationshistoriken. Högre värden uppmuntrar modellen att hålla sig till ämnen som redan nämnts, medan lägre värden tillåter modellen att introducera nya koncept mer fritt.

Exempel: För brainstorming-sessioner, kan du ställa in närvarostraffet till ett lägre värde för att uppmuntra en mångfald av idéer. Du kunde använda en prompt som: “Generera innovativa marknadsföringsstrategier för en online-utbildningsplattform.”

Branschansökan Av Prompt Engineering