Analogisk och Steg-tillbaka-promptning: En dykning i senaste framstegen av Google DeepMind

Introduktion

Promptteknik fokuserar på att utveckla effektiva promptrar för att vägleda stora språkmodeller (LLM) som GPT-4 för att generera önskade svar. En välkonstruerad prompt kan vara skillnaden mellan ett vagt eller inkorrekt svar och ett precist, insiktsfullt svar.

I den bredare ekosystemet av AI är promptteknik en av flera metoder som används för att extrahera mer exakt och kontextuellt relevant information från språkmodeller. Andra metoder inkluderar tekniker som few-shot learning, där modellen får några exempel för att hjälpa den att förstå uppgiften, och fine-tuning, där modellen utbildas ytterligare på en mindre dataset för att specialisera sina svar.

Google DeepMind (GOOGL ) har nyligen publicerat två artiklar som dyker in i promptteknik och dess potential att förbättra svaren på flera situationer.

De här artiklarna är en del av den pågående utforskningen inom AI-samhället för att förfinna och optimera hur vi kommunicerar med språkmodeller, och de ger färska insikter i hur man strukturerar promptrar för bättre frågehantering och databasinteraktion.

Den här artikeln går in på detaljerna i dessa forskningsartiklar, förklarar begreppen, metoderna och implikationerna av de föreslagna teknikerna, och gör dem tillgängliga även för läsare med begränsad kunskap inom AI och NLP.

Artikel 1: Stora språkmodeller som analogiska resonatörer

Den första artikeln, med titeln “Stora språkmodeller som analogiska resonatörer”, introducerar en ny promptteknik som kallas Analogisk Promptning. Författarna, Michihiro Yasunaga, Xinyun Chen och andra, hämtar inspiration från analogiskt resonemang – en kognitiv process där människor använder tidigare erfarenheter för att tackla nya problem.

Nyckelbegrepp och metod

Analogisk Promptning uppmuntrar LLM att självgenerera relevanta exempel eller kunskap i sammanhanget innan de löser ett givet problem. Den här metoden eliminerar behovet av märkta exempel, erbjuder allmänhet och bekvämlighet, och anpassar de genererade exemplen till varje specifikt problem, vilket säkerställer anpassningsförmåga.

Vänster: Traditionella metoder för att prompta LLM använder generiska indata (0-shot CoT) eller kräver märkta exempel (few-shot CoT). Höger: Den nya metoden promptar LLM att självgenerera relevanta exempel före problemhantering, vilket eliminerar behovet av märkning och anpassar exempel till varje unikt problem

Självgenererade exempel

Den första tekniken som presenteras i artikeln är självgenererade exempel. Idén är att utnyttja den omfattande kunskap som LLM har förvärvat under sin utbildning för att hjälpa dem att lösa nya problem. Processen innefattar att komplettera ett målproblem med instruktioner som promptar modellen att komma ihåg eller generera relevanta problem och lösningar.

Till exempel, om ett problem ges, instrueras modellen att komma ihåg tre distinkta och relevanta problem, beskriva dem och förklara deras lösningar. Den här processen är utformad för att utföras i en enda pass, vilket gör det möjligt för LLM att generera relevanta exempel och lösa det ursprungliga problemet sömlöst. Användningen av ‘#’ -symboler i promptrarna hjälper till att strukturera svaret, vilket gör det mer organiserat och lättare för modellen att följa.

Viktiga tekniska beslut som betonas i artikeln inkluderar betoningen på att generera relevanta och varierade exempel, antagandet av en single-pass-approach för större bekvämlighet och upptäckten att generering av tre till fem exempel ger de bästa resultaten.

Självgenererad kunskap + exempel

Den andra tekniken, självgenererad kunskap + exempel, introduceras för att hantera utmaningar i mer komplexa uppgifter, såsom kodgenerering. I dessa scenarier kan LLM överdrivet förlita sig på lågnivåexempel och ha svårt att generalisera när de löser målproblemet. För att mildra detta föreslår författarna att förbättra promptrarna med en ytterligare instruktion som uppmuntrar modellen att identifiera kärnkoncept i problemet och ge en handledning eller högnivå-tillämpning.

En kritisk övervägning är ordningen i vilken kunskap och exempel genereras. Författarna fann att generering av kunskap före exempel leder till bättre resultat, eftersom det hjälper LLM att fokusera på grundläggande problemlösningsmetoder snarare än bara ytnivålikheter.

Fördelar och tillämpningar

Analogisk promptning erbjuder flera fördelar. Den ger detaljerade exempel på resonemang utan behov av manuell märkning, vilket hanterar utmaningar förknippade med 0-shot och few-shot chain-of-thought (CoT) -metoder. Dessutom är de genererade exemplen anpassade till enskilda problem, vilket erbjuder mer relevant vägledning än traditionell few-shot CoT, som använder fasta exempel.

Artikeln demonstrerar effektiviteten av den här metoden över olika resonemangsaktiviteter, inklusive matematikproblemlösning, kodgenerering och andra resonemangsaktiviteter i BIG-Bench.

Prestanda på matematiska uppgifter, GSM8K och MATH

I den andra tabellen, för modellerna GPT3.5-turbo-16k och GPT4, visar “Självgenererad kunskap + exempel” den bästa prestandan.

Prestanda på Codeforces-kodgenereringsuppgift

Artikel 2: Ta ett steg tillbaka: Framkalla resonemang via abstraktion i stora språkmodeller

Översikt

Den andra artikeln, “Ta ett steg tillbaka: Framkalla resonemang via abstraktion i stora språkmodeller” presenterar Steg-tillbaka-promptning, en teknik som uppmuntrar LLM att abstrahera högnivåkoncept och första principer från detaljerade instanser. Författarna, Huaixiu Steven Zheng, Swaroop Mishra och andra, syftar till att förbättra resonemangs förmågor hos LLM genom att vägleda dem att följa en korrekt resonemangs väg mot lösningen.

Avbildar STEG-TILLBAKA-PROMPTNING genom två faser av abstraktion och resonemang, styrd av nyckelkoncept och principer.

Låt oss skapa ett enklare exempel med en grundläggande matematikfråga för att demonstrera “Steg-tillbaka-frågan” -tekniken:

Ursprunglig fråga: Om ett tåg reser i en hastighet av 60 km/h och täcker ett avstånd på 120 km, hur lång tid kommer det att ta?

Alternativ:

3 timmar
2 timmar
1 timme
4 timmar
Ursprungligt svar [Felaktigt]: Det korrekta svaret är 1).

Steg-tillbaka-fråga: Vad är den grundläggande formeln för att beräkna tid given hastighet och avstånd?

Principer:
För att beräkna tid, använder vi formeln:
Tid = Avstånd / Hastighet

Slutligt svar:
Användning av formeln, Tid = 120 km / 60 km/h = 2 timmar.
Det korrekta svaret är 2) 2 timmar.

Även om LLM idag kan enkelt svara på ovanstående fråga, är det här exemplet bara för att demonstrera hur steg-tillbaka-tekniken skulle fungera. För mer utmanande scenarier kan samma teknik tillämpas för att dissekera och hantera problemet systematiskt. Här är ett mer komplext fall som demonstreras i artikeln:

STEG-TILLBAKA-PROMPTNING på MMLU-kemi-dataset

Nyckelkoncept och metod

Essensen av Steg-tillbaka-promptning ligger i dess förmåga att få LLM att ta ett metaforiskt steg tillbaka, uppmuntrar dem att se på det större perspektivet snarare än att bli förlorade i detaljerna. Detta uppnås genom en serie noggrant utformade promptrar som vägleder LLM att abstrahera information, härleda högnivåkoncept och tillämpa dessa koncept för att lösa det givna problemet.

Processen börjar med att LLM promptas att abstrahera detaljer från de givna instanserna, uppmuntrar det att fokusera på de underliggande koncepten och principerna. Det här steget är avgörande eftersom det sätter scenen för LLM att närma sig problemet från ett mer informerat och principbaserat perspektiv.

När högnivåkoncepten har härletts, används de för att vägleda LLM genom resonemangsstegen mot lösningen. Den här vägledningen säkerställer att LLM stannar på rätt spår, följer en logisk och sammanhängande väg som är grundad i de abstraherade koncepten och principerna.

Författarna genomför en serie experiment för att validera effektiviteten av Steg-tillbaka-promptning, med användning av PaLM-2L-modeller över ett spektrum av utmanande resonemangsintensiva uppgifter. Dessa uppgifter inkluderar STEM-problem, KunskapsQA och Multi-Hop Resonemang, vilket ger en omfattande testbädd för utvärdering av tekniken.

Avsevärt förbättrade prestanda över uppgifter

Resultaten är imponerande, med Steg-tillbaka-promptning som leder till avsevärt förbättrade prestanda över alla uppgifter. Till exempel förbättrar tekniken PaLM-2L-prestanda på MMLU-fysik och kemi med 7% respektive 11%. Likaså förbättrar den prestanda på TimeQA med 27% och på MuSiQue med 7%.

Prestanda på STEG-TILLBAKA-PROMPTNING vs CoT

Dessa resultat understryker potentialen för Steg-tillbaka-promptning att avsevärt förbättra resonemangs förmågor hos LLM.

Slutsats

Båda artiklarna från Google DeepMind presenterar innovativa tillvägagångssätt för promptteknik, med målet att förbättra resonemangsförmågorna hos stora språkmodeller. Analogisk promptning utnyttjar konceptet analogiskt resonemang, uppmuntrar modeller att generera sina egna exempel och kunskap, vilket leder till mer anpassningsbar och effektiv problemlösning. Å andra sidan fokuserar Steg-tillbaka-promptning på abstraktion, vägleder modeller att härleda högnivåkoncept och principer, vilket i sin tur förbättrar deras resonemangs förmågor.

De här forskningsartiklarna ger värdefulla insikter och metoder som kan tillämpas över olika domäner, vilket leder till mer avancerade och sofistikerade AI-system. Medan vi fortsätter att utforska och förstå nyanserna av promptteknik, fungerar dessa tillvägagångssätt som avgörande stegstenar mot att uppnå mer avancerade och sofistikerade AI-system.