Analogisk & Step-Tilbage Prompting: En dykning i de seneste fremskridt af Google DeepMind

Introduktion

Prompt engineering fokuserer på at udvikle effektive prompts til at guide Large Language Models (LLM’er) som GPT-4 til at generere ønskede svar. En veludviklet prompt kan være forskellen mellem et vagt eller ukorrekt svar og et præcist, indsigtsfuldt svar.

I det bredere økosystem af AI er prompt engineering en af flere metoder, der bruges til at udtrække mere præcis og kontekstrellevant information fra sprogmodeller. Andre metoder inkluderer teknikker som few-shot learning, hvor modellen får nogle eksempler for at hjælpe den med at forstå opgaven, og fine-tuning, hvor modellen trænes yderligere på en mindre dataset for at specialisere dens svar.

Google DeepMind (GOOGL ) har nylig offentliggjort to artikler, der dykker ned i prompt engineering og dens potentiale til at forbedre svar på multiple situationer.

Disse artikler er en del af den pågående udforskning i AI-samfundet til at forfine og optimere, hvordan vi kommunikerer med sprogmodeller, og de giver nye indsighter i, hvordan man strukturerer prompts for bedre spørgsmålsbehandling og databaseinteraktion.

Denne artikel dykker ned i detaljerne af disse forskningsartikler, og forklarer koncepter, metoder og implikationer af de foreslåede teknikker, sådan at det bliver tilgængeligt selv for læsere med begrænsede kundskaber i AI og NLP.

Artikel 1: Large Language Models som Analogiske Ræsonnerere

Den første artikel, “Large Language Models som Analogiske Ræsonnerere”, introducerer en ny prompt-teknik kaldet Analogisk Prompting. Forfatterne, Michihiro Yasunaga, Xinyun Chen og andre, tager inspiration fra analogisk ræsonnering – en kognitiv proces, hvor mennesker udnytter tidligere erfaringer til at tackle nye problemer.

Nøglekoncepter og Metodologi

Analogisk Prompting opmuntrer LLM’er til selv at generere relevante eksempler eller viden i kontekst, før de løser et givet problem. Denne tilgang eliminerer behovet for mærkede eksempler, og tilbyder generel og bekvemmelighed, og tilpasser de genererede eksempler til hvert specifikt problem, hvilket sikrer tilpasning.

Venstre: Traditionelle metoder til at prompte LLM’er afhænger af generiske input (0-shot CoT) eller kræver mærkede eksempler (few-shot CoT). Højre: Den nye tilgang prompter LLM’er til selv at oprette relevante eksempler før problem-løsning, og fjerner behovet for mærkning, samtidig med at tilpasse eksemplerne til hvert unikt problem

Selv-Genererede Eksempler

Den første teknik, der præsenteres i artiklen, er selv-genererede eksempler. Ideen er at udnytte den omfattende viden, som LLM’er har erhvervet under deres træning, til at hjælpe dem med at løse nye problemer. Processen indebærer at supplere et målproblem med instruktioner, der prompter modellen til at huske eller generere relevante problemer og løsninger.

For eksempel, givet et problem, instrueres modellen til at huske tre forskellige og relevante problemer, beskrive dem og forklare deres løsninger. Denne proces er designet til at udføres i en enkelt pass, og tillader LLM’en at generere relevante eksempler og løse det oprindelige problem uden problemer. Brugen af ‘#’ symboler i prompterne hjælper med at strukturere svaret, og gør det mere organiseret og lettere for modellen at følge.

Nøgle-tekniske beslutninger, der fremhæves i artiklen, inkluderer betoningen af at generere relevante og diverse eksempler, adoptionen af en enkelt-pass tilgang for større bekvemmelighed, og fundet af, at generering af tre til fem eksempler giver de bedste resultater.

Selv-Genereret Viden + Eksempler

Den anden teknik, selv-genereret viden + eksempler, introduceres for at tackle udfordringer i mere komplekse opgaver, såsom kode-generering. I disse scenarier kan LLM’er overvejende afhænge af lavniveauer-eksempler og have svært ved at generalisere, når de løser målproblemet. For at mildne dette, foreslår forfatterne at supplere prompten med en ekstra instruktion, der opmuntrer modellen til at identificere kernekoncepter i problemet og give en tutorial eller højniveauer-oversigt.

En kritisk overvejelse er rækkefølgen, hvori viden og eksempler genereres. Forfatterne fandt, at generering af viden før eksempler giver bedre resultater, da det hjælper LLM’en med at fokusere på grundlæggende problem-løsnings-tilgange i stedet for kun overfladiske ligheder.

Fordele og Anvendelser

Den analogiske prompt-teknik tilbyder flere fordele. Den giver detaljerede eksempler på ræsonnering uden behov for manuel mærkning, og løser udfordringer forbundet med 0-shot og few-shot chain-of-thought (CoT) metoder. Desuden er de genererede eksempler tilpasset til individuelle problemer, og giver mere relevant vejledning end traditionel few-shot CoT, der bruger faste eksempler.

Artiklen demonstrerer effektiviteten af denne tilgang på tværs af forskellige ræsonnering-opgaver, herunder matematik-problem-løsning, kode-generering og andre ræsonnering-opgaver i BIG-Bench.

Præstation på matematiske opgaver, GSM8K og MATH

I den anden tabel viser “Selv-genereret Viden + Eksempler” den bedste præstation for modellerne GPT3.5-turbo-16k og GPT4.

Præstation på Codeforces kode-genererings-opgave

Artikel 2: Tag et Skridt Tilbage: Fremkalde Ræsonnering via Abstraktion i Large Language Models

Overblik

Den anden artikel, “Tag et Skridt Tilbage: Fremkalde Ræsonnering via Abstraktion i Large Language Models” præsenterer Step-Back Prompting, en teknik, der opmuntrer LLM’er til at abstrahere højniveauer-koncepter og først-principper fra detaljerede instanser. Forfatterne, Huaixiu Steven Zheng, Swaroop Mishra og andre, har til formål at forbedre ræsonneringsevnerne hos LLM’er ved at guide dem til at følge en korrekt ræsonneringsvej mod løsningen.

Fremstiller STEP-BACK PROMPTING gennem to faser af Abstraktion og Ræsonnering, styret af nøglekoncepter og principper.

Lad os oprette et enkelt eksempel ved hjælp af et grundlæggende matematik-spørgsmål for at demonstrere “Stepback Question”-teknikken:

Originalt Spørgsmål: Hvis et tog kører med en hastighed på 60 km/t og dækker en distance på 120 km, hvor lang tid vil det tage?

Valgmuligheder:

3 timer
2 timer
1 time
4 timer
Originalt Svar [Forkert]: Det korrekte svar er 1).

Stepback Spørgsmål: Hvad er den grundlæggende formel til at beregne tid, given hastighed og distance?

Principper:
Til at beregne tid, bruger vi formlen:
Tid = Distance / Hastighed

Endeligt Svar:
Brug formlen, Tid = 120 km / 60 km/t = 2 timer.
Det korrekte svar er 2) 2 timer.

Selvom LLM’er i dag kan let besvare ovenstående spørgsmål, er dette eksempel kun til at demonstrere, hvordan stepback-teknikken ville fungere. For mere udfordrende scenarier kan samme teknik anvendes til at dissekere og adresse problemet systematisk. Herunder følger et mere komplekst tilfælde, der demonstreres i artiklen:

STEP-BACK PROMPTING på MMLU-Kemi-dataset

Nøglekoncepter og Metodologi

Essensen af Step-Back Prompting ligger i dens evne til at få LLM’er til at tage et metaforisk skridt tilbage, og opmuntrer dem til at se på det større billede i stedet for at blive fanget i detaljerne. Dette opnås gennem en række omhyggeligt udviklede prompts, der guider LLM’er til at abstrahere information, udlede højniveauer-koncepter og anvende disse koncepter til at løse det givne problem.

Processen begynder med, at LLM’en promptes til at abstrahere detaljer fra de givne instanser, og opmuntrer den til at fokusere på de underliggende koncepter og principper. Dette skridt er afgørende, da det sætter scenen for, at LLM’en kan tilgå problemet fra en mere informeret og principfast perspektiv.

Når de højniveauer-koncepter er udledt, anvendes de til at guide LLM’en gennem ræsonneringsskridtene mod løsningen. Denne vejledning sikrer, at LLM’en forbliver på den rette vej, og følger en logisk og sammenhængende vej, der er grundet i de abstraherede koncepter og principper.

Forfatterne gennemfører en række eksperimenter for at validere effektiviteten af Step-Back Prompting, ved at bruge PaLM-2L-modeller på tværs af en række udfordrende ræsonnerings-intensiver opgaver. Disse opgaver inkluderer STEM-problemer, Knowledge QA og Multi-Hop Ræsonnering, og giver en omfattende testbed til evaluering af teknikken.

Betydelige Forbedringer på tværs af Opgaver

Resultaterne er imponerende, med Step-Back Prompting, der fører til betydelige præstationsforbedringer på tværs af alle opgaver. For eksempel forbedrer teknikken PaLM-2L’s præstation på MMLU Fysik og Kemi med 7% og 11%, henholdsvis. Tilsvarende forbedrer den præstationen på TimeQA med 27% og på MuSiQue med 7%.

Præstation af STEP-BACK PROMPTING vs CoT

Disse resultater understreger potentialet for Step-Back Prompting til at betydeligt forbedre ræsonneringsevnerne hos LLM’er.

Konklusion

Begge artikler fra Google DeepMind præsenterer innovative tilgange til prompt engineering, med det formål at forbedre ræsonneringsevnerne hos store sprogmodeller. Analogisk Prompting udnytter konceptet om analogisk ræsonnering, og opmuntrer modeller til at generere deres egne eksempler og viden, hvilket fører til mere tilpasset og effektiv problem-løsning. På den anden side fokuserer Step-Back Prompting på abstraktion, og guider modeller til at udlede højniveauer-koncepter og principper, hvilket forbedrer deres ræsonneringsevner.

Disse forskningsartikler giver værdifulde indsighter og metoder, der kan anvendes på tværs af forskellige domæner, og fører til mere avancerede og sofistikerede AI-systemer.