Promptarea Analogică și Step-Back: O Plonjare în Noile Avansări ale Cercetării Google DeepMind

Introducere

Ingineria prompturilor se concentrează pe crearea de prompturi eficiente pentru a ghida modelele de limbaj mari (LLM) precum GPT-4 în generarea de răspunsuri dorite. Un prompt bine conceput poate face diferența între un răspuns vag sau inexact și unul precis și intuitiv.

În ecosistemul mai larg al inteligenței artificiale, ingineria prompturilor este una dintre metodele utilizate pentru a extrage informații mai precise și contextual relevante din modelele de limbaj. Alte metode includ tehnici precum învățarea cu puține exemple, în care modelul primește câteva exemple pentru a-l ajuta să înțeleagă sarcina, și ajustarea fină, în care modelul este antrenat suplimentar pe un set de date mai mic pentru a-și specializa răspunsurile.

Google DeepMind (GOOGL ) a publicat recent două articole care explorează ingineria prompturilor și potențialul său de a îmbunătăți răspunsurile în multiple situații.

Aceste articole fac parte din explorarea continuă în comunitatea de inteligență artificială de a rafina și optimiza modul în care comunicăm cu modelele de limbaj, oferind perspective proaspete asupra structurării prompturilor pentru o manipulare mai bună a întrebărilor și interacțiunii cu bazele de date.

Acest articol explorează detaliile acestor articole de cercetare, elucidând conceptele, metodologiile și implicațiile tehnicilor propuse, făcându-le accesibile chiar și cititorilor cu cunoștințe limitate în domeniul inteligenței artificiale și al prelucrării limbajului natural.

Articolul 1: Modele de Limbaj Mare ca Raționatori Analogici

Primul articol, intitulat “Modele de Limbaj Mare ca Raționatori Analogici”, introduce o nouă abordare de promptare numită Promptare Analogică. Autorii, Michihiro Yasunaga, Xinyun Chen și alții, se inspiră din raționamentul analogic – un proces cognitiv în care oamenii folosesc experiențe trecute pentru a aborda probleme noi.

Concepte Cheie și Metodologie

Promptarea Analogică încurajează LLM-urile să genereze singure exemple și cunoștințe relevante în context, înainte de a rezolva o problemă dată. Această abordare elimină nevoia de exemple etichetate, oferind generalitate și conveniență, și adaptează exemplele generate la fiecare problemă specifică, asigurând adaptabilitatea.

Stânga: Metodele tradiționale de promptare a LLM-urilor se bazează pe intrări generice (0-shot CoT) sau necesită exemple etichetate (few-shot CoT). Dreapta: Abordarea nouă promptează LLM-urile să creeze exemple relevante înainte de a rezolva problema, eliminând nevoia de etichetare și personalizând exemplele pentru fiecare problemă unică

Exemple Auto-Generate

Prima tehnică prezentată în articol este exemplul auto-generat. Ideea constă în a valorifica cunoștințele extinse pe care LLM-urile le-au dobândit în timpul antrenamentului pentru a le ajuta să rezolve probleme noi. Procesul implică completarea unei probleme țintă cu instrucțiuni care promtează modelul să recunoască sau să genereze probleme și soluții relevante.

De exemplu, dată fiind o problemă, modelul este instruit să recunoască trei probleme distincte și relevante, să le descrie și să explice soluțiile lor. Acest proces este conceput pentru a fi efectuat într-o singură trecere, permițând LLM-ului să genereze exemple relevante și să rezolve problema inițială fără întrerupere. Utilizarea simbolurilor ‘#’ în prompturi ajută la structurarea răspunsului, făcându-l mai organizat și mai ușor de urmat pentru model.

Deciziile tehnice cheie subliniate în articol includ accentul pe generarea de exemple relevante și diverse, adoptarea unei abordări într-o singură trecere pentru o mai mare conveniență și constatarea că generarea a trei până la cinci exemple produce cele mai bune rezultate.

Cunoștințe și Exemple Auto-Generate

A doua tehnică, cunoștințe și exemple auto-generate, este introdusă pentru a aborda provocările în sarcini mai complexe, cum ar fi generarea de cod. În astfel de scenarii, LLM-urile ar putea să se bazeze prea mult pe exemple de nivel scăzut și să aibă dificultăți în a generaliza atunci când rezolvă problema țintă. Pentru a mitigă acest lucru, autorii propun să îmbunătățească promptul cu o instrucțiune suplimentară care încurajează modelul să identifice conceptele de bază ale problemei și să ofere un tutorial sau o idee de nivel înalt.

O considerație critică este ordinea în care se generează cunoștințele și exemplele. Autorii au constatat că generarea cunoștințelor înainte de exemple conduce la rezultate mai bune, deoarece ajută LLM-ul să se concentreze pe abordările fundamentale de rezolvare a problemelor, mai degrabă decât doar pe asemănările de suprafață.

Avantaje și Aplicații

Abordarea de promptare analogică oferă mai multe avantaje. Ea furnizează exemple detaliate de raționament fără a necesita etichetarea manuală, abordând provocările asociate cu metodele 0-shot și few-shot chain-of-thought (CoT). De asemenea, exemplele generate sunt personalizate pentru fiecare problemă, oferind îndrumări mai relevante decât metodele tradiționale few-shot CoT, care utilizează exemple fixe.

Articolul demonstrează eficacitatea acestei abordări în diverse sarcini de raționament, inclusiv rezolvarea problemelor matematice, generarea de cod și alte sarcini de raționament în BIG-Bench.

Performanță pe sarcini matematice, GSM8K și MATH

În al doilea tabel, pentru modelele GPT3.5-turbo-16k și GPT4, “Cunoștințe și Exemple Auto-Generate” arată cea mai bună performanță.

Performanță pe sarcina de generare de cod Codeforces

Articolul 2: Faceți Un Pas În Spate: Evocarea Raționamentului prin Abstracție în Modele de Limbaj Mare

Prezentare Generală

Al doilea articol, “Faceți Un Pas În Spate: Evocarea Raționamentului prin Abstracție în Modele de Limbaj Mare” prezintă o tehnică numită Promptare cu Pas Înapoi, care încurajează LLM-urile să abstractizeze concepte de nivel înalt și principii de la instanțe detaliate. Autorii, Huaixiu Steven Zheng, Swaroop Mishra și alții, își propun să îmbunătățească capacitățile de raționament ale LLM-urilor, ghidându-le să urmeze un drum corect de raționament către soluție.

Ilustrarea PROMPTĂRII CU PAS ÎNAPOI prin două faze de Abstracție și Raționament, conduse de concepte și principii cheie.

Să creăm un exemplu mai simplu, utilizând o întrebare matematică de bază pentru a demonstra tehnica “Întrebarea cu Pas Înapoi”:

Întrebarea Originală: Dacă un tren călătorește cu o viteză de 60 km/h și parcurge o distanță de 120 km, cât timp va dura?

Opțiuni:

3 ore
2 ore
1 oră
4 ore
Răspunsul Original [Incorect]: Răspunsul corect este 1).

Întrebarea cu Pas Înapoi: Care este formula de bază pentru a calcula timpul dat viteza și distanța?

Principii:
Pentru a calcula timpul, se utilizează formula:
Timp = Distanță / Viteză

Răspunsul Final:
Folosind formula, Timp = 120 km / 60 km/h = 2 ore.
Răspunsul corect este 2) 2 ore.

Deși LLM-urile de astăzi pot răspunde cu ușurință la întrebarea de mai sus, acest exemplu este doar pentru a demonstra cum funcționează tehnica cu pas înapoi. Pentru scenarii mai provocatoare, aceeași tehnică poate fi aplicată pentru a diseca și aborda problema în mod sistematic. Mai jos este prezentat un caz mai complex demonstrat în articol:

PROMPTAREA CU PAS ÎNAPOI pe setul de date MMLU-Chimie

Concepte Cheie și Metodologie

Esența Promptării cu Pas Înapoi constă în capacitatea sa de a face LLM-urile să facă un pas înapoi, încurajându-le să privească imaginea de ansamblu, mai degrabă decât să se piardă în detalii. Acest lucru se realizează prin intermediul unei serii de prompturi atent concepute care ghidează LLM-urile să abstractizeze informații, să deriveze concepte de nivel înalt și să le aplice pentru a rezolva problema dată.

Procesul începe cu LLM-ul care este promptat să abstractizeze detalii din instanțele date, încurajându-l să se concentreze pe conceptele și principiile subiacente. Acest pas este crucial, deoarece stabilește cadrul pentru LLM-ul de a aborda problema dintr-o perspectivă mai informată și mai principială.

Odată ce conceptele de nivel înalt sunt derivate, ele sunt utilizate pentru a ghida LLM-ul prin pașii de raționament către soluție. Această ghidare asigură că LLM-ul rămâne pe drumul corect, urmând un drum logic și coerent care se bazează pe conceptele și principiile abstractizate.

Autorii efectuează o serie de experimente pentru a valida eficacitatea Promptării cu Pas Înapoi, utilizând modele PaLM-2L pe o gamă largă de sarcini care necesită raționament intensiv. Aceste sarcini includ probleme STEM, întrebări de cunoaștere și raționament multi-pas, oferind un mediu cuprinzător pentru evaluarea tehnicii.

Îmbunătățiri Substanțiale pe Sarcini

Rezultatele sunt impresionante, Promptarea cu Pas Înapoi conducând la câștiguri semnificative de performanță pe toate sarcinile. De exemplu, tehnica îmbunătățește performanța modelului PaLM-2L pe seturile de date MMLU Fizică și Chimie cu 7% și, respectiv, 11%. Similar, aceasta crește performanța pe TimeQA cu 27% și pe MuSiQue cu 7%.

Performanța PROMPTĂRII CU PAS ÎNAPOI vs CoT

Aceste rezultate subliniază potențialul Promptării cu Pas Înapoi de a îmbunătăți semnificativ capacitățile de raționament ale LLM-urilor.

Concluzie

Ambele articole de la Google DeepMind prezintă abordări inovatoare pentru ingineria prompturilor, având ca scop îmbunătățirea capacităților de raționament ale modelelor de limbaj mari. Promptarea Analogică valorifică conceptul de raționament analogic, încurajând modelele să genereze exemple și cunoștințe proprii, conducând la o rezolvare a problemelor mai adaptabilă și mai eficientă. Pe de altă parte, Promptarea cu Pas Înapoi se concentrează pe abstracție, ghidând modelele să deriveze concepte de nivel înalt și principii, care, la rândul lor, îmbunătățesc capacitățile lor de raționament.

Aceste articole de cercetare oferă perspective valoroase și metodologii care pot fi aplicate în diverse domenii, conducând la modele de limbaj mai inteligente și mai capabile. Pe măsură ce continuăm să explorăm și să înțelegem complexitățile ingineriei prompturilor, aceste abordări servesc ca etape importante către realizarea unor sisteme de inteligență artificială mai avansate și mai sofisticate.