Prompting Analogique et Régression : Plongée dans les Dernières Avancées de Google DeepMind

Introduction

L’ingénierie de prompt est axée sur la conception de prompts efficaces pour guider les grands modèles de langage (LLM) tels que GPT-4 pour générer des réponses désirées. Un prompt bien conçu peut faire la différence entre une réponse vague ou inexacte et une réponse précise et éclairante.

Dans l’écosystème plus large de l’IA, l’ingénierie de prompt est l’une des méthodes utilisées pour extraire des informations plus précises et plus pertinentes du contexte des modèles de langage. D’autres méthodes incluent des techniques comme l’apprentissage à quelques exemples, où le modèle reçoit quelques exemples pour l’aider à comprendre la tâche, et la fine-tuning, où le modèle est formé sur un ensemble de données plus petit pour spécialiser ses réponses.

Google DeepMind (GOOGL ) a récemment publié deux articles qui explorent l’ingénierie de prompt et son potentiel pour améliorer les réponses dans de multiples situations.

Ces articles font partie de l’exploration en cours dans la communauté de l’IA pour affiner et optimiser la façon dont nous communiquons avec les modèles de langage, et ils offrent des perspectives fraîches sur la structuration des prompts pour une meilleure gestion des requêtes et une interaction avec les bases de données.

Cet article se penche sur les détails de ces articles de recherche, éclaircissant les concepts, les méthodologies et les implications des techniques proposées, le rendant accessible même aux lecteurs ayant des connaissances limitées en IA et en traitement automatique des langues.

Article 1 : Les Grands Modèles de Langage en tant que Raisonneurs Analogiques

Le premier article, intitulé “Les Grands Modèles de Langage en tant que Raisonneurs Analogiques”, introduit une nouvelle approche de prompt nommée Prompting Analogique. Les auteurs, Michihiro Yasunaga, Xinyun Chen et d’autres, s’inspirent du raisonnement analogique – un processus cognitif où les humains utilisent les expériences passées pour aborder de nouveaux problèmes.

Concepts Clés et Méthodologie

Le Prompting Analogique encourage les LLM à auto-générer des exemples ou des connaissances pertinentes dans le contexte avant de résoudre un problème donné. Cette approche élimine le besoin d’exemples étiquetés, offrant généralité et commodité, et adapte les exemples générés à chaque problème spécifique, assurant ainsi l’adaptabilité.

Gauche : Les méthodes traditionnelles de prompt des LLM reposent sur des entrées génériques (0-shot CoT) ou nécessitent des exemples étiquetés (few-shot CoT). Droite : La nouvelle approche amène les LLM à auto-créer des exemples pertinents avant de résoudre le problème, supprimant le besoin d’étiquetage tout en personnalisant les exemples pour chaque problème unique

Exemples Auto-Générés

La première technique présentée dans l’article est les exemples auto-générés. L’idée est d’utiliser les connaissances étendues que les LLM ont acquises pendant leur formation pour les aider à résoudre de nouveaux problèmes. Le processus implique d’augmenter un problème cible avec des instructions qui amènent le modèle à rappeler ou à générer des problèmes et des solutions pertinents.

Par exemple, étant donné un problème, le modèle est invité à rappeler trois problèmes distincts et pertinents, à les décrire et à expliquer leurs solutions. Ce processus est conçu pour être effectué en une seule passe, permettant au LLM de générer des exemples pertinents et de résoudre le problème initial de manière fluide. L’utilisation de symboles « # » dans les prompts aide à structurer la réponse, la rendant plus organisée et plus facile pour le modèle à suivre.

Les décisions techniques clés mises en évidence dans l’article incluent l’accent mis sur la génération d’exemples pertinents et divers, l’adoption d’une approche en une seule passe pour une plus grande commodité, et la constatation que la génération de trois à cinq exemples donne les meilleurs résultats.

Connaissances Auto-Générées + Exemples

La deuxième technique, connaissances auto-générées + exemples, est introduite pour relever les défis dans des tâches plus complexes, telles que la génération de code. Dans ces scénarios, les LLM pourraient trop s’appuyer sur des exemples de bas niveau et avoir du mal à généraliser lors de la résolution du problème cible. Pour atténuer cela, les auteurs proposent d’enrichir le prompt avec une instruction supplémentaire qui encourage le modèle à identifier les concepts clés du problème et à fournir un didacticiel ou une prise de haut niveau.

Une considération critique est l’ordre dans lequel les connaissances et les exemples sont générés. Les auteurs ont constaté que la génération de connaissances avant les exemples conduit à de meilleurs résultats, car cela aide le LLM à se concentrer sur les approches fondamentales de résolution de problèmes plutôt que sur des similarités de surface.

Avantages et Applications

L’approche de prompting analogique offre plusieurs avantages. Elle fournit des exemples détaillés de raisonnement sans nécessité d’étiquetage manuel, répondant aux défis associés aux méthodes 0-shot et few-shot de chaîne de pensée (CoT). De plus, les exemples générés sont adaptés à des problèmes individuels, offrant des conseils plus pertinents que les méthodes traditionnelles de few-shot CoT, qui utilisent des exemples fixes.

L’article démontre l’efficacité de cette approche à travers diverses tâches de raisonnement, y compris la résolution de problèmes mathématiques, la génération de code et d’autres tâches de raisonnement dans BIG-Bench.

Performance sur les tâches mathématiques, GSM8K et MATH

Dans le deuxième tableau, pour les modèles GPT3.5-turbo-16k et GPT4, « Connaissances Auto-Générées + Exemples » montre la meilleure performance.

Performance sur la tâche de génération de code Codeforces

Article 2 : Faire un Pas en Arrière : Évoquer le Raisonnement via l’Abstraction dans les Grands Modèles de Langage

Vue d’Ensemble

Le deuxième article, “Faire un Pas en Arrière : Évoquer le Raisonnement via l’Abstraction dans les Grands Modèles de Langage” présente la technique de Prompting par Régression, qui encourage les LLM à abstraire des concepts de haut niveau et des principes fondamentaux à partir d’instances détaillées. Les auteurs, Huaixiu Steven Zheng, Swaroop Mishra et d’autres, visent à améliorer les capacités de raisonnement des LLM en les guidant pour suivre un chemin de raisonnement correct vers la solution.

Décrivant le PROMPTING PAR RÉGRESSION à travers deux phases d’Abstraction et de Raisonnement, guidé par des concepts et des principes clés.

Créons un exemple plus simple en utilisant une question mathématique de base pour démontrer la technique de « Question de Régression » :

Question Originale : Si un train voyage à une vitesse de 60 km/h et parcourt une distance de 120 km, combien de temps lui faudra-t-il ?

Options :

3 heures
2 heures
1 heure
4 heures
Réponse Originale [Incorrecte] : La bonne réponse est 1).

Question de Régression : Quelle est la formule de base pour calculer le temps donné la vitesse et la distance ?

Principes :
Pour calculer le temps, on utilise la formule :
Temps = Distance / Vitesse

Réponse Finale :
En utilisant la formule, Temps = 120 km / 60 km/h = 2 heures.
La bonne réponse est 2) 2 heures.

Bien que les LLM d’aujourd’hui puissent facilement répondre à la question ci-dessus, cet exemple est simplement pour démontrer comment la technique de régression fonctionnerait. Pour des scénarios plus complexes, la même technique peut être appliquée pour décomposer et aborder le problème de manière systématique. Voici un cas plus complexe démontré dans l’article :

PROMPTING PAR RÉGRESSION sur l’ensemble de données MMLU-Chimie

Concepts Clés et Méthodologie

L’essence du Prompting par Régression réside dans sa capacité à amener les LLM à prendre un pas en arrière, les encourageant à regarder le tableau d’ensemble plutôt que de se perdre dans les détails. Cela est réalisé à travers une série de prompts soigneusement conçus qui guident les LLM pour abstraire les informations, dériver des concepts de haut niveau et appliquer ces concepts pour résoudre le problème donné.

Le processus commence avec les LLM étant invités à abstraire des détails à partir des instances données, les encourageant à se concentrer sur les concepts et principes sous-jacents. Cette étape est cruciale car elle prépare le terrain pour que les LLM abordent le problème d’une perspective plus éclairée et plus fondée sur les principes.

Une fois les concepts de haut niveau dérivés, ils sont utilisés pour guider les LLM à travers les étapes de raisonnement vers la solution. Cette guidance assure que les LLM restent sur la bonne voie, suivant un chemin logique et cohérent qui est ancré dans les concepts et principes abstraits.

Les auteurs conduisent une série d’expériences pour valider l’efficacité du Prompting par Régression, en utilisant des modèles PaLM-2L à travers une gamme de tâches de raisonnement exigeantes. Ces tâches incluent des problèmes de STEM, des questions de connaissance et des raisonnements multi-étapes, offrant un banc d’essai complet pour évaluer la technique.

Améliorations Substantielles à Travers les Tâches

Les résultats sont impressionnants, avec le Prompting par Régression conduisant à des gains de performance substantiels à travers toutes les tâches. Par exemple, la technique améliore la performance de PaLM-2L sur MMLU Physique et Chimie de 7 % et 11 %, respectivement. De même, elle améliore la performance sur TimeQA de 27 % et sur MuSiQue de 7 %.

Performance du PROMPTING PAR RÉGRESSION vs CoT

Ces résultats soulignent le potentiel du Prompting par Régression pour améliorer considérablement les capacités de raisonnement des LLM.

Conclusion

Les deux articles de Google DeepMind présentent des approches innovantes pour l’ingénierie de prompt, visant à améliorer les capacités de raisonnement des grands modèles de langage. Le Prompting Analogique tire parti du concept de raisonnement analogique, encourageant les modèles à générer leurs propres exemples et connaissances, conduisant à une résolution de problèmes plus adaptable et efficace. D’un autre côté, le Prompting par Régression se concentre sur l’abstraction, guidant les modèles pour dériver des concepts de haut niveau et des principes, ce qui améliore leurs capacités de raisonnement.

Ces articles de recherche offrent des perspectives précieuses et des méthodologies qui peuvent être appliquées dans divers domaines, conduisant à des modèles de langage plus intelligents et plus capables. Alors que nous continuons à explorer et à comprendre les complexités de l’ingénierie de prompt, ces approches servent de pierres angulaires cruciales vers l’atteinte de systèmes d’IA plus avancés et plus sophistiqués.