Аналогічна та крок назад промптінг: занурення у останні досягнення від Google DeepMind

Введення

Інженерія промптів зосереджується на розробці ефективних промптів для керування великими мовними моделями (LLM) такими як GPT-4 для генерації бажаних відповідей. Хорошо створений промпт може бути різницею між невиразною або неточною відповіддю та точною, проникливою відповіддю.

У ширшому екосистемі штучного інтелекту інженерія промптів є одним із кількох методів, які використовуються для отримання більш точної та контекстно-відповідної інформації з мовних моделей. Інші методи включають техніки, такі як навчання з кількох прикладів, коли моделі надаються кілька прикладів, щоб допомогти їй зрозуміти завдання, та тонке налаштування, коли модель додатково тренується на меншій вибірці даних, щоб спеціалізувати свої відповіді.

Google DeepMind (GOOGL ) нещодавно опублікував дві статті, які досліджують інженерію промптів та її потенціал для покращення відповідей у різних ситуаціях.

Ці статті є частиною тривалого дослідження в спільноті штучного інтелекту щодо вдосконалення та оптимізації того, як ми спілкуємося з мовними моделями, і вони надають свіжі ідеї щодо структури промптів для кращого оброблення запитів та взаємодії з базами даних.

Ця стаття детально розглядає ці дослідницькі статті, пояснюючи концепції, методології та наслідки запропонованих технік, роблячи їх доступними навіть для читачів з обмеженими знаннями в галузі штучного інтелекту та обробки природної мови.

Стаття 1: Великі мовні моделі як аналогічні розумники

Перша стаття, озаглавлена “Великі мовні моделі як аналогічні розумники”, вводить новий підхід до промптів під назвою Аналогічний Промптінг. Автори, Міхіро Ясунага, Сіньюн Чен та інші, черпають натхнення з аналогічного мислення – когнітивного процесу, при якому люди використовують минулі досвіди для вирішення нових проблем.

Ключові концепції та методологія

Аналогічний Промптінг спонукає LLM до самогенерації відповідних прикладів або знань у контексті перед тим, як приступити до вирішення задачі. Цей підхід усуває потребу у маркованих прикладах, пропонуючи загальність та зручність, і адаптує згенеровані приклади до кожної конкретної задачі, забезпечуючи адаптивність.

Ліворуч: Традиційні методи промптів для LLM спираються на загальні вхідні дані (0-шот CoT) або потребують маркованих прикладів (кілька шотів CoT). Праворуч: Новый підхід спонукає LLM до самогенерації відповідних прикладів перед тим, як приступити до вирішення задачі, усуваючи потребу у маркуванні та адаптування прикладів до кожної унікальної задачі

Самогенеровані приклади

Перша техніка, представлена в статті, – самогенеровані приклади. Ідея полягає в тому, щоб використати обширні знання, які LLM здобули під час навчання, щоб допомогти їм вирішити нові задачі. Процес включає доповнення цільової задачі інструкціями, які спонукають модель до пригадування або генерації відповідних задач та рішень.

Наприклад, задану задачу можна доповнити інструкцією, яка спонукає модель до пригадування трьох різних та відповідних задач, опису їх та пояснення їхніх рішень. Цей процес спроектований для виконання в одному проході, дозволяючи LLM генерувати відповідні приклади та вирішувати початкову задачу безперешкодно. Використання символів ‘#’ у промптах допомагає у структуризації відповіді, роблячи її більш організованою та легшою для моделі слідувати.

Ключові технічні рішення, представлені в статті, включають акцент на генерації відповідних та різноманітних прикладів, прийняття одного проходу для більшої зручності та висновок, що генерація трьох-п’яти прикладів дає найкращі результати.

Самогенеровані знання + приклади

Друга техніка, самогенеровані знання + приклади, вводиться для вирішення задач у більш складних завданнях, таких як генерація коду. У цих сценаріях LLM можуть надмірно сприймати низькорівневі приклади та мати труднощі з узагальненням при вирішенні цільових задач. Для пом’якшення цього автори пропонують доповнити промпт додатковою інструкцією, яка спонукає модель до ідентифікації основних концепцій у задачі та надання навчального посібника чи високорівневого висновку.

Одним із критичних факторів є порядок, у якому генеруються знання та приклади. Автори виявили, що генерація знань перед прикладами веде до кращих результатів, оскільки це допомагає LLM зосередитися на фундаментальних підходах до вирішення задач, а не лише на поверхневих подібностях.

Переваги та застосування

Підхід аналогічного промпту має кілька переваг. Він забезпечує детальні приклади мислення без потреби у ручному маркуванні, вирішуючи завдання, пов’язані з 0-шотом та кількома шотами ланцюга мислення (CoT). Крім того, згенеровані приклади адаптовані до окремих задач, пропонуючи більш відповідне керівництво, ніж традиційний几-шот CoT, який використовує фіксовані приклади.

Стаття демонструє ефективність цього підходу у різних завданнях з мисленням, включаючи математичне рішення задач, генерацію коду та інші завдання з мисленням у BIG-Bench.

Продуктивність на математичних завданнях, GSM8K і MATH

У другій таблиці для моделей GPT3.5-turbo-16k і GPT4 “Самогенеровані знання + приклади” показують найкращу продуктивність.

Продуктивність на завданнях генерації коду Codeforces

Стаття 2: Крок назад: викликання мислення через абстракцію у великих мовних моделях

Огляд

Друга стаття, “Крок назад: викликання мислення через абстракцію у великих мовних моделях“, представляє техніку кроку назад, яка спонукає LLM до абстракції високорівневих концепцій та першопочаткових принципів з детальних прикладів. Автори, Хуайсю Стівен Чжен, Сваруп Мішра та інші, мета яких полягає у покращенні здатності LLM до мислення, спрямовуючи їх на правильний шлях до рішення.

Зображення кроку назад через дві фази абстракції та мислення, керованих ключовими концепціями та принципами.

Давайте створимо простіший приклад за допомогою базового математичного питання, щоб продемонструвати техніку “Крок назад”:

Оригінальне питання: Якщо поїзд рухається зі швидкістю 60 км/год та проходить відстань 120 км, скільки часу це займе?

Варіанти:

3 години
2 години
1 година
4 години
Оригінальна відповідь [Неправильна]: Правильна відповідь - 1).

Крок назад: Яка базова формула для розрахунку часу за швидкістю та відстанню?

Принципи:
Для розрахунку часу використовується формула:
Час = Відстань / Швидкість

Фінальна відповідь:
Використовуючи формулу, Час = 120 км / 60 км/год = 2 години.
Правильна відповідь - 2) 2 години.

Хоча сучасні LLM можуть легко відповісти на вищезазначене питання, цей приклад лише демонструє, як техніка кроку назад працює. Для більш складних сценаріїв таку саму техніку можна застосувати для систематичного розчленування та вирішення задачі.

Крок назад на наборі даних MMLU-Chemistry

Ключові концепції та методологія

Суть техніки кроку назад полягає в її здатності спонукати LLM до метафоричного кроку назад, спонукаючи їх до розгляду більш широкої картини, а не заглиблення у деталі. Це досягається завдяки серії ретельно створених промптів, які спрямовують LLM до абстракції інформації, виведення високорівневих концепцій та застосування цих концепцій для вирішення задачі.

Процес починається з промпту LLM до абстракції деталей з заданих прикладів, спонукаючи її зосередитися на основних концепціях та принципах. Цей крок є критичним, оскільки він створює основу для того, щоб LLM підходила до задачі з більш інформованої та заснованої на принципах перспективи.

Як тільки високорівневі концепції виведені, їх використовують для спрямування LLM через кроки мислення до рішення. Це керівництво забезпечує те, що LLM залишається на правильному шляху, слідуючи логічному та послідовному шляху, який ґрунтується на абстрактованих концепціях та принципах.

Автори проводять серію експериментів для підтвердження ефективності техніки кроку назад, використовуючи моделі PaLM-2L у широкому спектрі завдань, що вимагають інтенсивного мислення. Ці завдання включають завдання STEM, питання знань, багатоступенчате мислення, забезпечуючи всебічну платформу для оцінки техніки.

Значні покращення у завданнях

Результати вражаючі, техніка кроку назад призводить до суттєвих покращень продуктивності у всіх завданнях. Наприклад, ця техніка покращує продуктивність моделі PaLM-2L на наборі даних MMLU Physics і Chemistry на 7% і 11% відповідно. Аналогічно, вона підвищує продуктивність на TimeQA на 27% і на MuSiQue на 7%.

Продуктивність кроку назад vs CoT

Ці результати підкреслюють потенціал техніки кроку назад для суттєвого покращення здатності LLM до мислення.

Висновок

Обидві статті від Google DeepMind представляють інноваційні підходи до інженерії промптів, спрямовані на покращення здатності великих мовних моделей до мислення. Аналогічний промптінг використовує концепцію аналогічного мислення, спонукаючи моделі до генерації власних прикладів та знань, що веде до більш адаптивного та ефективного вирішення задач. З іншого боку, техніка кроку назад зосереджується на абстракції, спрямовуючи моделі до виведення високорівневих концепцій та принципів, які покращують їхню здатність до мислення.

Ці дослідницькі статті надають цінні ідеї та методології, які можна застосувати у різних галузях, що веде до більш інтелектуальних та здатних мовних моделей. Коли ми продовжимо досліджувати та розуміти тонкощі інженерії промптів, ці підходи служать важливими кроками на шляху до досягнення більш просунутих та складних систем штучного інтелекту.