Промптинг за аналогією та з кроком назад: огляд нових досліджень Google DeepMind

Введення

Інженерія промптів зосереджується на розробці ефективних промптів для керування великими мовними моделями (LLM) такими як GPT-4 для генерації бажаних відповідей. Добре сформульований промпт може бути різницею між невиразною або неточною відповіддю та точною, проникливою відповіддю.

У ширшій екосистемі штучного інтелекту інженерія промптів є одним із кількох методів, які використовуються для отримання більш точної та контекстно-відповідної інформації з мовних моделей. Інші методи включають техніки, такі як навчання з кількох прикладів, коли моделі надаються кілька прикладів, щоб допомогти їй зрозуміти завдання, та тонке налаштування, коли модель додатково тренується на меншій вибірці даних, щоб спеціалізувати свої відповіді.

Google DeepMind (GOOGL ) нещодавно опублікував дві статті, які досліджують інженерію промптів та її потенціал для покращення відповідей у різних ситуаціях.

Ці статті є частиною тривалого дослідження в спільноті штучного інтелекту щодо вдосконалення та оптимізації того, як ми спілкуємося з мовними моделями, і вони надають свіжі ідеї щодо структури промптів для кращого оброблення запитів та взаємодії з базами даних.

Ця стаття детально розглядає ці дослідницькі статті, пояснюючи концепції, методології та наслідки запропонованих технік, роблячи їх доступними навіть для читачів з обмеженими знаннями в галузі штучного інтелекту та обробки природної мови.

Стаття 1: Великі мовні моделі як системи міркування за аналогією

Перша стаття, озаглавлена “Великі мовні моделі як системи міркування за аналогією”, вводить новий підхід до промптів під назвою Промптинг за аналогією. Автори, Міхіро Ясунага, Сіньюн Чен та інші, черпають натхнення з міркування за аналогією – когнітивного процесу, при якому люди використовують минулий досвід для вирішення нових проблем.

Ключові концепції та методологія

Промптинг за аналогією спонукає LLM до самогенерації відповідних прикладів або знань у контексті перед тим, як приступити до вирішення задачі. Цей підхід усуває потребу у маркованих прикладах, пропонуючи загальність та зручність, і адаптує згенеровані приклади до кожної конкретної задачі, забезпечуючи адаптивність.

Ліворуч: Традиційні методи промптів для LLM спираються на загальні вхідні дані (0-шот CoT) або потребують маркованих прикладів (кілька шотів CoT). Праворуч: Новий підхід спонукає LLM до самогенерації відповідних прикладів перед тим, як приступити до вирішення задачі, усуваючи потребу в маркуванні та водночас адаптуючи приклади до кожної окремої задачі

Самогенеровані приклади

Перша техніка, представлена в статті, – самогенеровані приклади. Ідея полягає в тому, щоб використати обширні знання, які LLM здобули під час навчання, щоб допомогти їм вирішити нові задачі. Процес включає доповнення цільової задачі інструкціями, які спонукають модель до пригадування або генерації відповідних задач та рішень.

Наприклад, задану задачу можна доповнити інструкцією, яка спонукає модель до пригадування трьох різних та відповідних задач, опису їх та пояснення їхніх рішень. Цей процес спроектований для виконання в одному проході, дозволяючи LLM генерувати відповідні приклади та вирішувати початкову задачу безперешкодно. Використання символів ‘#’ у промптах допомагає у структуризації відповіді, роблячи її більш організованою та легшою для моделі слідувати.

Ключові технічні рішення, представлені в статті, включають акцент на генерації відповідних та різноманітних прикладів, прийняття одного проходу для більшої зручності та висновок, що генерація трьох-п’яти прикладів дає найкращі результати.

Самогенеровані знання + приклади

Друга техніка, самогенеровані знання + приклади, вводиться для вирішення задач у більш складних завданнях, таких як генерація коду. У цих сценаріях LLM можуть надмірно покладатися на низькорівневі приклади та мати труднощі з узагальненням при вирішенні цільових задач. Для пом’якшення цього автори пропонують доповнити промпт додатковою інструкцією, яка спонукає модель до ідентифікації основних концепцій у задачі та надання навчального пояснення чи узагальненого висновку.

Одним із критичних факторів є порядок, у якому генеруються знання та приклади. Автори виявили, що генерація знань перед прикладами веде до кращих результатів, оскільки це допомагає LLM зосередитися на фундаментальних підходах до вирішення задач, а не лише на поверхневих подібностях.

Переваги та застосування

Підхід промптингу за аналогією має кілька переваг. Він забезпечує детальні приклади мислення без потреби у ручному маркуванні, вирішуючи завдання, пов’язані з 0-шотом та кількома шотами ланцюга мислення (CoT). Крім того, згенеровані приклади адаптовані до окремих задач, пропонуючи більш відповідне керівництво, ніж традиційний підхід із кількома прикладами CoT, який використовує фіксовані приклади.

Стаття демонструє ефективність цього підходу у різних завданнях з мисленням, включаючи математичне рішення задач, генерацію коду та інші завдання з мисленням у BIG-Bench.

Продуктивність на математичних завданнях, GSM8K і MATH

У другій таблиці для моделей GPT3.5-turbo-16k і GPT4 “Самогенеровані знання + приклади” показують найкращу продуктивність.

Продуктивність на завданнях генерації коду Codeforces

Стаття 2: Крок назад: викликання мислення через абстракцію у великих мовних моделях

Огляд

Друга стаття, “Крок назад: викликання мислення через абстракцію у великих мовних моделях“, представляє техніку кроку назад, яка спонукає LLM до абстракції високорівневих концепцій та першопочаткових принципів з детальних прикладів. Автори, Хуайсю Стівен Чжен, Сваруп Мішра та інші, прагнуть поліпшити здатність LLM до міркування, спрямовуючи їх правильним шляхом до розв’язання.

Зображення кроку назад через дві фази абстракції та мислення, керованих ключовими концепціями та принципами.

Давайте створимо простіший приклад за допомогою базового математичного питання, щоб продемонструвати техніку “Крок назад”:

Оригінальне питання: Якщо поїзд рухається зі швидкістю 60 км/год та проходить відстань 120 км, скільки часу це займе?

Варіанти:

3 години
2 години
1 година
4 години
Оригінальна відповідь [Неправильна]: Правильна відповідь - 1).

Крок назад: Яка базова формула для розрахунку часу за швидкістю та відстанню?

Принципи:
Для розрахунку часу використовується формула:
Час = Відстань / Швидкість

Фінальна відповідь:
Використовуючи формулу, Час = 120 км / 60 км/год = 2 години.
Правильна відповідь - 2) 2 години.

Хоча сучасні LLM можуть легко відповісти на вищезазначене питання, цей приклад лише демонструє, як техніка кроку назад працює. Для складніших ситуацій ту саму техніку можна застосувати, щоб систематично розібрати й розв’язати задачу. Нижче наведено складніший приклад із дослідження.

Крок назад на наборі даних MMLU-Chemistry

Ключові концепції та методологія

Суть техніки кроку назад полягає в її здатності спонукати LLM до метафоричного кроку назад, спонукаючи їх до розгляду більш широкої картини, а не заглиблення у деталі. Це досягається завдяки серії ретельно створених промптів, які спрямовують LLM до абстракції інформації, виведення високорівневих концепцій та застосування цих концепцій для вирішення задачі.

Процес починається з промпту LLM до абстракції деталей з заданих прикладів, спонукаючи її зосередитися на основних концепціях та принципах. Цей крок є критичним, оскільки він створює основу для того, щоб LLM підходила до задачі з більш інформованої та заснованої на принципах перспективи.

Як тільки високорівневі концепції виведені, їх використовують для спрямування LLM через кроки мислення до рішення. Це керівництво забезпечує те, що LLM залишається на правильному шляху, слідуючи логічному та послідовному шляху, який ґрунтується на абстрактованих концепціях та принципах.

Автори проводять серію експериментів для підтвердження ефективності техніки кроку назад, використовуючи моделі PaLM-2L у широкому спектрі завдань, що вимагають інтенсивного мислення. Ці завдання включають завдання STEM, відповіді на запитання на основі знань і багатокрокове міркування, забезпечуючи всебічну платформу для оцінки техніки.

Значні покращення у завданнях

Результати вражаючі, техніка кроку назад призводить до суттєвих покращень продуктивності у всіх завданнях. Наприклад, ця техніка покращує продуктивність моделі PaLM-2L на наборі даних MMLU Physics і Chemistry на 7% і 11% відповідно. Аналогічно, вона підвищує продуктивність на TimeQA на 27% і на MuSiQue на 7%.

Продуктивність кроку назад vs CoT

Ці результати підкреслюють потенціал техніки кроку назад для суттєвого покращення здатності LLM до мислення.

Висновок

Обидві статті від Google DeepMind представляють інноваційні підходи до інженерії промптів, спрямовані на покращення здатності великих мовних моделей до мислення. Промптинг за аналогією використовує концепцію міркування за аналогією, спонукаючи моделі до генерації власних прикладів та знань, що веде до більш адаптивного та ефективного вирішення задач. З іншого боку, техніка кроку назад зосереджується на абстракції, спрямовуючи моделі до виведення високорівневих концепцій та принципів, які покращують їхню здатність до мислення.

Ці дослідницькі статті надають цінні ідеї та методології, які можна застосувати у різних галузях, що веде до більш інтелектуальних та здатних мовних моделей. Коли ми продовжимо досліджувати та розуміти тонкощі інженерії промптів, ці підходи служать важливими кроками на шляху до досягнення більш просунутих та складних систем штучного інтелекту.