От Prompt Engineering к Intent Engineering: Эволюция Общения Человека и ИИ

В течение последних нескольких лет, инженерия запросов стала одним из наиболее важных навыков в эпоху ИИ. Были созданы курсы, разработаны должности и сформированы целые сообщества для обмена советами о том, как составить идеальное предложение, которое заставит языковую модель делать именно то, что вы хотите. Одной из основных причин популярности инженерии запросов является то, что ИИ мощный, но также буквальный. Вам приходилось учиться его языку, прежде чем он мог вам помочь. Эта логика имела смысл в то время. Но она начинает разрушаться.

По мере того, как модели ИИ становятся более совершенными, бремя общения смещается. Вопрос больше не только “как я могу сформулировать это правильно?” Он становится “как я могу убедиться, что ИИ действительно понимает, чего я пытаюсь достичь?” Это более глубокий вопрос. И он указывает на возникновение новой области, называемой инженерией намерений.

Что Такое Инженерия Запросов

Чтобы понять, куда мы движемся, помогает понять, что такое инженерия запросов на самом деле. В своей основе, это было обходным путем. Ранние языковые модели были мощными, но хрупкими. Они хорошо реагировали на определенные закономерности и плохо на неоднозначные. Поэтому пользователи узнали эти закономерности. Они обнаружили, что, прося модель “думать шаг за шагом”, улучшается рассуждение. Они узнали, что предоставление примеров делает выводы более последовательными. Они выяснили, что назначение роли модели, например “поведение как эксперт-программист”, меняет тон и качество ее ответов. Хотя эти идеи действительно улучшили результаты, они требуют от людей адаптироваться к машине. Люди учились говорить на языке, который подходит архитектуре модели, а не на своем собственном естественном языке.

Это не то, как работает хорошая коммуникация между интеллектуальными агентами. Когда вы объясняете проблему опытному коллеге, вы не думаете о стратегии формулирования, которая наиболее активирует его нейронные пути. Вы объясняете ситуацию. Они понимают контекст. Они задают уточняющие вопросы, если необходимо. И они работают над тем, чего вы действительно хотите. Ремесло инженерии запросов, со всем своим значением, всегда компенсировало пробел, который лучше ИИ должен в конечном итоге закрыть.

Ограничения, Сделавшие Инженерию Запросов Необходимой

Причина, по которой инженерия запросов стала так важна, заключалась не только в том, что модели были несовершенными. Это было связано с тем, что модели не имели реальной модели пользователя. Они обрабатывали текст и возвращали текст. У них не было постоянного понимания того, кто вы были, над чем вы пытались построить, или что “хорошо” означало в вашем конкретном контексте.

Это создало странную ситуацию. Вы могли задать один и тот же вопрос и получить совершенно разные результаты, в зависимости от того, как вы его сформулировали. Вы могли потратить двадцать минут на доработку запроса и внезапно открыть ответ, который был более полезным, чем все, что вы получили раньше. Запрос не был просто входом. Это был ключ, и поиск правильного ключа требовал умения, терпения и иногда удачи.

Это также означало, что качество вашего вывода часто зависело больше от ваших навыков запроса, чем от ваших фактических знаний в области. Врач, который также был опытным инженером запросов, мог получить лучшее медицинское рассуждение от модели, чем более знающий врач, который не знал закономерностей. Это странное обращение значений. Это предполагает, что система оптимизировалась для неправильной вещи.

Что Изменяет Инженерия Намерений

Инженерия намерений предназначена для работы с другим набором основных предположений. Вместо того, чтобы спрашивать, как сформулировать запрос так, чтобы модель ответила хорошо, она спрашивает, как передать то, чего вы действительно хотите, на всех уровнях, чтобы модель могла самостоятельно рассуждать о правильном результате.

Это предполагает несколько вещей, с которыми инженерия запросов не может справиться. Это предполагает предоставление ИИ-системам достаточно контекста о ваших целях, ограничениях и стандартах, чтобы они могли принимать хорошие решения без указания каждого шага. Это предполагает создание общего понимания, а не выдачу точных инструкций. И это предполагает построение систем, в которых ИИ может задавать правильные вопросы, а не ждать, пока ему скажут правильные ответы.

Мы уже видим это на практике. Современные системы ИИ все чаще поддерживают постоянную память, профили пользователей и непрерывный контекст. Когда модель знает, что вы являетесь менеджером продукта, работающим над приложением для здравоохранения с конкретными нормативными ограничениями, ваши запросы автоматически приобретают более богатый смысл. Вам не нужно восстанавливать контекст с нуля каждый раз. Модель уже понимает контекст, над которым вы работаете.

Это фундаментальный сдвиг. Инженерия запросов рассматривала каждое взаимодействие как изолированное. Инженерия намерений рассматривает общение как накопительное. Модель больше не просто обрабатывает один вход. Она отслеживает непрерывный разговор о том, чего вы пытаетесь достичь и почему.

Роль Более Богатого Контекста и Рассуждений

Другое измерение инженерии намерений включает в себя, как современные модели справляются с неоднозначностью. Хорошо обученная модель сегодня не просто сопоставляет закономерности с наиболее вероятным завершением вашего предложения. Она рассуждает о том, что вы, вероятно, имели в виду, отмечает предположения, которые она делает, и во многих случаях запрашивает уточнение, прежде чем продолжить.

Это имеет значение, потому что человеческая коммуникация по своей природе неоднозначна. Когда кто-то просит “помочь мне написать что-то для моего босса”, он может иметь в виду обзор производительности, письмо с извинениями, предложение проекта или письмо с увольнением. Система, оптимизированная для инженерии запросов, попытается сделать вывод из точных слов. Система, оптимизированная для инженерии намерений, признает неоднозначность и будет справляться с ней умно, либо задавая вопросы, либо производя что-то, что признает несколько возможных интерпретаций.

Рассуждение во время тестирования, которое представляет собой способность модели подумать над проблемой, прежде чем ответить, также играет роль здесь. Модели, которые рассуждают, прежде чем отвечать, лучше улавливают случаи, когда буквальный запрос конфликтует с лежащим в основе намерением. Они могут заметить, когда вы попросили Х, но то, что вам, вероятно, нужно, – это Y, и они могут вынести это наблюдение, а не молча выполнять запрос, который не будет служить вашей цели.

Новый Вид Навыков

Эта эволюция не делает навыки человеческой коммуникации нерелевантными. Она меняет то, как эти навыки выглядят. Человек, который процветает в мире инженерии намерений, не тот, кто запомнил лучшие шаблоны запросов. Это человек, который может четко артикулировать, чего он пытается достичь, общаться ограничениями и контекстом, которые имеют значение, и распознавать, когда вывод ИИ служит реальной цели, а не только заявленной.

Во многих отношениях, это старые навыки. Это навыки хорошего менеджера, хорошего учителя или хорошего сотрудника. Умение передать намерение четко, объяснить не только то, чего вы хотите, но и почему вы хотите этого, всегда было признаком эффективной коммуникации. То, что новое, заключается в том, что системы ИИ теперь достаточно совершенны, чтобы действительно реагировать на этот тип коммуникации.

Интересное следствие заключается в том, что по мере улучшения ИИ интерфейс между людьми и машинами начнет выглядеть меньше как программирование и больше как сотрудничество. Вам не нужно будет проектировать идеальный вход. Вам нужно будет быть четким и целенаправленным коммуникатором.

Что Это Значит для Того, Как Мы Построим Системы ИИ

Этот сдвиг также имеет последствия для того, как системы ИИ должны быть спроектированы. Парадигма инженерии запросов побуждает вас строить системы, которые очень чувствительны к точному входу. Парадигма инженерии намерений побуждает вас строить системы, которые хороши в выводе, запросе, адаптации и сохранении.

Это означает инвестиции в архитектуры памяти, которые позволяют моделям сохранять значимый контекст между сессиями. Это означает построение моделей, которые знают, когда у них недостаточно информации, чтобы действовать хорошо, и могут сказать об этом. Это означает создание интерфейсов, в которых пользователи общаются целями, а не командами, и где ИИ ведет себя как партнер в определении того, как достичь этих целей.

Это также означает переосмысление оценки. Сейчас мы часто измеряем, насколько хорошо модель выполняет конкретные инструкции. В мире инженерии намерений лучшей мерой является то, насколько хорошо модель служит лежащей в основе цели за этими инструкциями, даже когда инструкции сами по себе были неточными.

Основная Идея

Инженерия запросов относилась к ИИ как к мощному, но глупому инструменту, который нуждался в осторожном обращении. Инженерия намерений относится к ИИ как к чему-то более похожему на интеллектуального сотрудника, который может понимать контекст, рассуждать о целях и справляться с неоднозначностью. Этот сдвиг отражает изменение того, для чего мы думаем, что ИИ предназначен. Не машина, которая выполняет ваши точные слова. А система, которая помогает вам достичь того, что вы действительно заботитесь. Сдвиг сигнализирует о том, что будущее взаимодействия человека и ИИ не будет заключаться в овладении хитрым формулированием. Это будет заключаться в артикуляции целей, ограничений и цели достаточно четко, чтобы ИИ мог сотрудничать, а не просто подчиняться.