Регулятор уровня рекламы в контенте, созданном ИИ

«Медовый месяц» популярного ИИ ещё не совсем закончился. Если сравнить его с переходом от золотого века Netflix к нынешним раздробленности и коммерциализации стриминговых сервисов, то сейчас примерно 2019 год. Положение OpenAI, лидера рынка, уже серьёзно оспаривает целый ряд хорошо обеспеченных конкурентов, но ни один из них пока не завоевал настолько прочных позиций, чтобы рискнуть навязать рекламу своей непостоянной аудитории.

Сейчас ChatGPT, в свою очередь, показывает рекламу в чате только пользователям тарифов Free и Go; реклама в Gemini появляется лишь в обзорах от ИИ и режиме ИИ; Perplexity отказалась от планов по размещению рекламы прошлой зимой; в xAI планируют добавить рекламу в будущем; в Microsoft Copilot она уже есть; а Claude категорически отвергает такую возможность.

Но понятно, что так продолжаться не может: по мере того как становится видна реальная стоимость инференса, а надвигающиеся IPO компаний в сфере ИИ выдвигают на первый план требования акционеров, история подсказывает, что в конечном счёте нам, вероятно, придётся начать тщательно проверять ответы больших языковых моделей, чтобы отличать рекламный контент от некоммерческого.

Выкрутить громкость на 11

Помимо вопросов о том, насколько персонализированной будет реклама и на какие демографические группы будут нацеливаться, провайдерам предстоит определить степень и тип интеграции коммерческого контента.

Это непростая задача: если реклама слишком незаметна, вы сохраните больше пользователей, но потеряете рекламодателей, готовых платить больше. Более тесная интеграция рекламного контента может помочь заключить более выгодные рекламные контракты, однако она способна обходить правила раскрытия информации, вызывать споры и приводить к другим негативным последствиям.

Кроме того, рекламные платформы с разными тарифными уровнями могут требовать разной «громкости» и степени интеграции, хотя параметры больших языковых моделей довольно сложно измерить количественно. Например, одна из предыдущих схем, призванных создать своего рода «регулятор громкости» рекламы в ответах больших языковых моделей, в итоге привела к тому, что термины, обозначавшие уровень, стали появляться в чате:

Из новой научной работы: пример того, как обозначения из прежней схемы «регулирования громкости» просочились в сгенерированный текст. Источник

Приведённый выше пример взят из новой научной работы*, посвящённой двум ключевым проблемам рекламы на основе больших языковых моделей: контролю над тем, насколько заметно реклама представлена в ответах чат-бота, и определению того, какие части этих ответов являются оплаченной рекламой:

Схема нового подхода AdKnob. Слева Subway выступает либо одной из нескольких рекомендаций, либо основным объектом внимания — в зависимости от выбранного уровня рекламы. Справа зелёным выделен рекламный контент в сгенерированном ответе.

Подход под названием AdKnob использует четырёхуровневую шкалу, чтобы задавать, насколько активно чат-бот продвигает продукт, и одновременно определяет предложения, содержащие рекламу. Цель — упростить выявление рекламного контента без привлечения дополнительных моделей и без какого-либо замедления процесса, который традиционно относится к числу самых быстрорастущих отраслей.

В приложении к новой работе приведены примеры текста со вставленной рекламой, выделенной красным цветом.

Метод AdKnob протестировали на шести моделях ИИ от Alibaba, Microsoft и Meta. В каждом случае объём рекламы можно было настраивать на четырёх уровнях — от мимолётного упоминания продукта до ответа, почти целиком посвящённого продвижению бренда.

При самом высоком уровне «громкости» AdKnob (здесь это «4», а не мифическое «11») сообщения бренда, как правило, преобладают в ответе.

Для исследования потребовались модели с открытыми весами: во время обучения нужно было изменять их внутренние параметры и анализировать паттерны внимания, чтобы выявлять рекламу в сгенерированных ответах. Поэтому исключили испытания на передовых моделях, доступ к которым возможен только через API.

Результаты проверили с участием 913 человек на платформе Amazon Mechanical Turk. При сравнении ответов AdKnob с ответами четырёх конкурирующих методов участники предпочитали AdKnob в 75–почти 90% случаев.

Как ни удивительно, среди основных причин называли полезность ответов и чёткую маркировку рекламы. Даже при максимальном уровне рекламы средняя оценка качества ответов составила 3,1 из 4, тогда как при минимальном уровне она равнялась 3,6.

По мнению авторов, AdKnob также лучше распознавал, в каких предложениях содержалась реклама. А на одной из протестированных моделей такая проверка занимала всего три миллисекунды на ответ — вполне приемлемые накладные расходы, не требующие отдельной генерации токенов, в отличие от ряда предыдущих подходов.

Для работы новой системы был создан набор данных MI-KnobSet на основе более раннего набора данных Webis Generated Native Ads 2024 набор данных. В него добавили примеры с разным уровнем рекламы в ответах чат-ботов. Набор включает 3 946 обучающих примеров и 913 тестовых случаев.

Авторы отмечают:

«[AdKnob] позволяет одной большой языковой модели генерировать ответы с широким диапазоном интенсивности рекламы. Функция потерь для атрибуции рекламы дополнительно усиливает связь между входными токенами, относящимися к рекламе, и сгенерированным рекламным контентом, обеспечивая точную маркировку рекламы во время вывода модели.

«Эксперименты на шести базовых моделях и исследования с участием пользователей показывают, что AdKnob стабильно превосходит существующие базовые методы как по качеству рекламы, так и по точности ее маркировки. Наша работа создает практическую основу для прозрачной и управляемой рекламы, создаваемой большими языковыми моделями, в реальных сервисах».

Метод

В отличие от описанного выше раннего подхода, при котором слова, использовавшиеся для обозначения уровня интенсивности, попадали в итоговый ответ, новый метод использует четыре специально созданных управляющих токена, каждый из которых соответствует отдельному уровню интенсивности рекламы:

q̂ = q ⊕ [AD_LV_n]

Разумеется, токен n выше может обозначать произвольное число, однако в данном случае AdKnob ограничивает диапазон значениями от 1 до 4. Вероятно, для этих параметров — то есть того, насколько «очевидна» и «навязчива» реклама, — более тонкая градация вряд ли возможна.

Поскольку эти абстрактные токены не имеют заранее заданного значения, модель может усвоить их назначение, не смешивая их с обычным языком.

Затем, как объясняют авторы, модель обучают с помощью оптимизации предпочтений с прямой настройкой (DPO), чтобы согласовать управляющие токены с желаемым уровнем интенсивности:

«[We] таким образом, формируют предпочтения на основе двух метрик: рекламной составляющей [score], которая показывает, насколько заметно и позитивно бренд и рекламный текст включены в ответ, и качества ответа [score], которое оценивает, насколько хорошо ответ учитывает запрос пользователя [query]».

Чтобы сформировать набор пар, кандидатные ответы оценивали по интенсивности рекламы, релевантности, беглости и объему информации, сохраненной из ответа без рекламы. Затем эти оценки использовали для отбора обучающих примеров для каждого уровня рекламы.

Для каждого рекламного сценария с помощью GPT-4o создавали 25 возможных ответов, а промпты побуждали модель рекламировать продукт с разной интенсивностью. Для каждого целевого уровня выбирали ответ с наивысшей оценкой, а также три намеренно худших варианта, которые отличались низким качеством, неверным уровнем рекламы или обоими недостатками одновременно:

Оценки рекламной составляющей для 25 кандидатных ответов, созданных с помощью пяти разных промптов. Значительное пересечение пяти кривых показывает, почему одних только промптов недостаточно для надежного получения разных уровней рекламы.

Эти сравнения использовали для обучения модели с помощью упомянутого выше метода DPO: она училась создавать ответы, соответствующие запрошенному уровню рекламы, но при этом оставаться полезными и естественными.

Тестирование

AdKnob оценивали на четырех уровнях интенсивности рекламы на шести моделях: Qwen3-4B-Instruct; Phi-4-Mini-Instruct (3.8B); LLaMA-3.2-3B-Instruct; Qwen2.5-14B-Instruct; Phi-4 (14B) и LLaMA-3.1-8B-Instruct.

Интенсивность рекламы и качество ответов оценивали отдельно, а точность маркировки рекламы измеряли с помощью ROC-AUC, точности и полноты, а также F1.

Для дообучения моделей применяли адаптацию низкого ранга (LoRA); длина сгенерированных ответов ограничивалась 500 токенами, а порог маркировки рекламы составлял 0,005. Все эксперименты проводились на одном графическом процессоре NVIDIA H200 с внушительным объемом видеопамяти HBM3e — 141 ГБ.

В качестве базовых методов использовали четыре подхода. В категории двухэтапных методов рекламу добавляли в уже сгенерированный ответ; в категории методов на основе промптов рекламу задавали системными промптами.

В двух других подходах: JU-NLP использовал дообучение, чтобы отдавать предпочтение менее заметной рекламе; а NL-prompt — обычные системные промпты, задающие интенсивность рекламы, без дополнительного обучения — применял инструкции на естественном языке, чтобы запросить один из четырех уровней интенсивности рекламы: ненавязчивый (L1); умеренный (L2); интенсивный (L3) и максимальный (L4).

Были сравнены три метода маркировки рекламы: Marker, при котором модель побуждали помечать рекламу в процессе написания; BERTScore, который выявлял предложения, похожие на предоставленный рекламный текст; и AttnLRP, с помощью которого прослеживали влияние рекламы на внутренние процессы модели:

Результаты тестирования, в котором сравнивались интенсивность рекламы и качество ответов у четырёх моделей ИИ. AdKnob (синий цвет) обеспечивал более широкий и равномерный диапазон уровней рекламы (L1–L4), чем конкурирующие методы, и в целом сохранял более высокое качество ответов при сопоставимой интенсивности рекламы.

AdKnob обеспечивал более широкий и стабильный диапазон интенсивности рекламы, чем конкурирующие методы, и в целом давал ответы более высокого качества при сопоставимых уровнях рекламы. Это объясняется введением новых управляющих токенов и отбраковкой некачественных ответов в ходе обучения.

Авторы отмечают:

«JU-NLP настраивается с учётом скрытности рекламы, но без явного управления её интенсивностью, поэтому выдаёт ответы с фиксированным уровнем рекламы. Хотя NL-prompt охватывает несколько уровней интенсивности, диапазон остаётся узким, а оценки рекламы непоследовательны, что подтверждает недостаточность инструкций на естественном языке для управления интенсивностью рекламы.»

«В отличие от них, AdKnob охватывает широкий и равномерный диапазон интенсивности рекламы.»

«Это достигается благодаря нашим управляющим рекламой токенам, которые не имеют предварительно обученной семантики и служат исключительно сигналами для управления интенсивностью рекламы. Это позволяет DPO выстроить чёткое соответствие между каждым токеном и целевым уровнем интенсивности.»

Как отмечается в статье, при сопоставимой интенсивности рекламы подход авторов также обеспечивал более высокое качество ответов, чем конкурирующие методы. Это улучшение объясняется использованием обучающих примеров, в которых ответы худшего качества явно отбраковывались.

Затем оценивались возможности системы по маркировке рекламы:

Результаты обнаружения рекламы у четырёх моделей ИИ. Более высокие оценки свидетельствуют о большей точности; лучшие результаты выделены полужирным шрифтом.

AdKnob показал наивысшую общую точность обнаружения рекламы среди всех четырёх моделей: на выявление рекламы в одном ответе уходило всего 2,5–7,3 миллисекунды. Для сравнения, BERTScore требовал около 1 800 миллисекунд, поэтому на самой маленькой из протестированных моделей AdKnob работал более чем в 500 раз быстрее.

Авторы добавляют:

«AdKnob обучает модель устанавливать надёжную связь между рекламными токенами во входных данных и рекламными фрагментами с помощью явного руководства на основе абляции, благодаря чему достигаются лучшие показатели AUC и F1 среди всех моделей.»

«Кроме того, AdKnob обеспечивает маркировку в реальном времени без дополнительных затрат на инференс — ∼3 мс на ответ на [Qwen3-4B.]

В качественном тесте реклама Nintendo Switch фигурировала как одна из нескольких рекомендаций на уровне 1. На уровне 4 бренд доминировал в ответе, а рекламные фрагменты были выявлены AdKnob при обоих уровнях интенсивности:

Примеры ответов на запрос о распродажах Walmart в Черную пятницу при двух уровнях интенсивности рекламы. Выделенные фрагменты с пометкой [AD] обозначают рекламный контент.

Наконец**, авторы провели исследование с участием 913 человек. Участники оценивали интенсивность рекламы и качество ответов, сравнивали AdKnob с конкурирующими методами и определяли, насколько точно выявлялся рекламный контент:

Результаты оценки AdKnob людьми. В таблице представлены оценки интенсивности рекламы и качества ответов, доли предпочтений по сравнению с конкурирующими методами и точность обнаружения рекламы. Зелёным цветом выделены ячейки, в которых доля предпочтений превышает 50%.

Авторы заключают:

«AdKnob достигает наилучших показателей AUC и F1. Примечательно, что AdKnob демонстрирует высокую полноту при малом числе ложноотрицательных результатов. Это крайне важно с точки зрения регулирования: нераскрытие рекламного фрагмента несёт серьёзные юридические риски и подрывает доверие.»

Заключение

Один интересный вопрос, связанный с рекламой внутри больших языковых моделей, которому, насколько я заметил, не уделяли внимания, — что происходит, когда обычный ответ и ответ с рекламой совпадают?

Например, если просят порекомендовать местное заведение, а поблизости есть только McDonald’s и кафе с очень низким рейтингом, но McDonald’s заплатил за размещение, то, вероятно, McDonald’s представят в рекламном контексте, поскольку это отвечает целям принимающей системы… даже если и без того это был бы естественный выбор?

Когда я читаю о таких вещах, о которых довольно регулярно пишу на этом сайте, то чувствую себя индейкой, листающей каталог духовок. Стоит помнить, что даже при минимальной маркировке, обязательной в некоторых регионах, «неискренний» контент в наших ответах не будет обозначен. В очень небольшом числе примеров, приведённых в этой и подобных работах, показано вопиющее вторжение коммерческого контента в естественный контент.

И, конечно, это примеры, отобранные вручную: те, которые сработали и не выдумывали факты, не порождали возмутительных или оскорбительных ассоциаций и не вызывали скандалов иным образом. При масштабном применении для архитектур, столь склонных к публичному позору, это, возможно, ещё одна причина, по которой большинство передовых сервисов осторожно подходят к рекламе.

* Под названием «AdKnob: управление интенсивностью рекламы и маркировка рекламы, нативной для LLM»; работа написана шестью авторами из Школы вычислительной техники KAIST.

** Как обычно, мы не рассматриваем абляционные исследования, кроме случаев, когда они составляют часть основной ценности работы, а не служат выборочной проверкой.

Впервые опубликовано в четверг, 5 ноября 2026 года