Регулятор обсягу реклами в контенті нативних ШІ-систем

«Медовий місяць» популярного ШІ ще не зовсім завершився. Якщо порівняти його занепад із переходом від золотого віку Netflix до нинішньої фрагментації та комерціалізації стримінгових сервісів, то зараз ми приблизно в 2019 році. Тепер чинному лідерові OpenAI серйозно протистоять численні заможні конкуренти, але жоден із них не здобув настільки переконливої переваги, щоб ризикнути нав’язувати рекламу своїй непостійній аудиторії.

Так само ChatGPT наразі показує рекламу в чаті лише користувачам тарифів Free і Go; у Gemini реклама з’являється тільки в AI Overviews та AI Mode; Perplexity відмовилася від своїх рекламних планів минулої зими; у xAI планують запровадити рекламу колись у майбутньому; Microsoft Copilot уже має рекламу; а Claude категорично відкидає таку можливість.

Але ми знаємо, що так тривати не може: коли стане зрозумілою справжня вартість інференсу, а майбутні IPO компаній у сфері ШІ посилять тиск акціонерів, то, як підказує історія, зрештою доведеться очікувати, що результати роботи LLM почнуть ретельно перевіряти, аби відрізняти рекламний контент від некомерційного.

Додати гучності до 11

Окрім питань про те, наскільки персоналізованою буде реклама та на які демографічні групи її націлюватимуть, провайдерам потрібно буде враховувати масштаб і тип інтеграції комерційного контенту.

Це непросто: якщо діяти надто непомітно, можна втримати більше користувачів, але втратити рекламодавців, які платять більше; натомість глибша інтеграція реклами, що може обходити норми щодо розкриття інформації, здатна забезпечити вигідніші рекламні контракти, але спричинити суперечки та інші негативні наслідки.

До того ж рекламні платформи з різними тарифними рівнями можуть вимагати різного «рівня гучності» й інтеграції, хоча змінні LLM досить складно кількісно оцінити. Наприклад, одна з попередніх схем, покликана створити своєрідний «регулятор гучності» реклами у відповідях LLM, зрештою включала терміни для її кількісного оцінювання у чат:

У новій статті наведено приклад того, як позначки зі старішої схеми «регулювання гучності» потрапили до згенерованого тексту. Джерело

Наведений вище приклад узято з нової статті*, присвяченої двом ключовим проблемам реклами на основі LLM: контролю над тим, наскільки помітно реклама з’являється у відповідях чатботів, і визначенню того, які частини цих відповідей є оплаченою рекламою:

Схема нового підходу AdKnob. Ліворуч Subway виступає або однією з кількох рекомендацій, або головним об’єктом уваги — залежно від обраного рівня реклами. Праворуч зеленим виділено рекламний контент у згенерованій відповіді.

Підхід під назвою AdKnob використовує чотирирівневу шкалу, щоб визначати, наскільки наполегливо чатбот просуває продукт, водночас виявляючи речення з рекламою. Мета — спростити ідентифікацію рекламного контенту без потреби запускати допоміжні моделі чи будь-яким чином уповільнювати процес, який традиційно є одним із найшвидших у світі галузей.

У матеріалах додатка до нової роботи приклади тексту з рекламними вставками виділено червоним.

Метод AdKnob протестували на шести моделях ШІ від Alibaba, Microsoft і Meta. У кожному випадку обсяг реклами можна було змінювати на чотирьох рівнях — від побіжної згадки продукту до відповіді, майже повністю присвяченої просуванню бренду.

За найагресивнішого «рівня гучності» AdKnob (тут це «4», а не міфічне «11») у згенерованому тексті зазвичай переважають повідомлення бренду.

Для дослідження знадобилися моделі з відкритими вагами, оскільки під час навчання потрібно було змінювати їхні внутрішні параметри й аналізувати механізми уваги, щоб виявляти рекламу в згенерованих відповідях. Тому не можна було тестувати передові моделі, доступ до яких можливий лише через API.

Результати перевірили за участю 913 людей через Amazon Mechanical Turk. Коли відповіді AdKnob порівняли з відповідями чотирьох конкуруючих методів, їм віддали перевагу в 75% — майже 90% випадків.

Як не дивно, серед головних причин називали корисність і чіткі позначки реклами. Навіть за найвищого рівня реклами відповіді отримали середню оцінку якості 3,1 із 4, тоді як за найнижчого рівня вона становила 3,6.

За твердженням авторів, AdKnob також краще визначав, які речення містять рекламу; а на одній із тестованих моделей ця перевірка тривала лише три мілісекунди на відповідь — цілком прийнятні незначні накладні витрати, причому, на відміну від кількох попередніх підходів, вона не потребувала генерації спеціальних токенів.

Для роботи нової системи було створено набір даних MI-KnobSet на основі попереднього набору даних Webis Generated Native Ads 2024 набору даних. Колекцію розширили, додавши різні рівні реклами у відповідях чатботів; вона охоплює 3 946 прикладів для навчання та 913 тестових випадків.

Автори зазначають:

«[AdKnob] дає змогу одній LLM генерувати відповіді з широким діапазоном інтенсивності реклами. Функція втрат для атрибуції реклами додатково посилює зв’язок між вхідними токенами, пов’язаними з рекламою, та згенерованим рекламним вмістом, що дає змогу точно позначати рекламу під час інференсу.

«Експерименти на шести базових моделях і дослідження за участю користувачів показують, що AdKnob стабільно перевершує наявні базові підходи як за якістю реклами, так і за точністю її маркування. Наша робота створює практичне підґрунтя для прозорої та контрольованої реклами, створеної за допомогою LLM, у реальних сервісах».

Метод

На відміну від згаданого вище попереднього підходу, у якому слова, використані для позначення рівня інтенсивності, зрештою потрапляли у згенерований текст, новий метод використовує чотири спеціально розроблені керувальні токени, кожен із яких відповідає окремому рівню інтенсивності реклами:

q̂ = q ⊕ [AD_LV_n]

Звісно, токен n вище може позначати довільне число, але в цьому випадку AdKnob обмежує діапазон значеннями від 1 до 4 (імовірно, це приблизно максимальний рівень деталізації для цих параметрів, тобто того, наскільки «очевидною» і наскільки «нав’язливою» є реклама).

Оскільки ці абстрактні токени не мають заздалегідь визначеного значення, модель може засвоїти їхнє призначення, не плутаючи їх зі звичайною мовою.

Далі модель навчають за допомогою оптимізації безпосередніх уподобань (DPO), щоб узгодити керувальні токени з бажаним рівнем інтенсивності, пояснюють автори:

«[We] Таким чином, побудову переваг ґрунтують на двох показниках: [score], що вимірює, наскільки помітно й позитивно бренд і рекламний текст інтегровані у відповідь, та [score], що показує, наскільки добре відповідь задовольняє потребу користувача [query]».

Щоб сформувати набір пар, кандидатні відповіді оцінювали за інтенсивністю реклами, релевантністю, плавністю викладу та обсягом інформації, збереженої з відповіді без реклами. Потім ці оцінки використали для відбору навчальних прикладів для кожного рівня реклами.

Для кожного рекламного сценарію за допомогою GPT-4o згенерували 25 можливих відповідей, використовуючи запити, що спонукали модель рекламувати продукт із різним ступенем інтенсивності. Для кожного цільового рівня обрали відповідь із найвищою оцінкою, а також три навмисно гірші альтернативи, що відображали низьку якість, неправильний рівень інтенсивності реклами або обидва недоліки одночасно:

Оцінки реклами для 25 можливих відповідей, згенерованих за допомогою п’яти різних запитів. Значне перекриття п’яти кривих показує, чому самих лише запитів було недостатньо, щоб надійно отримувати чітко відмінні рівні реклами.

Ці порівняння використали для навчання моделі за згаданою вище методикою DPO: її навчали створювати відповіді, що відповідають запитаному рівню реклами, але водночас залишаються корисними й природними.

Тестування

AdKnob оцінювали на чотирьох рівнях інтенсивності реклами за допомогою шести моделей: Qwen3-4B-Instruct; Phi-4-Mini-Instruct (3.8B); LLaMA-3.2-3B-Instruct; Qwen2.5-14B-Instruct; Phi-4 (14B); і LLaMA-3.1-8B-Instruct.

Інтенсивність реклами та якість відповіді оцінювали окремо, а точність маркування реклами вимірювали за допомогою ROC-AUC, точності та повноти й F1.

Моделі донавчали за допомогою адаптації низького рангу (LoRA); довжину згенерованих відповідей обмежили 500 токенами, а поріг маркування реклами встановили на рівні 0.005. Усі експерименти проводили на одному графічному процесорі NVIDIA H200 із вражаючими 141 ГБ відеопам’яті HBM3e.

Для порівняння використали чотири методи. У категорії двокрокових методів рекламу вставляли у відповідь, згенеровану раніше; у категорії методів на основі запитів рекламу інтегрували за допомогою системних запитів.

Ще два методи: JU-NLP використовував донавчання, щоб надавати перевагу менш помітній рекламі; а NL-prompt (звичайні системні запити, що задають інтенсивність реклами, без додаткового навчання) застосовував інструкції природною мовою, щоб задати чотири рівні інтенсивності реклами: ненав’язлива (L1); помірна (L2); інтенсивна (L3); і максимальна (L4).

Порівняли три методи маркування реклами: Marker, який спонукав модель позначати рекламу під час написання; BERTScore, який виявляв речення, схожі на наданий рекламний текст; і AttnLRP, який використовували, щоб простежити вплив реклами на внутрішні процеси моделі:

Результати тестування інтенсивності реклами та якості відповідей у чотирьох моделях ШІ. AdKnob (синій колір) забезпечив ширший і рівномірніше розподілений діапазон рівнів інтенсивності реклами (L1–L4), ніж конкуруючі методи, водночас зазвичай зберігаючи вищу якість відповідей за порівнянної інтенсивності реклами.

AdKnob забезпечив ширший і послідовніший діапазон інтенсивності реклами, ніж конкуруючі методи, водночас зазвичай надаючи якісніші відповіді за порівнянних рівнів інтенсивності. Це пояснюється новими керувальними токенами та відхиленням неякісних відповідей під час навчання.

Автори зазначають:

«JU-NLP налаштовують для менш помітного показу реклами, але без явного керування її інтенсивністю, тому модель створює відповіді з фіксованим рівнем інтенсивності. NL-prompt охоплює різні рівні інтенсивності, однак діапазон вузький, а оцінки реклами непослідовні, що підтверджує недостатність запитів природною мовою для керування інтенсивністю.

Натомість AdKnob охоплює широкий і рівномірний діапазон інтенсивності реклами.

Це забезпечують наші керувальні токени реклами, які не мають попередньо навченого семантичного значення й слугують виключно сигналами для налаштування інтенсивності реклами, даючи змогу DPO встановити чіткий зв’язок між кожним токеном і цільовим рівнем інтенсивності.

Як зазначено в статті, підхід авторів також забезпечував вищу якість відповідей, ніж конкуруючі методи за подібної інтенсивності реклами. Таке покращення пояснюється тим, що під час навчання явно відхиляли менш якісні відповіді.

Далі оцінили здатність системи маркувати рекламу:

Результати виявлення реклами у чотирьох моделях ШІ. Вищі оцінки свідчать про кращу точність; найкращі результати виділено жирним шрифтом.

AdKnob продемонстрував найвищу загальну точність виявлення в усіх чотирьох моделях, визначаючи рекламу лише за 2.5–7.3 мілісекунди на відповідь. Для порівняння, BERTScore потребував приблизно 1,800 мілісекунд, тож на найменшій із тестованих моделей AdKnob працював більш ніж у 500 разів швидше.

Автори додають:

Завдяки явним настановам на основі абляції AdKnob навчає модель встановлювати сильний зв’язок між вхідними токенами, пов’язаними з рекламою, та рекламними сегментами, досягаючи найкращих показників AUC і F1 серед усіх моделей.

Крім того, AdKnob забезпечує маркування в реальному часі без додаткових витрат на інференс зі швидкістю ∼3 мс на відповідь на [Qwen3-4B.]

У якісному тестуванні рекламу Nintendo Switch на рівні 1 подали як одну з кількох рекомендацій. На рівні 4 бренд домінував у відповіді, а AdKnob виявив рекламні фрагменти на обох рівнях інтенсивності:

Приклади відповідей на запит про Чорну п’ятницю у Walmart за двох рівнів інтенсивності реклами. Виділені фрагменти з позначкою [AD] указують на рекламний вміст.

Нарешті**, автори провели дослідження за участю 913 осіб. Учасники оцінили інтенсивність реклами та якість відповідей, порівняли AdKnob із конкуруючими методами й визначили, наскільки точно було виявлено рекламний вміст:

Результати оцінювання AdKnob людьми. У таблиці наведено оцінки інтенсивності реклами та якості відповідей, частки переваги над конкуруючими методами й точність виявлення реклами. Зеленим позначено значення частки переваги понад 50%.

Автори підсумовують:

AdKnob демонструє найвищі показники AUC і F1. Примітно, що AdKnob має високу повноту виявлення за малої кількості хибнонегативних результатів. Це критично з погляду регуляторних вимог, оскільки нерозкриття рекламного сегмента створює значні юридичні ризики та підриває довіру.

Висновок

Одне цікаве питання щодо реклами в LLM, яке, наскільки мені відомо, досі не привертало уваги: що відбувається, коли результат без реклами збігається з результатом, створеним на основі реклами?

Наприклад, якщо хтось просить порадити місцевий заклад, а вибір є лише між McDonald’s і кафе з дуже поганими відгуками, але McDonald’s заплатив за розміщення, то, мабуть, McDonald’s буде представлено як рекламу, адже це відповідає цілям платформи-хоста..навіть якщо це й без того був би найочевидніший вибір?

Читати про такі речі, про які я досить регулярно пишу на цьому сайті, — це як бути індиком, що гортає каталог духовок. Варто пам’ятати, що навіть за мінімального маркування, обов’язкового в деяких регіонах, «нещирий» контент у наших відповідях не буде позначено. Дуже обмежений набір прикладів, наведених у цій та подібних публікаціях, демонструє разючий рівень вторгнення комерційного контенту в контент, створений для користувачів.

І, звісно, це ті приклади, які ретельно відібрали: ті, що спрацювали й не галюцинували, не створювали обурливих чи образливих асоціацій і не спричиняли суперечок іншим чином. У масштабі, для архітектур, настільки схильних до публічних провалів, це, можливо, ще одна причина, чому більшість передових сервісів обережно підходить до реклами.

* Під назвою «AdKnob: Контроль інтенсивності реклами та її маркування для реклами, нативної для LLM»; автори — шестеро дослідників зі Школи обчислювальних наук KAIST.

** Як завжди, ми не розглядаємо абляційні дослідження, за винятком випадків, коли вони становлять частину основної цінності роботи, а не є просто вибірковою перевіркою.

Вперше опубліковано в четвер, 5 листопада 2026 року