Un buton de volum pentru conținutul publicitar conceput pentru IA

Perioada de „lună de miere” a IA populare nu s-a încheiat chiar de tot. Dacă am compara situația cu trecerea de la epoca de aur a Netflix la actuala fragmentare și comercializare a serviciilor de streaming, am spune că suntem cam în 2019. Liderul pieței (OpenAI) se confruntă acum cu o concurență puternică din partea unui grup prosper de competitori, dintre care niciunul nu a câștigat suficient teren pentru a risca să le impună reclame utilizatorilor săi nestatornici.

La rândul său, ChatGPT limitează în prezent publicitatea în chat la utilizatorii Free și Go; reclamele Gemini apar doar în contextul AI Overviews și al AI Mode; Perplexity a renunțat la planurile sale de publicitate iarna trecută; xAI urmează să introducă reclame la un moment dat; Microsoft Copilot le are deja; iar Claude respinge categoric această posibilitate.

Dar știm că situația nu poate dura; pe măsură ce devine clar costul real al inferenței și apropierea ofertelor publice inițiale ale companiilor de IA aduce în discuție presiunea de a satisface acționarii, istoria ne sugerează că ne putem aștepta să fim nevoiți, în cele din urmă, să analizăm cu atenție rezultatele LLM-urilor, pentru a distinge conținutul publicitar de cel necomercial.

Dăm volumul la 11

Pe lângă întrebările legate de gradul de personalizare a reclamelor și de categoriile demografice care vor fi vizate, furnizorii vor trebui să ia în considerare amploarea și tipul integrării conținutului comercial.

Nu este simplu: dacă reclamele sunt prea discrete, păstrezi mai mulți utilizatori, dar pierzi advertiserii mai valoroși; iar integrarea mai accentuată a conținutului publicitar, care poate ocoli reglementările privind dezvăluirea, poate atrage contracte de publicitate mai valoroase, dar poate provoca controverse și alte efecte negative în lanț.

În plus, platformele de publicitate bazate pe niveluri pot necesita grade diferite de „volum” și de integrare, deși variabilele LLM-urilor sunt destul de greu de cuantificat. De exemplu, o metodă anterioară de creare a unui fel de „regulator de volum” pentru reclamele din rezultatele LLM-urilor a ajuns să includă chiar termenii de cuantificare în chat:

Din noua lucrare, un exemplu de etichete dintr-o metodă mai veche de „reglare a volumului” care au ajuns efectiv să apară în textul generat. Sursă

Exemplul de mai sus este preluat dintr-o nouă lucrare* care abordează două probleme-cheie ale publicității bazate pe LLM-uri: controlarea gradului de evidențiere a reclamelor în răspunsurile chatboturilor și identificarea părților din aceste răspunsuri care constituie publicitate plătită:

Schema noii abordări AdKnob. În stânga, Subway este fie una dintre mai multe recomandări, fie punctul central, în funcție de nivelul de publicitate selectat. În dreapta, evidențierile verzi indică conținutul publicitar din răspunsul generat.

Abordarea, numită AdKnob, folosește o scară cu patru niveluri pentru a stabili cât de agresiv promovează un chatbot un produs și identifică, totodată, propozițiile care conțin publicitate. Scopul este de a facilita identificarea conținutului publicitar fără a fi nevoie să se ruleze modele auxiliare sau să se încetinească în vreun fel procesul — ceea ce, în mod tradițional, se numără printre industriile cu cea mai rapidă evoluție.

În materialele suplimentare ale noii lucrări, exemplele de text în care au fost inserate reclame sunt evidențiate cu roșu.

Metoda AdKnob a fost testată pe șase modele de IA de la Alibaba, Microsoft și Meta. În fiecare caz, cantitatea de publicitate putea fi ajustată pe patru niveluri, de la o menționare ocazională a unui produs până la un răspuns dedicat aproape în întregime promovării unui brand.

La cel mai agresiv nivel de „volum” al AdKnob (aici este „4”, nu miticul „11”), mesajele brandurilor tind să domine rezultatul.

A fost nevoie de modele cu ponderi deschise, deoarece parametrii lor interni trebuiau modificați în timpul antrenării, iar tiparele de atenție trebuiau examinate pentru a identifica publicitatea din răspunsurile generate. Astfel, au fost excluse testele pe modele de ultimă generație, care pot fi accesate numai prin API.

Rezultatele au fost testate cu 913 persoane prin Amazon Mechanical Turk. Când răspunsurile AdKnob au fost comparate cu cele obținute prin patru metode concurente, acestea au fost preferate în proporție de 75% până la aproape 90% din cazuri.

Oricât de greu ar fi de crezut, utilitatea și etichetarea clară a reclamelor s-au numărat printre principalele motive invocate. Chiar și la cel mai ridicat nivel de publicitate, răspunsurile au obținut o evaluare medie a calității de 3.1 din 4, comparativ cu 3.6 la nivelul cel mai scăzut.

Autorii susțin că AdKnob s-a dovedit, de asemenea, mai bun la identificarea propozițiilor care conțineau publicitate; iar pe unul dintre modelele testate, acest proces de verificare a durat doar trei milisecunde pentru fiecare răspuns — un cost suplimentar suficient de mic și care nu a necesitat generarea unor tokenuri dedicate, spre deosebire de mai multe abordări anterioare.

Pentru a susține noul sistem, a fost creat setul de date MI-KnobSet, pornind de la setul de date anterior Webis Generated Native Ads 2024 set de date, extinzând colecția existentă astfel încât să acopere niveluri variate de publicitate în răspunsurile chatboturilor și incluzând 3.946 de exemple de antrenare și 913 cazuri de testare.

Autorii afirmă:

‘[AdKnob] permite unui singur LLM să genereze răspunsuri cu o gamă largă de intensități publicitare. Funcția de pierdere pentru atribuirea publicității consolidează și mai mult legătura dintre tokenurile de intrare asociate publicității și conținutul publicitar generat, permițând etichetarea precisă a publicității în momentul inferenței.

‘Experimentele cu șase modele de bază și studiile cu utilizatori arată că AdKnob depășește în mod constant metodele de referință existente atât în ceea ce privește calitatea publicității, cât și etichetarea acesteia. Lucrarea noastră oferă o bază practică pentru publicitatea transparentă și controlabilă integrată în LLM-uri, în servicii din lumea reală.’

Metodă

Spre deosebire de abordarea anterioară menționată mai sus, în care cuvintele folosite pentru a cuantifica nivelul unui increment ajungeau să se strecoare în rezultat, noua metodă folosește patru tokenuri de control create special, fiecare reprezentând o intensitate publicitară diferită:

q̂ = q ⊕ [AD_LV_n]

Desigur, tokenul n de mai sus poate reprezenta un număr arbitrar, dar, în acest caz, AdKnob limitează intervalul la 1-4 (probabil o granularitate aproape maximă pentru aceste variabile, și anume cât de „evident” și cât de „strident” este conținutul publicitar).

Deoarece aceste tokenuri abstracte nu au o semnificație prestabilită, modelul le poate învăța scopul fără să le confunde cu limbajul obișnuit.

Autorii explică apoi că modelul este antrenat prin Optimizarea directă a preferințelor (DPO), pentru a corela tokenurile de control cu nivelul de intensitate dorit:

‘[We] construiesc astfel preferințele de bază pe baza a două criterii: publicitatea [score], care măsoară cât de vizibil și de favorabil sunt integrate marca și textul publicitar în răspuns, și calitatea răspunsului [score], care măsoară cât de bine răspunde acesta solicitării utilizatorului [query].’

Pentru a alcătui setul de date cu perechi, răspunsurile candidate au fost evaluate în funcție de intensitatea publicitară, relevanță, fluență și informațiile păstrate dintr-un răspuns fără publicitate; scorurile au fost apoi folosite pentru a selecta exemple de antrenare pentru fiecare nivel de publicitate.

Pentru fiecare scenariu publicitar, au fost generate 25 de răspunsuri posibile cu ajutorul GPT-4o, folosind prompturi care încurajau grade diferite de promovare a produselor. A fost selectat răspunsul cu cel mai mare scor pentru fiecare nivel vizat, alături de trei alternative deliberat inferioare, care reprezentau o calitate slabă, o intensitate publicitară incorectă sau ambele:

Scorurile publicitare pentru 25 de răspunsuri candidate generate folosind cinci prompturi diferite. Suprapunerea considerabilă dintre cele cinci curbe arată de ce simpla folosire a prompturilor nu putea produce în mod fiabil niveluri publicitare distincte.

Aceste comparații au fost folosite pentru a antrena modelul prin tehnica DPO menționată anterior, învățându-l să producă răspunsuri care corespund nivelului publicitar solicitat, dar care rămân totodată utile și firești.

Teste

AdKnob a fost evaluat la patru niveluri de intensitate publicitară pe șase modele: Qwen3-4B-Instruct; Phi-4-Mini-Instruct (3.8B); LLaMA-3.2-3B-Instruct; Qwen2.5-14B-Instruct; Phi-4 (14B); și LLaMA-3.1-8B-Instruct.

Intensitatea publicitară și calitatea răspunsurilor au fost evaluate separat, în timp ce precizia etichetării publicității a fost măsurată folosind ROC-AUC, precizia și rata de reamintire și F1.

Modelele au fost ajustate fin folosind adaptarea de rang redus (LoRA), răspunsurile generate fiind limitate la 500 de tokenuri, iar pragul pentru etichetarea publicității fiind stabilit la 0,005. Toate experimentele au fost efectuate pe o singură placă GPU NVIDIA H200, cu o impresionantă memorie VRAM HBM3e de 141 GB.

Au fost folosite patru metode ca repere de comparație. În categoria în doi pași, publicitatea era inserată într-un răspuns generat anterior; în categoria bazată pe prompturi, publicitatea era integrată prin prompturi de sistem.

Celelalte două metode au fost următoarele: JU-NLP se baza pe ajustarea fină pentru a favoriza publicitatea mai puțin vizibilă; iar NL-prompt (prompturi de sistem obișnuite care specificau intensitatea publicității, fără antrenare suplimentară) folosea instrucțiuni în limbaj natural pentru a solicita patru niveluri de intensitate publicitară: subtil (L1); moderat (L2); intens (L3); și maxim (L4).

Au fost comparate trei metode de etichetare a reclamelor: Marker, care îi solicita modelului să eticheteze reclamele în timp ce genera textul; BERTScore, care semnala propozițiile asemănătoare cu textul publicitar furnizat; și AttnLRP, folosită pentru a urmări influența publicității prin mecanismele interne ale modelului:

Rezultatele testelor care compară intensitatea publicității și calitatea răspunsurilor pentru patru modele de inteligență artificială. AdKnob (albastru) a oferit o gamă mai largă și mai uniformă de niveluri de publicitate (L1–L4) decât metodele concurente, menținând, în general, o calitate mai ridicată a răspunsurilor la intensități comparabile ale publicității.

AdKnob a oferit o gamă mai largă și mai consecventă de intensități publicitare decât metodele concurente și, în general, a generat răspunsuri de calitate mai bună la niveluri comparabile. Acest lucru a fost atribuit noilor tokenuri de control și respingerii răspunsurilor de slabă calitate în timpul antrenării.

Iată ce afirmă autorii:

‘JU-NLP ajustează fin modelul pentru a face reclamele mai puțin evidente, fără un control explicit al intensității, generând răspunsuri cu o intensitate fixă. Deși NL-prompt acoperă mai multe intensități, gama sa este restrânsă, iar scorurile reclamelor sunt inconsecvente, ceea ce confirmă că solicitările în limbaj natural nu sunt suficiente pentru a controla intensitatea.

‘În schimb, AdKnob acoperă o gamă largă și uniformă de intensități publicitare.

‘Acest lucru se datorează tokenurilor noastre de control al reclamelor, care nu au semnificații preantrenate și servesc în mod specific drept semnale de condiționare pentru controlul intensității publicitare, permițând DPO să stabilească o corespondență clară între fiecare token și intensitatea vizată.’

Potrivit articolului, abordarea autorilor a generat și răspunsuri de calitate mai bună decât metodele concurente la intensități publicitare similare — o îmbunătățire atribuită exemplelor de antrenare în care răspunsurile mai slabe au fost respinse în mod explicit.

A urmat evaluarea capacităților sistemului de etichetare a reclamelor:

Rezultatele detectării reclamelor pentru patru modele de inteligență artificială. Scorurile mai mari indică o acuratețe mai bună, iar cele mai bune rezultate sunt afișate cu caractere aldine.

AdKnob a obținut cea mai mare acuratețe generală de detectare pentru toate cele patru modele, identificând reclamele în doar 2,5–7,3 milisecunde pentru fiecare răspuns. Prin comparație, BERTScore a avut nevoie de aproximativ 1.800 de milisecunde, ceea ce face ca AdKnob să fie de peste 500 de ori mai rapid pe cel mai mic model testat.

Autorii adaugă:

‘AdKnob antrenează modelul să stabilească o atribuire puternică între tokenurile de intrare asociate reclamelor și segmentele publicitare, prin îndrumare explicită bazată pe ablație, obținând cele mai bune scoruri AUC și F1 pentru toate modelele.’

‘În plus, AdKnob permite etichetarea în timp real, fără costuri suplimentare de inferență, la ∼3 ms per răspuns pe [Qwen3-4B.]

Într-un test calitativ, publicitatea pentru Nintendo Switch a fost inclusă ca una dintre mai multe recomandări la Nivelul 1. La Nivelul 4, marca a dominat răspunsul, iar AdKnob a identificat pasajele promoționale la ambele intensități:

Exemple de răspunsuri la o interogare despre Black Friday la Walmart, la două niveluri de publicitate. Pasajele evidențiate și marcate cu [AD] indică conținutul promoțional.

În cele din urmă**, autorii au realizat un studiu cu utilizatori la care au participat 913 persoane. Acestea au evaluat intensitatea publicității și calitatea răspunsurilor, au comparat AdKnob cu metodele concurente și au apreciat cât de exact a fost identificat conținutul promoțional:

Rezultatele evaluărilor umane ale AdKnob. Tabelul prezintă evaluările intensității publicității și ale calității răspunsurilor, ratele de preferință față de metodele concurente și acuratețea detectării reclamelor. Celulele verzi indică rate de preferință de peste 50%.

Autorii concluzionează:

‘AdKnob obține cele mai mari scoruri AUC și F1. Este de remarcat că AdKnob are o rată ridicată de identificare a reclamelor și puține rezultate fals negative, aspect esențial din perspectiva reglementărilor, deoarece necomunicarea unui segment publicitar implică riscuri juridice și de încredere majore.’

Concluzie

Un aspect interesant al publicității integrate în LLM-uri, căruia nu am observat să i se fi acordat atenție, este ce se întâmplă atunci când rezultatul fără publicitate și cel bazat pe publicitate sunt identice?

De exemplu, dacă cineva cere o recomandare pentru un local din zonă, iar singurele opțiuni sunt un McDonald’s și o cafenea cu recenzii foarte proaste, dar McDonald’s a plătit pentru plasare, atunci, probabil, McDonald’s va fi prezentat ca reclamă, pentru că acest lucru servește scopurilor sistemului-gazdă..chiar dacă oricum ar fi fost alegerea firească?

Când citesc despre astfel de lucruri, despre care scriu destul de regulat pe acest site, mă simt ca un curcan care răsfoiește un catalog de cuptoare. Ar trebui să ne amintim că, chiar și acolo unde reglementările impun doar o etichetare minimală, conținutul „înșelător” din rezultatele noastre nu va fi evidențiat. Unele dintre foarte puținele exemple prezentate în această lucrare și în lucrări similare ilustrează un nivel revoltător de intruziune a conținutului comercial în detrimentul celui nativ.

Și, desigur, acestea sunt exemplele alese pe sprânceană: cele care au funcționat și nu au halucinat, nu au făcut asocieri revoltătoare sau ofensatoare și nu au provocat controverse în alt mod. La scară largă, pentru arhitecturi atât de predispuse la episoade de discreditare publică, acesta ar putea fi încă un motiv pentru care majoritatea serviciilor de vârf abordează publicitatea cu prudență.

* Intitulată „AdKnob: controlul intensității reclamelor și etichetarea publicității native pentru LLM-uri”, lucrarea are șase autori de la Școala de Informatică a KAIST.

** Ca de obicei, omitem studiile de ablație (cu excepția cazurilor în care reprezintă o parte esențială a contribuției lucrării, nu doar o verificare punctuală).

Publicat inițial joi, 5 noiembrie 2026