En volymkontroll för AI-baserat reklaminnehåll

Smekmånadsperioden för populär AI är inte riktigt över. Om vi skulle jämföra utvecklingen med fallet från Netflix guldålder till dagens splittring och kommersialisering av strömningstjänster, befinner vi oss ungefär år 2019. Den etablerade aktören (OpenAI) möter nu hård konkurrens från en välfinansierad skara konkurrenter, men ingen av dem har fått ett så tydligt övertag att de vågar riskera att pracka på sin nyckfulla användarbas annonser.

På liknande sätt begränsar ChatGPT för närvarande annonser i chatten till användare av Free och Go. Gemini-annonser visas bara i samband med AI Overviews och AI Mode. Perplexity övergav sina annonsplaner i vintras. xAI planerar att införa annonser någon gång. Microsoft Copilot har redan annonser, medan Claude avvisar möjligheten helt.

Men vi vet att det här inte kan vara för evigt. När inferensens verkliga kostnad blir tydlig och förestående börsnoteringar för AI-bolag för in aktieägarnas krav i bilden, kan vi, om historien är någon vägledning, räkna med att vi så småningom måste börja granska LLM-utdata för att skilja annonsbaserat innehåll från icke-kommersiellt innehåll.

Skruva upp till 11

Utöver frågor om hur personligt anpassade annonserna ska vara och vilka demografiska grupper som ska nås, måste leverantörerna ta ställning till omfattningen och typen av integrering av kommersiellt innehåll.

Det är inte lätt. Är annonserna alltför diskreta behåller man fler användare men går miste om annonsörer med högre betalningsvilja. Mer integrerat annonsinnehåll kan visserligen kringgå regler om annonsmärkning och ge bättre annonsavtal, men det kan också skapa kontroverser och få andra negativa följder.

Annonsplattformar med olika nivåer kan dessutom kräva varierande grad av ”volym” och integrering, trots att LLM:ers variabler är ganska svåra att kvantifiera. Ett tidigare försök att skapa en slags ”volymregulator” för annonser i LLM-utdata slutade till exempel med att kvantifieringstermerna i chatten faktiskt visades:

Från den nya artikeln: ett exempel på hur etiketter från ett äldre system för ”volymreglering” faktiskt läckte ut i den genererade texten. Källa

Exemplet ovan är hämtat från en ny artikel* som tar upp två centrala problem med annonsering baserad på LLM: att styra hur framträdande annonserna är i chatbotars svar och att identifiera vilka delar av svaren som utgör betald reklam:

Diagram över det nya AdKnob-tillvägagångssättet. Till vänster är Subway antingen en av flera rekommendationer eller huvudfokus, beroende på vilken annonsnivå som valts. Till höger markerar gröna fält reklaminnehållet i det genererade svaret.

Tillvägagångssättet, som fått namnet AdKnob, använder en fyrgradig skala för att avgöra hur aktivt en chatbot marknadsför en produkt och identifierar samtidigt de meningar som innehåller reklam. Målet är att göra det enkelt att identifiera reklaminnehåll utan att behöva köra kompletterande modeller eller på något sätt bromsa processen – traditionellt en av de snabbaste branscherna som finns.

I materialet i den nya studiens bilaga visas exempel på text med infogad reklam markerade i rött.

AdKnob-metoden testades på sex AI-modeller från Alibaba, Microsoft och Meta. I varje fall kunde mängden reklam justeras mellan fyra nivåer, från ett tillfälligt produktomnämnande till ett svar som nästan helt ägnades åt att marknadsföra ett varumärke.

Vid AdKnobs mest aggressiva ”volyminställning” (här är den ”4”, inte det mytomspunna ”11”) tenderar varumärkesbudskapen att dominera resultatet.

Modeller med öppna vikter behövdes eftersom deras interna parametrar måste ändras under träningen och deras uppmärksamhetsmönster undersökas för att reklam i genererade svar skulle kunna identifieras. Därmed uteslöts tester av frontier-modeller, som endast går att komma åt via API.

Resultaten testades med 913 personer via Amazon Mechanical Turk. När AdKnobs svar jämfördes med svaren från fyra konkurrerande metoder föredrogs de i 75 till nästan 90 procent av fallen.

Tro det eller ej, hjälpsamhet och tydliga annonsmarkeringar angavs som några av de främsta skälen. Även vid den högsta annonsnivån fick svaren ett genomsnittligt kvalitetsbetyg på 3,1 av 4, jämfört med 3,6 vid den lägsta nivån.

Författarna menar att AdKnob också var bättre på att identifiera vilka meningar som innehöll reklam. På en av de testade modellerna tog den här kontrollen bara tre millisekunder per svar – en godtagbart låg overhead som inte krävde någon särskild token-generering, till skillnad från flera tidigare metoder.

För att driva det nya systemet utvecklades datamängden MI-KnobSet utifrån den tidigare datamängden Webis Generated Native Ads 2024 datamängden. Den utökade den tidigare samlingen till att omfatta varierande nivåer av reklam i chatbotars svar, med 3 946 träningsexempel och 913 testfall.

Författarna skriver:

‘[AdKnob] gör det möjligt för en enda LLM att generera svar med många olika reklamintensiteter. Förlustfunktionen för reklamtillskrivning stärker dessutom kopplingen mellan reklamrelaterade indatatoken och genererat reklaminnehåll, vilket möjliggör korrekt reklammärkning vid inferens.

‘Experiment med sex grundmodeller och användarstudier visar att AdKnob konsekvent presterar bättre än befintliga baslinjer både när det gäller reklamens kvalitet och reklammärkning. Vårt arbete utgör en praktisk grund för transparent och styrbar LLM-baserad annonsering i verkliga tjänster.’

Metod

Till skillnad från den tidigare nämnda metoden, där orden som användes för att ange en viss ökningsnivå till slut läckte ut i svaret, använder den nya metoden fyra specialutformade kontrolltoken, som var och en motsvarar en annan reklamintensitet:

q̂ = q ⊕ [AD_LV_n]

Tokenen n ovan står förstås för ett potentiellt godtyckligt tal, men här begränsar AdKnob intervallet till 1–4 (vilket förmodligen är ungefär så finfördelat man kan göra det för just de här variablerna, det vill säga hur ”uppenbart” och hur ”påträngande” reklaminnehållet är).

Eftersom dessa abstrakta token saknar en förutbestämd betydelse kan modellen lära sig deras avsedda funktion utan att förväxla dem med vanligt språk.

Författarna förklarar att modellen sedan tränas med Direct Preference Optimization (DPO) för att anpassa kontrolltokenen till önskad intensitetsnivå:

‘[We] bygger alltså preferenserna på två mått: reklam[score], som mäter hur framträdande och positivt varumärket och annonstexten införlivas i svaret, samt svarskvalitet[score], som mäter hur väl svaret bemöter användaren[query].’

För att skapa datamängden med svarpar bedömdes kandidatsvaren utifrån reklamintensitet, relevans, flyt och hur mycket information från ett svar utan reklam som bevarades. Bedömningarna användes sedan för att välja träningsexempel för varje reklamnivå.

För varje reklamscenario genererades 25 möjliga svar med GPT-4o, med hjälp av instruktioner som uppmuntrade till olika grader av produktmarknadsföring. Det svar som fick högst poäng för varje målnivå valdes ut tillsammans med tre avsiktligt sämre alternativ, som representerade låg kvalitet, fel reklamintensitet eller båda delarna:

Reklampoäng för 25 kandidatsvar som genererats med fem olika instruktioner. Den betydande överlappningen mellan de fem kurvorna visar varför det inte gick att få fram tydligt åtskilda reklamnivåer på ett tillförlitligt sätt med enbart instruktioner.

Dessa jämförelser användes för att träna modellen med den tidigare nämnda DPO-metoden. På så sätt lärde den sig att producera svar som motsvarade den begärda reklamnivån, men som fortfarande var användbara och naturliga.

Tester

AdKnob utvärderades vid fyra reklamintensitetsnivåer på sex modeller: Qwen3-4B-Instruct, Phi-4-Mini-Instruct (3.8B), LLaMA-3.2-3B-Instruct, Qwen2.5-14B-Instruct, Phi-4 (14B) och LLaMA-3.1-8B-Instruct.

Reklamintensitet och svarskvalitet poängsattes separat, medan träffsäkerheten i reklammärkningen mättes med ROC-AUC, precision och återkallning samt F1.

Modellerna finjusterades med Low-Rank Adaptation (LoRA), och de genererade svaren begränsades till 500 token. Tröskelvärdet för reklammärkning sattes till 0,005. Alla experiment genomfördes på en enda NVIDIA H200-GPU med svindlande 141 GB HBM3e-VRAM.

Fyra metoder användes som jämförelseunderlag. I kategorin tvåstegsmetoder infogades reklam i ett svar som redan hade genererats, medan reklam i promptbaserade metoder lades till via systempromptar.

De två andra metoderna var följande: JU-NLP byggde på finjustering för att gynna mindre iögonfallande reklam, medan NL-prompt (vanliga systempromptar som anger reklamintensiteten, utan ytterligare träning) använde instruktioner på naturligt språk för att begära fyra reklamintensitetsnivåer: diskret (L1), måttlig (L2), omfattande (L3) och maximal (L4).

Tre metoder för att märka ut reklam jämfördes: Marker, som fick modellen att märka ut reklam medan den skrev; BERTScore, som flaggade meningar som liknade den tillhandahållna annonstexten; och AttnLRP, som användes för att spåra reklamens påverkan genom modellens interna mekanismer:

Testresultat som jämför reklamintensitet och svarskvalitet i fyra AI-modeller. AdKnob (blå) gav ett bredare och jämnare fördelat spann av reklamnivåer (L1–L4) än konkurrerande metoder, samtidigt som svarskvaliteten i allmänhet var högre vid jämförbara reklamintensiteter.

AdKnob gav ett bredare och jämnare spann av reklamintensiteter än de konkurrerande metoderna, samtidigt som svaren i allmänhet höll högre kvalitet vid jämförbara nivåer. Detta tillskrevs de nya styrningstokenen och att svar av låg kvalitet avvisades under träningen.

Här skriver författarna:

‘JU-NLP finjusteras för att göra reklamen mindre framträdande, utan uttrycklig styrning av intensiteten, och ger svar med en fast intensitet. NL-prompt omfattar flera intensiteter, men spannet är smalt och reklamresultaten varierar, vilket bekräftar att instruktioner på naturligt språk inte räcker för att styra intensiteten.

‘AdKnob spänner däremot över ett brett och jämnt spann av reklamintensiteter.

‘Detta beror på våra styrningstoken för reklam, som saknar förtränad semantik och enbart fungerar som signaler för att styra reklamintensiteten. Därmed kan DPO skapa en tydlig koppling mellan varje token och dess målintensitet.’

Enligt artikeln gav författarnas metod också svar av högre kvalitet än de konkurrerande metoderna vid liknande reklamintensiteter. Förbättringen tillskrevs träningsexempel där svar av sämre kvalitet uttryckligen hade avvisats.

Därefter utvärderades systemets förmåga att märka ut reklam:

Resultat för reklamdetection i fyra AI-modeller. Högre poäng innebär bättre träffsäkerhet, och de bästa resultaten visas i fetstil.

AdKnob uppnådde den högsta samlade träffsäkerheten för detektion i alla fyra modeller och identifierade reklam på bara 2,5–7,3 millisekunder per svar. Som jämförelse krävde BERTScore cirka 1 800 millisekunder, vilket gjorde AdKnob mer än 500 gånger snabbare på den minsta testade modellen.

Författarna tillägger:

‘AdKnob tränar modellen att skapa en stark koppling mellan reklamrelaterade token i indata och reklamsegment genom uttrycklig vägledning baserad på ablation, vilket ger de bästa AUC- och F1-resultaten i alla modeller.’

‘Dessutom möjliggör AdKnob märkning i realtid utan extra inferenskostnad vid ∼3 ms per svar på [Qwen3-4B.]

I ett kvalitativt test ingick reklam för Nintendo Switch som en av flera rekommendationer på nivå 1. På nivå 4 dominerade varumärket svaret, och AdKnob identifierade reklaminnehåll vid båda intensiteterna:

Exempelsvar på en fråga om Walmart under Black Friday vid två reklamnivåer. Markerade avsnitt med etiketten [AD] visar reklaminnehåll.

Slutligen** genomförde författarna en användarstudie med 913 deltagare. De bedömde reklamintensitet och svarskvalitet, jämförde AdKnob med konkurrerande metoder och utvärderade hur träffsäkert reklaminnehåll identifierades:

Resultat från mänskliga utvärderingar av AdKnob. Tabellen visar betyg för reklamintensitet och svarskvalitet, preferensandelar jämfört med konkurrerande metoder samt träffsäkerhet vid reklamdetection. Gröna celler visar preferensandelar över 50 %.

Författarna drar följande slutsats:

‘AdKnob uppnår de högsta AUC- och F1-värdena. AdKnob har särskilt hög återkallelse och få falskt negativa resultat, vilket är avgörande ur ett regleringsperspektiv eftersom underlåtenhet att upplysa om ett reklamsegment innebär stora juridiska risker och riskerar att skada förtroendet.’

Slutsats

En intressant fråga om reklam i LLM:er, som jag inte har sett att någon har uppmärksammat, är vad som händer när det icke-reklambaserade svaret och det reklambaserade svaret är identiska?

Om man till exempel ber om en rekommendation på ett lokalt matställe och det bara finns en McDonald’s och ett kafé med riktigt dåliga betyg, men McDonald’s har betalat för att synas, kommer McDonald’s förmodligen att presenteras i ett reklamsammanhang eftersom det passar värdplattformens syften – även om McDonald’s ändå hade varit det naturliga valet?

Att läsa om sådant här, som jag skriver om ganska regelbundet på den här webbplatsen, får mig att känna mig som en kalkon som bläddrar i en ugnskatalog. Det kan vara värt att komma ihåg att även med den minimala märkning som krävs i vissa områden kommer det ”oärliga” innehållet i våra utdata inte att lyftas fram. Några av de få exempel som visas i den här och liknande artiklar illustrerar hur påtagligt kommersiellt innehåll tränger undan det ursprungliga innehållet.

Och naturligtvis är det här russinen ur kakan – exemplen som fungerade och inte hallucinerade, gjorde upprörande eller stötande kopplingar eller på annat sätt väckte kontrovers. För arkitekturer som är så benägna att drabbas av offentliga fiaskon kan detta i stor skala kanske vara ytterligare ett skäl till att de flesta tjänster i teknikens framkant närmar sig annonsering med försiktighet.

* Med titeln ”AdKnob: kontroll av annonsintensitet och märkning för LLM-inbyggd annonsering”, av sex författare vid School of Computing på KAIST.

** Som vanligt utelämnar vi ablationsstudier (utom när de utgör en del av arbetets kärnvärde, snarare än bara en stickprovskontroll).

Först publicerad torsdagen den 5 november 2026