Un réglage du volume pour les contenus publicitaires natifs de l’IA

La « lune de miel » de l’IA grand public n’est pas tout à fait terminée. Si l’on compare la situation au déclin de l’âge d’or de Netflix et à la balkanisation et à la commercialisation actuelles des services de streaming, on en est aux alentours de 2019. Le géant en place (OpenAI) fait désormais face à une concurrence sérieuse de la part d’un riche éventail de rivaux, dont aucun n’a pris suffisamment d’avance pour risquer d’imposer des publicités à sa base d’utilisateurs volatils.

De même, ChatGPT limite actuellement la publicité dans les conversations aux utilisateurs des offres Free et Go ; les publicités de Gemini n’apparaissent que dans le contexte des AI Overviews et d’AI Mode ; Perplexity a abandonné ses projets publicitaires l’hiver dernier ; xAI devrait intégrer des publicités à un moment donné ; Microsoft Copilot en propose déjà ; et Claude écarte catégoriquement cette possibilité.

Mais nous savons que cette situation ne peut pas durer : à mesure que le véritable coût de l’inférence se précise et que les introductions en bourse imminentes de sociétés d’IA font entrer en jeu les impératifs des actionnaires, l’histoire nous laisse penser qu’il faudra tôt ou tard examiner les résultats des LLM à la loupe afin de distinguer les contenus financés par la publicité des contenus non commerciaux.

Monter le volume jusqu’à 11

Outre les questions portant sur le degré de personnalisation des publicités et sur la manière dont les catégories démographiques seront ciblées, les fournisseurs devront examiner l’ampleur et le type d’intégration du contenu commercial.

Ce n’est pas simple : des publicités trop discrètes permettent de conserver davantage d’utilisateurs, mais font perdre des annonceurs plus intéressants ; à l’inverse, un contenu publicitaire mieux intégré, susceptible de contourner les règles relatives à la divulgation, peut ouvrir la voie à de meilleurs contrats publicitaires, mais aussi susciter la controverse et entraîner d’autres répercussions négatives.

En outre, les plateformes publicitaires reposant sur différents niveaux d’abonnement peuvent nécessiter des degrés variables de « volume » et d’intégration, même si les paramètres des LLM sont assez difficiles à quantifier. Par exemple, une méthode antérieure visant à créer une sorte de « régulateur de volume » pour les publicités dans les résultats des LLM a fini par intégrer les termes de quantification dans le chat :

Tiré du nouvel article, un exemple d’étiquettes issues d’une ancienne méthode de « régulation du volume » qui se retrouvent dans le texte généré. Source

L’exemple ci-dessus est tiré d’un nouvel article* qui aborde deux problèmes majeurs de la publicité fondée sur les LLM : contrôler la place accordée aux publicités dans les réponses des chatbots et déterminer quelles parties de ces réponses constituent de la publicité payante :

Schéma de la nouvelle approche AdKnob. À gauche, Subway figure soit parmi plusieurs recommandations, soit comme sujet principal, selon le niveau de publicité sélectionné. À droite, les surlignages verts indiquent le contenu publicitaire dans la réponse générée.

L’approche, baptisée AdKnob, utilise une échelle à quatre niveaux pour déterminer avec quelle intensité un chatbot fait la promotion d’un produit, tout en repérant les phrases qui contiennent de la publicité. L’objectif est de faciliter l’identification des contenus publicitaires sans devoir exécuter de modèles auxiliaires ni ralentir le processus, traditionnellement l’un des secteurs qui évoluent le plus rapidement.

Dans les éléments en annexe du nouvel article, des exemples de texte auquel des publicités ont été ajoutées sont surlignés en rouge.

La méthode AdKnob a été testée sur six modèles d’IA d’Alibaba, de Microsoft et de Meta. Dans chaque cas, le volume de publicité pouvait être réglé sur quatre niveaux, d’une simple mention d’un produit à une réponse presque entièrement consacrée à la promotion d’une marque.

Au niveau de « volume » le plus agressif d’AdKnob (ici, il est de « 4 », et non du mythique « 11 »), les messages de marque tendent à dominer les résultats.

Des modèles à poids ouverts étaient nécessaires, car il fallait modifier leurs paramètres internes pendant l’entraînement et examiner leurs mécanismes d’attention afin de repérer les publicités dans les réponses générées. Cela excluait les tests sur les modèles de pointe accessibles uniquement par API.

Les résultats ont été évalués auprès de 913 personnes par l’intermédiaire d’Amazon Mechanical Turk. Comparées à celles de quatre méthodes concurrentes, les réponses d’AdKnob ont été préférées dans 75 % à près de 90 % des cas.

Aussi surprenant que cela puisse paraître, l’utilité et la clarté des mentions publicitaires figuraient parmi les principales raisons avancées. Même au niveau publicitaire le plus élevé, les réponses ont obtenu une note moyenne de qualité de 3,1 sur 4, contre 3,6 au niveau le plus bas.

AdKnob s’est également révélé plus efficace, selon les auteurs, pour repérer les phrases contenant de la publicité ; sur l’un des modèles testés, ce processus de vérification ne prenait que trois millisecondes par réponse, une surcharge suffisamment faible et qui ne nécessitait aucune génération de jetons dédiée, contrairement à plusieurs approches antérieures.

Pour alimenter le nouveau système, le jeu de données MI-KnobSet a été élaboré à partir du jeu de données antérieur Webis Generated Native Ads 2024 jeu de données. Il étend la collection précédente afin de couvrir différents niveaux de publicité dans les réponses des chatbots et comprend 3 946 exemples d’entraînement et 913 cas de test.

Les auteurs déclarent :

‘[AdKnob] permet à un seul LLM de générer des réponses couvrant une large gamme d’intensités publicitaires. La fonction de perte d’attribution publicitaire renforce encore l’attribution entre les jetons d’entrée liés aux publicités et le contenu publicitaire généré, permettant ainsi un étiquetage précis des publicités au moment de l’inférence.

‘Les expériences menées sur six modèles de base et les études auprès des utilisateurs montrent qu’AdKnob surpasse systématiquement les méthodes de référence existantes, tant pour la qualité des publicités que pour leur étiquetage. Nos travaux constituent une base pratique pour une publicité transparente et contrôlable, intégrée aux LLM, dans des services du monde réel.’

Méthode

Contrairement à l’approche antérieure mentionnée ci-dessus, où les mots servant à quantifier le niveau d’intensité finissaient par se retrouver dans la sortie, la nouvelle méthode utilise quatre jetons de contrôle conçus sur mesure, chacun correspondant à une intensité publicitaire différente :

q̂ = q ⊕ [AD_LV_n]

Bien sûr, le jeton n ci-dessus peut représenter un nombre arbitraire, mais, dans ce cas, AdKnob limite la plage de valeurs de 1 à 4 (ce qui correspond probablement au niveau de granularité maximal que l’on puisse atteindre pour ces variables précises, à savoir le caractère « évident » et le caractère « tapageur » du contenu publicitaire).

Comme ces jetons abstraits n’ont pas de signification préexistante, le modèle peut apprendre leur fonction prévue sans les confondre avec le langage courant.

Les auteurs expliquent que le modèle est ensuite entraîné au moyen de l’optimisation directe des préférences (DPO), afin d’adapter les jetons de contrôle au degré d’intensité souhaité :

‘[We] s’appuient donc sur deux critères pour construire les préférences de base : l’intégration publicitaire [score], qui mesure la place accordée à la marque et au texte publicitaire dans la réponse, ainsi que leur caractère positif, et la qualité de la réponse [score], qui mesure dans quelle mesure celle-ci répond à la demande de l’utilisateur [query].’

Pour constituer le jeu de données de paires, les réponses candidates ont été évaluées selon l’intensité publicitaire, la pertinence, la fluidité et la quantité d’informations conservées par rapport à une réponse sans publicité. Les scores ont ensuite servi à sélectionner les exemples d’entraînement pour chaque niveau publicitaire.

Pour chaque scénario publicitaire, 25 réponses possibles ont été générées à l’aide de GPT-4o, avec des invites conçues pour susciter différents degrés de promotion du produit. La réponse ayant obtenu le meilleur score pour chaque niveau cible a été sélectionnée, ainsi que trois autres réponses volontairement moins bonnes, présentant une qualité médiocre, une intensité publicitaire incorrecte, ou les deux :

Scores publicitaires de 25 réponses candidates générées à l’aide de cinq invites différentes. Le chevauchement considérable entre les cinq courbes montre pourquoi les invites seules ne permettaient pas de produire de manière fiable des niveaux publicitaires distincts.

Ces comparaisons ont servi à entraîner le modèle au moyen de la technique DPO mentionnée précédemment, afin qu’il produise des réponses correspondant au niveau publicitaire demandé, tout en restant utiles et naturelles.

Tests

AdKnob a été évalué selon quatre niveaux d’intensité publicitaire sur six modèles : Qwen3-4B-Instruct ; Phi-4-Mini-Instruct (3.8B) ; LLaMA-3.2-3B-Instruct ; Qwen2.5-14B-Instruct ; Phi-4 (14B) ; et LLaMA-3.1-8B-Instruct.

L’intensité publicitaire et la qualité des réponses ont été évaluées séparément, tandis que la précision de l’étiquetage publicitaire a été mesurée à l’aide de ROC-AUC, de la précision et du rappel, ainsi que du score F1.

Les modèles ont été ajustés au moyen de la Low-Rank Adaptation (LoRA), avec une limite de 500 jetons pour les réponses générées et un seuil de 0,005 pour l’étiquetage publicitaire. Toutes les expériences ont été menées sur un seul GPU NVIDIA H200, doté d’une impressionnante mémoire VRAM HBM3e de 141 Go.

Quatre méthodes ont servi de référence. Dans la catégorie en deux étapes , la publicité était insérée dans une réponse générée au préalable ; dans la catégorie fondée sur les invites, elle était intégrée au moyen d’invites système.

Pour les deux autres méthodes : JU-NLP reposait sur un ajustement fin visant à privilégier une publicité moins manifeste ; et NL-prompt (des invites système ordinaires précisant l’intensité publicitaire, sans entraînement supplémentaire) utilisait des instructions en langage naturel pour demander quatre niveaux d’intensité publicitaire : discrète (L1) ; modérée (L2) ; forte (L3) ; et maximale (L4).

Trois méthodes d’étiquetage des publicités ont été comparées : Marker, qui invitait le modèle à signaler les publicités pendant la rédaction ; BERTScore, qui repérait les phrases ressemblant au texte publicitaire fourni ; et AttnLRP, utilisé pour retracer l’influence de la publicité dans les mécanismes internes du modèle :

Résultats des tests comparant l’intensité publicitaire et la qualité des réponses pour quatre modèles d’IA. AdKnob (en bleu) a permis d’obtenir une gamme de niveaux publicitaires plus étendue et plus régulièrement espacée (L1–L4) que les méthodes concurrentes, tout en maintenant généralement une meilleure qualité de réponse à intensité publicitaire comparable.

AdKnob a produit une gamme d’intensités publicitaires plus étendue et plus régulière que les méthodes concurrentes, tout en fournissant généralement des réponses de meilleure qualité à des niveaux comparables. Ce résultat est attribué à ses nouveaux jetons de contrôle et au rejet, pendant l’entraînement, des réponses de mauvaise qualité.

Les auteurs indiquent ici :

« JU-NLP est affiné pour rendre les publicités moins visibles, sans contrôle explicite de leur intensité, et produit des réponses à intensité fixe. NL-prompt couvre plusieurs intensités, mais sa gamme est étroite et les scores publicitaires sont irréguliers, ce qui confirme que les instructions en langage naturel ne suffisent pas à contrôler l’intensité.

« À l’inverse, AdKnob couvre une gamme étendue et uniforme d’intensités publicitaires.

« Cela s’explique par nos jetons de contrôle publicitaire, qui ne possèdent aucune sémantique préentraînée et servent spécifiquement de signaux de conditionnement pour contrôler l’intensité publicitaire. Ils permettent à DPO d’établir une correspondance claire entre chaque jeton et l’intensité cible correspondante. »

L’approche des auteurs a également produit, selon l’article, des réponses de meilleure qualité que les méthodes concurrentes à des intensités publicitaires similaires. Cette amélioration est attribuée à des exemples d’entraînement dans lesquels les réponses de moins bonne qualité étaient explicitement rejetées.

L’évaluation des capacités d’étiquetage des publicités a ensuite été menée :

Résultats de la détection des publicités pour quatre modèles d’IA. Des scores plus élevés indiquent une meilleure précision ; les meilleurs résultats sont indiqués en gras.

AdKnob a obtenu la meilleure précision globale de détection pour les quatre modèles, en identifiant les publicités en seulement 2,5 à 7,3 millisecondes par réponse. À titre de comparaison, BERTScore nécessitait environ 1 800 millisecondes : AdKnob était donc plus de 500 fois plus rapide sur le plus petit modèle testé.

Les auteurs ajoutent :

« AdKnob entraîne le modèle à établir une forte attribution entre les jetons d’entrée liés aux publicités et les segments publicitaires, grâce à un guidage explicite fondé sur l’ablation, et obtient les meilleurs scores AUC et F1 pour tous les modèles. »

« De plus, AdKnob permet l’étiquetage en temps réel sans coût d’inférence supplémentaire, à ∼3 ms par réponse sur [Qwen3-4B.]

Lors d’un test qualitatif, une publicité pour Nintendo Switch figurait parmi plusieurs recommandations au niveau 1. Au niveau 4, la marque dominait la réponse, et AdKnob a repéré les passages promotionnels aux deux niveaux d’intensité :

Exemples de réponses à une requête sur le Black Friday de Walmart, à deux niveaux publicitaires. Les passages mis en évidence et marqués [AD] correspondent au contenu promotionnel.

Enfin**, les auteurs ont mené une étude auprès de 913 participants, qui ont évalué l’intensité publicitaire et la qualité des réponses, comparé AdKnob aux méthodes concurrentes et évalué la précision de l’identification du contenu promotionnel :

Résultats des évaluations humaines d’AdKnob. Le tableau présente les notes attribuées à l’intensité publicitaire et à la qualité des réponses, les taux de préférence par rapport aux méthodes concurrentes ainsi que la précision de la détection des publicités. Les cellules vertes indiquent des taux de préférence supérieurs à 50 %.

Les auteurs concluent :

« AdKnob obtient les meilleurs scores AUC et F1. Il présente notamment un rappel élevé et peu de faux négatifs, ce qui est essentiel du point de vue réglementaire : ne pas signaler un segment publicitaire comporte d’importants risques juridiques et nuit à la confiance. »

Conclusion

Une question intéressante concernant la publicité au sein des LLM, à laquelle, à ma connaissance, personne ne s’est encore intéressé, est la suivante : que se passe-t-il lorsque la réponse sans publicité et la réponse publicitaire sont identiques ?

Par exemple, si l’on demande une recommandation pour un restaurant du coin et qu’il n’y a qu’un McDonald’s et un café très mal noté, mais que McDonald’s a payé pour être mis en avant, on peut supposer que McDonald’s sera présenté dans un contexte publicitaire, parce que cela sert les objectifs du cadre qui héberge le service.. même si c’était de toute façon le choix naturel ?

Lire des choses de ce genre, sur lesquelles j’écris assez régulièrement sur ce site, me donne l’impression d’être une dinde qui feuillette un catalogue de fours. Ce qu’il faut garder à l’esprit, c’est que même avec l’étiquetage minimal exigé dans certains territoires, le contenu « déloyal » de nos résultats ne sera pas mis en évidence. Le nombre très limité d’exemples présentés dans cet article et dans des articles similaires montre à quel point le contenu commercial peut s’immiscer de façon flagrante dans le contenu natif.

Et, bien sûr, ce sont les exemples triés sur le volet : ceux qui ont fonctionné et n’ont pas halluciné, établi des associations outrancières ou offensantes, ni suscité de controverse d’une autre manière. À grande échelle, pour des architectures aussi sujettes aux épisodes de discrédit public, cela pourrait peut-être constituer une raison supplémentaire pour laquelle la plupart des services de pointe abordent la publicité avec circonspection.

* Intitulé « AdKnob : contrôle de l’intensité publicitaire et étiquetage de la publicité native aux LLM », cet article est signé par six auteurs de l’École d’informatique de KAIST.

** Comme d’habitude, nous omettons les études d’ablation (sauf lorsqu’elles constituent une part essentielle de la valeur du travail, plutôt qu’une simple vérification ponctuelle).

Première publication : jeudi 5 novembre 2026