L’illusion « Télécharger plus d’étiquettes ! » dans la recherche en intelligence artificielle

Une opinion courante dans la recherche en apprentissage automatique actuelle est que l’apprentissage automatique lui-même peut être utilisé pour améliorer la qualité des annotations de données d’intelligence artificielle – en particulier les légendes d’images destinées à être utilisées dans les modèles de vision-langage (VLM). Cette ligne de pensée est motivée par le coût élevé de l’annotation humaine et par le fardeau supplémentaire de superviser les performances des annotateurs.

Ceci est sans doute l’équivalent en intelligence artificielle du mème « télécharger plus de RAM » des débuts des années 2000, qui satirise l’idée que une limitation matérielle puisse être résolue par une solution logicielle.

C’est également un problème sous-estimé; alors que les nouveaux modèles d’intelligence artificielle attirent une attention généralisée dans les sphères publiques et commerciales, l’annotation apparaît souvent comme un détail trivial dans les pipelines d’apprentissage automatique, éclipsé par l’excitation entourant les cadres plus larges.

En réalité, la capacité des systèmes d’apprentissage automatique à reconnaître et à reproduire des modèles (l’utilisation centrale de presque tous les systèmes d’intelligence artificielle) dépend de la qualité et de la cohérence des annotations du monde réel – des étiquettes et des phrases créées ou jugées par des personnes réelles, qui font souvent des jugements subjectifs sur des points de données individuels dans des circonstances non idéales.

Inévitablement, les systèmes qui cherchent à observer et à reproduire des modèles dans le comportement des annotateurs (et ainsi à remplacer les annotateurs humains et à faciliter l’étiquetage précis à grande échelle) ne peuvent pas espérer performer bien sur des données non contenues dans les exemples tirés d’observateurs humains. Rien de « similaire » n’est tout à fait identique, et l’équivalence entre les domaines reste une poursuite problématique en vision par ordinateur.

Le « buck de données en amont » doit s’arrêter quelque part, et dans ce cas, c’est exactement où il s’arrête – avec un cervelet humain faisant une sorte de distinction subjective pour codifier des données pour un système artificiel.

Le commerce de la mode

Jusqu’à récemment, les inexactitudes découlant d’annotations de données sous-curées étaient, peut-être, considérées comme des dommages collatéraux acceptables dans le contexte des résultats imparfaits mais toujours commercialisables obtenus à partir des systèmes d’intelligence artificielle générative.

En effet, seulement cette année, une étude de Singapour a conclu que les hallucinations – c’est-à-dire les occasions où les systèmes d’intelligence artificielle inventent des choses qui sapent nos intentions – sont inévitables et liées à l’architecture conceptuelle de ces systèmes.

Pour contrer cela, les agents RAG – qui peuvent « vérifier » les faits via des recherches Internet – sont devenus populaires dans la recherche et les solutions commerciales appliquées. Cependant, ils ajoutent au coût des ressources et à la latence des requêtes; de plus, les informations nouvelles appliquées à un modèle formé ne peuvent pas rivaliser avec les connexions plus intriquées et plus profondément entrelacées qui caractérisent les couches natives d’un modèle formé.

Il serait donc préférable que les données d’annotation qui informent ces modèles soient significativement moins erronées dès le départ, même si elles ne peuvent pas être parfaites (ne serait-ce que parce que cette activité empiète sur le domaine de la subjectivité humaine).

RePOPE

Un nouveau document allemand met en évidence les problèmes qui découlent de la confiance en des ensembles de données plus anciens et plus largement utilisés, en se concentrant en particulier sur la précision et la fiabilité de leurs légendes d’images. Les résultats des chercheurs suggèrent que les erreurs d’étiquetage dans les références peuvent masquer ou fausser les hallucinations dans les modèles de vision-langage.

Exemples du nouveau document, où les légendes d’origine n’ont pas correctement identifié les objets dans l’ensemble de données d’images MSCOCO. La révision manuelle de l’ensemble de données de référence POPE par les chercheurs remédie à ces lacunes, en démontrant le coût de l’économie sur la curation des annotations. Source: https://arxiv.org/pdf/2504.15707

Imaginez qu’un modèle est montré une image d’une scène de rue et qu’on lui demande s’il y a un vélo dans l’image. Le modèle répond oui. Si l’ensemble de données de référence indique qu’il n’y a pas de vélo, le modèle est marqué faux. Mais si un vélo est clairement visible dans l’image et a simplement été manqué lors de l’annotation, alors la réponse du modèle était correcte, et l’ensemble de données de référence a échoué. Des erreurs comme celle-ci peuvent s’accumuler dans un ensemble de données, donnant une image faussée de quels modèles sont précis et lesquels sont enclins à l’hallucination.

Ainsi, lorsque des annotations incorrectes ou ambiguës sont traitées comme des vérités de base, les modèles peuvent sembler halluciner lorsqu’ils sont corrects, ou paraître précis lorsqu’ils ne le sont pas, faussant à la fois la mesure de l’hallucination et le classement des performances des modèles, et rendant plus difficile le diagnostic ou la résolution du problème avec certitude.

Le nouveau document réexamine une référence largement utilisée appelée Polling-based Object Probing Evaluation (POPE), qui teste si les modèles de vision-langage peuvent correctement dire ce qui est ou n’est pas dans une image.

POPE est basé sur des étiquettes de l’ensemble de données influent Microsoft COCO: Common Objects in Context (MSCOCO), une collection d’images annotées qui a longtemps été considérée comme offrant un bon niveau de précision d’annotation.

POPE évalue l’hallucination d’objets dans les grands modèles de vision-langage en reformulant le problème comme une tâche de classification binaire. Au lieu d’analyser les légendes générées, le système pose de simples questions oui/non au modèle sur la présence d’objets spécifiques dans une image, en utilisant des modèles tels que ‘Y a-t-il un <objet> dans l’image?’.

Exemples d’hallucination d’objets dans les modèles de vision-langage. Les étiquettes en gras indiquent les objets marqués comme présents dans les annotations d’origine, tandis que les étiquettes rouges montrent les objets hallucinés par les modèles. Source: https://aclanthology.org/2023.emnlp-main.20.pdf

Les objets de vérité de base (réponse: Oui) sont appariés avec des objets non existants échantillonnés (réponse: Non), choisis via des stratégies aléatoires, fréquentes (populaires) ou basées sur la co-occurrence (adverses). Ce dispositif permet une évaluation plus stable et insensible aux invites de l’hallucination sans s’appuyer sur une analyse de légendes basée sur des règles complexes.

Les auteurs du nouveau document – intitulé RePOPE: Impact des erreurs d’annotation sur la référence POPE – remettent en question la précision supposée de POPE en réexaminant les étiquettes sur les images de la référence (c’est-à-dire MSCOCO) – et en constatant qu’un nombre surprenant d’entre elles sont incorrectes ou peu claires.

Exemples de l’ensemble de données MSCOCO de 2014. Source: https://arxiv.org/pdf/1405.0312

Ces erreurs changent la façon dont les modèles sont classés, certains modèles qui ont initialement performé bien tombant derrière lorsqu’ils sont jugés par rapport à des étiquettes corrigées.

Dans les tests, les auteurs ont évalué une gamme de modèles de vision-langage à poids ouvert sur la référence POPE d’origine et leur version RePOPE réétiquetée.

Selon le document, les annotations corrigées ont conduit à des changements notables dans les classements des modèles, en particulier dans les scores F1, plusieurs modèles à haute performance sous POPE descendant en position sous RePOPE.

Les auteurs soutiennent que ce déplacement illustre l’étendue à laquelle les erreurs d’annotation peuvent obscurcir le comportement réel d’hallucination des modèles, et ils présentent RePOPE comme un outil plus fiable pour évaluer la vulnérabilité à l’hallucination.

Dans un autre exemple du nouveau document, on voit comment les légendes d’origine POPE ne parviennent pas à discerner des objets subtils, tels qu’une personne assise à côté de la cabine d’un tram dans la photo la plus à droite, ou la chaise obscurcie par le joueur de tennis dans la deuxième photo à partir de la gauche.

Méthode et tests

Les chercheurs ont réétiqueté toutes les annotations de l’ensemble de données MSCOCO d’origine, avec deux annotateurs humains assignés à chaque instance de données. Lorsque des ambiguïtés quant à la qualité des étiquettes d’origine se sont présentées (comme dans les exemples ci-dessous), ces résultats ont été mis de côté pour la phase de test.

Cas ambigus, où les incohérences d’étiquetage dans POPE reflètent des frontières de catégorie peu claires.

Le document indique:

‘Les annotateurs d’origine ont manqué des personnes en arrière-plan ou derrière du verre, le joueur de tennis occulte les ‘chaises’ en arrière-plan et la salade de chou contient seulement une petite bande visible de carotte.

‘Pour certains objets, les annotations COCO sont très incohérentes, probablement en raison de définitions différentes de ces objets utilisées par les annotateurs d’origine. La classification d’un ‘ours en peluche’ comme un ‘ours’, d’un vélo comme un ‘vélo à moteur’, ou d’un véhicule d’aéroport comme une ‘voiture’ dépend de définitions spécifiques, conduisant à des incohérences dans les annotations de vérité de base de POPE. Par conséquent, nous annotons les paires d’images-questions correspondantes comme ‘ambiguës’.’

Résultats de la réétiquetage: les questions positives sont partagées entre toutes les variantes de POPE.

Les auteurs ont évalué une gamme de modèles à poids ouvert sur POPE et sur RePOPE, sur diverses architectures et tailles de modèles. Les modèles choisis incluaient certains des principaux cadres sur le tableau de bord OpenVLM: InternVL2.5 (8B/26B/38B/78B et 8B-MPO/26B-MPO); LLaVA-NeXT; Vicuna; Mistral 7b; Llama; LLaVA-OneVision; Ovis2 (1B/2B/4B/8B); PaliGemma-3B; et PaliGemma2 (3B/10B).

Résultats initiaux: le taux d’erreur élevé dans les étiquettes positives d’origine conduit à une baisse abrupte des vrais positifs dans tous les modèles.

Les résultats graphiques ci-dessus illustrent comment le nombre de vrais positifs et de faux positifs change après la correction des étiquettes dans la référence.

Les vrais positifs ont baissé dans tous les modèles, montrant qu’ils étaient souvent crédités pour des réponses correctes lorsque ces réponses n’étaient correctes que sous des étiquettes erronées, tandis que les faux positifs ont suivi un modèle plus varié.

Sur la version « aléatoire » de POPE, les faux positifs ont presque doublé pour de nombreux modèles, indiquant qu’un nombre important d’objets signalés comme hallucinations étaient en fait présents dans les images mais avaient été manqués lors de l’annotation d’origine. Dans ce cas, de nombreuses erreurs supposées du modèle étaient en fait des erreurs de étiquetage de l’ensemble de données.

Pour la version « adverse » de POPE, où les questions étaient basées sur des objets qui co-occurrent fréquemment, les faux positifs ont diminué. Cela reflète probablement une plus grande chance que l’objet supposé absent soit réellement dans l’image mais laissé non étiqueté.

Bien que ces changements aient affecté la précision et le rappel, les classements des modèles sont restés relativement stables pour les deux métriques.

Le score F1 – la principale mesure d’évaluation de POPE – a été beaucoup plus sensible aux corrections d’étiquettes. Sur le sous-ensemble aléatoire, les modèles qui se classaient près du sommet sous les étiquettes d’origine, tels que InternVL2.5-8B et -26B, sont tombés au bas du classement lorsqu’ils ont été évalués avec RePOPE. D’autres, comme Ovis2-4B et -8B, sont montés en tête.

Un modèle similaire est apparu dans les scores de précision, bien que les auteurs notent que ceux-ci peuvent maintenant être biaisés, car l’ensemble de données corrigé contient un nombre inégal d’exemples positifs et négatifs.

Les auteurs soutiennent que l’impact fort des erreurs d’annotation sur les résultats de la référence souligne la nécessité de données de haute qualité. Pour soutenir une évaluation plus fiable de l’hallucination d’objets, ils ont publié les étiquettes corrigées sur GitHub.

Cependant, ils notent que cette réétiquetage ne résout pas pleinement la saturation de la référence, car de nombreux modèles atteignent toujours des taux de vrais positifs et de vrais négatifs supérieurs à 90 %. Ils suggèrent que d’autres références, telles que DASH-B, qui utilise un ensemble plus difficile d’exemples négatifs, devraient être utilisées conjointement avec RePOPE.

Conclusion

Cette expérience particulière a été possible en raison de la très petite échelle de l’ensemble de données impliqué. Prouver la même hypothèse sur des ensembles de données hyperscale impliquerait de travailler sur de très petits fragments de données; dans des ensembles de données très diversifiés et de grande taille, il pourrait s’avérer presque impossible d’isoler des groupes statistiquement représentatifs et sémantiquement cohérents – ce qui pourrait fausser les résultats.

Même si cela était possible, quelle solution y aurait-il sous l’état actuel de l’art? L’argument revient inévitablement vers la nécessité d’une meilleure et plus abondante annotation humaine.

À cet égard, « meilleure » et « plus abondante » existent comme des problèmes distincts, car on peut obtenir un plus grand volume d’annotations via des économies à bas coûts, telles que Amazon Mechanical Turk (AMT). Évidemment, cette économie à bas coûts potentiellement exploiteuse conduit souvent à des résultats inférieurs.

Alternativement, on pourrait externaliser les tâches d’annotation vers des régions économiques où la même dépense procurerait un plus grand volume d’annotations. Cependant, plus l’annotateur est éloigné de l’utilisation prévue du modèle dont les étiquettes seront façonnées, moins il est probable que le modèle résultant corresponde aux besoins ou aux attentes du domaine cible.

Ceci demeure donc l’un des défis les plus persistants et non résolus dans l’économie du développement de l’apprentissage automatique.

Le « buck de données en amont » doit s’arrêter quelque part, et dans ce cas, c’est exactement où il s’arrête – avec un cervelet humain faisant une sorte de distinction subjective pour codifier des données pour un système artificiel.

Publié pour la première fois le mercredi 23 avril 2025