Monétiser la recherche pour la formation de l’IA : les risques et les meilleures pratiques

Alors que la demande d’IA générative augmente, la faim de données de haute qualité pour former ces systèmes ne cesse de croître. Les éditeurs universitaires ont commencé à monétiser leur contenu de recherche pour fournir des données de formation pour les grands modèles de langage (LLM). Bien que ce développement crée un nouveau flux de revenus pour les éditeurs et permette à l’IA générative de faire des découvertes scientifiques, il soulève des questions critiques sur l’intégrité et la fiabilité de la recherche utilisée. Cela soulève une question cruciale : les jeux de données vendus sont-ils fiables, et quelle sont les implications de cette pratique pour la communauté scientifique et les modèles d’IA ?

L’essor des accords de recherche monétisés

Les principaux éditeurs universitaires, notamment Wiley, Taylor & Francis et d’autres, ont signalé des revenus importants provenant de la licence de leur contenu à des sociétés de technologie qui développent des modèles d’IA génératifs. Par exemple, Wiley a révélé plus de 40 millions de dollars de gains provenant de tels accords cette année seule. Ces accords permettent aux sociétés d’IA d’accéder à des jeux de données scientifiques diversifiés et étendus, améliorant ainsi la qualité de leurs outils d’IA.

Le pitch des éditeurs est simple : la licence garantit de meilleurs modèles d’IA, ce qui profite à la société tout en récompensant les auteurs avec des redevances. Ce modèle économique profite aux sociétés de technologie et aux éditeurs. Cependant, la tendance croissante à monétiser les connaissances scientifiques comporte des risques, notamment lorsque des recherches douteuses s’infiltrant dans ces jeux de données de formation d’IA.

L’ombre de la recherche douteuse

La communauté universitaire n’est pas étrangère aux problèmes de recherche frauduleuse. Les études suggèrent que de nombreuses découvertes publiées sont erronées, biaisées ou tout simplement peu fiables. Une enquête menée en 2020 a révélé que près de la moitié des chercheurs ont signalé des problèmes tels que la sélection des données de rapport ou des études de terrain mal conçues. En 2023, plus de 10 000 articles ont été rétractés en raison de résultats falsifiés ou peu fiables, un nombre qui continue d’augmenter chaque année. Les experts estiment que ce chiffre ne représente que la partie visible de l’iceberg, avec de nombreuses études douteuses circulant dans les bases de données scientifiques.

La crise a été principalement alimentée par les “usines à papiers“, des organisations fantômes qui produisent des études fabriquées, souvent en réponse aux pressions universitaires dans des régions comme la Chine, l’Inde et l’Europe de l’Est. On estime que environ 2% des soumissions de revues dans le monde proviennent d’usines à papiers. Ces faux papiers peuvent ressembler à des recherches légitimes mais sont truffés de données fictives et de conclusions sans fondement. De manière inquiétante, de tels papiers passent à travers la révision par les pairs et se retrouvent dans des revues respectables, compromettant la fiabilité des connaissances scientifiques. Par exemple, pendant la pandémie de COVID-19, des études erronées sur l’ivermectine ont faussement suggéré son efficacité en tant que traitement, semant la confusion et retardant les réponses de santé publique efficaces. Cet exemple met en évidence le préjudice potentiel de la diffusion de recherches peu fiables, où les résultats erronés peuvent avoir un impact significatif.

Conséquences pour la formation de l’IA et la confiance

Les implications sont profondes lorsque les LLM s’entraînent sur des bases de données contenant des recherches frauduleuses ou de mauvaise qualité. Les modèles d’IA utilisent les modèles et les relations au sein de leurs données de formation pour générer des sorties. Si les données d’entrée sont corrompues, les sorties peuvent perpétuer des inexactitudes ou même les amplifier. Ce risque est particulièrement élevé dans des domaines comme la médecine, où les connaissances générées par l’IA incorrectes pourraient avoir des conséquences potentiellement mortelles.
De plus, ce problème menace la confiance du public dans l’université et l’IA. Alors que les éditeurs continuent de conclure des accords, ils doivent aborder les préoccupations concernant la qualité des données vendues. Le fait de ne pas le faire pourrait nuire à la réputation de la communauté scientifique et miner les avantages potentiels de l’IA.

Assurer des données fiables pour l’IA

La réduction des risques de recherche erronée perturbant la formation de l’IA nécessite un effort conjoint des éditeurs, des sociétés d’IA, des développeurs, des chercheurs et de la communauté dans son ensemble. Les éditeurs doivent améliorer leur processus de révision par les pairs pour détecter les études peu fiables avant qu’elles n’entrent dans les jeux de données de formation. Offrir de meilleures récompenses aux réviseurs et établir des normes plus élevées peut aider. Un processus de révision ouvert est essentiel ici. Il apporte plus de transparence et de responsabilité, aidant à établir la confiance dans la recherche.
Les sociétés d’IA doivent être plus prudentes lorsqu’elles travaillent avec des éditeurs et des revues pour obtenir des recherches pour la formation de l’IA. Choisir des éditeurs et des revues avec une solide réputation pour des recherches de haute qualité et bien révisées est crucial. Dans ce contexte, il est utile de regarder de près le dossier d’un éditeur — comme la fréquence à laquelle ils rétractent des articles ou leur ouverture sur leur processus de révision. Être sélectif améliore la fiabilité des données et renforce la confiance au sein de la communauté de l’IA et de la recherche.

Les développeurs d’IA doivent prendre la responsabilité des données qu’ils utilisent. Cela signifie travailler avec des experts, vérifier soigneusement les recherches et comparer les résultats de plusieurs études. Les outils d’IA eux-mêmes peuvent également être conçus pour identifier les données suspectes et réduire les risques de diffusion de recherches douteuses.

La transparence est également un facteur essentiel. Les éditeurs et les sociétés d’IA devraient partager ouvertement des détails sur la manière dont la recherche est utilisée et où les redevances sont versées. Des outils comme le suivi des accords de licence d’IA générative montrent des promesses mais nécessitent une adoption plus large. Les chercheurs devraient également avoir un mot à dire sur la manière dont leur travail est utilisé. Les politiques d’opt-in, comme celles de Cambridge University Press, offrent aux auteurs le contrôle de leurs contributions. Cela renforce la confiance, assure l’équité et fait participer activement les auteurs à ce processus.

De plus, l’accès ouvert à des recherches de haute qualité devrait être encouragé pour assurer l’inclusivité et l’équité dans le développement de l’IA. Les gouvernements, les organisations à but non lucratif et les acteurs de l’industrie peuvent financer des initiatives d’accès ouvert, réduisant ainsi la dépendance à l’égard des éditeurs commerciaux pour les jeux de données de formation critiques. En outre, l’industrie de l’IA a besoin de règles claires pour la source de données éthiques. En se concentrant sur des recherches fiables et bien révisées, nous pouvons construire de meilleurs outils d’IA, protéger l’intégrité scientifique et maintenir la confiance du public dans la science et la technologie.

En résumé

La monétisation de la recherche pour la formation de l’IA présente à la fois des opportunités et des défis. Alors que la licence de contenu universitaire permet le développement de modèles d’IA plus puissants, elle soulève également des inquiétudes sur l’intégrité et la fiabilité des données utilisées. La recherche erronée, y compris celle provenant des “usines à papiers”, peut corrompre les jeux de données de formation d’IA, conduisant à des inexactitudes qui pourraient miner la confiance du public et les avantages potentiels de l’IA. Pour assurer que les modèles d’IA soient construits sur des données fiables, les éditeurs, les sociétés d’IA et les développeurs doivent travailler ensemble pour améliorer les processus de révision par les pairs, accroître la transparence et donner la priorité à des recherches de haute qualité et bien vérifiées. En faisant cela, nous pouvons sauvegarder l’avenir de l’IA et préserver l’intégrité de la communauté scientifique.