Startup Unbiased vise à augmenter la transparence des données grâce à la blockchain, lutter contre les biais de données

Les effets des biais de données dans l’intelligence artificielle sont bien documentés, et à mesure que les algorithmes d’apprentissage automatique et d’intelligence artificielle pénètrent de plus en plus dans tous les coins de la société, les entreprises d’IA cherchent de nouvelles façons de garantir que les algorithmes qu’elles développent n’héritent pas des biais humains. Un nouveau joueur dans l’espace de l’IA et de l’apprentissage automatique, qui vise à réduire les biais de données, est la startup Unbiased, dont le nom est transparent. Unbiased a lancé un nouveau marché de données sur la plateforme blockchain active Telos, dans l’espoir de fournir aux clients des outils et des applications décentralisés et respectueux de la vie privée pour la science des données et l’IA.

Le marché mondial de l’IA devrait continuer à croître rapidement au cours de la prochaine décennie, atteignant environ 266 milliards de dollars d’ici 2027. Dans les quatre prochaines années, les dépenses mondiales dans les systèmes et les composants associés à l’IA devraient doubler, atteignant environ 110 milliards de dollars d’ici 2024, selon IDC. L’adoption rapide des algorithmes d’IA dans de plus en plus d’industries a conduit à des préoccupations croissantes concernant la transparence, la vie privée, l’équité et la représentativité des systèmes d’IA.

Réduction des biais grâce à la transparence

Selon un rapport récent publié par le CapGemini Research Institute, intitulé « L’IA et le dilemme éthique : Comment les organisations peuvent-elles construire des systèmes d’IA robustes sur le plan éthique et gagner la confiance », l’utilisation éthique de l’IA est devenue une préoccupation majeure pour les dirigeants IT, la majorité des dirigeants IT exprimant désormais leur inquiétude quant à la mauvaise utilisation des systèmes d’IA. Environ 9 dirigeants IT sur 10 ont déclaré être conscients d’au moins un incident dans lequel des problèmes éthiques avaient été créés par l’application d’un système d’IA. Environ deux tiers des dirigeants IT ont déclaré être conscients de biais discriminatoires potentiels dans les systèmes d’IA, et environ la moitié de toutes les organisations IT ont une charte éthique destinée à guider le développement de l’IA, alors que seuls 5 % des entreprises IT en avaient une en 2019.

Alors que la recherche se poursuit sur la façon de rendre les algorithmes d’IA plus équitables, de nombreux éthiciens et spécialistes de l’IA se concentrent sur les données utilisées pour former l’IA. À mesure que les algorithmes d’IA deviennent plus ubiquitaires et standardisés, l’accent est mis sur l’acquisition des données nécessaires pour former les modèles.

Il existe de nombreuses façons de réduire les biais de données dans les algorithmes d’IA. Certaines techniques consistent à apporter des modifications au modèle ou aux données de formation pendant la formation du modèle. Ces techniques sont des techniques de correction des biais « en cours de processus ». Cela inclut l’utilisation de techniques d’entraînement adverses, qui consistent à contrôler une fonction ou une variable sensible (telle que le sexe ou la race) en pénalisant la capacité du modèle à faire des prédictions impliquant la fonction en question. Cela est fait tout en essayant de minimiser l’erreur du modèle. En revanche, se concentrer sur la suppression des biais du jeu de données est une technique de prétraitement. Les données de formation pour les modèles d’apprentissage automatique sont souvent étiquetées manuellement, et l’application de la blockchain pourrait aider les entreprises à suivre le processus d’étiquetage de leurs données pour garantir que leurs ensembles de données sont représentatifs.

Unbiased compte sur la blockchain pour instaurer une culture de transparence au sein des ensembles de données et des marchés de données. La plupart des outils utilisés pour générer des ensembles de données pour les systèmes d’IA et les algorithmes d’apprentissage automatique sont centralisés et, en raison de cela, ils manquent souvent de transparence. Unbiased vise à exploiter la nature de la blockchain pour enregistrer les actions qui ont lieu sur leur marché de données, qui incluent l’échange de données, l’affectation de tâches et de projets, et les contributions des travailleurs. L’objectif est que la nature décentralisée de la blockchain Telos facilite la transparence, permettant aux utilisateurs d’obtenir des informations critiques sur la nature de leur science des données. Les utilisateurs seront en mesure de valider leurs ensembles de données et de déterminer si les annotations ont été effectuées conformément à certains principes éthiques, tels que l’équité et la vie privée.

Selon l’architecte en chef de la blockchain Telos, l’intersection de l’IA et de l’apprentissage automatique avec la blockchain peut conduire à de nouvelles méthodes de travail avec les données. Comme Horn a été cité par AIthority:

« Unbiased montrera à ces industries comment enregistrer des données sur une blockchain à haute performance et sans frais, comme Telos, peut ajouter de la transparence, de l’immuabilité, des micropaiements et une gouvernance à leurs produits, au bénéfice de toutes les parties prenantes. »

Au-delà de la transparence des données de formation, certains scientifiques et chercheurs ont plaidé pour plus de transparence dans les algorithmes, les modèles et le code. Une équipe internationale de scientifiques a demandé aux revues scientifiques de tenir les chercheurs en informatique à des normes de transparence plus élevées. Les chercheurs ont fait valoir qu’une plus grande transparence concernant les modèles et le code d’IA ne contribuerait pas seulement à la reproductibilité des études, mais aiderait également la collaboration entre les groupes de recherche. De nombreuses études scientifiques ne peuvent pas être reproduites, et c’est un problème encore plus important pour les études axées sur l’IA qui omettent des matériaux critiques. À l’avenir, la blockchain pourrait même être utilisée pour améliorer le suivi et l’évaluation de la recherche dans le domaine de l’IA.