Comment les préjugés vont tuer votre stratégie d’IA/ML et ce que vous pouvez faire à ce sujet

« Préjugés » dans les modèles de tout type décrit une situation dans laquelle le modèle répond de manière inexacte aux invites ou aux données d’entrée parce qu’il n’a pas été formé avec suffisamment de données de haute qualité et diversifiées pour fournir une réponse précise. Un exemple serait la fonction de déverrouillage du téléphone par reconnaissance faciale d’Apple, qui a échoué à un taux nettement plus élevé pour les personnes à peau plus foncée par rapport aux tons plus clairs. Le modèle n’avait pas été formé sur suffisamment d’images de personnes à peau foncée. C’était un exemple relativement à faible risque de préjugé, mais c’est exactement pourquoi le règlement européen sur l’IA a établi des exigences pour prouver l’efficacité du modèle (et les contrôles) avant de le lancer sur le marché. Les modèles dont les sorties ont un impact sur les entreprises, les finances, la santé ou les situations personnelles doivent être fiables, sinon ils ne seront pas utilisés.

Combattre les préjugés avec les données

Grandes quantités de données de haute qualité

Parmi de nombreuses pratiques de gestion de données importantes, un élément clé pour surmonter et minimiser les préjugés dans les modèles d’IA/ML est d’acquérir de grandes quantités de données de haute qualité et diversifiées. Cela nécessite une collaboration avec plusieurs organisations qui disposent de telles données. Traditionnellement, l’acquisition de données et les collaborations sont confrontées à des préoccupations de confidentialité et/ou de protection de la propriété intellectuelle – les données sensibles ne peuvent pas être envoyées au propriétaire du modèle, et le propriétaire du modèle ne peut pas risquer de divulguer sa propriété intellectuelle à un propriétaire de données. Une solution courante consiste à travailler avec des données fictives ou synthétiques, qui peuvent être utiles mais ont également des limites par rapport à l’utilisation de données réelles et à contexte complet. C’est là que les technologies d’amélioration de la confidentialité (PET) offrent des réponses nécessaires.

Données synthétiques : proches, mais pas tout à fait

Les données synthétiques sont générées artificiellement pour imiter les données réelles. C’est difficile à faire, mais cela devient légèrement plus facile avec les outils d’IA. De bonnes données synthétiques doivent avoir les mêmes distances de fonctionnalités que les données réelles, sinon elles ne seront pas utiles. Les données synthétiques de haute qualité peuvent être utilisées pour augmenter efficacement la diversité des données de formation en comblant les lacunes pour les populations plus petites et marginalisées, ou pour les populations dont le fournisseur d’IA n’a simplement pas suffisamment de données. Les données synthétiques peuvent également être utilisées pour résoudre les cas de bord qui pourraient être difficiles à trouver en quantités suffisantes dans le monde réel. De plus, les organisations peuvent générer un jeu de données synthétiques pour satisfaire les exigences de résidence et de confidentialité des données qui bloquent l’accès aux données réelles. Cela semble bien ; cependant, les données synthétiques ne sont qu’une partie du puzzle, et non la solution.

L’une des limites évidentes des données synthétiques est la déconnexion du monde réel. Par exemple, les véhicules autonomes formés uniquement sur des données synthétiques auront du mal avec les conditions routières réelles et imprévues. De plus, les données synthétiques héritent des préjugés des données du monde réel utilisées pour les générer – ce qui bat pretty much l’objectif de notre discussion. En conclusion, les données synthétiques sont une option utile pour l’affinement et la résolution des cas de bord, mais des améliorations significatives de l’efficacité du modèle et de la minimisation des préjugés dépendent encore de l’accès aux données du monde réel.

Une meilleure façon : données réelles via des flux de travail PET

Les PET protègent les données lors de leur utilisation. Lorsqu’il s’agit de modèles d’IA/ML, ils peuvent également protéger la propriété intellectuelle du modèle exécuté – « deux oiseaux, une pierre ». Les solutions utilisant les PET offrent la possibilité de former des modèles sur des ensembles de données réels et sensibles qui n’étaient pas précédemment accessibles en raison de préoccupations de confidentialité et de sécurité des données. Cette ouverture de flux de données vers des données réelles est la meilleure option pour réduire les préjugés. Mais comment cela fonctionnerait-il réellement ?

Actuellement, les options les plus prometteuses commencent par un environnement de calcul confidentiel. Ensuite, une intégration avec une solution logicielle basée sur les PET qui la rend prête à l’emploi tout en répondant aux exigences de gouvernance et de sécurité des données qui ne sont pas incluses dans un environnement d’exécution de confiance (TEE) standard. Avec cette solution, les modèles et les données sont tous chiffrés avant d’être envoyés à un environnement de calcul sécurisé. L’environnement peut être hébergé n’importe où, ce qui est important lorsqu’il s’agit de répondre à certaines exigences de localisation des données. Cela signifie que la propriété intellectuelle du modèle et la sécurité des données d’entrée sont maintenues pendant le calcul – même le fournisseur de l’environnement d’exécution de confiance n’a pas accès aux modèles ou aux données à l’intérieur. Les résultats chiffrés sont ensuite renvoyés pour examen et les journaux sont disponibles pour examen.

Ce flux débloque les meilleures données, quelle que soit leur localisation ou leur propriétaire, créant un chemin vers la minimisation des préjugés et des modèles à haute efficacité que nous pouvons faire confiance. Ce flux est également ce que le règlement européen sur l’IA a décrit dans ses exigences pour un bac à sable réglementaire pour l’IA.

Faciliter le respect de l’éthique et de la conformité légale

L’acquisition de bonnes données réelles est difficile. Les exigences de confidentialité et de localisation des données limitent immédiatement les ensembles de données auxquels les organisations peuvent accéder. Pour que l’innovation et la croissance se produisent, les données doivent circuler vers ceux qui peuvent en extraire la valeur.

L’article 54 du règlement européen sur l’IA établit des exigences pour les types de modèles « à haut risque » en termes de ce qui doit être prouvé avant qu’ils ne soient mis sur le marché. En résumé, les équipes devront utiliser des données du monde réel à l’intérieur d’un bac à sable réglementaire pour l’IA pour démontrer une efficacité de modèle suffisante et une conformité avec tous les contrôles détaillés dans le Titre III, Chapitre 2. Les contrôles incluent la surveillance, la transparence, l’explicabilité, la sécurité des données, la protection des données, la minimisation des données et la protection du modèle – pensez DevSecOps + Data Ops.

Le premier défi consistera à trouver un ensemble de données réelles à utiliser – car il s’agit de données sensibles pour de tels types de modèles. Sans garanties techniques, de nombreuses organisations pourraient hésiter à faire confiance au fournisseur de modèle avec leurs données ou ne seraient pas autorisées à le faire. De plus, la façon dont l’acte définit un « bac à sable réglementaire pour l’IA » est un défi en soi. Certaines des exigences incluent une garantie que les données sont supprimées du système après que le modèle a été exécuté, ainsi que les contrôles de gouvernance, l’application et la déclaration pour le prouver.

De nombreuses organisations ont essayé d’utiliser des salles de données (DCR) et des environnements d’exécution de confiance (TEE) prêts à l’emploi. Mais, par eux-mêmes, ces technologies nécessitent une expertise et un travail importants pour être opérationnalisées et répondre aux exigences réglementaires en matière de données et d’IA.
Les DCR sont plus simples à utiliser, mais pas encore utiles pour les besoins plus robustes de l’IA/ML. Les TEE sont des serveurs sécurisés et ont toujours besoin d’une plate-forme de collaboration intégrée pour être utile, rapidement. Cela identifie cependant une opportunité pour les plateformes de technologie d’amélioration de la confidentialité pour s’intégrer aux TEE pour supprimer ce travail, simplifiant ainsi la configuration et l’utilisation d’un bac à sable réglementaire pour l’IA, et donc l’acquisition et l’utilisation de données sensibles.

En permettant l’utilisation de jeux de données plus diversifiés et complets de manière préservant la confidentialité, ces technologies aident à garantir que les pratiques d’IA et de ML sont conformes aux normes éthiques et aux exigences légales liées à la confidentialité des données (par exemple, le RGPD et le règlement européen sur l’IA en Europe). En résumé, tandis que les exigences sont souvent accueillies avec des grognements et des soupirs audibles, ces exigences nous guident simplement vers la construction de meilleurs modèles que nous pouvons faire confiance et sur lesquels nous pouvons compter pour une prise de décision importante basée sur les données tout en protégeant la confidentialité des sujets de données utilisés pour le développement et la personnalisation du modèle.