L’IA peut éviter des comportements indésirables spécifiques avec de nouvelles algorithmes

À mesure que les algorithmes et les systèmes d’intelligence artificielle deviennent plus sophistiqués et prennent des responsabilités plus importantes, il est de plus en plus important de s’assurer que les systèmes d’IA évitent les comportements dangereux et indésirables. Récemment, une équipe de chercheurs de l’Université du Massachusetts à Amherst et de Stanford a publié un article qui démontre comment des comportements d’IA spécifiques peuvent être évités, grâce à l’utilisation d’une technique qui élicite des instructions mathématiques précises qui peuvent être utilisées pour ajuster le comportement d’un IA.

Selon TechXplore, la recherche était basée sur l’hypothèse que les comportements injustes ou non sûrs peuvent être définis avec des fonctions et des variables mathématiques. Si cela est vrai, il devrait être possible pour les chercheurs de former des systèmes pour éviter ces comportements spécifiques. L’équipe de recherche visait à développer un outil qui pourrait être utilisé par les utilisateurs de l’IA pour spécifier quels comportements ils veulent que l’IA évite, et permettre aux ingénieurs de former un système qui évitera les actions indésirables lorsqu’il est utilisé dans des scénarios réels.

Phillip Thomas, le premier auteur de l’article et professeur assistant de sciences informatiques à l’Université du Michigan à Amherst, a expliqué que l’équipe de recherche vise à démontrer que les concepteurs d’algorithmes d’apprentissage automatique peuvent faciliter la description de comportements indésirables par les utilisateurs de l’IA et rendre plus probable que le système d’IA évite ces comportements.

L’équipe de recherche a testé leur technique en l’appliquant à un problème courant en science des données, le biais de genre. L’équipe de recherche visait à rendre les algorithmes utilisés pour prédire les notes de GPA des étudiants plus justes en réduisant le biais de genre. L’équipe de recherche a utilisé un ensemble de données expérimentales et a instruit leur système d’IA pour éviter la création de modèles qui sous-estimaient ou surestimaient les notes de GPA pour un sexe. En conséquence des instructions des chercheurs, l’algorithme a créé un modèle qui prédisait mieux les notes de GPA des étudiants et avait nettement moins de biais de genre systémique que les modèles existants. Les modèles de prédiction de notes de GPA existants souffraient de biais parce que les modèles de réduction de biais étaient souvent trop limités pour être utiles, ou aucun modèle de réduction de biais n’était utilisé.

L’équipe de recherche a également développé un autre algorithme. Cet algorithme a été mis en œuvre dans une pompe à insuline automatisée, et l’algorithme était destiné à équilibrer les performances et la sécurité. Les pompes à insuline automatisées doivent décider de la quantité de dose d’insuline qu’un patient doit recevoir. Après avoir mangé, la pompe doit idéalement délivrer une dose d’insuline juste suffisante pour maintenir les niveaux de sucre dans le sang. Les doses d’insuline délivrées doivent être ni trop grandes ni trop petites.

Les algorithmes d’apprentissage automatique sont déjà compétents pour identifier les modèles dans la réponse d’un individu aux doses d’insuline, mais ces méthodes d’analyse existantes ne permettent pas aux médecins de spécifier les résultats qui devraient être évités, tels que les chutes de sucre dans le sang. En revanche, l’équipe de recherche a pu développer une méthode qui pourrait être formée pour délivrer des doses d’insuline qui restent dans les deux extrêmes, en prévenant à la fois la sous-dose et la surdose. Même si le système n’est pas prêt pour être testé sur des patients réels, un IA plus sophistiqué basé sur cette approche pourrait améliorer la qualité de vie des personnes souffrant de diabète.

Dans l’article de recherche, les chercheurs font référence à l’algorithme comme un algorithme « Seledonian ». Cela fait référence aux trois lois de la robotique décrites par l’auteur de science-fiction Isaac Asimov. L’implication est que le système d’IA « ne peut pas blesser un être humain ou, par inaction, permettre à un être humain de subir un préjudice ». L’équipe de recherche espère que leur cadre permettra aux chercheurs et aux ingénieurs en IA de créer une variété d’algorithmes et de systèmes qui évitent les comportements dangereux. Emma Brunskill, auteur principal de l’article et professeur assistant de sciences informatiques à Stanford, a expliqué à TechXplore :

“Nous voulons faire progresser l’IA qui respecte les valeurs de ses utilisateurs humains et justifie la confiance que nous plaçons dans les systèmes autonomes.”