Considérations éthiques lors du développement d’IA pour la reconnaissance des émotions

L’intelligence artificielle pour la régulation des émotions est l’un des derniers progrès technologiques dans le domaine de l’apprentissage automatique. Bien qu’elle montre un grand potentiel, les problèmes éthiques sont susceptibles d’affecter son taux d’adoption et sa longévité. Les développeurs d’IA peuvent-ils les surmonter ?

Qu’est-ce que la reconnaissance des émotions par l’IA ?

La reconnaissance des émotions par l’IA est un type de modèle d’apprentissage automatique. Elle repose souvent sur la technologie de vision par ordinateur qui capture et analyse les expressions faciales pour déchiffrer les humeurs dans les images et les vidéos. Cependant, elle peut également fonctionner sur des extraits audio pour déterminer le ton de la voix ou sur du texte écrit pour évaluer le sentiment du langage.

Ce type d’algorithme représente un progrès fascinant dans le domaine de l’IA, car jusqu’à présent, les modèles n’ont pas pu comprendre les sentiments humains. Alors que les grands modèles de langage comme ChatGPT peuvent simuler des humeurs et des personnalités de manière convaincante, ils ne peuvent que relier des mots de manière logique — ils ne peuvent pas ressentir d’émotions et ne montrent pas d’intelligence émotionnelle.Alors qu’un modèle de reconnaissance des émotions est incapable d’avoir des sentiments, il peut toujours les détecter et les cataloguer. Ce développement est important, car il signale que l’IA peut bientôt être en mesure de vraiment comprendre et de démontrer du bonheur, de la tristesse ou de la colère. Des progrès technologiques comme ceux-ci indiquent une accélération de l’avancement.

Cas d’utilisation de la reconnaissance des émotions par l’IA

Les entreprises, les éducateurs, les consultants et les professionnels de la santé mentale sont quelques-uns des groupes qui peuvent utiliser l’IA pour la reconnaissance des émotions.

Évaluation des risques dans le bureau

Les équipes des ressources humaines peuvent utiliser des algorithmes pour effectuer une analyse des sentiments sur la correspondance par e-mail ou les discussions dans les applications entre les membres de l’équipe. Alternativement, ils peuvent intégrer leur algorithme dans leur système de surveillance ou de vision par ordinateur. Les utilisateurs peuvent suivre l’humeur pour calculer des métriques telles que le risque de turnover, le taux de burn-out et la satisfaction des employés.

Aide aux agents de service client

Les détaillants peuvent utiliser des agents de service client internes pour les utilisateurs finals ou des assistants virtuels pour résoudre des situations à haute tension. Puisque leur modèle peut reconnaître l’humeur, il peut suggérer des techniques de déescalade ou changer de ton lorsqu’il réalise qu’un consommateur se met en colère. Des contre-mesures comme celles-ci peuvent améliorer la satisfaction et la rétention des clients.

Aide aux étudiants en classe

Les éducateurs peuvent utiliser cette IA pour empêcher les apprenants à distance de rester en arrière. Une startup a déjà utilisé son outil pour mesurer les points musculaires sur les visages des étudiants tout en cataloguant leur vitesse et leurs notes. Cette méthode détermine leur humeur, leur motivation, leurs forces et leurs faiblesses. Le fondateur de la startup affirme qu’ils obtiennent 10 % de mieux aux tests lorsqu’ils utilisent le logiciel.

Réalisation de recherches de marché internes

Les entreprises peuvent effectuer des recherches de marché internes en utilisant un modèle de reconnaissance des émotions. Il peut les aider à comprendre exactement comment leur public cible réagit à leur produit, service ou matériel de marketing, leur fournissant ainsi des informations précieuses basées sur les données. En conséquence, ils peuvent accélérer le temps de mise sur le marché et augmenter leurs revenus.

Le problème de l’utilisation de l’IA pour détecter les émotions

Les recherches suggèrent que la précision dépend fortement des informations de formation. Un groupe de recherche — qui a tenté de déchiffrer les sentiments à partir d’images — a prouvé anecdotiquement ce concept lorsqu’il a obtenu une précision de 92,05 % sur le jeu de données d’expressions faciales japonaises féminines et une précision de 98,13 % sur le jeu de données Cohn-Kanade étendu.

Alors que la différence entre 92 % et 98 % peut sembler insignifiante, elle est importante — cette légère discordance pourrait avoir des conséquences importantes. Pour référence, un taux d’empoisonnement des données aussi bas que 0,001 % s’est avéré efficace pour établir des portes dérobées de modèle ou provoquer intentionnellement des erreurs de classification. Même une fraction de pourcentage est significative.

De plus, même si les études semblent prometteuses — des taux de précision supérieurs à 90 % montrent un potentiel — les chercheurs les réalisent dans des environnements contrôlés. Dans le monde réel, les images floues, les expressions faciales feintes, les mauvais angles et les sentiments subtils sont beaucoup plus courants. En d’autres termes, l’IA peut ne pas être en mesure de performer de manière cohérente.

État actuel de la reconnaissance des émotions par l’IA

L’analyse des sentiments algorithmique est le processus qui consiste à utiliser un algorithme pour déterminer si le ton du texte est positif, neutre ou négatif. Cette technologie est sans doute la base des modèles de détection des émotions modernes, car elle a ouvert la voie aux évaluations algorithmiques de l’humeur. Des technologies similaires comme les logiciels de reconnaissance faciale ont également contribué aux progrès.

Les algorithmes d’aujourd’hui peuvent principalement détecter seulement des humeurs simples comme le bonheur, la tristesse, la colère, la peur et la surprise avec des degrés de précision variables. Ces expressions faciales sont innées et universelles — ce qui signifie qu’elles sont naturelles et globalement comprises — donc la formation d’un IA pour les identifier est relativement simple.

De plus, les expressions faciales de base sont souvent exagérées. Les gens froncent les sourcils lorsqu’ils sont en colère, font la moue lorsqu’ils sont tristes, sourient lorsqu’ils sont heureux et écarquillent les yeux lorsqu’ils sont choqués. Ces regards simplistes et dramatiques sont faciles à différencier. Les émotions plus complexes sont plus difficiles à repérer, car elles sont soit subtiles, soit combinent des expressions de base.

Puisque ce sous-ensemble d’IA reste en grande partie en recherche et développement, il n’a pas encore progressé pour couvrir des sentiments complexes comme la nostalgie, la honte, le chagrin, la jalousie, le soulagement ou la confusion. Même si elle couvrira probablement davantage à l’avenir, il n’y a pas de garantie qu’elle pourra interpréter tous ces sentiments.

En réalité, les algorithmes peuvent ne jamais être en mesure de rivaliser avec les humains. Pour référence, alors que le jeu de données GPT-4 d’OpenAI est d’environ 1 pétaoctet, un seul millimètre cube d’un cerveau humain contient environ 1,4 pétaoctets de données. Les neuroscientifiques ne peuvent pas encore pleinement comprendre comment le cerveau perçoit les émotions, malgré des décennies de recherche, donc la construction d’un IA très précis peut être impossible.

Alors que l’utilisation de cette technologie pour la reconnaissance des émotions a des précédents, ce domaine est encore techniquement dans son enfance. Il y a une abondance de recherches sur le concept, mais peu d’exemples de déploiement à grande échelle existent. Certains signes indiquent que l’adoption retardée peut résulter de préoccupations concernant la précision inconsistante et les problèmes éthiques.

Considérations éthiques pour les développeurs d’IA

Selon une enquête, 67 % des répondants estiment que l’IA devrait être réglementée dans une certaine mesure ou davantage. Pour rassurer les gens, les développeurs devraient minimiser les préjugés, s’assurer que leurs modèles se comportent comme prévu et améliorer les résultats. Ces solutions sont possibles si les développeurs donnent la priorité aux considérations éthiques lors du développement.

1. Collecte et utilisation des données avec consentement

Le consentement est tout dans une ère où la réglementation de l’IA est en augmentation. Que se passe-t-il si les employés découvrent que leurs expressions faciales sont cataloguées sans leur connaissance ? Les parents doivent-ils donner leur accord pour l’analyse des sentiments basée sur l’éducation ou les étudiants peuvent-ils décider par eux-mêmes ?

Les développeurs devraient explicitement divulguer les informations que le modèle collectera, lorsqu’il sera en fonction, à quoi l’analyse sera utilisée et qui pourra accéder à ces détails. De plus, ils devraient inclure des fonctionnalités d’opt-out pour que les individus puissent personnaliser les autorisations.

2. Sortie d’analyse de sentiments anonymisée

L’anonymisation des données est autant un problème de confidentialité qu’un problème de sécurité. Les développeurs devraient anonymiser les informations émotionnelles qu’ils collectent pour protéger les individus impliqués. Au minimum, ils devraient fortement envisager d’utiliser le cryptage au repos.

3. Prise de décision avec l’homme dans la boucle

La seule raison d’utiliser l’IA pour déterminer l’état émotionnel de quelqu’un est d’éclairer la prise de décision. Que ce soit utilisé dans un contexte de santé mentale ou dans un cadre de détail, cela aura un impact sur les gens. Les développeurs devraient utiliser des garanties de l’homme dans la boucle pour minimiser les comportements inattendus.

4. Rétroaction centrée sur l’homme pour la sortie de l’IA

Même si un algorithme a une précision quasi totale, il produira toujours de faux positifs. Compte tenu du fait qu’il n’est pas rare que les modèles atteignent 50 % ou 70 % — et que cela ne touche pas aux problèmes de préjugés ou d’hallucinations — les développeurs devraient envisager de mettre en œuvre un système de rétroaction.

Les gens devraient être en mesure d’examiner ce que l’IA dit sur leur état émotionnel et de faire appel si ils estiment que c’est faux. Même si un tel système nécessiterait des garde-fous et des mesures de responsabilité, il minimiserait les impacts négatifs résultant de sorties incorrectes.

Les conséquences de l’ignorance des considérations éthiques

Les considérations éthiques devraient être une priorité pour les ingénieurs en IA, les développeurs d’apprentissage automatique et les propriétaires d’entreprise, car cela les affecte. Compte tenu de l’opinion publique de plus en plus incertaine et des réglementations qui se resserrent, les conséquences de l’ignorance des considérations éthiques peuvent être importantes.