Alors que les industries se préparent à l’adoption accélérée de l’IA, un nouveau focus sur l’éthique et la responsabilité

Par: Pandurang Kamat, CTO de Persistent Systems

L’intelligence artificielle (IA) est en son cœur l’apprentissage automatique (ML), le processus par lequel les machines apprennent à améliorer leur performance en fonction des entrées de données. La quantité considérable de données existantes aujourd’hui signifie que l’IA a eu un terrain fertile pour prospérer, en accélérant à un rythme vertigineux ces dernières années. Et la promesse de l’IA a fait réfléchir les technologistes et les dirigeants d’industries diverses de manière créative à ses diverses applications.

Depuis la révolution industrielle, toute période de progrès technologique rapide est marquée par autant d’enthousiasme que de crainte. Le World Wide Web Consortium (W3C), un groupe qui crée des normes pour les développeurs web, souligne que « il y a une prise de conscience croissante que l’application de l’apprentissage automatique pose des risques et peut entraîner des dommages » – notamment dans des domaines tels que la biais, la vie privée, la sécurité, la durabilité et la responsabilité globale.

« Il y a une demande claire pour une approche éthique de l’IA, comme le montrent l’activisme de la société civile, l’émergence de ~100 ensembles de principes éthiques pour l’IA dans le monde, et les mouvements gouvernementaux pour réglementer l’IA », a écrit le groupe. « Si les technologies ne sont pas alignées sur les valeurs des sociétés dans lesquelles elles opèrent, elles risquent de les miner. »

Choisissez avec soin

En surface, il est difficile de contester que la vitesse et la production améliorées soient mauvaises pour les entreprises. Mais pour certaines industries, il y a beaucoup en jeu avec le processus de prise de décision que certains estiment ne devrait pas être laissé à un algorithme. En regardant quelques-unes des plus grandes industries, nous pouvons voir à quel point nous sommes vulnérables aux erreurs de machine, et pourquoi l’IA responsable est si importante.

Services bancaires, financiers et d’assurance (BFSI)

Le Forum économique mondial (WEF) et Deloitte ont examiné le processus de déploiement de l’IA dans les entreprises de services bancaires, financiers et d’assurance, constatant que « même si l’IA peut aider à créer des informations commerciales utiles à partir d’une quantité écrasante d’informations », la « foreignness de l’IA » sera une source de risque sérieux et permanent.

« L’IA raisonne de manière non humaine », lit-on dans le rapport. « Les systèmes d’IA ne suivent pas les constructions logiques humaines et se comportent très différemment des acteurs humains face à la même tâche. De plus, la nature d’apprentissage automatique des systèmes d’IA leur permet d’évoluer sans intervention humaine, ce qui peut conduire à des résultats inattendus basés sur des variables inconnues. » Les défenseurs de l’IA responsable soutiennent que l’apprentissage automatique pose de graves problèmes dans des choses comme la notation de risque automatique, les décisions de crédit et les prêts, qui sont historiquement préjudiciables à certaines démographies. Des études récentes ont montré que les prêteurs utilisant des moteurs de décision basés sur l’IA étaient plus susceptibles de refuser des prêts hypothécaires aux personnes de couleur – dans certains cas, 80% des demandeurs noirs sont plus susceptibles d’être rejetés.

Soins de santé

Il y a quelques années, la Journal of the American Medical Association (JAMA) a examiné l’adoption de l’IA dans les soins de santé, constatant que les défis sont nombreux, notamment « des attentes irréalistes, des données biaisées et non représentatives, une priorisation insuffisante de l’équité et de l’inclusion, le risque d’exacerber les disparités en matière de soins de santé, des niveaux de confiance faibles et des environnements réglementaires incertains ».

Ce n’est pas exactement un plaidoyer en faveur de l’IA, mais il y a une barre plus élevée pour l’IA responsable dans les soins de santé, en particulier compte tenu de son potentiel littéralement vital. Dans l’ensemble, les professionnels de la santé sont optimistes mais prudents quant à l’avenir de l’IA, choisissant de se concentrer sur l’éducation d’autres praticiens sur son utilisation dans le contexte clinique et la création de lignes directrices sur la manière de progresser de manière responsable pour bénéficier à tous les patients.

Médias

PwC estime que l’IA apportera 15 700 milliards de dollars de croissance économique mondiale d’ici 2030, mais selon Salesforce, moins de la moitié (48%) des clients font confiance aux entreprises pour utiliser l’IA de manière éthique, et 65% s’inquiètent de l’utilisation non éthique de l’IA. Au carrefour des profits et de la confiance, il y a les entreprises de médias – des précurseurs avec une grande portée et une grande influence. Et il y a des inquiétudes quant au fait que l’IA n’est pas une application « mettre en place et oublier », ce qui signifie que pour les entreprises de médias, leur responsabilité ne réside pas seulement dans la production de contenu, mais également dans sa surveillance continue après le déploiement.

Comment les publicités sont-elles servies et personnalisées ? Comment le contenu atteint-il un public particulier, et quel est le message ? Qui enseigne à l’IA « comment » apprendre ? Et comment peut-on cibler des consommateurs spécifiques tout en respectant la vie privée ? Ce sont quelques-unes des questions qui tourmentent les entreprises de médias alors qu’elles équilibrent l’éthique avec l’obtention d’un avantage concurrentiel.

La réponse à la responsabilité

Les progrès dans le développement de l’IA responsable sont évidents chaque jour – les législateurs rédigent des réglementations, les consommateurs exigent plus de transparence, et de nombreuses entreprises ont créé des départements spécifiques chargés de garantir que leur IA est utilisée de manière appropriée. Les entreprises ont besoin d’un cadre d’IA responsable bien défini qui couvre l’éthique, la transparence, la responsabilité, l’équité, la vie privée et la sécurité. Alors que les débats et les réformes se poursuivent, une étude conjointe récente du MIT Sloan Management Review et du Boston Consulting Group fournit des conseils généraux simples – ils ont écrit : « Si vous voulez être un leader d’IA responsable, concentrez-vous sur être une entreprise responsable. » rs éthique, transparence, responsabilité, équité, vie privée et sécurité. Alors que les débats et les réformes se poursuivent, une étude conjointe récente du MIT Sloan Management Review et du Boston Consulting Group fournit des conseils généraux simples – ils ont écrit : « Si vous voulez être un leader d’IA responsable, concentrez-vous sur être une entreprise responsable. »