Reid Blackman, Ph.D, Fondateur et PDG de Virtue Consultants – Série d’entretiens

Reid Blackman est le fondateur et PDG de Virtue Consultants. Dans ce cadre, il a travaillé avec des entreprises pour intégrer l’éthique et la mitigation des risques éthiques dans la culture d’entreprise et le développement, le déploiement et la mise en œuvre de produits technologiques émergents. Il est également conseiller principal d’Ernst & Young et siège à leur conseil d’administration de l’intelligence artificielle, et est membre de l’initiative de conception éthiquement alignée de l’IEEE.

Le travail de Reid a été présenté dans The Wall Street Journal et Dell Perspectives, et il a contribué à des articles pour The Harvard Business Review, TechCrunch, VentureBeat et Risk & Compliance Magazine. Il a été cité dans de nombreux articles de presse et intervient régulièrement dans divers lieux, notamment le Forum économique mondial, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University et AIG.

Vous étiez professeur de philosophie à l’Université de Colgate de 2009 à 2018. À quel moment avez-vous commencé à intégrer l’éthique de l’IA dans vos cours ?

J’enseignais souvent un cours de philosophie sociale et politique, où j’abordais Marx. L’une des principales affirmations de Marx est que le capitalisme finira par céder la place au communisme, en raison d’une augmentation massive des « moyens de production ». En d’autres termes, le capitalisme pousse à une efficacité toujours plus grande au nom de la concurrence et de l’ouverture de nouveaux marchés, ce qui signifie une augmentation de la création de technologies pouvant produire plus en moins de temps. Marx a également prédit que cela mettrait de plus en plus d’argent entre les mains de quelques-uns et pousserait de plus en plus de personnes dans la pauvreté, au point où les structures capitalistes seraient renversées par une révolution menée par les masses de plus en plus nombreuses de démunis. Tout cela conduit à une discussion sur l’éthique de la technologie qui obvient au besoin de travail humain, qui est un élément central de l’éthique de l’IA.

Petite histoire si vous êtes intéressé : en 2002, j’étais un étudiant diplômé qui dirigeait une discussion sur Marx avec des étudiants de premier cycle à l’Université Northwestern. À un moment donné, un étudiant a levé la main et a dit : « Finalement, nous n’aurons plus besoin d’humains pour faire aucun travail. » La classe était confuse. Je l’étais aussi. Alors, j’ai dit : « Eh bien, qui fera le travail ? » Il a répondu d’une manière très factuelle : « les robots ». La classe a éclaté de rire. J’ai étouffé le mien. Mais il est assez évident qui a eu le dernier mot.

En 2018, vous avez lancé Virtue Consultants, une société de conseil en éthique qui permet aux dirigeants de données et d’IA d’identifier et d’atténuer les risques éthiques de leurs produits. Qu’est-ce qui vous a inspiré à entreprendre ce voyage entrepreneurial ?

Jalousie. Enfin, presque. J’ai créé une entreprise de gros de feux d’artifice lorsque j’étais étudiant diplômé, je pense autour de 2003 ou 2004. Ça s’est mieux passé que prévu, et l’entreprise existe encore, même si je ne m’occupe plus de la gestion quotidienne. C’est pertinent car cela explique comment je suis devenu mentor pour les start-ups dans le programme d’entrepreneuriat de Colgate (appelé TIA, Thought Into Action, dirigé par deux VCs formidables, Andy Greenfield et Wills Hapworth, qui dirigent TIA Ventures). En tant que mentor, j’ai vu des étudiants se lancer dans des projets passionnants alors qu’ils essayaient de déterminer comment établir et développer leurs start-ups à but lucratif ou non lucratif, et j’ai pensé : « Je veux ça ! » Mais qu’est-ce que serait mon nouvelle entreprise ? Elle devait être liée à mon amour de la philosophie et de l’éthique, et la première chose qui avait du sens était une société de conseil en éthique. Je ne voyais pas le marché pour de tels services à l’époque, car il n’y en avait pas, et j’ai donc attendu. Puis Cambridge Analytica, BLM et #MeToo ont fait les gros titres, et soudain il y a eu une plus grande prise de conscience du besoin.

Combien est-il important pour les entreprises d’introduire une déclaration d’éthique de l’IA ?

Une déclaration d’éthique de l’IA n’est pas essentielle, mais c’est un outil extrêmement utile pour fixer vos objectifs. Lorsque vous introduisez un programme d’éthique de l’IA dans votre organisation, vous voulez identifier et atténuer les divers risques éthiques, réputationnels, réglementaires et juridiques. C’est sa fonction principale. Une déclaration d’éthique aide à articuler ce à quoi les choses ressembleront une fois que vous aurez les infrastructures, les processus et les pratiques en place pour atteindre cet objectif. Dans la mesure où une stratégie nécessite un objectif – ce qui est toujours le cas – une déclaration d’éthique de l’IA est un bon moyen d’articuler ces objectifs, même si ce n’est pas la seule façon de le faire.

Comment les entreprises peuvent-elles s’assurer que la déclaration d’éthique est transposée en processus et en pratique ?

Une déclaration d’éthique n’est qu’un petit pas dans la bonne direction. Si vous voulez continuer, l’étape naturelle suivante consiste à évaluer où vous êtes par rapport aux objectifs énoncés dans cette déclaration. Une fois que vous savez où se trouvent les plus grands écarts les plus risqués – c’est-à-dire où vous êtes le plus à risque de ne pas atteindre vos objectifs – vous pouvez alors commencer à élaborer des solutions pour combler ces écarts. Peut-être s’agit-il d’un comité d’éthique. Peut-être s’agit-il d’un processus de diligence raisonnable lors du développement de produits. Peut-être s’agit-il de mieux gérer la façon dont vous traitez les données dans les départements non produits, comme le marketing et les RH. Probablement s’agit-il de toutes ces choses et plus encore.

Quelles sont les solutions que les entreprises devraient mettre en œuvre pour éviter les préjugés dans l’algorithme d’IA lui-même ?

Il existe une foule d’outils techniques pour identifier les préjugés, mais ils sont limités. Ils vous permettront de comparer les sorties de votre modèle avec les dizaines de métriques quantitatives proposées dans la littérature académique sur l’éthique de l’apprentissage automatique, mais vous devez faire attention car ces métriques ne sont pas compatibles entre elles. Une décision éthique substantielle doit donc être prise : laquelle, le cas échéant, de ces métriques est appropriée dans ce contexte ?

En plus d’utiliser un outil comme celui-ci, complété par une manière responsable de répondre à cette question, les équipes de produits feraient bien de réfléchir à l’endroit où les préjugés peuvent s’infiltrer avant de commencer à construire. Comment pourraient-ils être contenus ou reflétés dans les ensembles de données de formation ? Qu’en est-il de la détermination de la fonction objective ? Qu’en est-il de la détermination du seuil ? Il y a de nombreux endroits où les préjugés peuvent s’infiltrer. La prévoyance quant à l’endroit où cela pourrait se produire dans le projet actuel et à la façon dont cela pourrait s’y infiltrer est essentielle pour identifier et atténuer les préjugés.

Les entreprises d’IA sont notoires pour être dominées par des hommes blancs qui peuvent involontairement programmer des préjugés dans le système d’IA. Pour éviter cela, quels types de traits les services des ressources humaines devraient-ils rechercher ?

Je suis tout à fait pour plus d’opportunités et de diversité parmi les ingénieurs et les équipes de produits en général. Cependant, je pense que cela regarde les choses à travers la mauvaise lentille. Le problème principal lorsqu’il s’agit d’algorithmes biaisés n’est pas que les préjugés d’un homme blanc mènent à un code biaisé. C’est que les ensembles de données de formation sont biaisés. En fait, un article récent de Columbia – « Programmeurs biaisés ? Ou données biaisées ? Une expérience de terrain sur la mise en œuvre de l’éthique de l’IA » – a conclu que « les programmeurs qui comprennent les directives techniques réduisent avec succès les préjugés », et que « les prédictions algorithmiques des programmeurs d’IA féminins et minoritaires ne présentent pas moins de préjugés algorithmiques ou de discrimination ». Ainsi, même si les RH doivent prêter attention aux problèmes de diversité, il n’est pas clair que les stratégies pour réduire les sorties biaisées de l’IA devraient principalement – voire exclusivement – se concentrer sur les décisions de recrutement en relation avec les efforts de diversité.

Pouvez-vous discuter de ce qu’est la diligence raisonnable des risques éthiques et pourquoi les entreprises devraient la mettre en œuvre ?

La diligence raisonnable des risques éthiques est une tentative pour repérer les divers risques éthiques qui peuvent se concrétiser avec le produit que vous créez, y compris la façon dont il est déployé, la façon dont il peut être utilisé et détourné, etc. Vous voulez vous concentrer sur les caractéristiques du produit – à la fois celles qu’il possède et celles qu’il ne possède pas – et les façons dont celles-ci peuvent conduire, lorsqu’elles sont déployées dans divers contextes, à des actes contraires à l’éthique. Lorsqu’elle est bien faite, c’est une inspection systématique et exhaustive. Bien sûr, même si vous pouvez essayer de regarder autour du coin, il y a probablement des choses que vous allez manquer, ce qui est pourquoi la surveillance continue est importante.

En ce qui concerne la raison pour laquelle les entreprises devraient la mettre en œuvre : elles n’ont qu’à considérer les risques éthiques, réputationnels, réglementaires et juridiques pour ne pas le faire. Pensez à Optum dans les actualités et sous investigation réglementaire pour un algorithme (prétendument) biaisé qui recommandait aux professionnels de la santé de porter plus d’attention aux patients blancs qu’aux patients noirs plus malades. Ou à Goldman Sachs (GS ), sous investigation pour les limites de crédit de la carte Apple (AAPL ), qui (prétendument) discrimine les femmes. Ou au logiciel de recrutement d’Amazon (AMZN ), qui a été abandonné en raison de préoccupations concernant les préjugés avant son déploiement. Ou à IBM poursuivi par Los Angeles pour avoir (prétendument) détourné des données collectées à partir de son application météo. Ou Facebook (META ) …

Y a-t-il autre chose que vous aimeriez partager sur Virtue Consultants ?

Virtue aide les dirigeants seniors à mettre l’éthique de l’IA en pratique, que ce soit en aidant à éduquer et à former les personnes sur le sujet, en rédigeant une déclaration d’éthique de l’IA, en créant et en mettant en œuvre un cadre de risque éthique de l’IA actionnable, ou simplement en servant de conseillers en éthique de l’IA. Si cela vous intéresse, les gens devraient venir dire bonjour.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus sur Reid peuvent visiter Reid Blackman, ou vous pouvez visiter Virtue Consultants.