Grace Yee, Directrice senior de l’innovation éthique (Éthique et accessibilité de l’IA) chez Adobe – Série d’entretiens

Grace Yee est la directrice senior de l’innovation éthique (Éthique et accessibilité de l’IA) chez Adobe (ADBE ), qui dirige les travaux mondiaux et organisationnels sur l’éthique et développe des processus, des outils, des formations et d’autres ressources pour aider à garantir que les innovations de pointe de l’IA d’Adobe continuent d’évoluer en ligne avec les valeurs fondamentales et les principes éthiques d’Adobe. Grace fait progresser l’engagement d’Adobe à construire et à utiliser la technologie de manière responsable, en mettant l’accent sur l’éthique et l’inclusivité dans tout le travail de développement de l’IA de l’entreprise. Dans le cadre de ce travail, Grace supervise le comité d’éthique de l’IA et le conseil d’examen d’Adobe, qui font des recommandations pour guider les équipes de développement d’Adobe et examinent les nouvelles fonctionnalités et produits de l’IA pour garantir qu’ils respectent les principes d’Adobe en matière de responsabilité, de responsabilité et de transparence. Ces principes contribuent à garantir que nous mettons nos fonctionnalités alimentées par l’IA sur le marché tout en atténuant les résultats préjudiciables et biaisés. Grace travaille également avec l’équipe de politique pour promouvoir le plaidoyer et aider à façonner les politiques publiques, les lois et les réglementations sur l’IA dans l’intérêt de la société.

Dans le cadre de l’engagement d’Adobe en faveur de l’accessibilité, Grace s’assure que les produits d’Adobe sont inclusifs et accessibles à tous les utilisateurs, afin que chacun puisse créer, interagir et s’engager dans des expériences numériques. Sous sa direction, Adobe travaille avec des groupes gouvernementaux, des associations commerciales et des communautés d’utilisateurs pour promouvoir et faire progresser les politiques et les normes d’accessibilité, en favorisant des solutions industrielles efficaces.

Pouvez-vous nous parler du parcours d’Adobe au cours des cinq dernières années dans l’élaboration de l’éthique de l’IA ? Quels sont les jalons clés qui ont défini cette évolution, en particulier face aux progrès rapides comme l’IA générative ?

Il y a cinq ans, nous avons formalisé notre processus d’éthique de l’IA en établissant nos principes d’éthique de l’IA d’accountabilité, de responsabilité et de transparence, qui servent de fondement à notre processus de gouvernance de l’éthique de l’IA. Nous avons réuni une équipe diversifiée et multiforme d’employés d’Adobe du monde entier pour élaborer des principes actionnables qui peuvent résister à l’épreuve du temps.

À partir de là, nous avons développé un processus d’examen robuste pour identifier et atténuer les risques et les biais potentiels dès le début du cycle de développement de l’IA. Cette évaluation multiforme nous a aidés à identifier et à résoudre les fonctionnalités et les produits qui pourraient perpétuer des préjugés et des stéréotypes nuisibles.

Lorsque l’IA générative est apparue, nous avons adapté notre évaluation de l’éthique de l’IA pour relever les nouveaux défis éthiques. ​Ce processus itératif nous a permis de rester à la pointe des problèmes potentiels, en garantissant que nos technologies de l’IA sont développées et déployées de manière responsable. ​Notre engagement en faveur de l’apprentissage continu et de la collaboration avec diverses équipes au sein de l’entreprise a été crucial pour maintenir la pertinence et l’efficacité de notre programme d’éthique de l’IA, améliorant en fin de compte l’expérience que nous offrons à nos clients et favorisant l’inclusivité. ​

Comment les principes d’éthique de l’IA d’Adobe – l’accountabilité, la responsabilité et la transparence – se traduisent-ils dans les opérations quotidiennes ? Pouvez-vous partager des exemples de la manière dont ces principes ont guidé les projets d’IA d’Adobe ?

Nous nous conformons aux engagements d’Adobe en matière d’éthique de l’IA dans nos fonctionnalités alimentées par l’IA en mettant en œuvre des pratiques d’ingénierie robustes qui garantissent l’innovation responsable, tout en recueillant en continu les commentaires de nos employés et de nos clients pour permettre les ajustements nécessaires.

Les nouvelles fonctionnalités de l’IA font l’objet d’une évaluation approfondie de l’éthique pour identifier et atténuer les biais et les risques potentiels. Lorsque nous avons introduit Adobe Firefly, notre famille de modèles d’IA générative, elle a fait l’objet d’une évaluation pour atténuer la génération de contenu qui pourrait perpétuer des stéréotypes nuisibles. Cette évaluation est un processus itératif qui évolue en fonction d’une collaboration étroite avec les équipes de produits, en intégrant les commentaires et les enseignements pour rester pertinents et efficaces. Nous réalisons également des exercices de découverte de risques avec les équipes de produits pour comprendre les impacts potentiels et concevoir des mécanismes de test et de rétroaction appropriés. ​

Comment Adobe aborde-t-il les préoccupations liées aux biais dans l’IA, en particulier dans les outils utilisés par une base d’utilisateurs mondiale et diversifiée ? Pouvez-vous donner un exemple de la manière dont un biais a été identifié et atténué dans une fonctionnalité spécifique de l’IA ?

Nous sommes en train d’évoluer en permanence notre évaluation et notre processus d’examen de l’éthique de l’IA en étroite collaboration avec nos équipes de produits et d’ingénierie. ​L’évaluation de l’éthique de l’IA que nous avions il y a quelques années est différente de celle que nous avons maintenant, et je prévois des changements supplémentaires à l’avenir. Cette approche itérative nous permet d’intégrer de nouvelles connaissances et de relever les préoccupations éthiques émergentes à mesure que des technologies comme Firefly évoluent.

Par exemple, lorsque nous avons ajouté une prise en charge multilingue à Firefly, mon équipe a remarqué qu’il ne fournissait pas la sortie prévue et que certains mots étaient bloqués involontairement. Pour atténuer cela, nous avons travaillé en étroite collaboration avec notre équipe d’internationalisation et des locuteurs natifs pour étendre nos modèles et couvrir les termes et les connotations spécifiques au pays. ​

Notre engagement à évoluer notre approche d’évaluation à mesure que la technologie progresse est ce qui aide Adobe à équilibrer l’innovation avec la responsabilité éthique. En favorisant un processus inclusif et réactif, nous nous assurons que nos technologies de l’IA répondent aux normes les plus élevées de transparence et d’intégrité, permettant aux créateurs d’utiliser nos outils avec confiance.

Avec votre implication dans l’élaboration de politiques publiques, comment Adobe navigue-t-il l’intersection entre les réglementations de l’IA en évolution rapide et l’innovation ? Quel rôle Adobe joue-t-il dans l’élaboration de ces réglementations ?

Nous nous engageons activement avec les décideurs politiques et les groupes industriels pour aider à façonner des politiques qui équilibrent l’innovation avec les considérations éthiques. Nos discussions avec les décideurs politiques se concentrent sur notre approche de l’IA et sur l’importance de développer la technologie pour améliorer les expériences humaines. Les régulateurs recherchent des solutions pratiques pour résoudre les défis actuels et, en présentant des cadres comme nos principes d’éthique de l’IA – élaborés en collaboration et appliqués de manière cohérente dans nos fonctionnalités alimentées par l’IA -, nous favorisons des discussions plus productives. Il est crucial de présenter des exemples concrets qui démontrent comment nos principes fonctionnent dans la pratique et de montrer un impact réel, plutôt que de discuter de concepts abstraits.

Quelles considérations éthiques Adobe donne-t-il la priorité lors de la recherche de données de formation, et comment garantit-il que les ensembles de données utilisés sont à la fois éthiques et suffisamment robustes pour les besoins de l’IA ?

Chez Adobe, nous donnons la priorité à plusieurs considérations éthiques clés lors de la recherche de données de formation pour nos modèles d’IA. ​ Dans le cadre de nos efforts pour concevoir Firefly de manière à être sécurisé commercialement, nous l’avons formé sur un ensemble de données de contenu sous licence telles que Adobe Stock, et du contenu du domaine public où les droits d’auteur ont expiré. Nous nous sommes également concentrés sur la diversité des ensembles de données pour éviter de renforcer les préjugés et les stéréotypes nuisibles dans les sorties de notre modèle. Pour y parvenir, nous collaborons avec des équipes et des experts diversifiés pour examiner et sélectionner les données. En nous conformant à ces pratiques, nous nous efforçons de créer des technologies de l’IA qui ne sont pas seulement puissantes et efficaces, mais également éthiques et inclusives pour tous les utilisateurs. ​

À votre avis, combien est-il important d’être transparent sur la manière dont les systèmes d’IA d’Adobe, tels que Firefly, sont formés et quels types de données sont utilisés ?

La transparence est cruciale lorsqu’il s’agit de communiquer aux utilisateurs comment les fonctionnalités d’IA générative d’Adobe, telles que Firefly, sont formées, y compris les types de données utilisés. Cela instaure la confiance et la confiance dans nos technologies en garantissant que les utilisateurs comprennent les processus derrière notre développement d’IA générative. En étant ouverts sur les sources de données, les méthodologies de formation et les garanties éthiques que nous avons mises en place, nous donnons aux utilisateurs la possibilité de prendre des décisions éclairées sur la manière dont ils interagissent avec nos produits. Cette transparence est non seulement conforme à nos principes fondamentaux d’éthique de l’IA, mais elle favorise également une relation de collaboration avec nos utilisateurs.

Alors que l’IA continue de se développer, en particulier l’IA générative, quels défis éthiques les entreprises comme Adobe seront-elles confrontées à l’avenir ?

Je pense que les défis éthiques les plus importants pour les entreprises comme Adobe sont d’atténuer les biais préjudiciables, de garantir l’inclusivité et de maintenir la confiance des utilisateurs. ​La possibilité pour l’IA de perpétuer involontairement des stéréotypes ou de générer du contenu préjudiciable et trompeur est une préoccupation qui nécessite une vigilance constante et des garanties solides. Par exemple, avec les progrès récents de l’IA générative, il est plus facile que jamais pour les “acteurs malveillants” de créer du contenu trompeur, de diffuser des informations erronées et de manipuler l’opinion publique, sapant ainsi la confiance et la transparence.

Pour y remédier, Adobe a fondé l’Initiative d’authenticité du contenu (CAI) en 2019 pour créer un écosystème numérique plus fiable et plus transparent pour les consommateurs. La CAI met en œuvre notre solution pour établir la confiance en ligne – appelée Informations sur le contenu. Les Informations sur le contenu comprennent des “ingrédients” ou des informations importantes telles que le nom du créateur, la date de création d’une image, les outils utilisés pour créer une image et les modifications apportées au fil du chemin. Cela permet aux utilisateurs de créer une chaîne de confiance et d’authenticité numérique.

Alors que l’IA générative continue de se développer, il sera encore plus important de promouvoir l’adoption généralisée des Informations sur le contenu pour rétablir la confiance dans le contenu numérique.

Quels conseils donneriez-vous à d’autres organisations qui commencent à réfléchir à des cadres éthiques pour le développement de l’IA ?

Mon conseil serait de commencer par établir des principes clairs, simples et pratiques qui peuvent guider vos efforts. Souvent, je vois des entreprises ou des organisations se concentrer sur ce qui semble bien en théorie, mais leurs principes ne sont pas pratiques. La raison pour laquelle nos principes ont résisté à l’épreuve du temps est qu’ils ont été conçus pour être actionnables. Lorsque nous évaluons nos fonctionnalités alimentées par l’IA, nos équipes de produits et d’ingénierie savent ce que nous recherchons et quels sont les normes que nous attendons d’elles.

Je recommanderais également aux organisations de s’engager dans ce processus en sachant qu’il s’agit d’un processus itératif. Je ne sais pas ce qu’Adobe va inventer dans cinq ou dix ans, mais je sais que nous allons évoluer notre évaluation pour répondre à ces innovations et aux commentaires que nous recevons.

Merci pour cette excellente interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Adobe.