Grace Yee, Directrice principale de l’innovation éthique (Éthique et accessibilité de l’IA) chez Adobe – Série d’entretiens

Grace Yee est la directrice principale de l’innovation éthique (Éthique et accessibilité de l’IA) chez Adobe, qui pilote les travaux mondiaux et organisationnels autour de l’éthique et développe des processus, des outils, des formations et d’autres ressources pour aider à garantir que les innovations de pointe de l’IA d’Adobe continuent à évoluer en ligne avec les valeurs fondamentales et les principes éthiques d’Adobe. Grace fait progresser l’engagement d’Adobe à construire et à utiliser la technologie de manière responsable, en mettant l’accent sur l’éthique et l’inclusivité dans tout le travail de développement de l’IA de l’entreprise. Dans le cadre de ce travail, Grace supervise le Comité d’éthique de l’IA et le Conseil de révision d’Adobe, qui font des recommandations pour aider à guider les équipes de développement d’Adobe et examinent les nouvelles fonctionnalités et produits de l’IA pour garantir qu’ils répondent aux principes d’Adobe en matière de responsabilité, de responsabilité et de transparence. Ces principes aident à garantir que nous apportons nos fonctionnalités alimentées par l’IA sur le marché tout en atténuant les résultats préjudiciables et biaisés.

Dans le cadre de l’engagement d’Adobe en faveur de l’accessibilité, Grace s’assure que les produits d’Adobe sont inclusifs et accessibles à tous les utilisateurs, afin que chacun puisse créer, interagir et s’engager dans des expériences numériques. Sous sa direction, Adobe travaille avec des groupes gouvernementaux, des associations commerciales et des communautés d’utilisateurs pour promouvoir et faire progresser les politiques et les normes d’accessibilité, en conduisant à des solutions industrielles efficaces.

Pouvez-vous nous parler du parcours d’Adobe au cours des cinq dernières années dans l’élaboration de l’éthique de l’IA ? Quels sont les jalons clés qui ont défini cette évolution, en particulier face aux progrès rapides comme l’IA générative ?

Il y a cinq ans, nous avons formalisé notre processus d’éthique de l’IA en établissant nos principes d’éthique de l’IA d’accountabilité, de responsabilité et de transparence, qui servent de fondement à notre processus de gouvernance de l’éthique de l’IA. Nous avons réuni une équipe diversifiée et pluridisciplinaire d’employés d’Adobe du monde entier pour élaborer des principes actionnables qui puissent résister à l’épreuve du temps.

À partir de là, nous avons développé un processus d’examen robuste pour identifier et atténuer les risques et les biais potentiels dès le début du cycle de développement de l’IA. Cette évaluation multiforme nous a aidés à identifier et à résoudre les fonctionnalités et les produits qui pourraient perpétuer des préjugés et des stéréotypes nuisibles.

Lorsque l’IA générative est apparue, nous avons adapté notre évaluation de l’éthique de l’IA pour répondre à de nouveaux défis éthiques. Ce processus itératif nous a permis de rester à la pointe des problèmes potentiels, en garantissant que nos technologies de l’IA sont développées et déployées de manière responsable. Notre engagement en faveur de l’apprentissage continu et de la collaboration avec les différentes équipes de l’entreprise a été crucial pour maintenir la pertinence et l’efficacité de notre programme d’éthique de l’IA, en améliorant en fin de compte l’expérience que nous offrons à nos clients et en promouvant l’inclusivité.

Comment les principes d’éthique de l’IA d’Adobe – l’accountabilité, la responsabilité et la transparence – se traduisent-ils dans les opérations quotidiennes ? Pouvez-vous partager des exemples de la manière dont ces principes ont guidé les projets d’IA d’Adobe ?

Nous nous conformons aux engagements d’éthique de l’IA d’Adobe dans nos fonctionnalités alimentées par l’IA en mettant en œuvre des pratiques d’ingénierie robustes qui garantissent l’innovation responsable, tout en récoltant en continu les commentaires de nos employés et de nos clients pour permettre les ajustements nécessaires.

Les nouvelles fonctionnalités de l’IA font l’objet d’une évaluation approfondie de l’éthique pour identifier et atténuer les biais et les risques potentiels. Lorsque nous avons introduit Adobe Firefly, notre famille de modèles d’IA générative, elle a fait l’objet d’une évaluation pour atténuer la génération de contenus qui pourraient perpétuer des stéréotypes nuisibles. Cette évaluation est un processus itératif qui évolue en fonction d’une collaboration étroite avec les équipes de produits, en intégrant les commentaires et les enseignements pour rester pertinent et efficace. Nous effectuons également des exercices de découverte des risques avec les équipes de produits pour comprendre les impacts potentiels et concevoir des mécanismes de test et de rétroaction appropriés.

Comment Adobe aborde-t-il les préoccupations liées aux biais dans l’IA, en particulier dans les outils utilisés par une base d’utilisateurs mondiale et diversifiée ? Pouvez-vous donner un exemple de la manière dont un biais a été identifié et atténué dans une fonctionnalité d’IA spécifique ?

Nous sommes en train d’évoluer continuellement notre évaluation et notre processus d’examen de l’éthique de l’IA en étroite collaboration avec nos équipes de produits et d’ingénierie. L’évaluation de l’éthique de l’IA que nous avions il y a quelques années est différente de celle que nous avons maintenant, et je prévois des changements supplémentaires à l’avenir. Cette approche itérative nous permet d’intégrer de nouvelles connaissances et de répondre aux préoccupations éthiques émergentes à mesure que des technologies comme Firefly évoluent.

Par exemple, lorsque nous avons ajouté une prise en charge multilingue à Firefly, mon équipe a remarqué qu’elle ne fournissait pas le résultat escompté et que certains mots étaient bloqués involontairement. Pour atténuer cela, nous avons travaillé en étroite collaboration avec notre équipe d’internationalisation et des locuteurs natifs pour étendre nos modèles et couvrir les termes et les connotations spécifiques à chaque pays.

Notre engagement à évoluer notre approche d’évaluation à mesure que la technologie progresse est ce qui aide Adobe à équilibrer l’innovation avec la responsabilité éthique. En favorisant un processus inclusif et réactif, nous nous assurons que nos technologies de l’IA répondent aux normes les plus élevées de transparence et d’intégrité, permettant aux créateurs d’utiliser nos outils avec confiance.

Avec votre implication dans l’élaboration des politiques publiques, comment Adobe navigue-t-il à l’intersection des réglementations de l’IA en constante évolution et de l’innovation ? Quel rôle Adobe joue-t-il dans l’élaboration de ces réglementations ?

Nous nous engageons activement avec les décideurs politiques et les groupes industriels pour aider à élaborer des politiques qui équilibrent l’innovation avec les considérations éthiques. Nos discussions avec les décideurs politiques portent sur notre approche de l’IA et sur l’importance de développer la technologie pour améliorer les expériences humaines. Les régulateurs recherchent des solutions pratiques pour résoudre les défis actuels et, en présentant des cadres comme nos principes d’éthique de l’IA – élaborés de manière collaborative et appliqués de manière cohérente dans nos fonctionnalités alimentées par l’IA -, nous favorisons des discussions plus productives. Il est crucial de présenter des exemples concrets pour montrer comment nos principes fonctionnent dans la pratique et pour montrer un impact réel, plutôt que de discuter de concepts abstraits.

Quelles considérations éthiques Adobe donne-t-il la priorité lors de la recherche de données de formation, et comment s’assure-t-il que les jeux de données utilisés sont à la fois éthiques et suffisamment robustes pour les besoins de l’IA ?

Chez Adobe, nous donnons la priorité à plusieurs considérations éthiques clés lors de la recherche de données de formation pour nos modèles d’IA. Dans le cadre de nos efforts pour concevoir Firefly de manière à être sécurisée pour une utilisation commerciale, nous l’avons formée sur un jeu de données de contenu sous licence tel que Adobe Stock, et sur du contenu de domaine public où les droits d’auteur ont expiré. Nous nous sommes également concentrés sur la diversité des jeux de données pour éviter de renforcer des préjugés et des stéréotypes nuisibles dans les sorties de notre modèle. Pour atteindre cet objectif, nous collaborons avec des équipes diversifiées et des experts pour examiner et curer les données. En respectant ces pratiques, nous nous efforçons de créer des technologies de l’IA qui sont non seulement puissantes et efficaces, mais également éthiques et inclusives pour tous les utilisateurs.

À votre avis, combien est-il important d’être transparent sur la manière dont les systèmes d’IA d’Adobe, tels que Firefly, sont formés et quels types de données sont utilisés ?

La transparence est cruciale lorsqu’il s’agit de communiquer aux utilisateurs la manière dont les fonctionnalités d’IA générative d’Adobe, telles que Firefly, sont formées, y compris les types de données utilisés. Cela crée la confiance et la confiance dans nos technologies en garantissant que les utilisateurs comprennent les processus derrière le développement de notre IA générative. En étant ouverts sur nos sources de données, nos méthodologies de formation et les garanties éthiques que nous avons mises en place, nous permettons aux utilisateurs de prendre des décisions éclairées sur la manière dont ils interagissent avec nos produits. Cette transparence ne correspond pas seulement à nos principes fondamentaux d’éthique de l’IA, mais favorise également une relation de collaboration avec nos utilisateurs.

À mesure que l’IA continue de progresser, en particulier l’IA générative, quels défis éthiques les entreprises comme Adobe vont-elles rencontrer à l’avenir ?

Je crois que les défis éthiques les plus importants pour les entreprises comme Adobe sont d’atténuer les préjugés nuisibles, de garantir l’inclusivité et de maintenir la confiance des utilisateurs. La possibilité pour l’IA de perpétuer involontairement des stéréotypes ou de générer du contenu nuisible et trompeur est une préoccupation qui nécessite une vigilance constante et des garanties solides. Par exemple, avec les progrès récents de l’IA générative, il est plus facile que jamais pour les “mauvais acteurs” de créer du contenu trompeur, de diffuser des informations fausses et de manipuler l’opinion publique, sapant ainsi la confiance et la transparence.

Pour répondre à cela, Adobe a fondé l’Initiative d’authenticité du contenu (CAI) en 2019 pour construire un écosystème numérique plus fiable et transparent pour les consommateurs. La CAI met en œuvre notre solution pour construire la confiance en ligne – appelée Informations de contenu. Les Informations de contenu comprennent des “ingrédients” ou des informations importantes telles que le nom du créateur, la date de création d’une image, les outils utilisés pour créer une image et les modifications apportées au fil du chemin. Cela permet aux utilisateurs de créer une chaîne de confiance et d’authenticité numérique.

À mesure que l’IA générative continue de progresser, il sera encore plus important de promouvoir l’adoption généralisée des Informations de contenu pour restaurer la confiance dans le contenu numérique.

Quels conseils donneriez-vous à d’autres organisations qui commencent seulement à réfléchir aux cadres éthiques pour le développement de l’IA ?

Mon conseil serait de commencer par établir des principes clairs, simples et pratiques qui puissent guider vos efforts. Souvent, je vois des entreprises ou des organisations se concentrer sur ce qui semble bien en théorie, mais leurs principes ne sont pas pratiques. La raison pour laquelle nos principes ont résisté à l’épreuve du temps est qu’ils ont été conçus pour être actionnables. Lorsque nous évaluons nos fonctionnalités alimentées par l’IA, nos équipes de produits et d’ingénierie savent ce que nous recherchons et quels sont les normes que nous attendons d’elles.

Je recommanderais également aux organisations d’aborder ce processus en sachant qu’il va être itératif. Je ne sais peut-être pas ce qu’Adobe va inventer dans cinq ou dix ans, mais je sais que nous allons évoluer notre évaluation pour répondre à ces innovations et aux commentaires que nous recevons.

Je vous remercie pour cette excellente interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Adobe.