Grace Yee, Senior Director of Ethical Innovation (AI Ethics and Accessibility) at Adobe – Intervista della serie

Grace Yee è il Senior Director of Ethical Innovation (AI Ethics and Accessibility) di Adobe (ADBE ), dove guida il lavoro globale e organizzativo sull’etica e sviluppa processi, strumenti, formazioni e altre risorse per aiutare a garantire che le innovazioni AI di Adobe continuino a evolversi in linea con i valori e i principi etici fondamentali di Adobe. Grace promuove l’impegno di Adobe per costruire e utilizzare la tecnologia in modo responsabile, ponendo l’etica e l’inclusività al centro di tutto il lavoro di sviluppo di AI. In questo ambito, Grace sovraintende al Comitato di etica AI e al Consiglio di revisione di Adobe, che fornisce raccomandazioni per aiutare a guidare i team di sviluppo di Adobe e valuta le nuove funzionalità e prodotti AI per garantire che rispettino i principi di responsabilità, trasparenza e affidabilità di Adobe. Questi principi aiutano a garantire che portiamo le nostre funzionalità AI sul mercato mitigando risultati dannosi e prevenendo pregiudizi. Grace lavora inoltre con il team di politiche per promuovere l’advocacy e aiutare a plasmare le politiche pubbliche, le leggi e i regolamenti sull’AI per il beneficio della società.

Nell’ambito dell’impegno di Adobe per l’accessibilità, Grace aiuta a garantire che i prodotti di Adobe siano inclusivi e accessibili a tutti gli utenti, in modo che chiunque possa creare, interagire e impegnarsi con esperienze digitali. Sotto la sua guida, Adobe lavora con gruppi governativi, associazioni commerciali e comunità di utenti per promuovere e avanzare le politiche e gli standard di accessibilità, guidando soluzioni di settore impattanti.

Ci può raccontare del percorso di Adobe negli ultimi cinque anni nella definizione dell’etica dell’AI? Quali sono stati i principali punti di svolta in questa evoluzione, soprattutto di fronte ai rapidi progressi come l’AI generativa?

Cinque anni fa, abbiamo formalizzato il nostro processo di etica dell’AI stabilendo i nostri principi di etica dell’AI di responsabilità, trasparenza e affidabilità, che servono da fondamento per il nostro processo di governance dell’etica dell’AI. Abbiamo riunito un team diversificato e multifunzionale di dipendenti Adobe da tutto il mondo per sviluppare principi azionabili che possano resistere alla prova del tempo.

Da lì, abbiamo sviluppato un processo di revisione robusto per identificare e mitigare i potenziali rischi e pregiudizi precocemente nel ciclo di sviluppo dell’AI. Questa valutazione a più parti ci ha aiutato a identificare e affrontare funzionalità e prodotti che potrebbero perpetuare pregiudizi e stereotipi dannosi.

Con l’emergere dell’AI generativa, abbiamo adattato la nostra valutazione dell’etica dell’AI per affrontare nuove sfide etiche. Questo processo iterativo ci ha permesso di stare al passo con potenziali problemi, garantendo che le nostre tecnologie AI siano sviluppate e schierate in modo responsabile. Il nostro impegno per l’apprendimento continuo e la collaborazione con vari team in tutta l’azienda è stato cruciale nel mantenere la rilevanza e l’efficacia del nostro programma di etica dell’AI, migliorando in definitiva l’esperienza che offriamo ai nostri clienti e promuovendo l’inclusività.

Come si traducono i principi di etica dell’AI di Adobe – responsabilità, trasparenza e affidabilità – nelle operazioni quotidiane? Può condividere esempi di come questi principi abbiano guidato i progetti AI di Adobe?

Ci atteniamo agli impegni di etica dell’AI di Adobe nelle nostre funzionalità AI potenziate implementando pratiche di ingegneria robuste che garantiscano l’innovazione responsabile, mentre continuiamo a raccogliere feedback dai nostri dipendenti e clienti per consentire gli aggiustamenti necessari.

Le nuove funzionalità AI subiscono una valutazione etica approfondita per identificare e mitigare potenziali pregiudizi e rischi. Quando abbiamo introdotto Adobe Firefly, la nostra famiglia di modelli AI generativi, è stata valutata per mitigare la generazione di contenuti che potrebbero perpetuare stereotipi dannosi. Questa valutazione è un processo iterativo che evolve sulla base della stretta collaborazione con i team di prodotto, incorporando feedback e apprendimenti per rimanere rilevanti ed efficaci. Eseguiamo anche esercizi di scoperta dei rischi con i team di prodotto per comprendere gli impatti potenziali e progettare meccanismi di test e feedback appropriati.

Come affronta Adobe le preoccupazioni relative ai pregiudizi nell’AI, soprattutto negli strumenti utilizzati da una base di utenti globale e diversificata? Potrebbe fornire un esempio di come un pregiudizio sia stato identificato e mitigato in una specifica funzionalità AI?

Stiamo continuamente evolvendo la nostra valutazione dell’etica dell’AI e il processo di revisione in stretta collaborazione con i nostri team di prodotto e ingegneria. La valutazione dell’etica dell’AI che avevamo alcuni anni fa è diversa da quella che abbiamo adesso, e mi aspetto ulteriori cambiamenti in futuro. Questo approccio iterativo ci consente di incorporare nuovi apprendimenti e affrontare preoccupazioni etiche emergenti man mano che tecnologie come Firefly evolvono.

Ad esempio, quando abbiamo aggiunto il supporto multilingue a Firefly, il mio team ha notato che non stava fornendo l’output desiderato e alcune parole venivano bloccate in modo non intenzionale. Per mitigare questo, abbiamo lavorato a stretto contatto con il nostro team di internazionalizzazione e con parlanti nativi per espandere i nostri modelli e coprire termini e connotazioni specifici dei paesi.

Il nostro impegno per evolvere il nostro approccio di valutazione man mano che la tecnologia avanza è ciò che aiuta Adobe a bilanciare l’innovazione con la responsabilità etica. Fostering un processo inclusivo e rispondente, garantiamo che le nostre tecnologie AI soddisfino gli standard più alti di trasparenza e integrità, consentendo ai creatori di utilizzare i nostri strumenti con fiducia.

Con il suo coinvolgimento nella definizione delle politiche pubbliche, come naviga Adobe l’intersezione tra regolamentazioni AI in rapida evoluzione e innovazione? Qual è il ruolo di Adobe nella definizione di queste regolamentazioni?

Ci impegniamo attivamente con i responsabili delle politiche e i gruppi di settore per aiutare a plasmare le politiche che bilanciano l’innovazione con le considerazioni etiche. Le nostre discussioni con i responsabili delle politiche si concentrano sul nostro approccio all’AI e sull’importanza di sviluppare la tecnologia per migliorare le esperienze umane. I regolatori cercano soluzioni pratiche per affrontare le sfide attuali e, presentando framework come i nostri principi di etica dell’AI – sviluppati in collaborazione e applicati coerentemente nelle nostre funzionalità AI potenziate – favoriamo discussioni più produttive. È cruciale portare esempi concreti al tavolo che dimostrino come i nostri principi funzionino nella pratica e mostrino un impatto reale, piuttosto che discutere concetti astratti.

Quali considerazioni etiche priorizza Adobe quando si procura dati di training, e come garantisce che i set di dati utilizzati siano sia etici che sufficientemente robusti per le esigenze dell’AI?

In Adobe, priorizziamo diverse considerazioni etiche chiave quando si procura dati di training per i nostri modelli AI. Come parte del nostro sforzo per progettare Firefly in modo da essere commercialmente sicuro, lo abbiamo addestrato su un set di dati di contenuti con licenza come Adobe Stock e contenuti di pubblico dominio dove il copyright è scaduto. Ci siamo anche concentrati sulla diversità dei set di dati per evitare di rafforzare pregiudizi e stereotipi dannosi negli output del modello. Per raggiungere questo, collaboriamo con team diversificati e esperti per esaminare e curare i dati. Attenendoci a queste pratiche, ci impegniamo a creare tecnologie AI che non siano solo potenti ed efficaci, ma anche etiche e inclusive per tutti gli utenti.

Secondo lei, quanto è importante la trasparenza nel comunicare agli utenti come vengono addestrati i sistemi AI di Adobe, come Firefly, e quali tipi di dati vengono utilizzati?

La trasparenza è cruciale quando si tratta di comunicare agli utenti come vengono addestrati i nostri sistemi AI generativi, come Firefly, inclusi i tipi di dati utilizzati. Costruisce fiducia e fiducia nelle nostre tecnologie, garantendo che gli utenti comprendano i processi dietro lo sviluppo dell’AI generativa. Essendo aperti sulle nostre fonti di dati, metodologie di training e sulle salvaguardie etiche che abbiamo in atto, consentiamo agli utenti di prendere decisioni informate su come interagire con i nostri prodotti. Questa trasparenza non solo si allinea con i nostri principi di etica dell’AI, ma favorisce anche una relazione collaborativa con i nostri utenti.

Mentre l’AI continua a crescere, soprattutto l’AI generativa, quali saranno le sfide etiche più significative che le aziende come Adobe affronteranno nel prossimo futuro?

Credo che le sfide etiche più significative per aziende come Adobe siano mitigare pregiudizi dannosi, garantire l’inclusività e mantenere la fiducia degli utenti. La possibilità che l’AI perpetui involontariamente stereotipi o generi contenuti dannosi e fuorvianti è una preoccupazione che richiede una vigilanza costante e salvaguardie robuste. Ad esempio, con i recenti progressi nell’AI generativa, è più facile che mai per “attori cattivi” creare contenuti ingannevoli, diffondere disinformazione e manipolare l’opinione pubblica, minando la fiducia e la trasparenza.

Per affrontare questo, Adobe ha fondato l’iniziativa Content Authenticity (CAI) nel 2019 per costruire un ecosistema digitale più affidabile e trasparente per i consumatori. La CAI implementa la nostra soluzione per costruire la fiducia online – chiamata Content Credentials. I Content Credentials includono “ingredienti” o informazioni importanti come il nome del creatore, la data in cui un’immagine è stata creata, quali strumenti sono stati utilizzati per creare un’immagine e quali modifiche sono state apportate lungo la strada. Ciò consente agli utenti di creare una catena di fiducia e autenticità digitale.

Mentre l’AI generativa continua a crescere, sarà ancora più importante promuovere l’adozione diffusa di Content Credentials per ripristinare la fiducia nel contenuto digitale.

Qual è il consiglio che darebbe ad altre organizzazioni che stanno solo iniziando a pensare a framework etici per lo sviluppo dell’AI?

Il mio consiglio sarebbe quello di iniziare stabilendo principi chiari, semplici e pratici che possano guidare gli sforzi. Spesso vedo aziende o organizzazioni concentrate su ciò che sembra buono in teoria, ma i loro principi non sono pratici. Il motivo per cui i nostri principi hanno resistito alla prova del tempo è che li abbiamo progettati per essere azionabili. Quando valutiamo le nostre funzionalità AI, i nostri team di prodotto e ingegneria sanno cosa stiamo cercando e quali standard ci aspettiamo da loro.

Consiglierei inoltre alle organizzazioni di entrare in questo processo sapendo che sarà iterativo. Potrei non sapere cosa inventerà Adobe tra cinque o dieci anni, ma so che evolveremo la nostra valutazione per incontrare quelle innovazioni e il feedback che riceviamo.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Adobe.