Grace Yee, Director Senior de Inovație Etică (Etica și Accesibilitate AI) la Adobe – Seria de Interviuri

Grace Yee este Director Senior de Inovație Etică (Etica și Accesibilitate AI) la Adobe, conducând lucrări globale, la nivel de organizație, în jurul eticii și dezvoltând procese, instrumente, training-uri și alte resurse pentru a ajuta la asigurarea faptului că inovațiile de top ale Adobe în domeniul inteligenței artificiale continuă să evolueze în conformitate cu valorile și principiile etice de bază ale Adobe. Grace promovează angajamentul Adobe de a construi și utiliza tehnologia în mod responsabil, centrándu-se pe etică și incluzivitate în toată lucrarea companiei de dezvoltare a inteligenței artificiale. Ca parte a acestei lucrări, Grace supraveghează Comitetul de Etică AI și Consiliul de Revizie al Adobe, care face recomandări pentru a ajuta la ghidarea echipelor de dezvoltare ale Adobe și revizuiește noi caracteristici și produse AI pentru a se asigura că acestea respectă principiile de responsabilitate, răspundere și transparență ale Adobe. Aceste principii ajută la asigurarea faptului că aducem caracteristicile noastre alimentate de inteligență artificială pe piață, în timp ce minimizăm rezultatele dăunătoare și părtinice. Grace lucrează, de asemenea, cu echipa de politici pentru a promova advocacy și a ajuta la modelarea politicii publice, legilor și reglementărilor legate de inteligența artificială, în beneficiul societății.

Ca parte a angajamentului Adobe de a asigura accesibilitatea, Grace ajută la asigurarea faptului că produsele Adobe sunt incluzive și accesibile pentru toți utilizatorii, astfel încât oricine să poată crea, interacționa și se implica în experiențe digitale. Sub conducerea sa, Adobe lucrează cu grupuri guvernamentale, asociații comerciale și comunități de utilizatori pentru a promova și avansa politici și standarde de accesibilitate, conducând la soluții industriale cu impact.

Puteți să ne spuneți despre călătoria Adobe de-a lungul ultimilor cinci ani în modelarea eticii inteligenței artificiale? Care sunt principalele repere care au definit această evoluție, în special în fața avansurilor rapide, cum ar fi inteligența artificială generativă?

Acum cinci ani, am formalizat procesul nostru de etică a inteligenței artificiale prin stabilirea principiilor noastre de etică a inteligenței artificiale, și anume responsabilitate, răspundere și transparență, care servesc ca fundament pentru procesul nostru de guvernanță a eticii inteligenței artificiale. Am adunat o echipă diversă și transfuncțională de angajați Adobe din întreaga lume pentru a dezvolta principii acționabile care pot rezista testului timpului.

De acolo, am dezvoltat un proces de revizuire robust pentru a identifica și a mitiga riscurile și părtinirile potențiale de la începutul ciclului de dezvoltare a inteligenței artificiale. Această evaluare multi-participantă ne-a ajutat să identificăm și să abordăm caracteristicile și produsele care ar putea perpetua prejudecăți și stereotipuri dăunătoare.

Pe măsură ce a apărut inteligența artificială generativă, am adaptat evaluarea noastră de etică a inteligenței artificiale pentru a aborda noi provocări etice. Acest proces iterativ ne-a permis să rămânem înaintea potențialelor probleme, asigurându-ne că tehnologiile noastre de inteligență artificială sunt dezvoltate și implementate în mod responsabil. Angajamentul nostru față de învățarea continuă și colaborarea cu diverse echipe din cadrul companiei a fost esențial pentru menținerea relevanței și eficacității programului nostru de etică a inteligenței artificiale, îmbunătățind în cele din urmă experiența pe care o oferim clienților noștri și promovând incluzivitatea.

Cum se traduc principiile de etică a inteligenței artificiale ale Adobe – responsabilitate, răspundere și transparență – în operațiunile zilnice? Puteți să împărtășiți exemple de modul în care aceste principii au ghidat proiectele de inteligență artificială ale Adobe?

Noi ne conformăm angajamentelor noastre de etică a inteligenței artificiale în caracteristicile noastre alimentate de inteligență artificială prin implementarea unor practici de inginerie robuste care asigură inovarea responsabilă, în timp ce continuăm să colectăm feedback de la angajații și clienții noștri pentru a permite ajustări necesare.

Noi caracteristici de inteligență artificială sunt supuse unei evaluări amănunțite pentru a identifica și a mitiga părtinirile și riscurile potențiale. Când am lansat Adobe Firefly, familia noastră de modele de inteligență artificială generativă, a fost evaluată pentru a preveni generarea de conținut care ar putea perpetua stereotipuri dăunătoare. Această evaluare este un proces iterativ care evoluează pe baza colaborării strânse cu echipele de produse, integrând feedback și învățăminte pentru a rămâne relevant și eficient. De asemenea, efectuăm exerciții de descoperire a riscurilor cu echipele de produse pentru a înțelege impacturile potențiale și a proiecta mecanisme de testare și feedback adecvate.

Cum abordează Adobe preocupările legate de părtinire în inteligența artificială, în special în instrumentele utilizate de o bază de utilizatori globală și diversă? Puteți să oferiți un exemplu de modul în care a fost identificată și mitigată o părtinire într-o caracteristică specifică de inteligență artificială?

Suntem într-un proces continuu de evoluție a evaluării și a procesului nostru de revizuire a eticii inteligenței artificiale, în strânsă colaborare cu echipele noastre de produse și inginerie. Evaluarea noastră de etică a inteligenței artificiale de acum câțiva ani este diferită de cea pe care o avem acum, și anticipez schimbări suplimentare în viitor. Acest abordare iterativă ne permite să integrăm noi învățăminte și să abordăm preocupările etice emergente pe măsură ce tehnologii precum Firefly evoluează.

De exemplu, atunci când am adăugat suport multilingv pentru Firefly, echipa mea a observat că nu furniza rezultatele așteptate și că unele cuvinte erau blocate neintenționat. Pentru a mitiga acest lucru, am lucrat îndeaproape cu echipa noastră de internaționalizare și cu vorbitori nativi pentru a extinde modelele noastre și a acoperi termeni și conotații specifice țărilor.

Angajamentul nostru de a evolua abordarea noastră de evaluare pe măsură ce tehnologia avansează este ceea ce ne ajută pe Adobe să echilibreze inovarea cu responsabilitatea etică. Prin promovarea unui proces incluziv și răspunzător, ne asigurăm că tehnologiile noastre de inteligență artificială îndeplinesc cele mai înalte standarde de transparență și integritate, permițând creatorilor să utilizeze instrumentele noastre cu încredere.

În calitate de persoană implicată în modelarea politicii publice, cum navighează Adobe la intersecția dintre reglementările de inteligență artificială în schimbare rapidă și inovare? Care este rolul jucat de Adobe în modelarea acestor reglementări?

Noi ne implicăm activ cu factorii de decizie și grupurile industriale pentru a ajuta la modelarea politicii care echilibrează inovarea cu considerații etice. Discuțiile noastre cu factorii de decizie se concentrează pe abordarea noastră față de inteligența artificială și importanța dezvoltării tehnologiei pentru a îmbunătăți experiențele umane. Regulatorii caută soluții practice pentru a aborda provocările actuale, și prin prezentarea unor cadre precum principiile noastre de etică a inteligenței artificiale – dezvoltate în mod colaborativ și aplicate consecvent în caracteristicile noastre alimentate de inteligență artificială – promovăm discuții mai productive. Este crucial să aducem exemple concrete la masa discuțiilor, care demonstrează modul în care principiile noastre funcționează în practică și să arătăm impactul real, în loc de a discuta concepte abstracte.

Care sunt considerațiile etice pe care Adobe le prioritizează atunci când obține date de antrenament, și cum asigură că seturile de date utilizate sunt atât etice, cât și suficient de robuste pentru nevoile inteligenței artificiale?

La Adobe, prioritizăm mai multe considerații etice cheie atunci când obținem date de antrenament pentru modelele noastre de inteligență artificială. Ca parte a eforturilor noastre de a proiecta Firefly pentru a fi sigur din punct de vedere comercial, am antrenat-o pe un set de date de conținut licențiat, cum ar fi Adobe Stock, și conținut din domeniul public unde drepturile de autor au expirat. De asemenea, ne-am concentrat pe diversitatea seturilor de date pentru a evita consolidarea prejudecăților și stereotipurilor dăunătoare în ieșirile modelului nostru. Pentru a realiza acest lucru, colaborăm cu echipe diverse și experți pentru a revizui și a curăța datele. Prin respectarea acestor practici, ne străduim să creăm tehnologii de inteligență artificială care nu numai că sunt puternice și eficiente, dar și etice și incluzive pentru toți utilizatorii.

Cât de importantă este transparența în comunicarea către utilizatori a modului în care sistemele de inteligență artificială ale Adobe, cum ar fi Firefly, sunt antrenate și ce fel de date sunt utilizate?

Transparența este crucială atunci când vine vorba de comunicarea către utilizatori a modului în care caracteristicile noastre de inteligență artificială generativă, cum ar fi Firefly, sunt antrenate, inclusiv tipurile de date utilizate. Acest lucru construiește încredere și încredere în tehnologiile noastre, asigurându-se că utilizatorii înțeleg procesele din spatele dezvoltării noastre de inteligență artificială generativă. Prin a fi deschiși cu privire la sursele noastre de date, metodologiile de antrenament și garanțiile etice pe care le avem în vigoare, împuternicim utilizatorii să ia decizii informate despre modul în care interacționează cu produsele noastre. Această transparență nu numai că se aliniază cu principiile noastre de bază de etică a inteligenței artificiale, dar promovează și o relație de colaborare cu utilizatorii noștri.

Pe măsură ce inteligența artificială continuă să se extindă, în special inteligența artificială generativă, ce credeți că vor fi cele mai semnificative provocări etice cu care se vor confrunta companiile precum Adobe în viitorul apropiat?

Cred că cele mai semnificative provocări etice pentru companii precum Adobe sunt mitigarea prejudecăților dăunătoare, asigurarea incluzivității și menținerea încrederii utilizatorilor. Potențialul inteligenței artificiale de a perpetua involuntar stereotipuri sau de a genera conținut dăunător și înșelător este o preocupare care necesită vigilență și măsuri robuste de siguranță. De exemplu, odată cu progresele recente în inteligența artificială generativă, este mai ușor ca “actorii răi” să creeze conținut înșelător, să răspândească informații false și să manipuleze opinia publică, subminând încrederea și transparența.

Pentru a aborda acest lucru, Adobe a fondat Inițiativa de Autenticitate a Conținutului (CAI) în 2019 pentru a construi un mediu digital mai de încredere și transparent pentru consumatori. CAI implementează soluția noastră pentru a construi încredere online – numită Credenționale de Conținut. Credențialele de Conținut includ “ingrediente” sau informații importante, cum ar fi numele creatorului, data la care a fost creată o imagine, uneltele utilizate pentru a crea imaginea și orice editări care au fost efectuate pe parcurs. Acest lucru împuternicește utilizatorii să creeze o lanț de încredere și autenticitate digitală.

Pe măsură ce inteligența artificială generativă continuă să se extindă, va fi și mai important să promovăm adoptarea pe scară largă a Credențialelor de Conținut pentru a restabili încrederea în conținutul digital.

Ce sfat ați da altor organizații care abia încep să gândească la cadre etice pentru dezvoltarea inteligenței artificiale?

Sfatul meu ar fi să începeți prin stabilirea unor principii clare, simple și practice care pot ghida eforturile voastre. Adesea, văd companii sau organizații care se concentrează pe ceea ce arată bine în teorie, dar principiile lor nu sunt practice. Motivul pentru care principiile noastre au rezistat testului timpului este pentru că le-am proiectat pentru a fi acționabile. Când evaluăm caracteristicile noastre alimentate de inteligență artificială, echipele noastre de produse și inginerie știu ce căutăm și care sunt standardele pe care ne așteptăm să le respecte.

Aș recomanda, de asemenea, organizațiilor să vină în acest proces știind că va fi iterativ. Nu știu ce va inventa Adobe în cinci sau zece ani, dar știu că vom evolua evaluarea noastră pentru a se potrivi cu aceste inovații și feedback-ul pe care îl primim.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe ar trebui să viziteze Adobe.