Grace Yee, Senior Director of Ethical Innovation (AI-etik og tilgængelighed) hos Adobe – Interview-serie

Grace Yee er Senior Director of Ethical Innovation (AI-etik og tilgængelighed) hos Adobe (ADBE ), hvor hun driver globalt, organisationsovergribende arbejde omkring etik og udvikler processer, værktøjer, uddannelser og andre ressourcer for at sikre, at Adobes industriledende AI-innovationer kontinuerligt udvikler sig i overensstemmelse med Adobes kerneværdier og etiske principper. Grace fremmer Adobes engagement i at bygge og bruge teknologi ansvarligt, med fokus på etik og inklusivitet i alle selskabets arbejde med udvikling af AI. Som en del af dette arbejde, leder Grace Adobes AI-etikudvalg og -anmeldelsesudvalg, som giver anbefalinger til at vejlede Adobes udviklingsteams og gennemgår nye AI-funktioner og -produkter for at sikre, at de lever op til Adobes principper om ansvarlighed, ansvar og gennemsigtighed. Disse principper hjælper med at sikre, at vi bringer vores AI-drevne funktioner til markedet, samtidig med at vi mindske skadelige og fordomsfulde resultater. Grace arbejder også med politikteamet for at drive advokatskab og hjælpe med at forme offentlig politik, love og regler omkring AI til gavn for samfundet.

Som en del af Adobes engagement i tilgængelighed, hjælper Grace med at sikre, at Adobes produkter er inklusive og tilgængelige for alle brugere, så alle kan skabe, interagere og engagere sig i digitale oplevelser. Under hendes ledelse arbejder Adobe med regeringsgrupper, brancheforeninger og brugerfællesskaber for at fremme og udvikle tilgængelighedspolitikker og -standarder, hvilket driver betydningsfulde brancheløsninger.

Kan du fortælle os om Adobes rejse de seneste fem år i forhold til at forme AI-etik? Hvad er de vigtigste milepæle, der har defineret denne udvikling, især i lyset af hurtige fremskridt som generativ AI?

For fem år siden formaliserede vi vores AI-etikproces ved at etablere vores AI-etikprincipper om ansvarlighed, ansvar og gennemsigtighed, som fungerer som grundlag for vores AI-etikstyringsproces. Vi samlede et diversificeret, tværfagligt hold af Adobes medarbejdere fra hele verden for at udvikle handlebare principper, der kan stå distancen.

Fra der udviklede vi en robust gennemgangsproces for at identificere og mindske potentielle risici og fordomme tidligt i AI-udviklingscyklussen. Denne flerdelte vurdering har hjulpet os med at identificere og adressere funktioner og produkter, der kunne fastholde skadelig bias og stereotyper.

Da generativ AI opstod, tilpassede vi vores AI-etikvurdering for at adressere nye etiske udfordringer. ​Denne iterative proces har tilladt os at forblive foran potentielle problemer og sikre, at vores AI-teknologier udvikles og implementeres ansvarligt. ​Vores engagement i kontinuerlig læring og samarbejde med forskellige hold på tværs af selskabet har været afgørende for at opretholde relevansen og effektiviteten af vores AI-etikprogram, hvilket i sidste ende forbedrer oplevelsen, vi leverer til vores kunder, og fremmer inklusivitet. ​

Hvordan oversætter Adobes AI-etikprincipper—ansvarlighed, ansvar og gennemsigtighed—sig til daglige operationer? Kan du dele nogle eksempler på, hvordan disse principper har vejledt Adobes AI-projekter?

Vi holder fast i Adobes AI-etikengagement i vores AI-drevne funktioner ved at implementere solide ingeniørpraktikker, der sikrer ansvarlig innovation, samtidig med at vi kontinuerligt indsamler feedback fra vores medarbejdere og kunder for at aktivere nødvendige justeringer.

Nye AI-funktioner undergår en grundig etikvurdering for at identificere og mindske potentielle fordomme og risici. Da vi introducerede Adobe Firefly, vores familie af generative AI-modeller, blev det vurderet for at mindske generering af indhold, der kunne fastholde skadelige stereotyper. ​Denne vurdering er en iterativ proces, der udvikler sig på basis af tæt samarbejde med produktteam, hvilket integrerer feedback og erfaringer for at forblive relevant og effektiv. Vi udfører også risikoundersøgelser med produktteam for at forstå potentielle impakter og designe passende test- og feedback-mekanismer. ​

Hvordan adresserer Adobe bekymringer relateret til bias i AI, især i værktøjer brugt af en global, divers brugerbase? Kan du give et eksempel på, hvordan bias blev identificeret og mindsket i en specifik AI-funktion?

Vi udvikler kontinuerligt vores AI-etikvurdering og -gennemgangsprocesser i tæt samarbejde med vores produkt- og ingeniørteam. ​Den AI-etikvurdering, vi havde for nogle år siden, er anderledes end den, vi har nu, og jeg forventer yderligere ændringer i fremtiden. Denne iterative tilgang tillader os at integrere nye erfaringer og adressere opdykkende etiske bekymringer, da teknologier som Firefly udvikler sig.

For eksempel, da vi tilføjede multilingual understøttelse til Firefly, bemærkede mit team, at det ikke leverede det ønskede output, og nogle ord blev blokeret utilsigtet. For at mindske dette arbejdede vi tæt sammen med vores internationaliseringshold og native talere for at udvide vores modeller og dække landsspecifikke termer og konnotationer. ​

Vores engagement i at udvikle vores vurderingsmetode, da teknologien avancerer, er det, der hjælper Adobe med at balancere innovation med etisk ansvar. Ved at fremme en inklusiv og responsiv proces sikrer vi, at vores AI-teknologier opfylder de højeste standarder for gennemsigtighed og integritet, hvilket giver kreatørerne mulighed for at bruge vores værktøjer med tillid.

Med din involvering i at forme offentlig politik, hvordan navigerer Adobe skæringen mellem hurtigt ændrende AI-reguleringer og innovation? Hvilken rol spiller Adobe i at forme disse reguleringer?

Vi engagerer os aktivt med lovgivere og branchegrupper for at hjælpe med at forme politik, der balancerer innovation med etiske overvejelser. Vores diskussioner med lovgivere fokuserer på vores tilgang til AI og vigtigheden af at udvikle teknologi til at forbedre menneskelige oplevelser. Regulatorer søger praktiske løsninger for at adressere nuværende udfordringer, og ved at præsentere rammer som vores AI-etikprincipper—udviklet i samarbejde og anvendt konsekvent i vores AI-drevne funktioner—fremmer vi mere produktive diskussioner. Det er afgørende at bringe konkrete eksempler til bordet, der demonstrerer, hvordan vores principper fungerer i praksis, og at vise virkelige resultater, snarere end at tale om abstrakte begreber.

Hvilke etiske overvejelser prioriterer Adobe, når det gælder indsamling af træningsdata, og hvordan sikrer I, at de datasæt, der bruges, er både etiske og tilstrækkeligt robuste til AI’ens behov?

Hos Adobe prioriterer vi flere nøgleetiske overvejelser, når det gælder indsamling af træningsdata til vores AI-modeller. ​Som en del af vores indsats for at designe Firefly til at være kommercielt sikker, trænede vi det på en datasæt af licenseret indhold, såsom Adobe Stock, og offentligt domæneindhold, hvor ophavsretten er udløbet. Vi fokuserede også på diversiteten af datasættene for at undgå at forstærke skadelige fordomme og stereotyper i vores modellers output. For at opnå dette samarbejder vi med diverse hold og eksperter for at gennemgå og kuratere data. Ved at følge disse praksisser stræber vi efter at skabe AI-teknologier, der ikke blot er kraftfulde og effektive, men også etiske og inklusive for alle brugere. ​

I din mening, hvor vigtigt er det at være gennemsigtig, når det gælder at kommunikere med brugere, hvordan Adobes AI-systemer som Firefly er trænet, og hvilken slags data der bruges?

Gennemsigtighed er afgørende, når det gælder at kommunikere med brugere, hvordan Adobes generative AI-funktioner som Firefly er trænet, herunder de typer af data, der bruges. Det opbygger tillid og tillid til vores teknologier ved at sikre, at brugerne forstår processerne bag vores generative AI-udvikling. Ved at være åbne omkring vores datakilder, træningsmetoder og de etiske sikkerhedsforanstaltninger, vi har på plads, giver vi brugerne mulighed for at træffe informerede beslutninger om, hvordan de interagerer med vores produkter. Denne gennemsigtighed er ikke blot i overensstemmelse med vores kerne-AI-etikprincipper, men fremmer også en samarbejdende relation med vores brugere.

Da AI fortsætter med at skale, især generativ AI, hvad tror du vil være de mest betydningsfulde etiske udfordringer, som selskaber som Adobe vil stå over for i den nærmeste fremtid?

Jeg tror, at de mest betydningsfulde etiske udfordringer for selskaber som Adobe er at mindske skadelige fordomme, sikre inklusivitet og opretholde bruger tillid. ​Muligheden for, at AI utilsigtet kan fastholde stereotyper eller generere skadeligt og misvisende indhold, er en bekymring, der kræver kontinuerlig vagtsomhed og robuste sikkerhedsforanstaltninger. For eksempel, med de seneste fremskridt i generativ AI, er det lettere end nogensinde for “skurke” at skabe bedragerisk indhold, sprede misinformation og manipulere offentlig mening, hvilket undergraver tillid og gennemsigtighed.

For at adressere dette grundlagde Adobe Content Authenticity Initiative (CAI) i 2019 for at opbygge et mere troværdigt og gennemsigtigt digitalt økosystem for forbrugere. CAI implementerer vores løsning til at opbygge tillid online–kaldet Content Credentials. Content Credentials inkluderer “ingredienser” eller vigtige oplysninger, såsom skaberenavn, dato for oprettelse af billedet, hvilke værktøjer der blev brugt til at skabe billedet, og eventuelle redigeringer, der blev foretaget undervejs. Dette giver brugerne mulighed for at opbygge en digital kæde af tillid og autenticitet.

Da generativ AI fortsætter med at skale, vil det være endnu vigtigere at fremme bred anvendelse af Content Credentials for at genskabe tillid i digitalt indhold.

Hvad råd ville du give til andre organisationer, der lige er begyndt at tænke over etiske rammer for AI-udvikling?

Mit råd ville være at begynde med at etablere klare, simple og praktiske principper, der kan vejlede jeres indsats. Ofte ser jeg selskaber eller organisationer, der fokuserer på, hvad der ser godt ud i teorien, men deres principper er ikke praktiske. Grunden til, at vores principper har holdt stand, er, fordi vi designede dem til at være handlebare. Når vi vurderer vores AI-drevne funktioner, ved vores produkt- og ingeniørteam, hvad vi søger efter, og hvilke standarder vi forventer af dem.

Jeg ville også anbefale organisationer at komme ind i denne proces med vidende om, at det vil være iterativt. Jeg ved måske ikke, hvad Adobe vil opfinde om fem eller ti år, men jeg ved, at vi vil udvikle vores vurdering for at møde disse innovationer og den feedback, vi modtager.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Adobe.