Grace Yee, senior direktør for etisk innovasjon (AI-etik og tilgjengelighet) i Adobe – Intervju-serie

Grace Yee er senior direktør for etisk innovasjon (AI-etik og tilgjengelighet) i Adobe (ADBE ), og driver globale, organisasjonsomfattende arbeid rundt etikk og utvikler prosesser, verktøy, opplæring og andre ressurser for å sikre at Adobes bransjeledende AI-innovasjoner kontinuerlig utvikler seg i tråd med Adobes kjernverdier og etiske prinsipper. Grace fremmer Adobes forpliktelse til å bygge og bruke teknologi ansvarlig, med fokus på etikk og inklusivitet i all arbeid med utvikling av AI. Som en del av dette arbeidet, overvåker Grace Adobes AI-etikkomité og -styre, som gir anbefalinger for å hjelpe med å veilede Adobes utviklingsteam og gjennomgå nye AI-funksjoner og -produkter for å sikre at de oppfyller Adobes prinsipper om ansvar, ansvarlighet og transparens. Disse prinsippene hjelper med å sikre at vi bringer våre AI-drevne funksjoner til markedet samtidig som vi minimiserer skadelige og fordomsfulle resultater. Grace arbeider også med politikteamet for å drive påvirkning og hjelpe med å forme offentlig politikk, lover og reguleringer rundt AI for samfunnets beste.

Som en del av Adobes forpliktelse til tilgjengelighet, hjelper Grace med å sikre at Adobes produkter er inkluderende og tilgjengelige for alle brukere, slik at alle kan lage, samhandle og engasjere seg i digitale opplevelser. Under hennes ledelse, arbeider Adobe med regjeringer, bransjeorganisasjoner og brukersamfunn for å fremme og utvikle tilgjengelighetspolitikk og -standarder, og drive gjennomvirkende bransjeløsninger.

Kan du fortelle oss om Adobes reise de siste fem årene i å forme AI-etikken? Hva er de viktigste milepælene som har definert denne utviklingen, særlig i lys av raske fremgang i generativ AI?

For fem år siden, formaliserte vi vår AI-etikprosess ved å etablere våre AI-etikprinsipper om ansvar, ansvarlighet og transparens, som utgjør grunnlaget for vår AI-etikstyringsprosess. Vi samlet et diversifisert, tverrfaglig team av Adobe-ansatte fra hele verden for å utvikle handlebare prinsipper som kan stå seg over tid.

Deretter utviklet vi en omfattende gjennomgangsprosess for å identifisere og minimere potensielle risikoer og fordommer tidlig i AI-utviklingscyklen. Denne flerdelte vurderingen har hjulpet oss med å identifisere og håndtere funksjoner og produkter som kan videreforplante skadelig fordom og stereotyper.

Som generativ AI oppstod, tilpasset vi vår AI-etikvurdering for å håndtere nye etiske utfordringer. ​Denne iterative prosessen har gjort det mulig for oss å holde oss foran potensielle problemer, og sikre at våre AI-teknologier utvikles og deployeres ansvarlig. ​Vår forpliktelse til kontinuerlig læring og samarbeid med ulike team over hele selskapet har vært avgjørende for å opprettholde relevansen og effektiviteten av vårt AI-etikprogram, og til slutt forbedre opplevelsen vi leverer til våre kunder og fremme inklusivitet. ​

Hvordan oversettes Adobes AI-etikprinsipper—ansvar, ansvarlighet og transparens—til daglige operasjoner? Kan du dele noen eksempler på hvordan disse prinsippene har veiledet Adobes AI-prosjekter?

Vi holder fast ved Adobes AI-etikforpliktelse i våre AI-drevne funksjoner ved å implementere solide ingeniørpraksiser som sikrer ansvarlig innovasjon, og samtidig kontinuerlig samler inn tilbakemeldinger fra våre ansatte og kunder for å muliggjøre nødvendige justeringer.

Nye AI-funksjoner gjennomgår en grundig etikvurdering for å identifisere og minimere potensielle fordommer og risikoer. Da vi lanserte Adobe Firefly, vår familie av generative AI-modeller, gjennomgikk den en vurdering for å minimere mot å generere innhold som kunne videreforplante skadelig stereotyper. Dette er en iterativ prosess som utvikler seg basert på tett samarbeid med produktteam, og inkorporerer tilbakemeldinger og erfaringer for å forbli relevant og effektiv. Vi gjennomfører også risikovurderingsøvelser med produktteam for å forstå potensielle konsekvenser og designe passende test- og tilbakemeldingsmekanismer. ​

Hvordan håndterer Adobe bekymringer relatert til fordom i AI, særlig i verktøy som brukes av en global, divers brukerbase? Kan du gi et eksempel på hvordan fordom ble identifisert og minimert i en bestemt AI-funksjon?

Vi er kontinuerlig i ferd med å utvikle vår AI-etikvurdering og -gjennomgangsprosess i nært samarbeid med våre produkt- og ingeniørteam. ​AI-etikvurderingen vi hadde for noen år siden er forskjellig fra den vi har nå, og jeg forventer ytterligere endringer i fremtiden. Denne iterative tilnærmingen gjør det mulig for oss å inkorporere nye erfaringer og håndtere nye etiske bekymringer som teknologier som Firefly utvikler seg.

For eksempel, da vi la til flerspråklig støtte til Firefly, merket mitt team at det ikke leverte det ønskede utgangspunktet, og noen ord ble blokkert utilsiktet. For å minimere dette, arbeidet vi tett med vårt internasjonaliseringsteam og native talere for å utvide våre modeller og dekke landsspesifikke termer og konnotasjoner. ​

Vår forpliktelse til å utvikle vår vurderingsprosess etter hvert som teknologien utvikler seg, er det som hjelper Adobe med å balansere innovasjon med etisk ansvar. Ved å fremme en inkluderende og responsiv prosess, sikrer vi at våre AI-teknologier møter de høyeste standardene for transparens og integritet, og gir kreatørene mulighet til å bruke våre verktøy med tillit.

Med din involvering i å forme offentlig politikk, hvordan navigerer Adobe i skjæringspunktet mellom raskt endrende AI-reguleringer og innovasjon? Hva rolle spiller Adobe i å forme disse reguleringene?

Vi engasjerer aktivt med politikere og bransjeorganisasjoner for å hjelpe med å forme politikk som balanserer innovasjon med etiske overveielser. Våre diskusjoner med politikere fokuserer på vår tilnærming til AI og viktigheten av å utvikle teknologi for å forbedre menneskelige erfaringer. Regulatorer søker praktiske løsninger for å håndtere nåværende utfordringer, og ved å presentere rammer som våre AI-etikprinsipper—utviklet samarbeidende og anvendt konsekvent i våre AI-drevne funksjoner—fremmer vi mer produktive diskusjoner. Det er avgjørende å bringe konkrete eksempler til bordet som demonstrerer hvordan våre prinsipper fungerer i praksis, og å vise virkelig innvirkning, i stedet for å diskutere abstrakte konsepter.

Hva etiske overveielser prioriterer Adobe når det gjelder å innhente treningdata, og hvordan sikrer de at datasettene som brukes er både etiske og tilstrekkelig robuste for AIens behov?

Hos Adobe, prioriterer vi flere nøkkel-etiske overveielser når det gjelder å innhente treningdata for våre AI-modeller. ​Som en del av vårt arbeid for å designe Firefly til å være kommersielt trygg, trente vi den på en datasett av lisensiert innhold som Adobe Stock, og offentlig domene-innhold hvor opphavsretten har utløpt. Vi fokuserte også på mangfoldet i datasettene for å unngå å forsterke skadelig fordom og stereotyper i modellens utgangspunkter. For å oppnå dette, samarbeider vi med diverse team og eksperter for å gjennomgå og kuratere data. Ved å holde fast ved disse praksisene, streber vi etter å skape AI-teknologier som ikke bare er kraftfulle og effektive, men også etiske og inkluderende for alle brukere. ​

Hvor viktig er transparens i å kommunisere til brukerne hvordan Adobes AI-systemer som Firefly er trent, og hva slags data som brukes?

Transparens er avgjørende når det gjelder å kommunisere til brukerne hvordan Adobes generative AI-funksjoner som Firefly er trent, inkludert typene data som brukes. Det bygger tillit og tillit til våre teknologier ved å sikre at brukerne forstår prosessene bak vår generative AI-utvikling. Ved å være åpne om våre datakilder, treningmetodologier og de etiske sikringene vi har på plass, gir vi brukerne mulighet til å ta informerte beslutninger om hvordan de samhandler med våre produkter. Denne transparensen er ikke bare i tråd med våre grunnleggende AI-etikprinsipper, men fremmer også et samarbeidende forhold til våre brukere.

Ettersom AI fortsetter å skalerer, særlig generativ AI, hva tror du vil være de mest betydelige etiske utfordringene som selskaper som Adobe vil møte i nær fremtid?

Jeg tror at de mest betydelige etiske utfordringene for selskaper som Adobe er å minimere skadelig fordom, sikre inklusivitet og opprettholde brukertillit. ​Muligheten for at AI kan utilsiktet videreforplante stereotyper eller generere skadelig og misvisende innhold er en bekymring som krever kontinuerlig vigilans og robuste sikringer. For eksempel, med de nyeste fremgangene i generativ AI, er det lettere enn noen gang for “skurkeaktører” å lage bedragerisk innhold, spre desinformasjon og manipulere offentlig mening, og underminere tillit og transparens.

For å håndtere dette, etablerte Adobe Content Authenticity Initiative (CAI) i 2019 for å bygge en mer pålitelig og transparent digital økonomi for forbrukere. CAI implementerer vår løsning for å bygge tillit på nettet – kalt Content Credentials. Content Credentials inkluderer “ingredienser” eller viktig informasjon som skaperens navn, dato for når bildet ble laget, hvilke verktøy som ble brukt til å lage bildet og eventuelle redigeringer som ble gjort underveis. Dette gir brukerne mulighet til å skape en digital kjede av tillit og autentisitet.

Som generativ AI fortsetter å skalerer, vil det være enda viktigere å fremme vidstrakt bruk av Content Credentials for å gjenopprette tillit i digitalt innhold.

Hva råd ville du gi til andre organisasjoner som nettopp begynner å tenke på etiske rammer for AI-utvikling?

Mitt råd ville være å begynne med å etablere klare, enkle og praktiske prinsipper som kan veilede deres arbeid. Ofte ser jeg at selskaper eller organisasjoner fokuserer på hva som ser bra ut i teorien, men deres prinsipper er ikke praktiske. Grunnen til at våre prinsipper har stått seg over tid er fordi vi designet dem til å være handlebare. Når vi vurderer våre AI-drevne funksjoner, vet våre produkt- og ingeniørteam hva de skal se etter og hvilke standarder vi forventer av dem.

Jeg ville også anbefale at organisasjoner kommer inn i denne prosessen med kunnskap om at det vil være en iterativ prosess. Jeg kjenner ikke til hva Adobe kommer til å finne på i fem eller ti år, men jeg vet at vi vil utvikle vår vurdering for å møte disse innovasjonene og tilbakemeldingene vi mottar.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke Adobe.