Grace Yee, Senior Director of Etisk Innovation (AI-etik och Tillgänglighet) på Adobe – Intervjuserie

Grace Yee är Senior Director of Etisk Innovation (AI-etik och Tillgänglighet) på Adobe (ADBE ), och driver globala, företagsomfattande arbeten kring etik och utvecklar processer, verktyg, utbildningar och andra resurser för att säkerställa att Adobes branschledande AI-innovationer kontinuerligt utvecklas i linje med Adobes kärnvärderingar och etiska principer. Grace främjar Adobes åtagande att bygga och använda teknik på ett ansvarsfullt sätt, med fokus på etik och inklusivitet i allt företagets arbete med att utveckla AI. Som en del av detta arbete ansvarar Grace för Adobes AI-etiska kommitté och granskningsnämnd, som lämnar rekommendationer för att vägleda Adobes utvecklingsteam och granskar nya AI-funktioner och produkter för att säkerställa att de lever upp till Adobes principer om ansvar, ansvarighet och transparens. Dessa principer hjälper till att säkerställa att vi introducerar våra AI-drivna funktioner på marknaden samtidigt som vi minskar skadliga och partiska resultat. Grace arbetar också med policyteamet för att driva påverkan och bidra till att forma offentlig politik, lagar och regler kring AI till förmån för samhället.

Som en del av Adobes åtagande att göra produkterna tillgängliga och inkluderande för alla användare, hjälper Grace till att säkerställa att Adobes produkter är tillgängliga och användbara för alla, så att vem som helst kan skapa, interagera och engagera sig i digitala upplevelser. Under hennes ledning arbetar Adobe med regeringsgrupper, branschföreningar och användargrupper för att främja och utveckla tillgänglighetspolicys och standarder, och driver framgångsrika branschlösningar.

Kan du berätta om Adobes resa under de senaste fem åren när det gäller att forma AI-etik? Vilka viktiga milstolpar har definierat denna utveckling, särskilt i ljuset av snabba framsteg som generativ AI?

För fem år sedan formaliserade vi vår AI-etiska process genom att etablera våra AI-etiska principer om ansvar, ansvarighet och transparens, som utgör grunden för vår AI-etiska styrningsprocess. Vi samlade en mångfaldig, tvärfunktionell grupp av Adobes anställda från hela världen för att utveckla handlingsbara principer som kan stå pall för tiden.

Därefter utvecklade vi en robust granskningsprocess för att identifiera och minimera potentiella risker och partier tidigt i AI-utvecklingscykeln. Denna flerdelade bedömning har hjälpt oss att identifiera och åtgärda funktioner och produkter som kan förmedla skadliga partier och stereotyper.

När generativ AI uppstod, anpassade vi vår AI-etiska bedömning för att hantera nya etiska utmaningar. ​Denna iterativa process har möjliggjort för oss att ligga före potentiella problem, och säkerställa att våra AI-teknologier utvecklas och distribueras på ett ansvarsfullt sätt. ​Vårt åtagande att kontinuerligt lära och samarbeta med olika team inom företaget har varit avgörande för att upprätthålla relevans och effektivitet i vårt AI-etiska program, och i slutändan förbättra upplevelsen vi erbjuder våra kunder och främja inklusivitet. ​

Hur översätter Adobes AI-etiska principer—ansvar, ansvarighet och transparens—till dagliga operationer? Kan du dela några exempel på hur dessa principer har väglett Adobes AI-projekt?

Vi följer Adobes AI-etiska åtaganden i våra AI-drivna funktioner genom att implementera robusta ingenjörsmetoder som säkerställer ansvarsfull innovation, och kontinuerligt samla in feedback från våra anställda och kunder för att möjliggöra nödvändiga justeringar.

Nya AI-funktioner genomgår en grundlig etisk bedömning för att identifiera och minimera potentiella partier och risker. När vi introducerade Adobe Firefly, vår familj av generativa AI-modeller, genomgick den en utvärdering för att minimera generering av innehåll som kunde förmedla skadliga stereotyper. ​Denna utvärdering är en iterativ process som utvecklas baserat på nära samarbete med produktteam, och inkorporerar feedback och lärdomar för att stanna relevant och effektiv. Vi genomför också riskupptäcktsövningar med produktteam för att förstå potentiella påverkningar och utforma lämpliga test- och feedbackmekanismer. ​

Hur hanterar Adobe problem relaterade till partier i AI, särskilt i verktyg som används av en global och mångfaldig användarbas? Kan du ge ett exempel på hur partier identifierades och minimerades i en specifik AI-funktion?

Vi utvecklar kontinuerligt vår AI-etiska bedömning och granskningsprocess i nära samarbete med våra produkt- och ingenjörsteam. ​Den AI-etiska bedömning vi hade för några år sedan skiljer sig från den vi har nu, och jag förväntar mig ytterligare förändringar i framtiden. Denna iterativa tillvägagångssätt möjliggör för oss att inkorporera nya lärdomar och hantera framväxande etiska problem när teknologier som Firefly utvecklas.

Till exempel, när vi lade till multilingual stöd till Firefly, upptäckte mitt team att det inte levererade det avsedda resultatet och att vissa ord blockeras oavsiktligt. För att minimera detta, arbetade vi nära med vårt internationaliserings-team och modersmålstalare för att utöka våra modeller och täcka landspecifika termer och konnotationer. ​

Vårt åtagande att utveckla vår bedömningsprocess när teknologin utvecklas är vad som hjälper Adobe att balansera innovation med etiskt ansvar. Genom att främja en inkluderande och responsiv process, säkerställer vi att våra AI-teknologier uppfyller de högsta standarderna för transparens och integritet, och ger skapare möjlighet att använda våra verktyg med förtroende.

Med din inblandning i att forma offentlig politik, hur navigerar Adobe korsningen mellan snabbt förändrade AI-regler och innovation? Vilken roll spelar Adobe i att forma dessa regler?

Vi engagerar oss aktivt med beslutsfattare och branschgrupper för att bidra till att forma policy som balanserar innovation med etiska överväganden. Våra diskussioner med beslutsfattare fokuserar på vår tillvägagångssätt för AI och vikten av att utveckla teknik som förbättrar mänskliga upplevelser. Regulatorer söker praktiska lösningar för att hantera nuvarande utmaningar, och genom att presentera ramverk som våra AI-etiska principer—utvecklade i samarbete och tillämpade konsekvent i våra AI-drivna funktioner—främjar vi mer produktiva diskussioner. Det är avgörande att presentera konkreta exempel på hur våra principer fungerar i praktiken och visa verklig påverkan, snarare än att diskutera abstrakta koncept.

Vilka etiska överväganden prioriterar Adobe när det gäller att samla in utbildningsdata, och hur säkerställer ni att de använda dataset är både etiska och tillräckligt robusta för AI:s behov?

På Adobe prioriterar vi flera viktiga etiska överväganden när vi samlar in utbildningsdata för våra AI-modeller. ​Som en del av vårt arbete för att utforma Firefly för att vara kommersiellt säker, tränade vi den på en dataset av licensierat innehåll som Adobe Stock, och allmänna domäner där upphovsrätten har gått ut. Vi fokuserade också på mångfalden i dataset för att undvika att förstärka skadliga partier och stereotyper i modellens utdata. För att uppnå detta, samarbetar vi med mångfaldiga team och experter för att granska och kurera datat. Genom att följa dessa metoder, strävar vi efter att skapa AI-teknologier som inte bara är kraftfulla och effektiva, utan också etiska och inkluderande för alla användare. ​

Hur viktigt är transparens när det gäller att kommunicera till användare hur Adobes AI-system som Firefly är tränade och vilken typ av data som används?

Transparens är avgörande när det gäller att kommunicera till användare hur Adobes generativa AI-funktioner som Firefly är tränade, inklusive typer av data som används. Det bygger förtroende och tillit till våra teknologier genom att säkerställa att användare förstår processerna bakom vår generativa AI-utveckling. Genom att vara öppna om våra datakällor, utbildningsmetoder och de etiska skydd vi har på plats, ger vi användare möjlighet att fatta informerade beslut om hur de interagerar med våra produkter. Denna transparens ligger inte bara i linje med våra kärn-AI-etiska principer, utan främjar också ett samarbetsförhållande med våra användare.

När AI fortsätter att växa, särskilt generativ AI, vad tror du kommer att vara de mest signifikanta etiska utmaningarna som företag som Adobe kommer att möta i närmaste framtiden?

Jag tror att de mest signifikanta etiska utmaningarna för företag som Adobe är att minimera skadliga partier, säkerställa inklusivitet och upprätthålla användartillit. ​Den potentiella risken för att AI oavsiktligt förmedlar stereotyper eller genererar skadligt och vilseledande innehåll är en oro som kräver kontinuerlig vaksamhet och robusta skydd. Till exempel, med de senaste framstegen inom generativ AI, är det lättare än någonsin för “dåliga aktörer” att skapa bedrägligt innehåll, sprida desinformation och manipulera allmän opinion, vilket undergräver tillit och transparens.

För att hantera detta, grundade Adobe Content Authenticity Initiative (CAI) 2019 för att bygga ett mer tillförlitligt och transparent digitalt ekosystem för konsumenter. CAI implementerar vår lösning för att bygga tillit online – kallad Content Credentials. Content Credentials inkluderar “ingredienser” eller viktig information som skaparens namn, datum då en bild skapades, vilka verktyg som användes för att skapa en bild och eventuella redigeringar som gjordes på vägen. Detta ger användare möjlighet att skapa en digital kedja av tillit och autenticitet.

När generativ AI fortsätter att växa, kommer det att vara ännu viktigare att främja en bred tillämpning av Content Credentials för att återupprätta tillit i digitalt innehåll.

Vad råd skulle du ge till andra organisationer som just börjar tänka på etiska ramverk för AI-utveckling?

Mitt råd skulle vara att börja med att etablera tydliga, enkla och praktiska principer som kan vägleda era ansträngningar. Ofta ser jag företag eller organisationer som fokuserar på vad som ser bra ut i teorin, men deras principer är inte praktiska. Anledningen till att våra principer har stått pall för tiden är att vi utformade dem för att vara handlingsbara. När vi bedömer våra AI-drivna funktioner, vet våra produkt- och ingenjörsteam vad vi letar efter och vilka standarder vi förväntar oss av dem.

Jag skulle också rekommendera organisationer att komma in i denna process med vetskapen om att det kommer att vara iterativt. Jag vet inte vad Adobe kommer att uppfinna om fem eller tio år, men jag vet att vi kommer att utveckla vår bedömning för att möta dessa innovationer och den feedback vi får.

Tack för den utmärkta intervjun, läsare som vill lära sig mer kan besöka Adobe.