Grace Yee, Senior Director of Ethical Innovation (AI Ethics and Accessibility) at Adobe – Interview Series

Grace Yee je Senior Director of Ethical Innovation (AI Ethics and Accessibility) ve společnosti Adobe, kde řídí globální a celofiremní práci kolem etiky a vyvíjí procesy, nástroje, školení a další zdroje, aby zajistila, že inovace společnosti Adobe v oblasti umělé inteligence budou i nadále vyvíjet v souladu s hodnotami a etickými principy společnosti Adobe. Grace podporuje závazek společnosti Adobe budovat a využívat technologii zodpovědně, se zaměřením na etiku a inkluzivitu ve všech pracích na vývoji umělé inteligence. V rámci této práce Grace řídí Etický výbor AI a kontrolní radu společnosti Adobe, který doporučuje, aby pomáhal vést vývojářské týmy společnosti Adobe a přezkoumávat nové funkce a produkty AI, aby zajistil, že splňují zásady společnosti Adobe týkající se odpovědnosti, odpovědnosti a transparentnosti. Tyto zásady pomáhají zajistit, aby naše funkce s umělou inteligencí byly uváděny na trh, zatímco se minimalizují škodlivé a zaujaté výsledky. Grace navíc spolupracuje s týmem pro politiku, aby poháněla advokacii a pomáhala vytvářet veřejnou politiku, zákony a regulace kolem umělé inteligence ve prospěch společnosti.

V rámci závazku společnosti Adobe vůči přístupnosti Grace pomáhá zajistit, aby produkty společnosti Adobe byly inkluzivní a přístupné pro všechny uživatele, aby kdokoli mohl vytvářet, interagovat a zapojovat se do digitálních zkušeností. Pod jejím vedením společnost Adobe spolupracuje s vládními skupinami, obchodními asociacemi a uživatelskými komunitami, aby propagovala a rozvíjela politiku a standardy přístupnosti, což vede k dopadovým průmyslovým řešením.

Můžete nám říci o cestě společnosti Adobe za posledních pět let při formování etiky AI? Jaké jsou klíčové milníky, které definují tuto evoluci, zejména vzhledem k rychlým pokrokům, jako je generativní AI?

Před pěti lety jsme formalizovali náš proces etiky AI vytvořením našich principů etiky AI, které jsou založeny na zásadách odpovědnosti, odpovědnosti a transparentnosti, které slouží jako základ pro náš proces řízení etiky AI. Shromáždili jsme různorodý, mezioborový tým zaměstnanců společnosti Adobe z celého světa, aby vyvinuli akční principy, které mohou odolat zkoušce času.

Od té doby jsme vyvinuli robustní proces přezkumu, abychom identifikovali a minimalizovali potenciální rizika a zaujatosti brzy v cyklu vývoje AI. Tento vícečástný posouzení nám pomohl identifikovat a řešit funkce a produkty, které by mohly podporovat škodlivé zaujatosti a stereotypy.

S vývojem generativní AI jsme přizpůsobili náš posouzení etiky AI, aby řešil nové etické výzvy. ​Tento iterativní proces nám umožnil zůstat před potenciálními problémy, zajišťující, že naše technologie AI jsou vyvíjeny a nasazovány zodpovědně. ​Naše závazek kontinuálního učení a spolupráce s různými týmy napříč společností byl zásadní pro udržení relevance a účinnosti našeho programu etiky AI, což nakonec zlepšuje zkušenosti, které poskytujeme našim zákazníkům a podporuje inkluzivitu. ​

Jak se principy etiky AI společnosti Adobe – odpovědnost, odpovědnost a transparentnost – překládají do denních operací? Můžete sdílet nějaké příklady toho, jak tyto principy vedly projekty AI společnosti Adobe?

Dodržujeme závazky etiky AI společnosti Adobe v našich funkcích s umělou inteligencí implementací robustních inženýrských postupů, které zajišťují odpovědnou inovaci, zatímco kontinuálně shromažďujeme zpětnou vazbu od našich zaměstnanců a zákazníků, aby umožnily nezbytné úpravy.

Nové funkce AI procházejí komplexním posouzením etiky, aby identifikovaly a minimalizovaly potenciální zaujatosti a rizika. Když jsme představili Adobe Firefly, naši rodinu generativních modelů AI, prošla posouzením, aby se zabránilo generování obsahu, který by mohl podporovat škodlivé stereotypy. Toto posouzení je iterativní proces, který se vyvíjí na základě blízké spolupráce s produktovými týmy, začleňováním zpětné vazby a učení, aby zůstal relevantní a účinný. Provádíme také cvičení pro objevování rizik s produktovými týmy, abychom pochopili potenciální dopady a navrhli vhodné testovací a zpětnovazební mechanismy. ​

Jak společnost Adobe řeší obavy související se zaujatostí v AI, zejména v nástrojích používaných globální a různorodou uživatelskou základnou? Můžete uvést příklad, jak byla identifikována a zmírněna zaujatost v konkrétní funkci AI?

Kontinuálně vyvíjíme náš proces posouzení a přezkumu etiky AI v blízké spolupráci s našimi produktovými a inženýrskými týmy. ​Posouzení etiky AI, které jsme měli před několika lety, se liší od toho, které máme nyní, a předpokládám, že budou další posuny v budoucnu. Tento iterativní přístup nám umožňuje začlenit nová učení a řešit vznikající etické obavy, jak se technologie, jako je Firefly, vyvíjejí.

Například, když jsme přidali multijazyčnou podporu do Firefly, můj tým si všiml, že nefunguje podle očekávání a některé slova byly zablokovány neúmyslně. Abychom to zmírnili, úzce spolupracovali s našimi mezinárodními týmy a rodilými mluvčími, abychom rozšířili naše modely a pokryli zeměspecifické termíny a konotace. ​

Naše závazek vyvíjet náš přístup k posouzení, jak se technologie vyvíjí, je to, co pomáhá společnosti Adobe vyvážit inovace s etickou odpovědností. Díky vytváření inkluzivního a reaktivního procesu zajišťujeme, aby naše technologie AI splňovaly nejvyšší standardy transparentnosti a integrity, což umožňuje tvůrcům používat naše nástroje s důvěrou.

S vaším zapojením do tvorby veřejné politiky, jak společnost Adobe naviguje průsečík mezi rychle se měnícími regulacemi AI a inovací? Jakou roli hraje společnost Adobe při formování těchto regulací?

Aktivně se zapojujeme do diskusí s tvůrci politik a průmyslovými skupinami, abychom pomohli tvarovat politiku, která vyvažuje inovace s etickými úvahami. Naše diskuze s tvůrci politik se soustředí na náš přístup k AI a důležitost vývoje technologií, aby se zlepšily lidské zkušenosti. Regulátoři hledají praktická řešení, aby řešili současné výzvy, a tím, že prezentujeme rámce, jako jsou naše principy etiky AI – vyvinuté spoluprací a aplikované konzistentně v našich funkcích s umělou inteligencí – vytváříme produktivnější diskuze. Je zásadní přinést konkrétní příklady na stůl, které demonstrují, jak naše principy fungují v akci a ukazují reálný dopad, místo toho, abychom diskutovali o abstraktních konceptech.

Jaké etické úvahy společnost Adobe priorizuje při získávání trénovacích dat, a jak zajišťuje, že datové sady používané jsou etické a dostatečně robustní pro potřeby AI?

Ve společnosti Adobe priorizujeme několik klíčových etických úvah, když získáváme trénovací data pro naše modely AI. ​ Jako součást našeho úsilí navrhnout Firefly tak, aby byla komerčně bezpečná, jsme ji trénovali na datové sadě licencovaného obsahu, jako je Adobe Stock, a veřejného doménového obsahu, kde autorská práva vypršela. Zaměřili jsme se také na rozmanitost datových sad, abychom se vyhnuli posilování škodlivých zaujatostí a stereotypů ve výstupech našeho modelu. Abychom toho dosáhli, spolupracujeme s různorodými týmy a odborníky, kteří přezkoumávají a kurátorují data. Díky dodržování těchto postupů se snažíme vytvořit technologie AI, které jsou nejen mocné a efektivní, ale také etické a inkluzivní pro všechny uživatele. ​

Je podle vás transparentnost důležitá při komunikaci uživatelům, jak jsou funkce AI společnosti Adobe, jako je Firefly, trénovány a jaký druh dat se používá?

Transparentnost je zásadní, když jde o komunikaci uživatelům, jak jsou funkce AI společnosti Adobe, jako je Firefly, trénovány, včetně typů dat, která se používají. Buduje důvěru a důvěru v naše technologie, zajišťuje, aby uživatelé rozuměli procesům za našimi generativními modely AI. Přístupem k otevřenosti o našich zdrojích dat, trénovacích metodách a etických zárukách, které máme na místě, umožňujeme uživatelům, aby učili informovaná rozhodnutí o tom, jak interagují s našimi produkty. Tato transparentnost nejenže odpovídá našim základním principům etiky AI, ale také vytváří spolupráci s našimi uživateli.

Jaké budou podle vás největší etické výzvy, kterým budou čelit společnosti, jako je Adobe, v blízké budoucnosti, zejména s ohledem na škálování AI, zejména generativní AI?

Věřím, že největší etické výzvy pro společnosti, jako je Adobe, budou minimalizovat škodlivá zaujatosti, zajišťovat inkluzivitu a udržovat důvěru uživatelů. ​Potenciál AI, aby neúmyslně podporovala stereotypy nebo generovala škodlivý a zavádějící obsah, je obava, která vyžaduje neustálou bdělost a robustní záruky. Například s nedávnými pokroky v generativní AI je snazší než kdykoli dříve pro “špatné aktéry” vytvářet zavádějící obsah, šířit dezinformace a manipulovat veřejným míněním, což podkopává důvěru a transparentnost.

Abychom tomu čelili, společnost Adobe založila Iniciativu pro autenticitu obsahu (CAI) v roce 2019, aby vytvořila důvěryhodnější a transparentnější digitální ekosystém pro spotřebitele. CAI implementuje naše řešení pro budování důvěry online – nazvané Content Credentials. Content Credentials zahrnují “suroviny” nebo důležité informace, jako je jméno tvůrce, datum vytvoření obrazu, jaké nástroje byly použity k vytvoření obrazu a jaké úpravy byly provedeny na cestě. To umožňuje uživatelům vytvořit digitální řetězec důvěry a autenticity.

Jak se generativní AI bude dále škálovat, bude ještě důležitější podporovat široké přijetí Content Credentials, aby se obnovila důvěra v digitální obsah.

Jaký byste poradil jiným organizacím, které teprve začínají uvažovat o etických rámcích pro vývoj AI?

Mou radou by bylo začít stanovením jasných, jednoduchých a praktických principů, které mohou vést vaše úsilí. Často vidím společnosti nebo organizace, které se soustředí na to, co vypadá dobře v teorii, ale jejich principy nejsou praktické. Důvod, proč naše principy vydržely zkoušku času, je ten, že jsme je navrhli tak, aby byly akční. Když posuzujeme naše funkce s umělou inteligencí, naše produktové a inženýrské týmy vědí, na co se díváme a jaká jsou naše očekávání.

Doporučil bych organizacím, aby vstupovaly do tohoto procesu s vědomím, že to bude iterativní. Možná nevíme, co společnost Adobe vynalezne za pět nebo deset let, ale víme, že budeme vyvíjet naše posouzení, aby odpovídalo těmto inovacím a zpětné vazbě, kterou obdržíme.

Děkuji za skvělý rozhovor, čtenáři, kteří si chtějí dozvědět více, by měli navštívit Adobe.