Grace Yee, Dyrektor Senior ds. Innowacji Etycznych (Etyka AI i Dostępność) w firmie Adobe – Seria wywiadów

Grace Yee jest Dyrektorem Senior ds. Innowacji Etycznych (Etyka AI i Dostępność) w firmie Adobe (ADBE ), gdzie prowadzi prace na skalę globalną i organizacyjną w zakresie etyki oraz rozwija procesy, narzędzia, szkolenia i inne zasoby, aby pomóc zapewnić, że innowacje AI w firmie Adobe będą nadal ewoluować zgodnie z wartościami i zasadami etycznymi firmy. Grace przyczynia się do zobowiązania Adobe do budowania i używania technologii w sposób odpowiedzialny, umieszczając etykę i inkluzję we wszystkich pracach związanych z rozwijaniem AI. W ramach tej pracy, Grace nadzoruje Komitet Etyki AI i Radę Doradczą w Adobe, które składają rekomendacje, aby pomóc kierować zespołami developerskimi Adobe oraz przeglądać nowe funkcje i produkty AI, aby upewnić się, że spełniają one zasady odpowiedzialności, odpowiedzialności i przejrzystości firmy. Te zasady pomagają zapewnić, że wprowadzamy funkcje AI na rynek, jednocześnie ograniczając szkodliwe i tendencyjne wyniki. Grace współpracuje również z zespołem ds. polityki, aby prowadzić lobbing i kształtować politykę publiczną, prawa i regulacje związane z AI dla dobra społeczeństwa.

W ramach zobowiązania Adobe do dostępności, Grace pomaga zapewnić, że produkty Adobe są dostępne i inkluzją dla wszystkich użytkowników, aby każdy mógł tworzyć, współdziałać i angażować się w doświadczenia cyfrowe. Pod jej kierownictwem, Adobe współpracuje z grupami rządowymi, stowarzyszeniami handlowymi i społecznościami użytkowników, aby promować i rozwijać politykę dostępności i standardy, wprowadzając skuteczne rozwiązania branżowe.

Czy możesz opowiedzieć nam o drodze Adobe w kwestii kształtowania etyki AI w ciągu ostatnich pięciu lat? Jakie kluczowe kamienie milowe zdefiniowały tę ewolucję, zwłaszcza w obliczu szybkich postępów, takich jak AI generatywny?

Pięć lat temu, sformalizowaliśmy nasz proces etyki AI, ustanawiając nasze zasady etyki AI, takie jak odpowiedzialność, odpowiedzialność i przejrzystość, które służą jako podstawa naszego procesu zarządzania etyką AI. Zgromadziliśmy zróżnicowany, międzyfunkcyjny zespół pracowników Adobe z całego świata, aby opracować działające zasady, które mogą wytrzymać próbę czasu.

Następnie opracowaliśmy solidny proces przeglądu, aby zidentyfikować i złagodzić potencjalne ryzyka i tendencyjności na wczesnym etapie cyklu rozwoju AI. Ten wieloetapowy proces oceny pomógł nam zidentyfikować i rozwiązać funkcje i produkty, które mogłyby utrwalać szkodliwe tendencyjności i stereotypy.

Gdy pojawił się AI generatywny, dostosowaliśmy nasz proces etyki AI, aby rozwiązać nowe wyzwania etyczne. Ten proces iteracyjny pozwolił nam pozostać przed potencjalnymi problemami, zapewniając, że nasze technologie AI są rozwijane i wdrażane w sposób odpowiedzialny. Nasze zaangażowanie w ciągłe uczenie się i współpracę z różnymi zespołami w firmie było kluczowe w utrzymaniu istotności i skuteczności naszego programu etyki AI, co ostatecznie poprawia doświadczenie, które dostarczamy naszym klientom i promuje inkluzję.

Jak zasady etyki AI Adobe – odpowiedzialność, odpowiedzialność i przejrzystość – przekładają się na codzienne operacje? Czy możesz podzielić się przykładami, jak te zasady kierowały projektami AI Adobe?

Przestrzegamy zobowiązań etyki AI Adobe w naszych funkcjach AI, wdrażając solidne praktyki inżynierskie, które zapewniają odpowiedzialną innowację, jednocześnie ciągle zbierając opinie od naszych pracowników i klientów, aby umożliwić niezbędne dostosowania.

Nowe funkcje AI przechodzą gruntowną ocenę etyczną, aby zidentyfikować i złagodzić potencjalne tendencyjności i ryzyka. Gdy wprowadziliśmy Adobe Firefly, naszą rodzinę modeli AI generatywnych, przeszła ona ocenę, aby złagodzić generowanie treści, które mogłyby utrwalać szkodliwe stereotypy. Ta ocena jest procesem iteracyjnym, który ewoluuje wraz z bliską współpracą z zespołami produktowymi, włączając opinie i wnioski, aby pozostać istotnymi i skutecznymi. Prowadzimy również ćwiczenia odkrywania ryzyka z zespołami produktowymi, aby zrozumieć potencjalne wpływy i zaprojektować odpowiednie mechanizmy testowania i opinii.

Jak Adobe rozwiązuje obawy związane z tendencyjnością w AI, zwłaszcza w narzędziach używanych przez globalną i zróżnicowaną bazę użytkowników? Czy możesz podać przykład, jak tendencyjność została zidentyfikowana i złagodzona w konkretnym funkcji AI?

Ciągle ewoluujemy nasz proces oceny i przeglądu etyki AI we współpracy z naszymi zespołami produktowymi i inżynieryjnymi. Proces oceny etyki AI, który mieliśmy kilka lat temu, różni się od tego, jaki mamy teraz, i spodziewam się dalszych zmian w przyszłości. Ten proces iteracyjny pozwala nam włączyć nowe wnioski i rozwiązać nowe wyzwania etyczne, gdy technologie takie jak Firefly ewoluują.

Na przykład, gdy dodaliśmy obsługę wielu języków do Firefly, moja ekipa zauważyła, że nie dostarczała zamierzonego wyniku i niektóre słowa były blokowane nieumyślnie. Aby złagodzić to, współpracowaliśmy ściśle z naszym zespołem ds. internacjonalizacji i native speakerami, aby rozwijać nasze modele i pokrywać terminy i konotacje specyficzne dla kraju.

Nasze zaangażowanie w ewolucję naszego podejścia do oceny, gdy technologie postępują, jest tym, co pomaga Adobe balansować innowację z odpowiedzialnością etyczną. Poprzez wspieranie procesu inkluzji i odpowiedzi, zapewniamy, że nasze technologie AI spełniają najwyższe standardy przejrzystości i integralności, umożliwiając twórcom korzystanie z naszych narzędzi z zaufaniem.

Jak Adobe nawiguje w przecięciu się szybko zmieniających się regulacji AI i innowacji? Jaka rola Adobe odgrywa w kształtowaniu tych regulacji?

Aktywnie angażujemy się z decydentami i grupami branżowymi, aby pomóc kształtować politykę, która balansuje innowację z uwzględnieniem etyki. Nasze dyskusje z decydentami koncentrują się na naszym podejściu do AI i znaczeniu rozwijania technologii, aby poprawić doświadczenia ludzkie. Regulatorzy szukają praktycznych rozwiązań, aby rozwiązać bieżące wyzwania, a poprzez prezentowanie ram, takich jak nasze zasady etyki AI – opracowane wspólnie i stosowane konsekwentnie w naszych funkcjach AI – prowadzimy bardziej produktywne dyskusje. Jest kluczowe, aby przedstawić konkretnych przykładów, które pokazują, jak nasze zasady działają w praktyce i mają realny wpływ, zamiast dyskutować o abstrakcyjnych pojęciach.

Jakie uwzględnienia etyczne Adobe priorytetuje przy pozyskiwaniu danych szkoleniowych, i jak zapewnia, że zestawy danych używane są zarówno etyczne, jak i wystarczająco silne dla potrzeb AI?

W Adobe, priorytetowo traktujemy kilka kluczowych uwzględnieniami etycznych przy pozyskiwaniu danych szkoleniowych dla naszych modeli AI. W ramach naszych wysiłków, aby zaprojektować Firefly, aby był bezpieczny dla użytku komercyjnego, przeszkoliliśmy go na zestawie danych licencjonowanych, takich jak Adobe Stock, oraz treści domeny publicznej, gdzie prawa autorskie wygasły. Skoncentrowaliśmy się również na różnorodności zestawów danych, aby uniknąć wzmocnienia szkodliwych tendencyjności i stereotypów w wynikach naszego modelu. Aby to osiągnąć, współpracujemy z zróżnicowanymi zespołami i ekspertami, aby przeglądać i kuratorować dane. Przestrzegając tych praktyk, staramy się tworzyć technologie AI, które są nie tylko potężne i skuteczne, ale także etyczne i inkluzją dla wszystkich użytkowników.

Jak ważna jest przejrzystość w komunikowaniu użytkownikom, jak technologie AI Adobe, takie jak Firefly, są szkolone i jakie dane są używane?

Przejrzystość jest kluczowa, gdy chodzi o komunikowanie użytkownikom, jak technologie AI Adobe, takie jak Firefly, są szkolone, w tym rodzaje danych używanych. Buduje to zaufanie i pewność w naszych technologiach, zapewniając, że użytkownicy rozumieją procesy za naszymi technologiaiami AI. Poprzez otwartość w kwestii źródeł danych, metod szkolenia i zabezpieczeń etycznych, które mamy na miejscu, upoważniamy użytkowników do podejmowania świadomych decyzji o tym, jak współdziałać z naszymi produktami. Ta przejrzystość nie tylko zgadza się z naszymi podstawowymi zasadami etyki AI, ale także tworzy współpracujący związek z naszymi użytkownikami.

Jakie największe wyzwania etyczne, według Twojej opinii, będą stanowić dla firm takich jak Adobe w najbliższej przyszłości, zwłaszcza gdy AI będzie się nadal rozwijać?

Uważam, że największe wyzwania etyczne dla firm takich jak Adobe będą złagodzeniem szkodliwych tendencyjności, zapewnieniem inkluzji i utrzymaniem zaufania użytkowników. Potencjał, aby AI nieumyślnie utrwalał stereotypy lub generował szkodliwe i mylące treści, jest problemem, który wymaga ciągłej czujności i solidnych zabezpieczeń. Na przykład, z ostatnimi postępami w AI generatywnej, jest łatwiej niż kiedykolwiek dla “złych aktorów”, aby tworzyć manipulacyjne treści, rozpowszechniać dezinformację i manipulować opinią publiczną, podważając zaufanie i przejrzystość.

Aby rozwiązać to, Adobe założyło Inicjatywę Autentyczności Treści (CAI) w 2019 roku, aby zbudować bardziej godny zaufania i przejrzysty ekosystem cyfrowy dla konsumentów. CAI wdraża nasze rozwiązanie do budowania zaufania online – zwane Poświadczeniami Treści. Poświadczenia Treści obejmują “składniki” lub ważne informacje, takie jak nazwa twórcy, data utworzenia obrazu, użyte narzędzia do tworzenia obrazu i wszelkie edycje, które zostały dokonane na drodze. To upoważnia użytkowników do tworzenia cyfrowej łańcuchu zaufania i autentyczności.

Gdy AI generatywna będzie się nadal rozwijać, będzie jeszcze ważniejsze, aby promować powszechne przyjęcie Poświadczeń Treści, aby przywrócić zaufanie do treści cyfrowych.

Jakie porady dałbyś innym organizacjom, które dopiero zaczynają myśleć o ramach etycznych dla rozwoju AI?

Moja rada byłaby taka, aby zacząć od ustanowienia klarownych, prostych i praktycznych zasad, które mogą kierować ich wysiłkami. Często widzę firmy lub organizacje skupione na tym, co wygląda dobrze w teorii, ale ich zasady nie są praktyczne. Powodem, dla którego nasze zasady przetrwały próbę czasu, jest to, że zostały one zaprojektowane, aby być działającymi. Gdy oceniamy nasze funkcje AI, nasze zespoły produktowe i inżynieryjne wiedzą, czego szukamy i jakie standardy oczekujemy od nich.

Poradziłbym również organizacjom, aby weszły w ten proces wiedząc, że będzie on iteracyjny. Nie wiem, co Adobe wymyśli w ciągu pięciu lub dziesięciu lat, ale wiem, że będziemy ewoluować naszą ocenę, aby sprostać tym innowacjom i opiniom, które otrzymujemy.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Adobe.