Grace Yee, Senior Director of Ethical Innovation (AI Ethics and Accessibility) at Adobe – Haastattelusarja

Grace Yee on Adoben Senior Director of Ethical Innovation (AI Ethics and Accessibility), joka ajaa globaalia, koko organisaation laajuista työtä eettisyyden ja saavutettavuuden kehittämiseksi. Grace edistää Adoben sitoutumista vastuulliseen teknologian kehittämiseen ja käyttöön. Hän johtaa Adoben AI Ethics Committeea ja Review Boardia, jotka antavat suosituksia Adoben kehitystiimille ja tarkastavat uudet AI-ominaisuudet ja tuotteet, jotta ne vastaavat Adoben vastuullisuuden, vastuun ja avoimuuden periaatteita.

Adoben sitoutumisen mukaisesti saavutettavuuteen, Grace varmistaa, että Adoben tuotteet ovat kaikkien käyttäjien saatavilla ja käytettävissä, jotta kuka tahansa voi luoda, vuorovaikuttaa ja osallistua digitaalisiin kokemuksiin. Hänen johdollaan Adobe (ADBE ) työskentelee hallituksen ryhmien, kaupan järjestöjen ja käyttäjäyhteisöjen kanssa edistääkseen ja kehittääkseen saavutettavuuspolitiikkaa ja -standardeja, jotta voidaan luoda vaikuttavia teollisuusratkaisuja.

Voitko kertoa Adoben matkasta viimeisen viiden vuoden aikana muokkaamassa AI-eettisyyttä? Mitkä ovat olleet tärkeimmät merkkipaaluja tässä kehityksessä, erityisesti nopeiden edistysten kuten generatiivisen AI:n valossa?

Vuosi sitten, me muodostimme AI-eettiset periaatteemme, jotka ovat vastuullisuus, vastuu ja avoimuus, ja ne toimivat perustana AI-eettiselle hallinnolle. Kokosimme monikulttuurisen, monitoimisen tiimin Adoben työntekijöistä ympäri maailmaa kehittämään toimivia periaatteita, jotka voivat kestää aikaa.

Tämän jälkeen kehitimme robustin arviointiprosessin tunnistamaan ja lieventämään potentiaalisia riskejä ja biasia AI-kehityksen alkuvaiheessa. Tämä moniosainen arviointi on auttanut meitä tunnistamaan ja osoittamaan ominaisuuksia ja tuotteita, jotka voivat ylläpitää haitallisia stereotypioita ja biasia.

Kun generatiivinen AI ilmaantui, sovimme AI-eettisen arviointiamme uusiin eettisiin haasteisiin. Tämä iteratiivinen prosessi on sallinut meille pysyä potentiaalisten ongelmien edellä, varmistaen, että AI-teknologiamme kehitetään ja otetaan käyttöön vastuullisesti. Sitoutumisemme jatkuvaan oppimiseen ja yhteistyöhön eri tiimien kanssa on ollut olennainen osa AI-eettisen ohjelmaamme, jotta voimme tarjota parhaan mahdollisen kokemuksen asiakkaillemme ja edistää saavutettavuutta.

Miten Adoben AI-eettiset periaatteet – vastuullisuus, vastuu ja avoimuus – tulkataan päivittäin toiminnassa? Voitko antaa esimerkkejä siitä, miten nämä periaatteet ovat ohjanneet Adoben AI-hankkeita?

Noudatamme Adoben AI-eettisiä sitoumuksia AI-pohjaisissa ominaisuuksissamme toteuttamalla robusteja insinööritöitä, jotka varmistavat vastuullisen innovaation, ja keräämällä jatkuvasti palautetta työntekijöiltämme ja asiakkailtamme, jotta voimme tehdä tarvittavat muutokset. Uudet AI-ominaisuudet käyvät läpi perusteellisen eettisen arvioinnin, jotta voimme tunnistaa ja lieventää potentiaalisia biasia ja riskejä.

Kun esittelimme Adoben Fireflyn, perheen generatiivisia AI-malleja, se kävi läpi arvioinnin, jotta voimme estää sen tuottamasta sisältöä, joka voisi ylläpitää haitallisia stereotypioita. Tämä arviointi on iteratiivinen prosessi, joka kehittyy yhteistyössä tuote- ja insinööritiimien kanssa, sisällyttäen palautetta ja oppimista, jotta pysymme relevantteina ja tehokkaina. Suoritamme myös riskin löytöharjoituksia tuotejoukkueiden kanssa ymmärtääksemme potentiaalisia vaikutuksia ja suunnitellaksemme sopivat testaus- ja palautemekanismit.

Miten Adobe käsittelee AI:han liittyviä bias-ongelmia, erityisesti työkaluissa, joita käytetään globaalissa ja monimuotoisessa käyttäjäkunnassa? Voitko antaa esimerkin siitä, miten bias havaittiin ja mitätöitiin tietyssä AI-ominaisuudessa?

Jatkuvasti kehitämme AI-eettistä arviointiamme ja tarkastusprosessia yhteistyössä tuote- ja insinööritiimien kanssa. AI-eettinen arviointi, jota meillä oli muutama vuosi sitten, on erilainen kuin se, mitä meillä on nyt, ja odotan, että tulee olemaan lisää muutoksia tulevaisuudessa. Tämä iteratiivinen lähestymistapa sallii meille sisällyttää uudet oppimukset ja käsitellä nousevia eettisiä huolenaiheita, kun teknologiat kuten Firefly kehittyvät.

Esimerkiksi, kun lisäsimme monikielisen tuen Fireflyyn, tiimini huomasi, että se ei toimittanut odotettua tulosta, ja jotkut sanat estettiin tahattomasti. Mitätöidäksemme tämän, työskentelimme läheisesti kansainvälistymistiimimme ja äidinkielisten puhujien kanssa laajentaaksemme mallejamme ja kattamaan maakohtaiset termit ja konnotaatiot.

Sitoutumisemme kehittää arviointilähestymistämme teknologian edetessä auttaa Adobea tasapainottamaan innovaatiota eettisellä vastuulla. Edistämällä osallistavaa ja reagoivaa prosessia, varmistamme, että AI-teknologiamme täyttävät korkeimmat avoimuuden ja eheytymisen standardit, mahdollistaen luojille luotettavan käytön.

Miten Adobe navigoi nopeasti muuttuvien AI-sääntelyjen ja innovaation leikkauskohdassa, ja mitä roolia Adobeilla on näiden sääntelyjen muokkaamisessa?

Toimimme aktiivisesti yhteistyössä viranomaisten ja teollisuusryhmien kanssa muokataksesi sääntelyä, joka tasapainottaa innovaation eettisyyden kanssa. Keskusteluimme viranomaisten kanssa keskittyvät Adoben lähestymistapaan AI:hen ja teknologian kehittämiseen ihmisten hyvinvointia varten. Sääntelijät etsivät käytännöllisiä ratkaisuja nykyisiin haasteisiin, ja esittämällä kehyksiä, kuten AI-eettiset periaatteemme, kehitetty yhteistyössä ja sovellettu johdonmukaisesti AI-pohjaisiin ominaisuuksiimme, edistämme tuottavampia keskusteluja.

Mitkä eettiset huomioonpanot Adobe priorisoi, kun se hankkii koulutusdataa AI-mallejaan varten, ja miten se varmistaa, että käytettävät datat ovat sekä eettisiä että riittävän vahvoja AI:n tarpeisiin?

Adobella priorisoidaan useita avainetteisiä huomioonpanoja, kun haetaan koulutusdataa AI-mallejemme. Olemme kouluttaneet Fireflyämme lisensoitujen sisältöjen, kuten Adobe Stockin, ja julkisen sisällön avulla, jonka tekijänoikeus on vanhentunut. Keskityimme myös datojen monimuotoisuuteen välttääksemme vahvistamasta haitallisia biasia ja stereotypioita mallien tuloksissa. Tämän saavuttamiseksi työskentelemme monimuotoisten tiimien ja asiantuntijoiden kanssa tarkastamaan ja kuraattorin dataa. Noudattamalla näitä käytäntöjä, pyrimme luomaan AI-teknologioita, jotka ovat voimakkaita, tehokkaita, eettisiä ja kaikkien käyttäjien saatavilla.

Miten tärkeää on avoimuus käyttäjille siitä, miten Adoben AI-järjestelmät, kuten Firefly, on koulutettu ja millaista dataa on käytetty?

Avoimuus on olennainen, kun kommunikoidaan käyttäjille, miten Adoben generatiiviset AI-ominaisuudet, kuten Firefly, on koulutettu, mukaan lukien datatyyppi. Se luo luottamusta ja varmuutta teknologioissamme, varmistaen, että käyttäjät ymmärtävät prosessit, jotka liittyvät generatiivisen AI-kehitykseen. Ollessamme avoimia datalähteistämme, koulutusmenetelmistämme ja eettisistä varastoistamme, jotta käyttäjät voivat tehdä informoidun päätöksen siitä, miten he vuorovaikuttavat tuotteidemme kanssa. Tämä avoimuus on linjassa AI-eettisten periaatteidemme kanssa ja luo yhteistyöllisen suhteen käyttäjien kanssa.

Miten Adobe aikoo käsitellä tulevaisuuden eettisiä haasteita, erityisesti kun AI jatkaa kasvamistaan, erityisesti generatiivisessa AI:ssa?

Uskon, että tärkeimmät eettiset haasteet Adobelle ovat vähentää haitallisia biasia, varmistaa saavutettavuus ja ylläpitää käyttäjien luottamusta. AI:n potentiaali ylläpitää stereotypioita tai tuottaa haitallista ja harhaanjohtavaa sisältöä on huolenaihe, joka vaatii jatkuvaa valppautta ja tehokkaita suojauskeinoja. Esimerkiksi viimeaikaisilla generatiivisen AI:n edistysaskelilla on helpompaa “pahalle toimijalle” luoda harhaanjohtavaa sisältöä, levittää virheellistä tietoa ja manipuloida julkista mielipidettä, heikentäen luottamusta ja avoimuutta.

Adoben perustama Content Authenticity Initiative (CAI) vuonna 2019 on tärkeä askel luotettavamman ja avoimemman digitaalisen ekosysteemin luomiseksi kuluttajille. CAI toteuttaa ratkaisumme digitaalisen luottamuksen luomiseksi – Content Credentials. Content Credentials sisältävät tärkeitä tietoja, kuten luojan nimen, luomispäivämäärän, käytettyjen työkalujen ja tehtyjen muokkausten. Tämä mahdollistaa käyttäjille digitaalisen luottamuksen ja aitouden ketjun luomisen.

Kun generatiivinen AI jatkaa kasvamistaan, on tärkeää edistää laajaa Content Credentials -järjestelmän käyttöönottoa, jotta voidaan palauttaa luottamus digitaaliseen sisältöön.

Mitä neuvoja antaisit muiden organisaatioiden, jotka aloittavat AI-kehityksen eettisten kehyksen kehittämisen?

Neuvoni olisi aloittaa selkeiden, yksinkertaisten ja käytännöllisten periaatteiden kehittäminen, jotka voivat ohjata pyrkimyksiä. Usein näen yrityksiä tai organisaatioita, jotka keskittyvät siihen, mitä näyttää hyvältä teoriassa, mutta heidän periaatteensa eivät ole käytännöllisiä. Syy siihen, miksi periaatteemme ovat kestäneet aikaa, on se, että suunnittelimme ne toimiviksi. Kun arvioimme AI-pohjaisia ominaisuuksiamme, tuote- ja insinööritiimimme tietävät, mitä etsimme ja mitä odotamme heiltä.

Neuvoni olisi myös, että organisaatiot tulevat tähän prosessiin tietäen, että se on iteratiivinen. En tiedä, mitä Adobe keksii viidessä tai kymmenessä vuodessa, mutta tiedän, että kehitämme arviointiamme uusien innovaatioiden ja saamamme palautteen mukaisesti.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla Adoben sivustolla.