Andrew Pery, eettinen evankelista, ABBYY – Haastattelusarja

Andrew Pery on ABBYY:n eettinen evankelista, digitaalisen älykkyyden yrityksessä. He antavat organisaatioille pääsyn arvokkaaseen, mutta usein vaikeasti saavutettavaan, näkyvyyteen heidän toiminnastaan, joka mahdollistaa todellisen liiketoiminnan muutoksen.

ABBYY julkaisi hiljattain Global Initiative Promoting the Development of Trustworthy Artificial Intelligence. Päätimme kysyä Andrew’lta kysymyksiä AI:n eetiikasta, AI:n väärinkäytöstä ja siitä, mitä AI-teollisuus voi tehdä näistä huolenaiheista eteenpäin.

Mikä alun perin herätti kiinnostuksesi AI-eetiikkaa kohtaan?

Mikä alun perin herätti kiinnostukseni AI-eetiikkaa kohtaan, oli syvä kiinnostus lain ja AI-tekniikan leikkauspisteessä. Aloittelin urani rikosvankilassa, edustaen varattomia puolustajia, joilla ei ollut varaa maksaa oikeudellisia palveluita. Sitten siirryin tekniikkaan, keskittyen edistyneen hakutoiminnon ja AI:n soveltamiseen oikeudessa. Olen erityisen intohimoinen tietosuojalain ja AI-tekniikan oikeasta käytöstä, joka on linjassa ja vahvistaa tietosuojaoikeuksia.

Kasvojen tunnistustekniikkaa käytetään usein väärin viranomaisten toimesta, mukaan lukien Yhdysvaltain hallitus. Kuinka suuri yhteiskunnallinen huolenaihe tämä pitäisi olla?

Kasvojen tunnistustekniikan vaikutukset pitäisi olla merkittävä yhteiskunnallinen huolenaihe, koska tämä teknologia voi vaikuttaa moniin perustaviin oikeuksiin, mukaan lukien taloudellisiin, sosiaalisiin ja turvallisuusoikeuksiin.

On selvä ja vakuuttava näyttö siitä, että kasvojen tunnistusalgoritmit ovat epäluotettavia. NIST-tutkimus kasvojen tunnistusalgoritmeista osoitti, että afroamerikkalaiset olivat jopa 100 kertaa todennäköisemmin väärin tunnistettuja. Samansuuntainen tutkimus Georgetownin lakikoulusta osoitti, että kasvojen tunnistusalgoritmit, jotka perustuivat pidätyskuvauksiin, tuottivat korkean prosenttipainumuksen afroamerikkalaisiin yksilöihin liittyvistä väärästä positiivisista tuloksista, ja 2018 MIT-tutkimus Amazonin kasvojen tunnistusohjelmasta osoitti, että vaikka valkoihoiset miehet tunnistettiin oikein 99 prosenttisesti, tummaihoiset yksilöt tuottivat jopa 35 prosenttia väärästä positiivisista tuloksista.

Tämän vuoksi sääntelijät ovat alkaneet ryhtyä toimiin kasvojen tunnistusteknologian käytön kieltämiseksi, erityisesti valvontaa ja profilointia koskevissa yhteyksissä. Esimerkiksi Kalifornian senaatti hyväksyi valtakunnallisen kiellon kasvojen tunnistusteknologian ja muiden biometrisen valvonnan menetelmien käytölle.

On myös momentum teknologiayhteisössä perääntymiseen kasvojen tunnistusohjelmistojen markkinoinnista. IBM ilmoitti, että se lopettaa kasvojen tunnistusohjelmistojen myynnin, vedoten siihen, että se rikkoisi perusihmisoikeuksia ja -vapauksia. Microsoft (MSFT ) ilmoitti samansuuntaisesta päätöksestä lopettaa kasvojen tunnistusteknologiansa myynti, vedoten myös perusihmisoikeuksiin.

COMPAS-ohjelmisto, jota on käytetty Yhdysvaltain oikeuslaitoksissa rikosvaaran arviointiin, on virheellisesti merkitty näkyvät vähemmistörikokset todennäköisemmiksi uusintarikoksiksi kuin valkoiset rikokset. Pitäisikö AI:n käyttö oikeuslaitoksissa edes olla vaihtoehto?

Tutkimukset COMPAS:sta osoittivat, että se ei ole parempi ennustamaan rikoksia kuin satunnaiset ihmiset. Vaikka ennustavan analytiikan toimitus tuo merkittävää arvoa kaupallisessa yhteydessä, on todettu, että se johtaa epäkohtiin sen soveltamisessa rikosvankiloihin. Tämä on nähtävissä raportissa, joka julkaistiin Pro Publicassa, ja jossa todettiin, että COMPAS, suosituin ohjelmisto, jota Yhdysvaltain oikeuslaitokset käyttävät rikosvaaran arviointiin, virheellisesti merkitti näkyvät vähemmistörikokset todennäköisemmiksi uusintarikoksiksi kaksi kertaa useammin kuin valkoiset rikokset.

Nämä epäkohtia herättivät entisen oikeusministeri Eric Holderin epäilyt ja ilmaisi huolenaiheita AI-tekniikan soveltamisesta ennustamaan uusintarikoksia rikosvankilassa.

Miten yhteiskunta voi välttää ohjelmoimasta negatiivisia harhauksia AI-järjestelmiin?

Ensinnäkin on oltava tunnustettava, että AI:lla voi olla taipumus tuottaa tahattomia harhauksia, joita kutsutaan tiedostamattomiksi harhauksiksi. Niiden haitallisen vaikutuksen lieventämiseksi vaaditaan kattava lähestymistapa, joka perustuu eettisiin AI-ohjeisiin, kuten OECD:n eettisiin kehyksiin. Tämä perustuu seitsemään perussääntöön, mukaan lukien ihmisen toimijuus ja valvonta, tekninen luotettavuus ja turvallisuus, tietosuojaa ja hallintoa, avoimuus, monimuotoisuus ja syrjimättömyys, yhteiskunnallinen hyvinvointi ja vastuu.

Toiseksi on noudatettava lakeja, jotka suojavat automaattista profilointia vastaan. Esimerkiksi EU on pitkään kunnioittanut ja suojellut tietosuojaoikeuksia, ja viimeisimmän ja voimakkaimman ilmauksen ollessa yleinen tietosuojamääräys (GDPR), joka erityisesti suojaa automaattista päätöksentekoa.

Kolmanneksi on oltava teollisuuden vastuu AI-tekniikan kehittämisestä ja sitoutuminen tarjoamaan avoimuutta ilman vaikutusta heidän omiin immateriaalioikeuksiinsa. On myönteisiä kehityksiä tässä suhteessa. Esimerkiksi Partnership on AI on järjestö, jolla on yli 80 jäsentä 13 maassa, ja joka on omistautunut tutkimukselle ja keskustelulle tärkeistä AI-kysymyksistä.

Lopuksi teknologiayritykset tulisi sitoutua tekemään harhauksen vaikutuksen arvio ennen AI-algoritmien kaupallista julkaisua, erityisesti silloin, kun niiden sovellukset vaikuttavat tietosuojaa ja turvallisuutta koskeviin oikeuksiin. Teknologiajohtajien tulisi kysyä itseltään seuraavia kysymyksiä ennen uusien AI-pohjaisien sovellusten julkaisua: Onko tämän teknologian koulutusdata riittävän monipuolista? Miten harhauksia havaitaan? Miten ne testataan ja kuka testaa? Mitkä ovat kehittäjien kannustimet? Kuka hyötyy kaupallisesti siitä?

On tärkeää muistaa, että AI-ratkaisut heijastelevat niiden taustalla olevaa dataa, jolle ne on koulutettu, joten varmistaminen, että tämä data ei ole harhaa ja heijastelee oikein sille palvelleen asiakkaiden monimuotoisuutta, on kriittistä. AI-tutkija Professori Joanna Brysonin sanojen mukaan, “jos taustalla oleva data heijastelee stereotyyppejä tai jos koulutat AI:ta ihmiskulttuurista, löydät harhauksen. Ja jos emme ole varovaisia, riski on, että integroidaan tämä harhautus tietokoneohjelmiin, jotka hallitsevat kaiken, alkaen sairaaloista, kouluista ja vankiloista – ohjelmiin, jotka pitäisi poistaa nämä harhaukset ensinnäkin.”

ABBYY julkaisi hiljattain Global Initiative -aloitteen, joka edistää luotettavan tekoälyn kehittämistä. Kuinka tärkeä tämä aloite on ABBYY:n tulevaisuudelle?

Päätös kehittää globaalia aloitetta luotettavalle AI:lle on tärkeä päätös, joka perustuu uskomukseemme, että yrityksenä, jonka teknologiat vaikuttavat yrityksiin ympäri maailmaa ja palvelevat kymmeniä tuhansia yksittäisiä käyttäjiä, meillä on velvollisuus olla hyviä yrityskansalaisia, joilla on sosiaalinen omatunto. Tämä auttaa myös luomaan suurempaa luottamusta globaaleille asiakkaillemme ja kumppaneillemme, ja varmistaa, että teknologiamme jatkavat vaikuttamasta merkittävällä tavalla, joka hyödyttää yleistä hyvää.

Se myös tekee hyvää liiketoimintaa edistää ja tukea luotettavaa AI:n käyttöä. Se vahvistaa brändimme arvoa, luo luottamusta globaaleille asiakkaillemme ja kumppaneillemme, ja auttaa meitä kasvamaan kestävästi.

Osa tätä aloitetta on ABBYY:n sitoutuminen edistämään kulttuuria, joka edistää eettistä AI:n käyttöä ja sen yhteiskunnallista hyödyllisyyttä. Mitä muut yritykset tarvitsevat tehdäkseen samanlaisen kulttuurin?

Teknologiayritysten on kehitettävä raamit eettiselle AI:n käytölle. Tämän sitoutumisen laajuus riippuu AI-algoritmien tarkoitettujen sovellusten määrästä. Parhaan tapa arvioida sen vaikutusta on soveltaa “älä tee pahaa” -periaatetta ja olla sitoutunut luotettavaan AI:n käyttoön.

Yhtä tärkeää on sitoutuminen avoimuuteen. Vaikka immateriaalioikeudet on tasapainotettava luotettavan AI:n periaatteiden kanssa, avoimuuden ja vastuun tärkeys AI:n vastuullisessa käytössä on selkeästi ilmaistava ja kommunikoitava koko organisaatiolle.

Yksi aloitteista, johon ABBYY on sitoutunut, on toimittaa AI-tekniikkaa, joka on sosiaalisesti ja taloudellisesti hyödyllistä. Tämä voi olla haasteellinen tasapaino saavuttaa. Miten yritykset voivat parhaiten toteuttaa tämän?

Johtajat voivat saavuttaa tämän tasapainon ottamalla huomioon Deloitten suositukset: AI:n eettinen suunnittelu alkaa määrittelemällä, mitä sidosryhmille, kuten asiakkaille, työntekijöille, sääntelijöille ja yleisölle, on tärkeää. Yritysten on perustettava omat AI-hallintorakennelmat ja neuvottelukomiteat, joissa on monialaisia johtajia ja ulkopuolisia neuvonantajia, jotka osallistuvat monialaisten työryhmien kanssa ja perustavat ja valvovat AI-pohjaisia ratkaisujen suunnittelua, kehittämistä, käyttöönottoa ja käyttöä.

Miten tasapainotimme kaupalliset edut ja yleisen hyvän, oli nähtävissä viimeksi koronaviruspandemian aikana. Tarjosimme useita teknologioitamme ilmaiseksi tai alennettuun hintaan, jotta yksilöt ja organisaatiot voivat navigoida kriisin, ylläpitää liiketoiminnan jatkuvuutta ja tukea asiakkaitaan epävarmoissa olosuhteissa.

Olemme myös vastikään julkaisseet teknologiamme NeoML -avoin lähdekoodin koneoppimiskirjasto, joka mahdollistaa ohjelmistokehittäjille hyödyntäämän todistettuja ja luotettavia malleja edistääkseen AI-innovaatiota.

Voitko jakaa näkemyksesi COVID-19-sovellusten käytöstä lähiyhteysseurannassa ja oikeuden tasapainottamisesta yksityisyyden suhteen?

Tämä on erityisen hankala asia. On niitä, jotka väittävät, että matkapuhelinseurannan sovellusten toteuttaminen edustaa epätervettä tunkeutumista yksityisyyden oikeuksiin. Toisaalta, kun on kyse julkisen turvallisuuden suojelemisesta, on aina rajoituksia oikeuksissa yleensä. Se on tasapainoilu oikeuksien ja velvollisuuksien välillä. Kuitenkin oikeudet eivät ole ehdottomia. Pandemian torjuminen vaatii koordinoitua toimintaa ja resurssien soveltamista, jotka voidaan vastuullisesti käyttää suojelemaan yleisöä laajasti.

Tämä tasapaino yksityisyyden oikeuksien ja yleisen hyvän välillä on tunnustettu oikeudellisessa kehyksessä. Esimerkiksi GDPR määrittää kuusi perustetta henkilötietojen lailliseen käsittelemiseen, mukaan lukien säännön, jonka mukaan kun käsittelemistä on välttämätöntä julkisen edun vuoksi, tällainen henkilötietojen käsittelemistä on oikeutettua ilman, että tarvitaan tietosuojan kohteen suostumusta.

Lisäksi GDPR:n 46 §:n mukaan henkilötietojen käsittelemistä on oikeutettua ilman, että tarvitaan tietosuojan kohteen suostumusta, humanitaaristen hätätilanteiden, kuten epidemian, yhteydessä. Kuitenkin on huomattava, että 46 §:n tulkinta sovelletaan julkisen edun perusteella hyvin kapeasti, ja huomauttaa, että se tulisi tapahtua vain silloin, kun se ei voi perustua mihinkään muuhun oikeudelliseen perusteeseen.

Yhteiskunnan tasolla on myös teknologiateollisuuden ja päätöksentekijöiden vastuu toteuttaa eettisesti kestäviä, avoimia ja reiluja ohjeita AI-pohjaisen profiloinnin ja herkän terveydentilan tiedon jakamisen käytölle. Suuret teknologiayritykset, kuten Google (GOOGL ) ja Facebook (META ), ovat jo aloittaneet aloitteita seuratakseen käyttäjien liikkeitä ja arvioidakseen sosiaalisen etäisyyden toimien tehokkuutta.

Uskon, että niin kauan kuin tieto on anonymisoitu, sen käyttö on yhteiskunnallista hyödyllisyyttä.

Onko mitään muuta, mitä haluaisit jakaa ABBYY:n uudesta Global Initiative -aloitteesta luotettavan tekoälyn kehittämiseksi?

Sääntelyt ovat usein jäljessä teknologisen innovaation kehitystä, joten yritysten on otettava proaktiivinen rooli edistääkseen avoimuutta ja vastuuta AI-tekniikkojen käytössä ja niiden vaikutuksissa tietosuojaa ja turvallisuutta koskeviin oikeuksiin. Meidän aloite heijastelee sitoutumistamme tähän pyrkimykseen. Perustamisesta lähtien olemme luoneet innovatiivisia teknologioita, jotka säilyttävät arvokasta tietoa ja muuttavat sen toimivaksi tiedoksi.

Lisäksi eettinen käyttö tekoälytekniikoista ei pitäisi olla vain oikeudellinen perusta, vaan myös moraalinen velvollisuus ja liiketoimintavaatimus. Jos ratkaisut ovat laajasti vaikuttavia ja vaikuttavat liiketoimintakriittisiin toimintoihin, se pitäisi olla teollisuuden standardi olla avoin AI-tekniikkojen soveltamisessa.

Kiitos paljon, kun vastasit näihin tärkeisiin kysymyksiin. Voit tarkastella ABBYY:n johdantaperiaatteita ja lähestymistapaa luotettavan AI:n noudattamiseksi ja klikkaa tästä. Kenelle tahansa, joka haluaa tietää lisää ABBYY:stä yleensä, voi vierailla ABBYY:n verkkosivuilla.