Kasvava vaatimus tekoälynsäätelyyn useiden viikkojen uutisraporttien jälkeen

Viimeisten viikkojen aikana on kasvanut vaatimus tekoälynsäätelyä. Tämä huoli johtuu useista uutisista, jotka osoittavat teknologian mahdollisia väärinkäyttöjä. Nyt, Euroopan komission (EU) julkaiseman valkoisen kirjan tekoälystä, joka on ensimmäinen pan-eurooppalainen yritys säännellä tekoälyä, herättää vielä enemmän kysymyksiä. Samoihin aikoihin, Valkoisen talon tieteen ja teknologian politiikan toimisto (OSTP) julkaisi raportin Yhdysvaltain tekoälyohjelmasta.

Ennen EU:n valkoisen kirjan julkaisemista, The Intercept julkaisi uutisen vuotaneista EU:n sisäisistä asiakirjoista. Asiakirjojen mukaan EU harkitsi kasvojen tunnistusaineistojen luomista koko Euroopan alueelle. Kymmenen EU:n jäsenvaltion kansalliset poliisivoimat tuottivat raportin, jossa vaadittiin tietokantojen luomista ja niiden yhdistämistä jokaisessa jäsenvaltiossa. Monet ovat huolissaan, että tällaisen tietokannan luominen johtaisi väistämättä sen yhdistämiseen vastaaviin tietokantoihin Yhdysvalloissa, mikä mahdollistaisi suuren määrän biometristen tietojen kokoamisen. Monet odottivat, että EU:n valkoinen kirja ehdottaisi kasvojen tunnistuksen kieltämistä, mutta sitä ei ollut.

Yksityisyyden kansainvälisen järjestön (Privacy International) kampanjapäällikkö Edin Omanovic sanoo: “Tämä on huolestuttavaa sekä kansallisella että eurooppalaisella tasolla, erityisesti kun jotkut EU:n maat siirtyvät kohti autoritaarisempia hallituksia.”

Yksi suurista uutisista viimeisten viikkojen aikana, joka käynnistyi New York Timesin tutkimuksesta tammikuussa, liittyy startup-yritys Clearview AI:hin. Yrityksen kasvojen tunnistussovellus tunnistaa henkilöitä vertaamalla valokuvaa tietokantaan, joka on koostettu sosiaalisen median kuvista. Sovellus vertaa valokuvaa yli 3 miljardin kuvan tietokantaan, joka on peräisin sivustoilta kuten Facebook (META ), Venmo ja Youtube. Kun sovellus löytää vastaavuuksia, se vastaa linkkeillä sivustoihin, joista kuvat on peräisin. Tämä teknologia voisi johtaa henkilökohtaisten yksityiskohtien löytymiseen. Raportin mukaan sovellusta on käytetty yli 600 lainvalvontaviranomaisen toimistossa. Vaikka Clearview’n tietokanta sisältää yli 3 miljardia kuvaa, FBI:n tietokanta sisältää vain 641 miljoonaa Yhdysvaltain kansalaisen kuvaa.

Uutinen on tullut jälleen esille BuzzFeed Newsin uutisesta (BZFD ) viime viikolla. Raportin mukaan yritys on harkinnut laajentamista lainvalvontaa laajempiin tarkoituksiin, kuten vähittäiskauppaan, kiinteistöalalle, pankkitoimintaan ja kansainvälisiin markkinoihin. Raportissa kerrotaan myös, että kasvojen tunnistussovellusta on myyty tuhansille organisaatioille ympäri maailmaa ja sitä on käytetty oikeusministeriössä, ICE:ssä, Macy’sissa, Walmartissa ja NBA:ssa. Ehkä ongelmallisinta asiakaslistalla on Yhdistyneiden Arabiemiraattien suvereeni varallisuusrahasto ja tuhannet hallituksen tahot.

(M ) (WMT )

Uudet kehityssuunnat ovat herättäneet huolta yksityisyyden puolustajien keskuudessa mahdollisten massavalvontatarkoitusten vuoksi. Toinen huolenaihe on teknologian mahdollinen epätarkkuus, joka johtaisi syyttömien henkilöiden kohteeksi joutumiseen. Kaiken tämän lisäksi yritykset kuten Facebook, Google (GOOGL ) ja Twitter uhkaavat oikeudellisilla toimilla. Yksityisten oikeudellisten toimien lisäksi vähintään kaksi Yhdysvaltain senaattoria on ilmoittanut aikovansa tutkia yritystä.

Esimerkki tämän teknologian väärinkäytöstä voidaan nähdä Yhdysvaltain maahanmuuttovirastossa (ICE). The Washington Post raportoi viime viikolla, että ICE:n virkamiehet ovat saaneet luvan käyttää kasvojen tunnistusteknologiaa etsimään miljoonien Marylandin ajokorttien valokuvia ilman osavaltion tai oikeuden hyväksyntää.

Georgetownin yliopiston oikeustieteellisen tiedekunnan yksityisyyden ja teknologian keskuksen vanhempi tutkija Harrison Rudolph sanoo: “ICE käyttää biometristä tietoa varjossa, ilman hallituksen ilmoitusta tai julkista hyväksyntää, metsästääkseen haavoittuvimpia ihmisiä.”

Nämä ovat vain joitakin julkisista esimerkeistä siitä, miten tätä teknologiaa käytetään, mutta paljon enemmän tapahtuu taustalla. Tämän vuoksi on kasvanut vaatimus tarkastelulle ja sääntelylle. Lisääntynyt avoimuus, joko vapaaehtoisesti tai tutkivan journalismin kautta, on tuonut monia käytäntöjä julki. Ilman yleisön ymmärrystä tekoälystä ja siitä, mitä se voi merkitä taloudelle, hallitukselle, lainvalvonnalle, valvonnalle ja muille yhteiskunnan osa-alueille, on vain vähän toivoa hallituksille ja yrityksille itseään säätelemään. Yhteiskunta näkee sekä tekoälyn valtavat hyödyt että massiiviset huolet, ja kaikki tapahtuu liian nopeasti yrityksille, hallituksille ja yksilöille.