Tutkijat uskovat, että tekoäly voidaan käyttää ihmisten yksityisyyden suojelemiseen

Kahden tietojenkäsittelytieteen professorin on julkaistu äskettäin artikkeli The Conversation -sivustolla, jossa väitetään, että tekoäly voisi auttaa säilyttämään ihmisten yksityisyyden ja korjaamaan joitain niistä ongelmista, joita se on aiheuttanut.

Zhiyuan Chen ja Aryya Gangopadhyay väittävät, että tekoälyalgoritmeja voidaan käyttää puolustamaan ihmisten yksityisyyttä ja vastatoimia monille yksityisyyden suojaa koskeville huolenaiheille, joita tekoälyn muut käytöt ovat aiheuttaneet. Chen ja Gangopadhyay myöntävät, että monista tekoälyyn perustuvista tuotteista, joita käytetään mukavuuden vuoksi, ei voi toimia ilman suuria määriä tietoa, mikä vaikuttaa aluksi olevan ristiriidassa yksityisyyden suojelemisen pyrkimyksen kanssa. Lisäksi, kun tekoäly leviää yhä useammalle alalle ja sovellukselle, tietoja kerätään ja tallennetaan tietokantoihin, mikä tekee tietokantojen louhinnasta houkuttelevaa. Chen ja Gangopadhyay uskovat kuitenkin, että tekoäly voidaan käyttää oikein, se voi auttaa lieventämään näitä ongelmia.

Chen ja Gangopadhyay selittävät kirjoituksessaan, että tekoälyyn liittyvät yksityisyyden riskit johtuvat vähintään kahdesta eri lähteestä. Ensimmäinen lähde on suuret tietojoukot, joita käytetään neuroverkkojen koulutukseen, kun taas toinen yksityisyyden uhka on mallit itse. Tiedot voivat “vuotaa” näistä malleista, ja mallien käyttäytyminen voi paljastaa yksityiskohtia siitä, mitä tietoja on käytetty niiden koulutukseen.

Syvät neuroverkkorakenteet koostuvat useista hermosolmkerroksista, joissa kunkin solmun ja solmujen välisen yhteyden kautta koodataan eri osia koulutusdatasta. Malli voi osoittautua liian hyväksi muistamaan koulutusdatan malleja, jopa silloin, kun malli ei ole ylioppinut. Koulutusdatan jäänteet ovat verkostossa, ja pahantahtaiset toimijat voivat pystyä selvittämään osia koulutusdatasta, kuten Cornellin yliopiston tutkimus osoitti. Cornellin tutkijat totesivat, että kasvojentunnistusalgoritmeja voidaan hyödyntää hyökkääjien toimesta paljastamaan, mitkä kuvat ja siten mitkä ihmiset olivat mukana kasvojentunnistusmallin koulutusdatasta. Cornellin tutkijat havaitsivat, että vaikka hyökkääjällä ei ole pääsyä alkuperäiseen malliin, jota käytettiin sovelluksen koulutukseen, hyökkääjä voi silti pystyä tutkimaan verkostoa ja määrittämään, oliko tietty henkilö mukana koulutusdatasta vain käyttämällä malleja, jotka on koulutettu hyvin samankaltaisilla tiedoilla.

Joitakin tekoälymalleja käytetään jo tällä hetkellä tietovuotojen estämiseen ja yksityisyyden turvaamiseen. Tekoälymallit käytetään usein havaitsemaan hakkeroinnin yrityksiä tunnistamalla käyttäytymismalleja, joita hakkerit käyttävät turvallisuusmenetelmien läpäisemiseen. Hakkerit kuitenkin usein muuttavat käyttäytymistään yrittääkseen hämätä mallien toimintaa.

Uudet tekoälykoulutus- ja kehittämismenetelmät pyrkivät tekemään tekoälymallit ja sovellukset vähemmän haavoittuvia hakkerointimenetelmille ja turvallisuuden välttämisstrategioille. Vastustuskykyinen oppiminen pyrkii kouluttamaan tekoälymalleja simuloimalla vaarallisia tai haitallisia syötearvoja ja siten tekee mallista kestävämmän hyödyntämistä vastaan, mistä johtuu “vastustuskykyinen” nimitys. Chenin ja Gangopadhyayn mukaan heidän tutkimuksensa on löytänyt keinoja taistella haittaohjelmia vastaan, jotka on suunniteltu varastamaan ihmisten yksityisiä tietoja. Kaksi tutkijaa selitti, että yksi tehokkaimmista keinoista haittaohjelmien torjumiseen oli epävarmuuden lisääminen malliin. Tavoitteena on tehdä hankalammaksi pahantahtoisten toimijoiden ennustaa, miten malli reagoi mihinkään syötearvoon.

Muita tekoälyn käytön keinoja yksityisyyden suojelemiseen kuuluvat tietojen vähentäminen, kun malli luodaan ja koulutetaan, sekä verkoston haavoittuvuuksien tutkiminen. Yksityisyyden suojaamisen kannalta federated learning voi auttaa suojelemaan herkkien tietojen yksityisyyttä, koska se sallii mallin kouluttamisen ilman, että koulutusdata joutuu koskaan paikallisten laitteiden ulkopuolelle, jolloin data ja suuri osa mallin parametreja suojataan vakoilulta.

Lopulta Chen ja Gangopadhyay väittävät, että vaikka tekoälyn leviäminen on luonut uusia uhkia ihmisten yksityisyydelle, tekoäly voidaan myös käyttää yksityisyyden suojelemiseen, kun se suunnitellaan huolella ja tarkoin.