AI Now Institute Varoittaa Tunteen Tunnistusohjelmistojen Väärinkäytöstä Ja Muista Eettisistä Ongelmista

AI Now Institute on julkaissut raportin, jossa kehotetaan lainsäätäjiä ja muita sääntelyelimiä asettamaan tiukat rajoitukset tunteen tunnistusteknologian käytölle, kieltämällä sen käytön tapauksissa, joissa sitä voidaan käyttää tärkeiden päätösten tekemiseen, kuten työntekijöiden palkkaamisessa tai opiskelijoiden hyväksymisessä. Lisäksi raportissa esitettiin useita muita ehdotuksia eri aiheista tekoälykentässä.

AI Now Institute on tutkimuslaitos, joka sijaitsee NYU:ssa ja jonka tehtävänä on tutkia tekoälyn vaikutusta yhteiskuntaan. AI Now julkaisee vuosittain raportin, jossa esitetään heidän löytönsä tekoälytutkimuksen tilasta ja tekoälyn nykyisestä käytöstä johtuvista eettisistä vaikutuksista. BBC:n mukaan tämän vuoden raportissa käsiteltiin aiheita, kuten algoritmien syrjintä, tekoälytutkimuksen monimuotoisuuden puute ja työntekijöiden ongelmat.

Tunteen tunnistus, joka on tekninen termi tunteen tunnistusalgoritmille, on nopeasti kasvava tekoälytutkimuksen ala. Niiden, jotka käyttävät tätä teknologiaa päätöksiin, usein väittävät, että järjestelmät voivat antaa luotettavaa tietoa ihmisten tunteista analysoimalla mikroilmeitä ja muita vihjeitä, kuten äänensävyä ja kehonkieltä. AI Now instituutti huomauttaa, että tätä teknologiaa käytetään laajasti eri sovelluksissa, kuten työntekijöiden valinnassa, vakuutusmaksujen määrittämisessä ja opiskelijoiden huomion seuraamisessa luokassa.

Prof. Kate Crawford, AI Nowin perustaja, selitti, että usein uskotaan, että ihmisten tunteita voidaan ennustaa melko yksinkertaisilla malleilla. Crawford sanoi, että jotkut yritykset perustavat ohjelmistonsa kehittämisen Paul Ekmanin työhön, joka esitti, että on olemassa vain kuusi perustyyppistä tunteita, jotka rekisteröityvät kasvoilla. Crawford huomauttaa kuitenkin, että Ekmanin teorian jälkeen tehdyt tutkimukset ovat osoittaneet, että kasvojen ilmeissä on paljon suurempi vaihtelu ja että ilmeet voivat muuttua tilanteiden ja kulttuurien mukaan helposti.

“Samalla, kun nämä teknologiat otetaan käyttöön, suuret määrät tutkimuksia osoittavat, että ei ole… minkäänlaista todistetta siitä, että ihmisillä on johdonmukainen suhde tunneiden ja kasvojen ilmeiden välillä”, Crawford sanoi BBC:lle.

Tästä syystä AI Now instituutti väittää, että suurin osa tunteen tunnistuksesta perustuu epäluotettaviin teorioihin ja kyseenalaiseen tieteeseen. Sen vuoksi tunteen tunnistusjärjestelmiä ei pidä ottaa käyttöön, ennen kuin on tehty lisää tutkimuksia, ja “hallitusten tulisi erityisesti kieltää tunteen tunnistuksen käyttö päätöksenteon prosesseissa”. AI Now väitti, että meidän tulisi erityisesti lopettaa tämän teknologian käyttö “herkillä sosiaalisilla ja poliittisilla areenoilla”, joita ovat työllistyminen, koulutus ja poliisi.

Ainakin yksi tekoälykehitysfirma, joka on erikoistunut tunteen tunnistukseen, Emteq, oli samaa mieltä siitä, että tulisi olla sääntelyä, joka estää teknologian väärinkäytön. Emteqin perustaja, Charles Nduka, sanoi BBC:lle, että vaikka tekoälyjärjestelmät voivat tunnistaa eri kasvojen ilmeitä, ei ole yksinkertaista karttaa ilmeestä tunteeseen. Nduka ilmaisi kuitenkin huolensa siitä, että sääntely voisi mennä liian pitkälle ja tukahduttaa tutkimuksen, huomauttaen, että “jos asioita kielletään, on tärkeää, että ihmiset eivät heittäisi vauvaa pesuveden mukana”.

NextWebin mukaan AI Now suositteli myös useita muita käytäntöjä ja normeja, jotka tulisi ohjata tekoälyteollisuutta eteenpäin.

AI Now korosti tekoälyteollisuuden tarvetta tehostaa työpaikkojen monimuotoisuutta ja sanoi, että työntekijöiden tulisi olla oikeus ilmaista mielipidettään invaasiivisista ja hyväksikäyttävistä tekoälysovelluksista. Tekoälytyöntekijöiden tulisi myös olla oikeus tietää, ovatko heidän työnsä osa haitallisia tai epäeettisiä sovelluksia.

AI Now ehdotti myös, että lainsäätäjien tulisi ryhtyä toimiin, jotta terveydenhuollon tekoälysovelluksista saatava data olisi suojattua. Lisäksi neuvottiin, että tietosuojaa tulisi ottaa tosissaan ja valtioiden tulisi kehittää lakeja biometrisen datan suojaamiseksi sekä yksityisille että julkisille organisaatioille.

Lopuksi instituutti neuvoi, että tekoälyteollisuuden tulisi alkaa ajatella ja toimia laajemmin, yrittäen ratkaista tekoälyn laajempia poliittisia, yhteiskunnallisia ja ekologisia seuraamuksia. Suositeltiin, että tulisi olla merkittävä ponnistus tekoälyn vaikutuksen selvittämiseksi maantieteellisen siirtymisen ja ilmastonmuutoksen suhteen ja hallitusten tulisi tehdä tekoälyteollisuuden ilmastovaikutus julkisesti saataville.