Paljastamalla syrjintää tekoälyssä: Haasteet ja ratkaisut

Viimeaikaiset edistysaskeleet generatiivisessa tekoälyssä ovat johtaneet räjähdysmäiseen kasvuun yrityssovelluksissa eri aloilla, kuten rahoituksessa, terveydenhuollossa ja liikenteessä. Tämän teknologian kehitys johtaa myös muihin uusiin teknologioihin, kuten kyberpuolustusmenetelmiin, kvanttilaskennan edistymiseen ja murtovaikutteisiin langattomiin viestintämenetelmiin. Näiden uusien teknologioiden räjähdysmäinen kasvu kuitenkin tuo omat haasteensa.

Esimerkiksi tekoälyn omaksuminen voi mahdollistaa monimutkaisemmat kyberhyökkäykset, muisti- ja tallennustilanteen pullonkaulat laskennan voimakkaan kasvun vuoksi sekä eettiset huolenaiheet tekoälymallien esittämistä syrjinnästä. Hyviä uutisia on, että NTT Research on ehdottanut tapaa ylittää syrjintä syvissä neuroverkoissa (DNN), tekoälyn tyyppi.

Tämä tutkimus on merkittävä läpimurto, sillä syrjintättömät tekoälymallit vaikuttavat palkkaamiseen, rikosoikeusjärjestelmään ja terveydenhuoltoon, kun niitä ei vaikuta ominaisuuksilla kuten rotu, sukupuoli. Tulevaisuudessa syrjintä voidaan poistaa käyttämällä näitä automaattisia järjestelmiä, mikä parantaa alanlaajuisia DE&I-liiketoimintahankkeita. Lopulta syrjintättömät tekoälymallit parantavat tuottavuutta ja vähentävät aikaa, joka kuluu tehtävien suorittamiseen. Kuitenkin vain harvat yritykset ovat joutuneet lopettamaan tekoälyohjelmansa, koska teknologia esitti syrjivät ratkaisut.

Esimerkiksi Amazon lopetti salaisen tekoälypohjaisen palkkaamisalgoritmin käytön, kun se huomasi, että algoritmi suosi hakijoita, jotka käyttivät sanoja “suorittanut” tai “kaapattu” useammin, jotka olivat yleisempiä miesten ansioluetteloissa. Toinen ilmeinen esimerkki syrjinnästä tulee Joy Buolamwinilta, yhdeltä vaikuttavimmista henkilöistä tekoälyssä vuonna 2023 TIME-lehden mukaan, joka yhteistyössä Timnit Gebrun kanssa MIT:ssä osoitti, että kasvoanalyysiteknologiat osoittivat korkeammat virheluvut arvioitaessa vähemmistöjä, erityisesti vähemmistönaisia, mahdollisesti johtuen riittämättömästi edustavasta koulutusaineistosta.

Viimeaikaisesti DNN:t ovat yleistyneet tieteessä, tekniikassa ja liiketoiminnassa, ja jopa suosituissa sovelluksissa, mutta ne joskus nojaavat epäilyttäviin ominaisuuksiin, jotka voivat välittää syrjintää. MIT-tutkimuksen mukaan viime vuosina tiedemiehet ovat kehittäneet syviä neuroverkkoja, jotka pystyvät analysoimaan valtavia määriä syöteaineistoja, kuten ääniä ja kuvia. Nämä verkot voivat tunnistaa jaettuja ominaisuuksia, mikä mahdollistaa niiden luokittelun kohdekohteiksi tai -sanoiksi. Tällä hetkellä nämä mallit ovat alan eturintamassa ensisijaisina malleina biologisen aistijärjestelmän jäljittämiseksi.

NTT Researchin vanhempi tutkija ja Harvardin yliopiston Aivotutkimuskeskuksen apulaisprofessori Hidenori Tanaka sekä kolme muuta tutkijaa ovat ehdottaneet ylittämään DNN:n rajoitukset “viattoman hienosäätömenetelmällä”, joka vähentää mallin riippuvuutta syrjintäherkillä ominaisuuksilla.

He tutkivat neuroverkkojen “häviömaisemaa” mode-yhteyden kautta, havainnollistaen, että neuroverkkojen minimoidut arvot, jotka saadaan koulutusaineistosta, ovat yhdistetty yksinkertaisilla poluilla, joilla on alhainen häviö. Nimenomaan he kysyivät seuraavaa: ovatko minimoidut arvot, jotka riippuvat eri mekanismeista ennustettaessa, yhdistetty yksinkertaisilla poluilla, joilla on alhainen häviö?

He havaitsivat, että viattoman hienosäätömenetelmä ei voi perustavanlaatuisesti muuttaa mallin päätöksentekomekanismia, koska se edellyttää siirtymistä toiseen laaksoon häviömaisemassa. Sen sijaan on tarpeen ajaa malli yli esteiden, jotka erottavat “niiden” tai “laaksojen” alueita, joilla on alhainen häviö. Tutkijat kutsuvat tätä korjaavaa algoritmia “yhteyden perusteella hienosäätöksi” (CBFT).

Ennen tämän kehityksen toteutumista DNN, joka luokitteli kuvia, kuten kalaa (jota käytettiin tässä tutkimuksessa), käytti sekä kuvan muotoa että taustaa syöteparametreina ennustettaessa. Sen häviöminimointipolut toimisivat siten eri mekanistisissa tiloissa: toisessa luotettavalla ominaisuudella, kuten muodolla, ja toisessa epäilyttävällä ominaisuudella, kuten taustan värillä. Näin ollen nämä tilat eivät olisi lineaarisesti yhteydessä toisiinsa.

Tutkimusryhmä ymmärtää mekanistisen näkökulman mode-yhteydestä tarkastelemalla kahta parametriryhmää, jotka minimoisivat häviön taustoja ja kuvamuotoja käyttäen ennustettaessa. He kysyivät itseltään, ovatko tällaiset mekanistisesti erilaiset minimoidut arvot yhdistetty poluilla, joilla on alhainen häviö maisemassa? Vaikuttaako näiden mekanismien erilaisuus heidän yhteydensä yksinkertaisuuteen? Voimmeko hyödyntää tätä yhteyttä vaihtamaan minimoiduiksi, jotka käyttävät toivottuja mekanismeja?

Toisin sanoen syvät neuroverkot voivat käyttäytyä eri tavoin, riippuen siitä, mitä ne ovat oppineet koulutusaineistosta, ja ne voivat käyttäytyä eri tavoin, kun niitä testataan toisessa aineistossa. Tutkijaryhmän ehdotus kiteytyi yhteisten samankaltaisuuksien käsitteeseen. Se perustuu edelliseen mode-yhteyden ideaan, mutta siinä on twisti – se tarkastelee, miten samankaltaiset mekanismit toimivat. Heidän tutkimuksensa johti seuraaviin silmänavaajiin löydöksiin:

• minimoidut arvot, joilla on eri mekanismit, voivat olla yhdistetty monimutkaisella, epälineaarisella tavalla
• kun kaksi minimointiarvoa on lineaarisesti yhdistetty, se liittyy läheisesti siihen, miten samankaltaisia niiden mekanismit ovat
• yksinkertainen hienosäätö ei välttämättä riitä poistamaan ei-toivottuja piirteitä, jotka on opittu aikaisemmassa koulutuksessa
• jose löytyy alueita, jotka ovat lineaarisesti erillisiä maisemassa, voidaan tehdä tehokkaita muutoksia mallin sisäisiin toimintoihin.

Vaikka tämä tutkimus on suuri askel tekoälyn täydellisen potentiaalin hyödyntämiseksi, eettiset huolenaiheet tekoälystä voivat edelleen olla ylöspäin taipuvia. Teknologit ja tutkijat työskentelevät muiden tekoälyjen ja suurten kielimallien eettisten heikkouksien, kuten yksityisyyden, itsehallinnon ja vastuun, kitkemiseksi.

Tekoäly voidaan käyttää keräämään ja prosessoimaan valtavia määriä henkilökohtaista tietoa. Tämän tiedon luvaton tai eettömän käytön voi vaarantaa yksilöiden yksityisyyden, mikä johtaa huolenaiheisiin valvontaa, tietoturvaongelmia ja henkilöllisyyden varastamista koskien. Tekoäly voi myös aiheuttaa uhkaa, kun on kyse sen autonomisten sovellusten, kuten itseohjautuvien autojen, vastuusta. On tärkeää perustaa lakisääteisiä kehyksiä ja eettisiä standardeja vastuun ja oikeudellisen vastuun kannalta tulevina vuosina.

Johtopäätöksessä generatiivisen tekoälytekniikan nopea kasvu luo lupaavia mahdollisuuksia eri aloille, kuten rahoitukselle, terveydenhuoltoon ja liikenteeseen. Vaikka nämä kehityssuunnat ovat lupaavia, tekoälyyn liittyvät eettiset huolenaiheet ovat edelleen merkittäviä. Kun navigoimme tämän tekoälyä mullistavan aikakauden läpi, on tärkeää, että teknologit, tutkijat ja päättäjät työskentelevät yhdessä perustaakseen lakisääteisiä kehyksiä ja eettisiä standardeja, jotka varmistavat tekoälytekniikan vastuullisen ja hyödyllisen käytön tulevina vuosina. NTT Researchin ja Michiganin yliopiston tutkijat ovat askeleen edellä ehdottamalla algoritmia, joka voisi mahdollisesti poistaa syrjinnän tekoälystä.