Tekoälyharha ja kulttuuriset stereotyypit: vaikutukset, rajoitukset ja lieventäminen

Teckoäly (AI), erityisesti Generative AI, ylittää jatkuvasti odotukset kykynsä ymmärtää ja jäljitellä ihmisen kognitiota ja älykkyyttä. Kuitenkin monissa tapauksissa tekoälyjärjestelmien tulokset tai ennusteet voivat heijastaa erilaisia tekoälyharhoja, kuten kulttuurisia ja rotuisia.

Buzzfeedin ”Barbies of the World” -blogi (joka on nyt poistettu) osoittaa selvästi nämä kulttuuriset harhat ja epätarkkuudet. Nämä ”barbies” luotiin Midjourney -tekoälykuvageneraattorilla, joka on johtava tekoälykuvageneraattori, selvittämään, miltä barbies näyttäisivät eri puolilla maailmaa. Puhumme tästä myöhemmin tarkemmin.

Tämä ei kuitenkaan ole ensimmäinen kerta, kun tekoäly on ollut ”rasistinen” tai tuottanut epätarkkoja tuloksia. Esimerkiksi vuonna 2022 Apple (AAPL ) joutui oikeudenkäyntiin väitteiden vuoksi, että Apple Watchin veren happipitoisuuden anturi oli harhaanjohtava ihmisiä, joilla on tumma iho. Toisessa tapauksessa Twitterin käyttäjät havaitsivat, että Twitterin automaattinen kuvankäsittelytekoäly suosi valkoihoisten kasvoja mustaihoisten ja miesten kasvoja naisten kasvojen sijaan. Nämä ovat kriittisiä haasteita, ja niiden ratkaiseminen on merkittävästi haastavaa.

Tässä artikkelissa tarkastelemme, mitä tekoälyharha on, miten se vaikuttaa yhteiskuntaamme ja miten harjoittajat voivat lieventää sitä kulttuuristen stereotyyppien haasteiden ratkaisemiseksi.

Mikä on tekoälyharha?

Tekoälyharha ilmenee, kun tekoälymallit tuottavat syrjivää tulosta tiettyä väestöryhmää kohtaan. Useita harhoja voi tulla tekoälyjärjestelmiin ja tuottaa virheellisiä tuloksia. Jotkut näistä tekoälyharhoista ovat:

• Stereotyyppinen harha: Stereotyyppinen harha tarkoittaa ilmiötä, jossa tekoälymallin tulokset koostuvat stereotyypeistä tai käsityksistä tietyn väestöryhmän suhteen.
• Rotuharha: Rotuharha tekoälyssä tapahtuu, kun tekoälymallin tulos on syrjivä ja epäoikeudenmukainen yksilölle tai ryhmälle sen etnisyyden tai rodun perusteella.
• Kulttuuriharha: Kulttuuriharha tulee mukaan, kun tekoälymallin tulokset suosivat tietyn kulttuurin toisen kulttuurin sijaan.

Lisäksi muihin ongelmiin, jotka voivat estää tekoälyjärjestelmien tuloksia, kuuluvat:

• Epätarkkuudet: Epätarkkuudet tapahtuvat, kun tekoälymallin tulokset ovat virheellisiä epäjohdonmukaisen koulutusaineiston vuoksi.
• Harhat: Harhat tapahtuvat, kun tekoälymallit tuottavat kuvitteellisia ja virheellisiä tuloksia, jotka eivät perustu tosiasiallisiin tietoihin.

Tekoälyharhan vaikutus yhteiskuntaan

Tekoälyharhan vaikutus yhteiskuntaan voi olla haitallista. Syrjivät tekoälyjärjestelmät voivat tuottaa epätarkkoja tuloksia, jotka vahvistavat jo olemassa olevia ennakkoluuloja yhteiskunnassa. Nämä tulokset voivat lisätä syrjintää ja oikeuksien loukkaamista, vaikuttaa rekrytointiprosesseihin ja vähentää luottamusta tekoälytekniikkaan.

Myös syrjivät tekoälytulokset johtavat usein epätarkoihin ennusteisiin, jotka voivat olla vakavia seurauksia viattomille yksilöille. Esimerkiksi elokuussa 2020 Robert McDaniel joutui rikoksen kohteeksi Chicagon poliisilaitoksen ennustavan rikospolitiikan algoritmin vuoksi, joka oli merkitty ”henkilöksi, jota tulee seurata”.

Samoin syrjivät terveydenhuollon tekoälyjärjestelmät voivat johtaa vakaviin potilastuloksiin. Vuonna 2019 Science löysi, että laajasti käytetty US-lääketieteellinen algoritmi oli rotuhaarhaa mustaihoisia kohtaan, mikä johti siihen, että mustat potilaat saivat vähemmän korkean riskin hoitoa.

Barbies of the World

Heinäkuussa 2023 Buzzfeed julkaisi blogipostauksen, joka koostui 194 tekoälyllä luodusta barbiesta ympäri maailmaa. Postaus levisi nopeasti Twitterissä. Vaikka Buzzfeed kirjoitti varoituksen, se ei estänyt nettituttuja huomaamasta rotu- ja kulttuurisista epätarkkuuksista. Esimerkiksi tekoälyllä luodun Saksan barbien kuvassa Barbie pukeutui SS-natsiupseerin univormuun.

Samoin tekoälyllä luodun Etelä-Sudanin barbien kuvassa Barbie pidettiin aseella, mikä heijasti syvään juurtunutta harhaa tekoälyalgoritmeissa.

Lisäksi useat muut kuvat osoittivat kulttuurisia epätarkkuuksia, kuten Qatarin barbien pukeutuminen ghutran, joka on perinteinen arabimiesten päävaate.

Tämä blogipostaus sai voimakkaan vastaanoton kulttuuristen stereotyyppien ja harhan vuoksi. Lontoon monitieteinen koulu (LIS) kutsui tätä edustukselliseksi vahingoksi, jota on pidettävä kurissa asettamalla laadunvaatimukset ja perustamalla tekoälyvalvontaelimet.

Tekoälymallien rajoitukset

Tekoälyllä on potentiaalia vallankumousta monilla aloilla. Mutta jos tilanteet, kuten edellä mainittu, yleistyvät, se voi johtaa tekoälyn yleisen käytön laskuun, mikä johtaa mahdollisuuksien menetykseen. Tällaiset tapaukset johtuvat usein merkittävistä rajoituksista tekoälyjärjestelmissä, kuten:

• Luovuuden puute: Koska tekoäly voi tehdä päätöksiä vain annetun koulutusaineiston perusteella, se ei kykene luovuuteen, mikä haittaa luovaa ongelmanratkaisua.

• Kontekstualisen ymmärryksen puute: Tekoälyjärjestelmät kohtaavat vaikeuksia ymmärtäessään kontekstuaalisia nuansseja tai kielen ilmaisuja alueittain, mikä usein johtaa virheisiin tuloksissa.

• Koulutusharha: Tekoäly riippuu historiallisesta aineistosta, joka voi sisältää syrjiviä näytteitä. Koulutuksen aikana malli voi helposti oppia syrjiviä malleja, jotka tuottavat epäoikeudenmukaisia ja syrjiviä tuloksia.

Miten vähentää tekoälyharhaa

Asiantuntijat arvioivat, että vuoteen 2026 mennessä 90 % verkkosisällöstä voi olla synteettisesti tuotettua. Siksi on tärkeää vähentää nopeasti ongelmia, jotka ovat läsnä generatiivisissa tekoälyteknologioissa.

Useita avainstrategioita voidaan toteuttaa vähentämään tekoälyharhaa. Jotkut näistä ovat:

• Takuu datan laadusta: Syötettäessä täydellistä, tarkkaa ja puhdasta dataa tekoälymalliin voidaan vähentää harhaa ja tuottaa tarkempia tuloksia.
• Moninaiset aineistot: Esittämällä moninaisia aineistoja tekoälyjärjestelmään voidaan lieventää harhaa, koska tekoälyjärjestelmä tulee yhä monipuolisemmaksi ajan myötä.

• Palautusilmakat: Jatkuvan palautus- ja oppimisilmakautta tekoälymallit voivat vähitellen parantaa tuloksiaan

• Lisääntynyt sääntely: Globaalit tekoälysäännöt ovat tärkeitä tekoälyjärjestelmien laadun ylläpitämiseksi rajat ylittäen. Kansainväliset järjestöt on työskenneltävä yhdessä varmistaakseen tekoälystandardisoinnin.

• Lisääntynyt vastuullisen tekoälyn omaksuminen: Vastuulliset tekoälystrategiat vaikuttavat myönteisesti tekoälyharhan lieventämiseen, edistäen reiluutta ja tarkkuutta tekoälyjärjestelmissä sekä varmistaen, että ne palvelevat monipuolista käyttäjäkuntaa ja pyrkivät jatkuvaan parantamiseen.

Sisällyttämällä moninaisia aineistoja, eettistä vastuuta ja avoimia viestintäkanavia voimme varmistaa, että tekoäly on positiivisen muutoksen lähde maailmanlaajuisesti.

Jos haluat oppia enemmän tekoälyharhasta ja tekoälyn roolista yhteiskunnassamme, lue seuraavat blogit.

• Miten kaupungit käyttävät johtavia teknologioita hyödyntäen syrjimättömiä tekoälyalgoritmeja
• Tekoäly voi torjua väärää tietoa ja harhaa uutisissa
• Harha ja reiluus tekoälyperusteisissa järjestelmissä rikosasioissa
• Tekoälyohjattu harhantarkistin uutisartikkeleihin, saatavilla Pythonissa