Tutkijat havaitsevat, että tekoälymallit voivat vaikuttaa ihmisten tekemään epäeettisiä päätöksiä

Tutkijaryhmä on viimeksi tutkinut tekoälyn mahdollisuutta korruptoida ihmisiä ja vaikuttaa heidän tekemisiinsä epäeettisiin päätöksiin. Tutkijat tutkivat, miten vuorovaikutus OpenAI:n GPT-2-mallin pohjalta kehitettyjen järjestelmien kanssa voi vaikuttaa ihmisten tekemisiin epäeettisiin päätöksiin, vaikka he tietävät, että neuvon lähde on tekoälyjärjestelmä.

Tekoälyjärjestelmät ovat yleistyvässä käytössä, ja niiden vaikutus laajenee jatkuvasti. Tekoälyjärjestelmät vaikuttavat ihmisten päätöksiin, ja niitä käytetään kaikenlaisiin tarkoituksiin, kuten elokuvien suosittelemiseen tai romanttisten kumppaneiden suosittelemiseen. Koska tekoälyllä on niin suuri vaikutus ihmisten elämään, on tärkeää tutkia, miten tekoäly voi vaikuttaa ihmisten tekemisiin epäeettisiin päätöksiin ja rikkoa moraalisia ohjeita. Tämä on erityisen tärkeää, koska tekoälymallit kehittyvät jatkuvasti.

Sosiaalitieteilijät ja data-tieteilijät ovat yhä enemmän huolissaan siitä, että tekoälymallit voivat levittää haitallista disinformaatiota ja väärää tietoa. Viimeaikainen tutkimus Middlebury Institute of International Studiesin Center on Terrorism, Extremism, and Counterterrorism (CTEC) -tutkimuslaitoksesta osoitti, että OpenAI:n GPT-3-malli voidaan käyttää luomaan vaikuttavaa tekstiä, joka voi radikalisoida ihmisiä ja ohjata heitä “väkivaltaisten äärioikeistolaisen ideologian ja käyttäytymisen” suuntaan.

Max Planck -instituutin, Amsterdamin yliopiston, Kölnin yliopiston ja Otto Beisheim School of Managementin tutkijaryhmä teki tutkimuksen, jossa selvitettiin, kuinka paljon tekoäly voi vaikuttaa ihmisten päätöksiin, kun on kyse epäeettisistä valinnoista. Tutkijat käyttivät OpenAI:n GPT-2-mallin pohjalta kehitettyä järjestelmää, jotta he voivat tutkia, miten tekoäly voi “korruptoida” ihmisen. VentureBeatin mukaan tutkimuksen tekijät kouluttivat GPT2-pohjaisen mallin antamaan sekä “rehellisyyttä edistävää” että “epärehellisyyttä edistävää” neuvontaa. Dataa koulutettiin 400 osallistujan avustuksella, ja tutkimusryhmä palkkasi yli 1500 ihmistä ottamaan osaa neuvontaa antaviin tekoälymalliin.

Tutkimuksen osallistujat pyydettiin ottamaan vastaan neuvontaa mallilta ja suorittamaan tehtävä, joka oli suunniteltu havainnoimaan joko epärehellistä tai rehellistä käyttäytymistä. Tutkimuksen osallistujat jaettiin pareihin, ja nämä kaksi osallistujaa pelasivat noppapeliä. Ensimmäinen osallistuja heitti noppaa ja ilmoitti tuloksen. Toinen osallistuja sai tiedon ensimmäisen osallistujan noppatuotoksesta, ja sitten he heittivät noppaa itse. Toinen osallistuja heitti noppaa yksin ja oli vastuussa tuloksen ilmoittamisesta, mikä antoi heille mahdollisuuden valehdella noppatuotoksesta. Jos noppien tulokset olivat samat, osallistujat saivat palkkion. Osallistujat saivat myös enemmän palkkioita, jos heidän noppiensa tulokset olivat korkeammat. Jos ilmoitetut arvot eivät olleet samat, osallistujat eivät saaneet palkkioita.

Tutkimuksen osallistujat jaettiin satunnaisesti kahteen eri ryhmään. Toisessa ryhmässä osallistujat saivat lukea rehellisyyttä edistävää neuvontaa, kun taas toisessa ryhmässä osallistujat lukivat epärehellisyyttä edistävää neuvontaa. Neuvontaa antoivat sekä ihmiset että tekoälyt. Osallistujat jaettiin myös sen mukaan, kuinka paljon he tietävät neuvonnan lähteestä. Osallistujilla oli 50-50 % mahdollisuus saada tietää neuvonnan lähde, joten puolet osallistujista kummassakin ryhmässä tiesi, oliko neuvonnan lähde tekoäly vai ihminen, kun taas toinen puoli ei tiennyt. Toisessa ryhmässä osallistujilla oli mahdollisuus ansaita bonuspalkkio oikeasta arvauksesta neuvonnan lähteestä.

Tutkimus osoitti, että kun tekoälygeneroitu neuvonta on samaa mieltä ihmisen mieltymyksien kanssa, he seuraavat neuvontaa, vaikka he tietävät, että neuvonta on tekoälystä. Tutkijoiden mukaan väestön mieltymyksissä ja todellisissa käyttäytymisissä oli usein ristiriitaisuuksia, mikä tekee tärkeäksi tutkia, miten algoritmit voivat vaikuttaa ihmisten käyttäytymiseen.

Tutkimusryhmä selitti, että heidän tutkimuksensa osoittaa, että on tärkeää testata, miten tekoäly voi vaikuttaa ihmisten toimiin, kun on kyse tekoälymallin eettisestä käytöstä. Lisäksi he varoittavat, että tekoälyä voidaan käyttää pahantahtoisesti muiden korruptoimiseen. Tutkijaryhmä kirjoitti:

“Tekoäly voi olla hyvä voima, jos se saa ihmiset toimimaan eettisemmin. Mutta tutkimuksemme osoittaa, että tekoälyn neuvonta ei lisää rehellisyyttä. Tekoälyn neuvontaa voidaan käyttää syntipukkeina, joihin voidaan siirtää (osaa) moraalista syytettä epärehellisyydestä. Lisäksi … neuvonnan kontekstissa algoritmin läsnäolo ei riitä vähentämään sen potentiaalista vahinkoa.”