Tutkijat havaitsevat, että tekoälymallit voivat vaikuttaa ihmisten tekemisiin epäeettisissä päätöksissä

Tutkijaryhmä on tutkinut äskettäin tekoälyn mahdollisuutta korruptoida ihmisiä ja vaikuttaa heidän tekemisiinsä epäeettisissä päätöksissä. Tutkijat tutkivat, miten vuorovaikutus OpenAI:n GPT-2-mallin pohjalta kehitetyjen järjestelmien kanssa voisi vaikuttaa ihmisten tekemisiin epäeettisissä päätöksissä, vaikka he tietävät, että neuvon lähde on tekoälyjärjestelmä.

Teckoälyjärjestelmät ovat yhä yleisempiä, ja niiden vaikutus laajenee jatkuvasti. Tekoälyjärjestelmät vaikuttavat ihmisten päätöksiin, ja niitä käytetään kaikenlaisiin tarkoituksiin, kuten elokuvien suosittelemiseen ja romanttisten kumppaneiden suosittelemiseen. Koska tekoälyllä on niin suuri vaikutus ihmisten elämään, on tärkeää tutkia, miten tekoäly voi vaikuttaa ihmisten tekemisiin epäeettisissä päätöksissä ja rikkoa moraalisia ohjeita. Tämä on erityisen tärkeää, koska tekoälymallit kehittyvät jatkuvasti.

Sosiaalitieteilijät ja data-analyytikot ovat yhä enemmän huolissaan siitä, että tekoälymallit voivat levittää haitallista disinformaatiota ja väärää tietoa. Viimeaikainen tutkimus, jonka Middlebury Institute of International Studiesin Center on Terrorism, Extremism, and Counterterrorism (CTEC) julkaisi, osoitti, että OpenAI:n GPT-3-malli voi luoda vaikuttavaa tekstiä, joka voi radikalisoida ihmisiä ja ajaa heitä “väkivaltaisia äärioikeistolaisia ääriliikkeitä ja käyttäytymistä” kohti.

Max Planck -instituutin, Amsterdamin yliopiston, Kölnin yliopiston ja Otto Beisheim School of Managementin tutkijaryhmä teki tutkimuksen, jossa selvitettiin, kuinka paljon tekoäly voi vaikuttaa ihmisten päätöksiin epäeettisissä valinnoissa. Tutkijat käyttivät OpenAI:n GPT-2-mallin pohjalta kehitettyä järjestelmää, jotta he voivat tutkia, miten tekoäly voi “korruptoida” ihmisen. VentureBeatin mukaan tutkimuksen tekijät kouluttivat GPT2-pohjaisen mallin luomaan sekä “rehellisyyttä edistävää” että “epärehellisyyttä edistävää” neuvontaa. Tutkimuksessa osallistui 400 eri osallistujaa, ja tutkimuksen jälkeen tutkijat palkkasivat yli 1500 ihmistä vuorovaikutukseen neuvontaa antavien tekoälymallien kanssa.

Tutkimuksen osallistujat pyydettiin ottamaan vastaan neuvontaa mallilta ja suorittamaan tehtävä, joka pyrki kaappaamaan joko epärehellisen tai rehellisen käyttäytymisen. Tutkimuksen osallistujat jaettiin pareihin, ja näissä pareissa he pelasivat noppapeliä. Ensimmäinen osallistuja heitti noppaa ja ilmoitti tuloksen. Toinen osallistuja sai tiedon ensimmäisen osallistujan noppatuotoksesta ja heitti itse noppaa. Toinen osallistuja heitti noppaa yksin ja oli vastuussa omasta tuloksestaan, mikä antoi hänelle mahdollisuuden valehdella noppatuotoksesta. Jos nopat olivat samat, osallistujat saivat palkkion. Osallistujat saivat myös enemmän palkkioita, jos heidän noppiensa tulokset olivat korkeampia. Jos ilmoitetut arvot eivät olleet samat, osallistujat eivät saaneet palkkioita.

Tutkimuksen osallistujat jaettiin satunnaisesti kahteen eri ryhmään. Toisessa ryhmässä osallistujat saivat lukea rehellisyyttä edistävää neuvontaa, kun taas toisessa ryhmässä osallistujat lukivat epärehellisyyttä edistävää neuvontaa. Neuvontakappaleet oli kirjoitettu sekä ihmisillä että tekoälyllä. Osallistujat jaettiin myös sen mukaan, miten hyvin he tunsivat neuvonnan lähteen. Jokaisella osallistujalla oli 50-50 % mahdollisuus tietää, oliko neuvonnan lähde tekoäly vai ihminen, kun taas toisella puolella osallistujat eivät tienneet neuvonnan lähdettä. Toisessa ryhmässä osallistujilla oli mahdollisuus ansaita bonuspalkkio oikeasta arvauksesta neuvonnan lähteestä.

Tutkimus osoitti, että kun tekoälygeneroitu neuvonta on samaa mieltä ihmisen mieltymyksien kanssa, he seuraavat neuvontaa, vaikka he tietävät, että neuvonnan lähde on tekoäly. Tutkijoiden mukaan oli usein ristiriitaa ilmoitettujen mieltymysten ja todellisen käyttäytymisen välillä, mikä tekee tärkeäksi tutkia, miten algoritmit voivat vaikuttaa ihmisten käyttäytymiseen.

Tutkimusryhmä selitti, että heidän tutkimuksensa osoittaa, että on tärkeää testata, miten tekoäly voi vaikuttaa ihmisten toimintaan, kun tarkastellaan, miten tekoälymallia voidaan käyttää eettisesti. Lisäksi he varoittavat, että tekoälyetikot ja tutkijat tulisi valmistautua siihen, että tekoälyä voidaan käyttää pahantahtoisesti muiden korruptoimiseen. Tutkimusryhmä kirjoitti:

“Tekoäly voi olla hyvä voima, jos se saa ihmiset toimimaan eettisemmin. Kuitenkin tutkimuksemme osoittaa, että tekoälyn neuvonta ei lisää rehellisyyttä. Tekoälyneuvonantajat voivat toimia syntipukkeina, joihin voidaan siirtää (jotkut) moraaliset syyt epärehellisyydestä. Lisäksi … neuvonnan ottamisen kontekstissa algoritmisen läsnäolon avoimuus ei riitä vähentämään sen potentiaalista vahinkoa.”