Tekoälyinsinöörit kehittivät menetelmän, jolla voidaan havaita väärän tiedon levittäjien aikomus

Väärän tiedon käsitteleminen digitaalisessa aikakaudella on monimutkainen ongelma. Väärää tietoa ei vain täydy tunnistaa, merkitä ja oikaista, vaan myös määritellä sen levittäjien aikomus. Henkilö voi levittää väärää tietoa tietämättään tai vain antaa mielipidettään asiasta, vaikka se myöhemmin raportoidaan totena. Hiljattain Dartmouthin yliopistossa työskentelevä joukko tekoälytutkijoita ja -insinöörejä loi kehyksen, jota voidaan käyttää mielipiteen johtamiseen “väärästä uutisesta”.

ScienceDailyn mukaan Dartmouthin tutkimusjoukkion tutkimus julkaistiin hiljattain Journal of Experimental & Theoretical Artificial Intelligence -julkaisussa. Vaikka aiemmat tutkimukset ovat yrittäneet tunnistaa väärää uutista ja taistella harhaanjohtamista vastaan, tämä saattaa olla ensimmäinen tutkimus, joka pyrkii määrittämään puhujan aikomuksen uutisartikkelissa. Vaikka tosi tarina voidaan muuttaa moniin harhaanjohtaviin muotoihin, on tärkeää määritellä, oliko harhaanjohtamista tarkoitus. Tutkimusryhmä väittää, että aikomus on tärkeää väärän tiedon käsittelemisessä, koska harhaanjohtamista voidaan tapahtua vain, jos on ollut aikomus harhauttaa. Jos yksilö ei tiennyt levittävänsä väärää tietoa tai antoi vain mielipidettään, ei voi olla harhaanjohtamista.

Eugene Santos Jr., insinööriprofessori Dartmouthin Thayer School of Engineering -yliopistossa, selitti ScienceDailylle, miksi heidän mallinsa yrittää erottaa petollisen aikomuksen:

“Petollinen aikomus harhauttaa kuulijoita tarkoituksella muodostaa paljon suuremman uhan kuin tahattomat virheet. Parhaan tietämme mukaan, meidän algoritmi on ainoa menetelmä, joka havaitsee petollisuuden ja samalla erottaa pahantahtoiset teot hyväntahtoisten tekojen joukosta.”

Jotta he voisivat rakentaa mallinsa, tutkimusryhmä analysoi petollisen päättelyn piirteitä. Tuloksena oleva algoritmi pystyi erottamaan aikomuksen harhauttaa muista viestintämuodoista keskittymällä ristiriitoihin henkilön aiempien väittämien ja nykyisten lausuntojen välillä. Tutkimusryhmän luoma malli tarvitsee suuria määriä dataa, jota voidaan käyttää mittaamaan, kuinka paljon henkilö poikkeaa aiemmista väittämistään. Koulutusdata, jota tutkimusryhmä käytti kouluttamaan malliaan, koostui mielipidemittauksesta kiistanalaisista aiheista. Yli 100 henkilöä antoi mielipidettään näistä kiistanalaisista aiheista. Dataa haettiin myös 20 eri hotellin arvostelusta, jotka koostuivat 400 fiktiivisestä arvostelusta ja 800 aidosta arvostelusta.

Santon mukaan tutkimusryhmän kehittämä kehys voidaan jalostaa ja soveltaa uutistoimistoissa ja lukijoissa, jotta he voivat analysoida “väärän uutisen” sisältöä. Lukijat voivat tarkastella artikkeleita mielipiteiden läsnäolosta ja päättää itse, onko loginen argumentti käytössä. Santos sanoi myös, että ryhmä haluaa tutkia väärän tiedon vaikutusta ja sen aiheuttamia aaltoja.

Populaarikulttuuri usein esittää non-verbaalisia käyttäytymisiä, kuten kasvojen ilmeitä, merkkeinä siitä, että joku valehtelee, mutta tutkimuksen tekijät huomauttavat, että nämä käyttäytymisen vihjeet eivät aina ole luotettavia merkkejä valehtelusta. Deqing Li, yksi tutkimuksen tekijöistä, selitti, että heidän tutkimuksensa osoitti, että mallit, jotka perustuvat päättelyn aikomuksiin, ovat parempia merkkejä valehtelusta kuin käyttäytymisen ja sanallisen viestinnän erot.

Dartmouthin tutkijoiden työ ei ole ainoa viimeaikainen edistysaskel väärän tiedon torjunnassa tekoälyllä. Uutisartikkeleissa, joissa on clickbait-otsikot, usein piilotetaan väärää tietoa. Esimerkiksi ne viittaavat siihen, että jotain tapahtui, vaikka tosiasia on toinen.

AINewsin mukaan tutkijaryhmä Arizonan osavaltion yliopistosta ja Pennsylvanian osavaltion yliopistosta yhteistyössä loi tekoälyjärjestelmän, joka pystyy havaitsemaan clickbait-otsikot. Tutkijat pyysivät ihmisiä kirjoittamaan omat clickbait-otsikkonsa ja kirjoittivat myös ohjelman, joka voi generoida clickbait-otsikkoja. Molemmat muodot otsikoista käytettiin kouluttamaan mallia, joka pystyy tehokkaasti havaitsemaan clickbait-otsikot, riippumatta siitä, ovatko ne kirjoitettu koneella vai ihmisellä.

Tutkijoiden mukaan heidän algoritmiansa oli noin 14,5 prosenttia tarkin aiempiin tekoälyjärjestelmiin verrattuna, kun kyseessä oli clickbait-otsikoiden havaitseminen. Pennsylvanian osavaltion yliopiston tietojenkäsittelytieteen ja teknologian tiedekunnan apulaisprofessori Dongwon Lee selitti, miten heidän kokeensa osoittaa tekoälyllä generoidun datan hyödyllisyyden koulutusprosessiin:

“Tämä tulos on melko mielenkiintoinen, koska onnistuimme osoittamaan, että tekoälyllä generoitu koulutusdata voidaan syöttää takaisin koulutusprosessiin, jotta voidaan kouluttaa laaja valikoima tekoälymalleja parantamaan suorituskykyä”, Lee selitti.