Tutkijat aloittavat tekoälyjen kouluttamisen vihapuheen torjumiseksi verkossa

Väärät uutiset ja vihapuhe verkossa muodostuvat ei päivittäiseksi, vaan minuuttikohtaiseksi ongelmaksi verkossa. IkigaiLabin mukaan Facebook (META ) ja Twitter joutuivat vastikään sulkemaan yli 1,5 miljardia ja 70 miljoonaa tiliä yrittääkseen hillitä väärän tiedon ja vihapuheen leviämistä maailmalla.

Kuitenkin edelleen tämänkaltaisen tehtävän suorittaminen vaatii valtavasti ihmisten voimavaroja ja lähes jatkuvaan työhön, jotta vain pieni osa vihapuheesta voitaisiin torjua. Ongelman ratkaisemiseksi tutkijat useissa laboratorioissa aloittavat tekoälyjen kouluttamisen tämän valtavan tehtävän avuksi.

Ikigai mainitsee Rosetta järjestelmän, jota Facebook käyttää uutisten, kuvien ja muiden sisältöjen aitouden tunnistamiseen sosiaalisessa mediassa. Kuten selitetään, Rosetta skannaa “sanat, kuvat, kielen, fontin, julkaisupäivämäärän ja muita muuttujia ja yrittää selvittää, onko esitetty tieto aitoa vai ei.” Järjestelmän kerättyä tietoja ja ottaen huomioon, että tekoäly ei ole vielä täysin “perehtynyt vihjauksiin, viittauksiin, ivailuihin ja kontekstiin, jossa sisältö on julkaistu”, ihmisenä toimivat moderaattorit ottavat järjestelmän haltuun ja opastavat tekoälyä vihapuheen ja väärän tiedon havaitsemisessa.

Yrittääkseen kehittää tekoälyjärjestelmiä, jotka pystyvät kattamaan kaikki mahdolliset vihapuheen nyanssit, tutkijaryhmä UC Santa Barbarassa ja Intelissä, kuten TheNextWeb (TNW) raportoi, “otti tuhansia keskusteluja epäilyttävimmistä yhteisöistä Redditissä ja Gabissa ja käytti niitä tekoälyjen kouluttamiseen vihapuheen torjumiseksi.” (INTC )

Heidän raporttinsa mukaan, tutkijaryhmä loi tietokannan, joka sisälsi “tuhat keskustelua, jotka oli erityisesti valittu sisältämään vihapuhetta.” He käyttivät myös listaa Redditin ryhmistä, jotka ovat pääasiassa tunnettuja vihapuheen käytöstä, jonka Justin Caffier Voxista on koonnut.

Tutkijat keräsivät “yli 22 000 kommenttia Redditistä ja yli 33 000 Gabista.” He totesivat, että näillä sivustoilla on “samankaltaisia suosittuja vihapuheen avainsanoja, mutta jakaumat ovat hyvin erilaiset.”

He huomauttivat, että näiden erojen vuoksi on hyvin vaikea sosiaaliselle medialle puuttua asioiden kulkuun reaaliajassa, koska vihapuheen virta on niin suuri, että se vaatisi lukuisia ihmisiä seuraamaan sitä.

Ongelman ratkaisemiseksi tutkijaryhmä aloitti tekoälyjen kouluttamisen. Heidän alkuperäinen tietokantansa lähetettiin Amazon (AMZN ) Turk -työntekijöille merkittäväksi. Merkittyään yksittäiset vihapuheen tapaukset, työntekijät keksivät lauseita, joita tekoäly voisi käyttää “estämään käyttäjiä julkaisemasta samankaltaista vihapuhetta tulevaisuudessa.”

Tämän perusteella tutkijaryhmä “suoritti tämän tietokannan ja interventiotietokannan eri koneoppimis- ja luonnollisen kielen prosessointijärjestelmin läpi ja loi prototyypin verkkovihapuheen interventio- tekoälystä.”

Tulokset olivat erinomaisia, mutta koska kehitys on edelleen varhaisessa vaiheessa, järjestelmä ei ole vielä valmis aktiiviseen käyttöön. Kuten selitetään, “järjestelmän teoreettisesti pitäisi havaita vihapuhe ja lähettää välittömästi viesti julkaisijalle, joka kertoo, miksi he eivät pitäisi julkaista asioita, jotka edustavat ilmeistä vihapuhetta. Tämä perustuu enemmän kuin vain avainsanan havaitsemiseen – jotta tekoäly toimisi, se on saatava konteksti oikein.”