Facebook poistaa tekoälyllä luodut tilit, joita käytetään salaliittoteorioiden levittämiseen

Sosiaalisen median yritykset ovat pyrkineet hallitsemaan väärää tietoa ennen vuoden 2020 vaalikautta monin eri tavooin. Kun Twitter hiljattain kielsi poliittiset mainokset alustallaan, Facebook (META ) ilmoitti sulkenneensa satoja vale-tiliä, ryhmiä ja sivuja. Monet näistä tileistä näyttävät käyttävän tekoälyllä luotuja profiilikuvasia, ja niitä on ilmeisesti käytetty väärän tiedon ja salaliittoteorioiden levittämiseen.

Forbesin mukaan Facebook totesi, että kielletyt tilin ja sivut liittyivät “Beauty of Life” -verkostoon, tai “TheBL”:ään, jota Facebook sanoi olevan konservatiivisen uutisjulkaisijan, Epoch Timesin, liittona. Facebookin mukaan Epoch Media Group on käyttänyt lähes 9,5 miljoonaa dollaria mainontaan useiden kieltettyjen sivujen ja ryhmien kautta, ja monissa julkaisuissa on ollut pro-Trumpin salaliittoteorioita. Vaikka Epoch Media Group kiistää syytökset, Facebook on todennut, että se on työskennellyt läheisesti riippumattomien tutkijoiden, kuten Graphikan ja Atlantic Councilin Digitaalisen tutkimuslaboratorion (DFRLab) kanssa, määrittääkseen tileiden ja sivujen luonteen ennen toimien niiden vastaan.

Facebookin mukaan tilin poistettiin “koordinoituina epäaidoista käyttäytymisistä”, tarkoituksella harhaanjohtavista henkilöllisyyksistä ja yrittäessä poliittista vaikuttamista. CNETin mukaan Facebook sanoi, että tilin usein julkaisivat sisältöä, joka edisti tiettyjä poliittisia ehdokkaita ja ideologiaa, keskittyen konservatiivisiin vaaleihin, konservatiivisiin politiikkoihin ja vahvaan tukeen presidentti Trumpille.

Facebook julkaisi 39-sivuisen raportin tapahtumasta, joka kattaa monia heidän löytöjään. Yksi merkittävimmistä raportin löytöistä oli, että monia kiellettyjä tilejä luotiin tekoälyn avulla. Facebookin tutkijat toteavat raportissaan:

“Kymmenet näistä valesivuista olivat profiilikuvasia, jotka oli luotu tekoälyllä, ensimmäisessä laajassa tekoälyllä luotujen kasvojen käytössä, jonka raportin kirjoittajat tietävät.”

Raportin löytöjen mukaan tekoälyllä luodut kuvat eivät olleet täydellisiä, ja yksityiskohdat paljastivat usein niiden todellisen luonteen. Esimerkiksi henkilön silmälasit tai hiukset olivat usein epäsymmetrisiä. Lisäksi taustayksityiskohdat olivat usein sumeat ja vääristyneet. Näitä yksityiskohtia ei kuitenkaan välttämättä huomaa ensi silmäyksellä, etenkin Facebook-kommenttiketjun pienissä profiilikuvasissa. Monet valesivuista näyttivät myös olevan vääriä profiilitietoja ja jopa vääriä julkaisuja, jotka olivat mahdollisesti luotu tekoälyllä.

NBC:n mukaan Facebookin turvallisuuspolitiikan johtaja, Nathaniel Gleicher, totesi, että tileiden käyttäytyminen oli se, mikä paljasti niiden epäaidon luonteen, ja yritykset käyttää vääriä kuvia ja profiilitietoja eivät auta tilejä välttämään havaitsemista. Gleicher totesi, että tekoälyllä luodut kuvat tekevät tileistä todennäköisemmin havaittaviksi. Gleicher totesi:

“Havaitsemme nämä tilin, koska ne osallistuvat vääriin toimiin. Tekoälyllä luotujen profiilien käyttäminen tapana tehdä itsensä näyttämään aidommilta ei todella auta heitä. Suurin oivallus tässä on verkon häikäisevä käyttäytyminen… Mitä uutta tässä on, on se, että tämä on Yhdysvalloissa toimiva media-alan yritys, joka hyödyntää ulkomaisia toimijoita esiintymällä amerikkalaisina poliittisen sisällön levittämisessä. Olemme nähneet sen usein valtiollisilla toimijoilla aiemmin.”

Kuitenkin riippumattomat tutkijat Graphikasta ja Atlantic Councilista totesivat, että pahantekijöiden helppo pääsy luoda niin monta kuvaa ja antaa tileilleen näennäistä aidoutta “on huolenaihe”. Facebook ja muut sosiaalisen median yritykset ovat paineessa lisätäkseen ponnisteluaan poliittisen väärän tiedon leviämisen torjumiseksi, tehtävä, joka vaatii pysymistä teknologisesti edellä niitä, jotka pyrkivät levittämään väärää tietoa.

Ennen kuin Facebook poisti tilin, sivut ja ryhmät, näiden yksiköiden julkaisemat sisällöt saavuttivat miljoonia ihmisiä. Ilmoitettiin, että vähintään 55 miljoonaa tiliä seurasi yhtä 89 eri kielletystä sivusta. Useimmat seuraajat olivat ei-Yhdysvaltalaisia tilejä. Yhteensä noin 600 tiliä, 90 sivua ja 150 ryhmää poistettiin Facebookista. Lisäksi noin 70 tiliä poistettiin Instagramista.

Uutinen tulee juuri kun Facebook käynnistää DeepFake-havaitsemishaasteen, joka kestää maaliskuuhun 2020 saakka. Twitter on myös hiljattain kieltänyt lähes 6000 tiliä, joita se epäilee olevan peräisin Saudi-Arabiasta ja julkaissut tarkoituksella harhaanjohtavaa sisältöä.