Chatroulettella on nyt apuna tekoälypohjainen sisällönmoderaatio

Chatroulette tuli kuuluisaksi 2010-luvun alussa, kun se mahdollisti satunnaisen keskustelun toisten, satunnaisesti valittujen ihmisten kanssa. Sivusto tuli kuitenkin myös maineeseen sen helppokäyttöisyyden vuoksi, jolla ihmiset voivat kohtaa alastomuutta ja muita “R-ikärajoitettuja” sisältöjä. Wiredin mukaan Chatroulette on nyt pyrkimässä tekemään paluun paremmalla sisällönmoderaatiolla, jota tehostaa tekoäly.

Tekoälypohjainen sisällönmoderaatio

Koska tekoäly- ja tietokoneen näköalgoritmit ovat kehittyneet ja luotettavuutensa on parantunut, niiden soveltaminen vastaanottamattoman sisällön havaitsemiseen on parantunut. Tämä on hyödyllistä kaikille yrityksille, jotka sallivat käyttäjien ladata tai muuten luoda sisältöä. Yhtiöt kuten Youtube, Facebook (META ) ja Twitter käyttävät tekoälypohjaisia sisällönfiltrointialgoritmeja vastaanottamattoman materiaalin kanssa. Chatroulette oli erityisesti aikaisemmin vaivannut alastomuus ja muut epäsiistit teot, jotka ajoi monet käyttäjät pois. Pandemia on herättänyt uudelleen kiinnostuksen Chatrouletten käyttämiseen, joka ansiosta tekoälyn kehittyneen kuvantunnistuksen ansiosta voi tehokkaammin valvoa käyttäjien lähettämää sisältöä.

Vuonna 2019 Chatrouletten perustaja Andrey Ternovskiy rekisteröi yhtiön Sveitsiin, tavoitteenaan tehdä yhteistyötä ammattimaisen johtajan ja tekoälyasiantuntijoiden kanssa. Tekoälytutkija Andrew Done palkattiin Ternovskiyhin johtamaan tekoälytekniikan kehittämistä uudelleen Chatrouletteen. Done nimitettiin toimitusjohtajaksi tänä vuonna, ja hän on lisännyt tuotekehittäjiä ja johtajia tiimiinsä.

Uuden johdon alla Chatroulette hyödynsi liikenteen kasvua käyttäjätutkimuksen ja eri sisällönmoderaatiomenetelmien testaamiseen. Chatroulette-tiimi suunnitteli kaksi uutta chat-kanavaa. Yksi chat-kanava on nimeltään Random Chat, joka on suunniteltu sisältämään vain hyväksytty sisältö, kun taas toinen kanava on nimeltään Unmoderated. Tämä jakautuminen tehdään houkutellakseen käyttäjiä, jotka ovat kiinnostuneita yhdistymisestä muiden ihmisten kanssa ilman, että heidän tarvitsee huolehtia vastaanottamattomasta sisällöstä. Unmoderoitu kanava poistetaan lopulta kesäkuussa 2021.

Yhteistyö tekoälyyhtiö Hiven kanssa

Chatroulette on tehnyt yhteistyösopimuksen tekoälyyhtiö Hiven kanssa kehittääkseen alastomuuden havaitsemiseen tarkoitettuja tekoälyjä. Hive on myös vastuussa Redditin sisällönmoderaatiosta, mikä antaa sille kokemusta sisällön hallinnasta suuressa sosiaalisessa verkostossa. Donen mukaan Hiven valvontajärjestelmä on niin tarkin, että ihmisten valvojien lisääminen todella heikentää valvonnan tarkkuutta. Hive kouluttaa tekoälymallinsa yli 2 miljoonan hajasijoitetun työntekijän annotoimalla dataa. Hajasijoitetut työntekijät etsivät vastaanottamatonta sisältöä, kuten alastomuutta ja tuliaseita, ja annotoivat kuvat tekoälyjärjestelmän kouluttamiseen. Vaikka Chatroulette yritti käyttää Google Cloud Vision AI -järjestelmää ja Amazon (AMZN ) Rekognitionia avuksi sisällönmoderaatioon, se totesi lopulta, että Hiven tekoäly oli luotettavin ja tarkin heidän tarpeisiinsa.

Hiven tekoäly on prosessoinut yli 600 miljoonaa videokehystä Chatroulettesta. Jokainen kahden käyttäjän välinen yhteys tuottaa kolme kehystä. Kaksi kehystä luodaan käyttäjille yhteyden alussa, ja yksi kehykselle luodaan käyttäjälle, joka lopettaa yhteyden. Sisältö, joka rikkoo ehtoja, voidaan tunnistaa yhdessä sekunnissa. Varoitusviesti lähetetään ihmisen valvojalle, joka voi joko estää tai varoittaa käyttäjää.

Alkuvuodesta Chatrouletten kuukausittaiset yksilölliset kävijämäärät olivat noin 4 miljoonaa, mikä on eniten sivustolle käyneitä käyttäjiä vuoden 2016 alusta lähtien. Ponnistelut epäsiisteen sisällön kitkemiseksi näyttävät onnistuneen, sillä naiset muodostavat nyt noin 34 %:n kaikista käyttäjistä, kun vuonna 2018 heitä oli vain 11 %.

Siinä missä sosiaalisen median yhtiöt tulevat ja menevät, Chatroulette näyttää nousevan jälleen merkittävään asemaan. Ternovskiy kuitenkin myöntää, että yhtiöllä on muitakin ongelmia ratkaistavana kuin vain sisällönmoderaatio. Ternovskiyhin mukaan lähes 90 %:lla ensikertalaisista käyttäjistä ei ole toista vierailua, koska he pitävät vuorovaikutuksiaan keskinkertaisina.

”Haaste on todella rakentaa jotain arvokasta, joka saisi ihmiset kiinnostumaan käyttämään sitä säännöllisesti eikä vain kerran,” Ternovskiy selitti Wiredille.