Chatroulette Palaa Valtaan AI-Vetoinen Sisällön Valvonta Avulla

Chatroulette tuli kuuluisaksi 2010-luvun alussa, kun se mahdollisti ihmisten puhumisen toisten, satunnaisesti valittujen ihmisten kanssa. Sivusto kuitenkin tuli myös maineeseen sen helppoutta, jolla ihmiset voivat kohtaa alastomuutta ja muita “R-rated” sisältöjä. Wiredin mukaan Chatroulette on nyt pyrkimässä tehdyään paluun paremman sisällön valvonnan avulla, jota ohjaa AI.

AI-Vetoinen Sisällön Valvonta

Koska AI ja tietokoneen näköalgoritmit ovat kehittyneet monipuolisemmiksi ja luotettavammiksi, niiden sovellukset vastustamattoman sisällön havaitsemiseksi ovat parantuneet. Tämä on eduksi kaikille yrityksille, jotka sallivat käyttäjien ladata tai muutoin luoda sisältöä. Yritykset kuten Youtube, Facebook ja Twitter käyttävät AI-pohjaisia sisällön suodatusalgoritmeja vastustamaan vastustamattoman materiaalia. Chatroulette oli erityisesti vaivannut alastomuus ja muut epäilyttävät teot, jotka ajoi monet käyttäjät pois. Pandemia on aiheuttanut uuden kiinnostuksen Chatroulettea kohtaan, joka kiittää AI-kuvantunnistuksen edistymistä, voivat tehokkaammin valvoa käyttäjien lähettämää sisältöä.
Vuonna 2019 Chatroulette-perustaja Andrey Ternovskiy rekisteröi yrityksen Sveitsissä, tavoitteenaan tehdä yhteistyötä ammattimaisen johtajien ja AI-asiantuntijoiden kanssa. Konenäköasiantuntija Andrew Done palkattiin Ternovskiyn johtamaan AI-teknologian kehittämistä uudelleen Chatroulettelle. Done tuli toimitusjohtajaksi tänä vuonna, ja hän lisäsi tuotekehittäjiä ja johtajia tiimiin.
Uuden johdon alaisuudessa Chatroulette hyödynsi liikenteen kasvua käyttäjätutkimuksen tekemiseen ja eri sisällön valvontamenetelmien testaamiseen. Chatroulette-tiimi suunnitteli kaksi uutta chat-kanavaa. Yksi chat-kanava on nimeltään Random Chat, joka on suunniteltu pois sulkeakseen vastustamattoman sisällön, kun taas toinen kanava on nimeltään Unmoderated. Tämä jakautuminen tehdään houkutellaakseen käyttäjiä, jotka ovat kiinnostuneita yhdistämään toisiin ihmisiin ilman, että heidän tarvitsee huolehtia vastustamattomasta sisällöstä. Suodattamaton kanava poistetaan lopulta kesäkuussa 2021.

Yhteistyö AI-Yritys Hiven Kanssa

Chatroulette on tehnyt yhteistyötä AI-yritys Hiven kehittääkseen alastomuuden havaitsevia AI-järjestelmiä. Hive on myös vastuussa Redditin sisällön valvonnasta, antaen heille kokemusta sosiaalisen verkoston sisällön hallinnasta. Donen mukaan Hiven AI-valvontajärjestelmä on niin tarkin, että ihmisten valvojien lisääminen todella heikentää valvonnan tarkkuutta. Hive kouluttaa AI-malleja annotoiduilla tiedoilla, joita on yli 2 miljoonaa hajautettua työntekijää. Hajautettu työvoima etsii vastustamattomia sisältöjä, kuten alastomuutta ja tuliaseita, annotoiden kuvat AI-koulutusta varten. Vaikka Chatroulette yritti käyttää Google Cloud Vision AI -järjestelmää ja Amazon Rekognitionia avustamaan sisällön valvontaa, se lopulta totesi, että Hiven AI oli luotettavin ja tarkin tarpeisiinsa.
Hiven AI on prosessoinut yli 600 miljoonaa videokehystä Chatroulettesta. Jokainen yhteys kahden käyttäjän välillä luo kolme kehystä. Yksi kehys luodaan molemmille käyttäjille yhteyden alussa, ja yksi kehys luodaan käyttäjälle, joka lopettaa yhteyden. Sisältö, joka rikkoo ehtoja, voidaan tunnistaa yhdessä sekunnissa. Hälytysviesti lähetetään ihmisen valvojalle, joka voi joko estää tai varoittaa käyttäjää.
Vuoden alussa Chatroulettella oli noin 4 miljoonaa yksilöllistä kävijää kuukaudessa, mikä on enemmän kävijöitä kuin yrityksellä on ollut vuoden 2016 alusta lähtien. Ponnistelut estää epäilyttävää sisältöä näyttävät onnistuneen, sillä naiset ovat nyt noin 34 % kaikista käyttäjistä, kun taas vuonna 2018 he olivat vain 11 % käyttäjistä.
Vaikka sosiaalisen median yritykset tulevat ja menevät, Chatroulette näyttää nousevan jälleen merkittävään asemaan. Ternovskiy kuitenkin myöntää, että yrityksellä on muita ongelmia ratkaistavaksi sisällön valvonnan lisäksi. Ternovskiyn mukaan lähes 90 % ensikertalaisista käyttäjistä ei koskaan palaa, koska heidän vuorovaikutuksensa ovat keskinkertaisia.
“Haaste on todella rakentaa jotain arvokasta, joka saisi ihmiset kiinnostuneemmiksi käyttämään sitä säännöllisesti, eikä se ole vain yksittäinen asia”, Ternovskiy selitti Wiredille.