Chatroulette Revine Cu Ajutorul Moderării Conținutului Bazate Pe Inteligență Artificială

Chatroulette a devenit faimos la începutul anilor 2010 pentru că a permis oamenilor să vorbească cu alți oameni aleatori. Cu toate acestea, site-ul a devenit și faimos datorită ușurinței cu care oamenii puteau întâlni nuditate și alte conținuturi “R-rated”. Conform raportului Wired, Chatroulette își propune să revină cu o moderare a conținutului mai bună, ajutată de inteligență artificială.

Moderarea Conținutului Bazată Pe Inteligență Artificială

Pe măsură ce algoritmii de inteligență artificială și de viziune computerizată au devenit mai sofisticați și mai fiabili, aplicațiile lor pentru detectarea conținutului obiectabil au fost îmbunătățite. Acesta este un avantaj pentru orice companie care permite utilizatorilor să încarce sau să creeze conținut. Companii precum Youtube, Facebook (META ) și Twitter folosesc algoritmi de filtrare a conținutului bazate pe inteligență artificială pentru a face față materialelor obiectabile. Chatroulette, în special, a fost odată afectat de nuditate și alte acte obscene care au alungat mulți utilizatori. Pandemia a provocat un interes reînnoit pentru Chatroulette, care, mulțumită progreselor în recunoașterea imaginilor cu inteligență artificială, poate monitoriza mai eficient conținutul transmis de utilizatori.

În 2019, fondatorul Chatroulette, Andrey Ternovskiy, a înființat compania în Elveția, cu scopul de a colabora cu manageri profesioniști și specialiști în inteligență artificială. Expertul în învățare automată, Andrew Done, a fost angajat de Ternovskiy pentru a supraveghea dezvoltarea tehnologiei de inteligență artificială pentru noul Chatroulette. Done a devenit director general la începutul acestui an, adăugând mai mulți cercetători de produs și manageri în echipă.

Sub noua conducere, Chatroulette a folosit creșterea traficului pentru a efectua cercetări cu utilizatorii și pentru a testa diverse metode de moderare a conținutului. Echipa Chatroulette a proiectat două canale de chat noi. Un canal de chat se numește Chat Aleatoriu, care este proiectat pentru a exclude conținutul obiectabil, în timp ce celălalt canal se numește Nemoderat. Această divizare se face pentru a atrage utilizatori interesați să se conecteze cu alți oameni fără a fi nevoiți să se îngrijoreze de conținutul obiectabil. Canalul nemoderat va fi eliminat în cele din urmă la mijlocul anului 2021.

Parteneriat Cu Compania De Inteligență Artificială Hive

Chatroulette a încheiat un parteneriat cu compania de inteligență artificială Hive pentru a dezvolta sisteme de detectare a nuditate cu inteligență artificială. Hive este, de asemenea, responsabilă pentru moderarea conținutului de pe Reddit, ceea ce le-a oferit experiență în gestionarea conținutului pe o rețea socială majoră. Conform lui Done, sistemul de monitorizare cu inteligență artificială al Hive este atât de precis, încât includerea moderatorilor umani de fapt degradează precizia moderării în general. Hive antrenează modele de inteligență artificială pe date annotate de o forță de muncă de peste 2 milioane de lucrători distribuiți. Forța de muncă distribuită caută conținut obiectabil, cum ar fi nuditatea și prezența armelor de foc, annotând imaginile pentru a fi utilizate în antrenarea sistemului de inteligență artificială Hive. Deși Chatroulette a încercat să folosească sistemul de viziune cu inteligență artificială Cloud Vision AI al Google și Amazon (AMZN ) Rekognition pentru a ajuta la moderarea conținutului, în cele din urmă a constatat că sistemul de inteligență artificială al Hive a fost cel mai precis și mai fiabil pentru nevoile sale.

Sistemul de inteligență artificială al Hive a procesat peste 600 de milioane de cadre de video de la Chatroulette. Orice conexiune între doi utilizatori duce la crearea a trei cadre. Un cadru este creat pentru ambii utilizatori la începutul conexiunii, iar un cadru este generat pentru utilizatorul care încheie conexiunea. Conținutul care încalcă termenii poate fi identificat într-o singură secundă. Un mesaj de alertă este trimis unui moderator uman, care poate interzice sau avertiza utilizatorul.

La începutul anului, Chatroulette a avut aproximativ 4 milioane de vizitatori unici pe lună, ceea ce este cel mai mare număr de vizitatori pe care compania i-a avut de la începutul anului 2016. Eforturile de a reduce conținutul obscen par să fi avut succes, deoarece femeile reprezintă acum aproximativ 34% din toți utilizatorii, față de doar 11% din utilizatori în 2018.

Deși companiile de media sociale vin și pleacă, Chatroulette pare să fi revenit la o poziție de prominență. Cu toate acestea, Ternovskiy recunoaște că compania are și alte probleme de rezolvat, dincolo de moderarea conținutului. Conform lui Ternovskiy, aproape 90% din vizitatorii pentru prima dată nu se întorc, deoarece găsesc interacțiunile lor mediocre.

„Provocarea este de fapt să construim ceva demn care să determine oamenii să fie mai interesați să-l folosească în mod regulat, și nu doar ca o chestiune de o singură dată”, a explicat Ternovskiy prin Wired.