Chatroulette Revine Cu Ajutorul Moderării Conținutului Bazate Pe Inteligență Artificială

Chatroulette a devenit faimos la începutul anilor 2010 pentru că a permis oamenilor să vorbească cu alți oameni, la întâmplare. Cu toate acestea, site-ul a devenit și faimos datorită ușurinței cu care oamenii puteau întâlni nuditate și alte conținuturi “R-rated”. Așa cum a raportat Wired, Chatroulette își propune acum să revină cu o moderare a conținutului mai bună, ajutată de inteligență artificială.

Moderarea Conținutului Bazată Pe Inteligență Artificială

Pe măsură ce algoritmii de inteligență artificială și viziune computerizată au devenit mai sofisticați și mai fiabili, aplicațiile lor pentru detectarea conținutului obiectabil au fost îmbunătățite. Acesta este un avantaj pentru orice companie care permite utilizatorilor să încarce sau să creeze conținut. Companii precum Youtube, Facebook și Twitter folosesc algoritmi de filtrare a conținutului bazate pe inteligență artificială pentru a face față materialului obiectabil. Chatroulette, în special, a fost odată afectat de nuditate și alte acte obscene care au alungat mulți utilizatori. Pandemia a provocat un interes reînnoit pentru Chatroulette, care, mulțumită progreselor în recunoașterea imaginilor bazate pe inteligență artificială, poate monitoriza mai eficient conținutul transmis de utilizatori.

În 2019, fondatorul Chatroulette, Andrey Ternovskiy, a înființat compania în Elveția, cu scopul de a colabora cu manageri profesioniști și specialiști în inteligență artificială. Expertul în învățare automată, Andrew Done, a fost angajat de Ternovskiy pentru a supraveghea dezvoltarea tehnologiei de inteligență artificială pentru noul Chatroulette. Done a devenit director general la începutul acestui an, adăugând mai mulți cercetători de produs și manageri în echipă.

Sub noua conducere, Chatroulette a folosit creșterea traficului pentru a efectua cercetări cu utilizatorii și pentru a testa diverse metode de moderare a conținutului. Echipa Chatroulette a proiectat două canale de chat noi. Un canal de chat se numește Random Chat, care este proiectat pentru a exclude conținutul obiectabil, în timp ce celălalt canal se numește Unmoderated. Această divizare este făcută pentru a atrage utilizatori interesați să se conecteze cu alți oameni fără a fi nevoiți să se îngrijoreze de conținutul obiectabil. Canalul nefiltrat va fi eliminat până la jumătatea anului 2021.

Parteneriat Cu Compania De Inteligență Artificială Hive

Chatroulette a încheiat un parteneriat cu compania de inteligență artificială Hive pentru a dezvolta inteligența artificială care detectează nuditatea. Hive este, de asemenea, responsabilă pentru moderarea conținutului Reddit, ceea ce le-a oferit experiență în gestionarea conținutului pe o rețea socială majoră. Conform lui Done, sistemul de monitorizare al inteligenței artificiale Hive este atât de precis, încât includerea moderatorilor umani de fapt degradează precizia moderării în general. Hive antrenează modele de inteligență artificială pe date annotate de o forță de muncă de peste 2 milioane de lucrători distribuiți. Forța de muncă distribuită caută conținut obiectabil, cum ar fi nuditatea și prezența armelor de foc, annotând imaginile pentru a fi utilizate în antrenarea inteligenței artificiale Hive. În timp ce Chatroulette a încercat să folosească sistemul de inteligență artificială Cloud Vision AI de la Google și Amazon Rekognition pentru a asista la moderarea conținutului, în cele din urmă a constatat că inteligența artificială Hive a fost cea mai precisă și mai fiabilă pentru nevoile sale.

Inteligența artificială Hive a procesat peste 600 de milioane de cadre de video de la Chatroulette. Orice conexiune între doi utilizatori rezultă în crearea a trei cadre. Un cadru este creat pentru ambii utilizatori la începutul conexiunii, iar un cadru este generat pentru utilizatorul care încheie conexiunia. Conținutul care încalcă termenii poate fi identificat într-o singură secundă. Un mesaj de alertă este trimis unui moderator uman, care poate interzice sau avertiza utilizatorul.

La începutul anului, Chatroulette a avut aproximativ 4 milioane de vizitatori unici pe lună, ceea ce este cel mai mare număr de vizitatori pe care compania i-a avut de la începutul anului 2016. Eforturile de a reduce conținutul obscen par să fi avut succes, deoarece femeile reprezintă acum aproximativ 34% din toți utilizatorii, față de doar 11% din utilizatori în 2018.

În timp ce companiile de media socială vin și pleacă, Chatroulette pare să fi revenit la o poziție de prominență. Cu toate acestea, Ternovskiy recunoaște că compania are și alte probleme de rezolvat, dincolo de simpla moderare a conținutului. Conform lui Ternovskiy, aproape 90% din vizitatorii pentru prima dată nu se întorc niciodată, deoarece găsesc interacțiunile lor mediocre.

“Provocarea reală este de a construi ceva demn care să determine oamenii să fie mai interesați să o utilizeze în mod regulat, și nu doar ca o chestiune de o singură dată”, a explicat Ternovskiy prin Wired.