Chatroulette Ritorna Con La Moderazione Dei Contenuti Guidata Da Intelligenza Artificiale

Chatroulette è diventato famoso all’inizio degli anni 2010 per aver permesso alle persone di parlare con altre persone casuali. Tuttavia, il sito è anche diventato tristemente noto a causa della facilità con cui le persone potevano incontrare nudità e altri contenuti “R-rated”. Come riportato da Wired, Chatroulette sta ora cercando di fare un ritorno con una migliore moderazione dei contenuti aiutata dall’intelligenza artificiale.

Moderazione Dei Contenuti Guidata Da Intelligenza Artificiale

Poiché l’intelligenza artificiale e gli algoritmi di visione computerizzata sono diventati più sofisticati e affidabili, le loro applicazioni per la rilevazione di contenuti obiettabili sono migliorate. Ciò è un vantaggio per qualsiasi azienda che consente agli utenti di caricare o creare contenuti. Aziende come Youtube, Facebook (META ) e Twitter utilizzano algoritmi di filtraggio dei contenuti basati sull’intelligenza artificiale per gestire i materiali obiettabili. Chatroulette in particolare era un tempo infestata da nudità e altri atti osceni che allontanavano molti utenti. La pandemia ha causato un rinnovato interesse per Chatroulette, che grazie ai progressi nel riconoscimento delle immagini basato sull’intelligenza artificiale può monitorare più efficacemente i contenuti trasmessi dagli utenti.

Nel 2019, il fondatore di Chatroulette Andrey Ternovskiy ha incorporato l’azienda in Svizzera, con l’obiettivo di collaborare con manager professionisti e specialisti di intelligenza artificiale. L’esperto di apprendimento automatico Andrew Done è stato assunto da Ternovskiy per sovrintendere allo sviluppo della tecnologia di intelligenza artificiale per il nuovo Chatroulette. Done è diventato amministratore delegato all’inizio di quest’anno, aggiungendo più ricercatori di prodotti e manager al team.

Sotto la nuova direzione, Chatroulette ha sfruttato l’aumento del traffico per condurre ricerche sugli utenti e testare vari metodi di moderazione dei contenuti. Il team di Chatroulette ha progettato due nuovi canali di chat. Un canale di chat si chiama Random Chat, progettato per escludere contenuti obiettabili, mentre l’altro canale si chiama Unmoderated. Questa divisione è stata fatta per attirare utenti interessati a connettersi con altre persone senza dover preoccuparsi di contenuti obiettabili. Il canale non filtrato sarà eventualmente eliminato a metà del 2021.

Partnership Con L’Azienda Di Intelligenza Artificiale Hive

Chatroulette ha collaborato con l’azienda di intelligenza artificiale Hive per sviluppare intelligenze artificiali in grado di rilevare la nudità. Hive è anche responsabile della moderazione dei contenuti di Reddit, dando loro esperienza nella gestione dei contenuti su una grande rete sociale. Secondo Done, il sistema di monitoraggio dell’intelligenza artificiale di Hive è così preciso che l’inclusione di moderatori umani degrada effettivamente l’accuratezza della moderazione complessiva. Hive addestra modelli di intelligenza artificiale su dati annotati da una forza lavoro di oltre 2 milioni di lavoratori distribuiti. La forza lavoro distribuita cerca contenuti obiettabili come nudità e la presenza di armi da fuoco, annotando le immagini per utilizzarle nell’addestramento dell’intelligenza artificiale di Hive. Mentre Chatroulette ha provato a utilizzare il sistema di intelligenza artificiale Cloud Vision di Google e Amazon (AMZN ) Rekognition per assistere nella moderazione dei contenuti, ha alla fine scoperto che l’intelligenza artificiale di Hive era la più precisa e affidabile per le sue esigenze.

L’intelligenza artificiale di Hive ha elaborato oltre 600 milioni di fotogrammi di video da Chatroulette. Ogni connessione tra due utenti comporta la creazione di tre fotogrammi. Un fotogramma viene creato per entrambi gli utenti all’inizio della connessione e un fotogramma viene generato per l’utente che termina la connessione. I contenuti che violano i termini possono essere identificati in un solo secondo. Viene inviato un messaggio di allarme a un moderatore umano che può either bannare o avvertire l’utente.

All’inizio dell’anno, Chatroulette aveva circa 4 milioni di visitatori unici al mese, il che è il numero più alto di visitatori che l’azienda ha avuto dal 2016. Gli sforzi per ridurre i contenuti osceni sembrano aver dato i loro frutti, poiché le donne rappresentano ora circa il 34% di tutti gli utenti, rispetto all’11% degli utenti nel 2018.

Mentre le aziende di social media vanno e vengono, Chatroulette sembra essersi ritirata in un posto di prominenza ancora una volta. Tuttavia, Ternovskiy riconosce che l’azienda ha anche altri problemi da risolvere oltre alla sola moderazione dei contenuti. Secondo Ternovskiy, quasi il 90% dei visitatori per la prima volta non ritorna, poiché trova le interazioni mediocri.

“La sfida è realmente costruire qualcosa di degno che possa interessare le persone a utilizzarlo regolarmente piuttosto che solo una volta”, ha spiegato Ternovskiy via Wired.