Chatroulette torna amb l'ajuda de la moderació de contingut basada en IA

Chatroulette es va fer famós a principis de la dècada de 2010 per permetre a la gent parlar amb altres persones aleatòries. Tanmateix, el lloc també es va fer famós a causa de la facilitat amb què la gent podien trobar-se amb la nuesa i altres continguts "R-classificats". Segons informa Wired, Chatroulette té com a objectiu ara fer una tornada amb una millor moderació del contingut amb l'ajuda d'IA.

Moderació de contingut basada en IA

A mesura que els algorismes d'IA i visió per ordinador s'han tornat més sofisticats i fiables, les seves aplicacions per detectar contingut censurable han millorat. Aquesta és una avantatge per a qualsevol empresa que permeti als usuaris pujar o crear contingut. Empreses com Youtube, Facebook i Twitter utilitzeu algorismes de filtració de contingut basats en IA a tractar amb material censurable. Chatroulette en particular va ser una vegada afectat per la nuesa i altres actes obscens que van allunyar molts usuaris. La pandèmia ha provocat un renovat interès per Chatroulette, que gràcies als avenços en el reconeixement d'imatges d'IA pot controlar de manera més eficaç el contingut que transmeten els usuaris.

El 2019, el fundador de Chatroulette, Andrey Ternovskiy, va incorporar l'empresa a Suïssa, amb l'objectiu de col·laborar amb directius professionals i especialistes en IA. L'expert en aprenentatge automàtic Andrew Done va ser contractat per Ternovskiy per supervisar el desenvolupament de la tecnologia d'IA per a la nova Chatroulette. Done es va convertir en CEO a principis d'aquest any, afegint més investigadors i gestors de productes a l'equip.

Sota el nou lideratge, Chatroulette va fer ús de l'augment del trànsit per dur a terme investigacions d'usuaris i provar diversos mètodes de moderació de contingut. L'equip de Chatroulette va dissenyar dos nous canals de xat. Un canal de xat s'anomena xat aleatori, que està dissenyat per excloure contingut censurable, mentre que l'altre canal s'anomena sense moderació. Aquesta divisió s'està fent per atraure usuaris interessats a connectar amb altres persones sense haver de preocupar-se pel contingut censurable. El canal no filtrat finalment s'eliminarà a mitjan 2021.

Col·laboració amb AI Company Hive

Chatroulette s'ha associat amb l'empresa AI Rusc per desenvolupar IA de detecció de nuesa. Hive també s'encarrega de moderar el contingut de Reddit, donant-los experiència amb la gestió de contingut en una xarxa social important. Segons Done, el sistema de monitorització d'IA de Hive és tan precís que la inclusió de moderadors humans en realitat degrada la precisió de la moderació en general. Hive entrena models d'IA amb dades anotades per una plantilla de més de 2 milions de treballadors distribuïts. La força de treball distribuïda busca contingut censurable com la nuesa i la presència d'armes de foc, anotant les imatges per utilitzar-les en l'entrenament de la Hive AI. Tot i que Chatroulette va provar d'utilitzar el sistema d'IA Cloud Vision de Google i Amazon Rekognition per ajudar a la moderació del contingut, finalment va trobar que l'IA de Hive era la més precisa i fiable per a les seves necessitats.

L'IA de Hive ha processat més de 600 milions de fotogrames de vídeo de Chatroulette. Qualsevol connexió entre dos usuaris dóna lloc a la creació de tres fotogrames. Es crea un marc per als dos usuaris al començament de la connexió i es genera un marc per a l'usuari que finalitza la connexió. El contingut que infringeix els termes es pot identificar en un sol segon. S'envia un missatge d'alerta a un moderador humà que pot prohibir o advertir l'usuari.

A principis d'any, Chatroulette tenia aproximadament 4 milions de visitants únics al mes, que és la majoria de visitants que ha tingut la companyia des de principis de 2016. Els esforços per frenar el contingut obscè sembla que han donat els seus fruits, ja que les dones són ara aproximadament el 34% dels tots els usuaris, més que només l'11% dels usuaris el 2018.

Mentre que les empreses de xarxes socials van i vénen, Chatroulette sembla haver tornat a tenir un lloc de protagonisme. Tanmateix, Ternovskiy reconeix que la companyia també té altres problemes per resoldre més enllà de la moderació del contingut. Segons Ternovskiy, gairebé el 90% dels visitants per primera vegada no tornen mai, ja que troben les seves interaccions mediocres.

"El repte és realment construir quelcom digne que afavoreixi més l'interès de la gent a utilitzar-lo de manera regular en lloc de ser una cosa única". va explicar Ternovskiy a través de Wired.