Chatroulette AI Sürücülü İçerik Moderasyonu ile Dönüyor

Chatroulette, 2010’ların başlarında insanların diğer rastgele insanlarla konuşmasına olanak tanıyan bir site olarak ünlü oldu. Ancak, site aynı zamanda insanların kolayca çıplaklık ve diğer “R-graded” içerikle karşılaşabileceği için de kötü şöhret kazandı. Wired tarafından bildirildiği üzere, Chatroulette şimdi AI destekli daha iyi içerik moderasyonu ile geri dönmeyi hedefliyor.

AI Sürücülü İçerik Moderasyonu

AI ve bilgisayar görme algoritmaları daha sofistike ve güvenilir hale geldikçe, uygunsuz içerik tespit uygulamaları da iyileşti. Bu, kullanıcıların içerik yüklemesine veya oluşturmasına izin veren herhangi bir şirket için bir avantajdır. Youtube, Facebook (META ) ve Twitter gibi şirketler AI destekli içerik filtreleme algoritmaları kullanıyor. Chatroulette özellikle çıplaklık ve diğer müstehcen eylemlerle mücadele ediyordu ve bu da birçok kullanıcının uzaklaşmasına neden oldu. Pandemi, Chatroulette’ye yeniden ilgiyi artırdı ve AI görüntü tanıma teknolojisinin gelişmesiyle birlikte daha etkili bir şekilde içerik moderasyonu yapabiliyor.

2019 yılında, Chatroulette’nin kurucusu Andrey Ternovskiy şirketi İsviçre’de kurdu ve profesyonel yöneticiler ve AI uzmanlarıyla işbirliği yapmak istedi. Makine öğrenimi uzmanı Andrew Done, Ternovskiy tarafından yeni Chatroulette için AI teknolojisini geliştirmek üzere görevlendirildi. Done, bu yıl CEO oldu ve ürün araştırmacıları ve yöneticileri ekibine ekledi.

Yeni liderlik altında, Chatroulette trafikteki artıştan yararlanarak kullanıcı araştırmaları yaptı ve çeşitli içerik moderasyonu yöntemlerini test etti. Chatroulette ekibi, iki yeni sohbet kanalı tasarladı. Bir sohbet kanalı, Random Chat olarak adlandırıldı ve uygunsuz içeriği dışlamak üzere tasarlandı, diğer kanalsa Unmoderated olarak adlandırıldı. Bu ayrım, kullanıcıların uygunsuz içeriğe ihtiyaç duymadan diğer insanlarla bağlantı kurmak isteyenleri çekmek için yapıldı. Unmoderated kanalı, sonunda 2021’in ortalarında kaldırılacak.

AI Şirketi Hive ile Ortaklık

Chatroulette, AI şirketi Hive ile çıplaklık tespit eden AI’ler geliştirmek için ortaklık kurdu. Hive, ayrıca Reddit içeriğini moderlemekle de görevli ve büyük bir sosyal ağda içerik yönetme deneyimine sahip. Done’a göre, Hive’ın AI izleme sistemi o kadar doğru ki, insan moderatörler eklemek aslında moderasyonun genel doğruluğunu azaltıyor. Hive, AI modellerini 2 milyondan fazla dağıtılmış işçi tarafından注釈 edilen verilerle eğitiyor. Dağıtılmış işçiler, çıplaklık ve silah varlığı gibi uygunsuz içeriği arıyor ve AI’yi eğitmek için görüntüleri注釈 ediyor. Chatroulette, Google’ın Cloud Vision AI sistemini ve Amazon (AMZN ) Rekognition’u içerik moderasyonu için kullanmaya çalıştı, ancak sonunda Hive’ın AI’nin ihtiyaçları için en doğru ve güvenilir olduğunu keşfetti.

Hive’ın AI’si, Chatroulette’den 600 milyondan fazla video karesini işledi. İki kullanıcı arasındaki her bağlantı, üç kare oluşturur. Bir kare, her kullanıcı için bağlantı başlangıcında oluşturulur ve bir kare, bağlantıyı sonlandıran kullanıcı için oluşturulur. Uygunsuz içerik, bir saniye içinde tespit edilebiliyor. Bir uyarı mesajı, insan moderatörüne gönderiliyor ve moderatör, kullanıcıyı yasaklayabilir veya uyarabilir.

Yıl başlarında, Chatroulette yaklaşık 4 milyon benzersiz ziyaretçiye sahipti, bu da şirketin 2016’nın başından beri en fazla ziyaretçisiydi. Müstehcen içeriği önleme çabaları meyvesini verdi gibi görünüyor, çünkü şimdi kadınlar tüm kullanıcıların yaklaşık %34’ünü oluşturuyor, 2018’de ise yalnızca %11’idir.

Sosyal medya şirketleri gelir ve gider, ancak Chatroulette gibi görünüyor ki yeniden öne çıkmaya başladı. Ancak, Ternovskiy şirketin diğer sorunları da olduğunu kabul ediyor. Ternovskiy’ye göre, ilk kez ziyaret edenlerin %90’ı asla geri dönmez, çünkü etkileşimlerini ortalama buluyorlar.

“Asıl zorluk, insanların düzenli olarak kullanmak yerine bir kerelik şey olarak görmeyeceği bir şey inşa etmek,” Ternovskiy, Wired aracılığıyla açıkladı.