Araştırmacılar İnternette Nefret Söylemini Combat Etmek İçin Yapay Zekayı Eğitmeye Başlıyorlar

Sahte haberler ve internetteki nefret söylemi artık günlük değil, dakikada bir sorun haline geliyor. IkigaiLab raporuna göre Facebook (META ) ve Twitter, sahte haberlerin ve nefret söyleminin yayılmasını en aza indirmek için son zamanlarda 1,5 milyar ve 70 milyon hesabın kapatmak zorunda kaldı.

Ancak bu görev hala büyük insan gücü ve neredeyse sürekli çalışma saatleri gerektiriyor. Bu sorunu çözmek için birçok laboratuvardaki araştırmacılar, bu devasa görevde yardımcı olmak için yapay zekayı eğitmeye başladılar.

Ikigai, Facebook’un haberlerin, resimlerin veya diğer içeriklerin kimlik bilgilerini anlamak için kullandığı Rosetta sistemini引用 ediyor. Açıklamaya göre, Rosetta “yazının, resmin, dilin, yazı tipinin, gönderi tarihini ve diğer değişkenleri taramakta ve sunulan bilginin gerçek olup olmadığını kontrol etmeye çalışıyor.” Sistem bilgi topladıktan sonra, AI’nın hala ima, referans, hafifletme ve içeriğin yayınlandığı bağlamı tam olarak anlamakta不好 olduğu dikkate alınarak, insan moderatörler AI sistemini nefret söylemi ve sahte haberleri keşfetmeye yönlendiriyor.

AI sistemlerinin nefret söyleminin tüm olası nüanslarını kapsayacak şekilde geliştirme yeteneğini daha da geliştirmeye çalışmak için, UC Santa Barbara ve Intel’ (INTC ) den bir araştırma ekibi, TheNextWeb (TNW) raporuna göre, “Reddit ve Gab’deki en kötü topluluklardan binlerce konuşmayı aldı ve bunları nefret söylemiyle mücadele için AI’ı eğitmek için kullandı”.

Raporlarına göre, ortak araştırma grubu, “binlerce konuşmadan oluşan özel bir veri seti” oluşturdu ve “bunların hepsinin nefret söylemiyle dolu olmasını sağlamak için özel olarak seçildi.” Ayrıca, Justin Caffier of Vox. tarafından derlenen nefret söylemi kullanımıyla karakterize edilen Reddit gruplarının listesini kullandılar.

Araştırmacılar “Reddit’ten 22.000’den fazla yorum ve Gab’den 33.000’den fazla yorum” topladılar ve “her iki sitenin benzer popüler nefret anahtar kelimelerine sahip olduğunu, ancak dağılımların çok farklı olduğunu” keşfettiler.

Bu farklılıklar nedeniyle, sosyal medyanın genel olarak gerçek zamanlı olarak müdahale etmesi çok zor, çünkü nefret söyleminin akışı o kadar yüksek ki, bunu takip etmek için sayısız gerçek kişiye ihtiyaç duyuluyor.

Sorunu çözmek için, araştırma ekibi AI’ı müdahale etmeye başladı. İlk veri tabanları, Amazon (AMZN ) Turk işçilerine etiketlenmesi için gönderildi. Bireysel nefret söylemi örneklerini tanımladıktan sonra, işçilerin gelecekte benzer nefret söylemi yayınlamayı önlemek için AI tarafından kullanılacak cümleler oluşturdu.

Buna dayanarak, ekip “bu veri setini ve müdahale veritabanını çeşitli makine öğrenimi ve doğal dil işleme sistemleri aracılığıyla çalıştırdı ve bir tür online nefret söylemi müdahale AI’si için bir prototip oluşturdu”.

Elde edilen sonuçlar mükemmeldi, ancak geliştirme hala erken aşamada olduğundan, sistem aktif olarak kullanıma hazır değil. Açıklamaya göre, “sistem teoride nefret söylemini tespit edecek ve göndericiye neden nefret söylemi temsil eden şeyler yayınlamaması gerektiğini bildirecek. Bu, sadece anahtar kelime algılamayla değil, AI’nın bağlamı doğru şekilde anlamasıyla çalışır”.