Yeni Çalışma Nefret Söylemi Algılama Algoritmalarını İyileştirmeye Çalışıyor

Sosyal medya şirketleri, özellikle Twitter, uzun süredir konuşma ve hangi hesapları yasaklayacağına karar verme şekli nedeniyle eleştirilere maruz kalmıştır. Altta yatan sorun neredeyse her zaman bu görevi izlemek için kullandıkları algoritmalarla ilgilidir. Yapay zeka sistemleri bu görevde mükemmel olmaktan çok uzaktır, ancak onları iyileştirmek için sürekli çalışmalar yapılmaktadır.

Bu çalışmalara dahil olan bir yeni çalışma, Güney Kaliforniya Üniversitesi’nden ortaya çıkmaktadır ve ırksal önyargıya neden olabilecek belirli hataları azaltmaya çalışmaktadır.

Bağımlılık Konteksini Tanıma Eksikliği

Dikkat çekmeyen sorunlardan biri, nefret söylemini durdurmak amacıyla tasarlanmış ancak aslında ırksal önyargıyı artıran algoritmalarla ilgilidir. Bu, algoritmaların bağlamı tanımakta başarısız olması ve azınlık gruplarına ait tweet’leri yanlışlıkla işaretlemesi veya engellemesiyle gerçekleşir.

Algoritmaların bağlamla ilgili en büyük sorunu, “siyah”, “eşcinsel” ve “transseksüel” gibi grup tanımlayıcı terimlere karşı aşırı duyarlı olmalarıdır. Algoritmalar bu terimlere nefret söylemi sınıflandırıcıları olarak bakarlar, ancak bu terimlerin často bu grupların üyeleri tarafından kullanıldığı ve bağlamın önemli olduğu unutulur.

Bu bağlam körlüğü sorununu çözmek amacıyla araştırmacılar, daha bağlamsal bir nefret söylemi sınıflandırıcı geliştirdiler. Yeni algoritma, bir gönderiyi yanlışlıkla nefret söylemi olarak işaretlemeye daha az eğilimlidir.

Algoritma

Araştırmacılar, yeni algoritmaları geliştirirken iki yeni faktörü göz önünde bulundurdular: grup tanımlayıcılarla ilgili bağlam ve gönderide ayrıca nefret söylemi özelliklerinin bulunup bulunmadığı, seperti insanlıktan çıkarma dili.

Brendan Kennedy, bilgisayar bilimi doktorası öğrencisi ve çalışmanın ortak lider yazarıdır ve bu çalışma 6 Temmuz’da ACL 2020’de yayımlandı.

“Nefret söylemi algılama closer to being ready for real-world application yapmak istiyoruz” dedi Kennedy.

“Nefret söylemi algılama modelleri genellikle gerçek dünya verilerine, seperti sosyal medya veya diğer çevrimiçi metin verilerine tanıtıldıklarında ‘kırılır’ veya kötü tahminler üretirler, çünkü eğitim aldıkları verilerle sosyal tanımlayıcı terimlerin görünümünü nefret söylemiyle ilişkilendirmeye eğilimlidirler.”

Algoritmaların genellikle yanlış olması, onların dengesiz veri kümeleriyle eğitilmelerinden ve aşırı yüksek nefret söylemi oranlarına sahip olmalarından kaynaklanmaktadır. Bu nedenle, algoritmalar sosyal medyanın gerçek dünyada nasıl göründüğünü öğrenmeyi başaramazlar.

Profesör Xiang, doğal dil işleme uzmanıdır.

“Modellerin tanımlayıcıları görmezden gelmemesi, ancak bunları doğru bağlamla eşleştirmesi önemlidir” dedi Ren.

“Eğer bir modeli dengesiz bir veri kümesinden eğitirseniz, model garip kalıpları öğrenmeye başlar ve kullanıcıları uygun olmayan şekilde engeller.”

Algoritmayı test etmek için araştırmacılar, iki sosyal medya sitesinden yüksek oranda nefret söylemi içeren rastgele bir metin örneği kullandılar. Metin önce insan tarafından önyargılı veya insanlıktan çıkarma olarak işaretlenmişti. Devlet-sanayİ modeli, araştırmacıların kendi modeliyle karşılaştırıldı ve 12.500 New York Times makalesiyle birlikte yanlış nefret söylemi olarak işaretlenenlerin oranına bakıldı. Devlet-sanayİ modelleri nefret ve nefret olmayanları ayırt etmekte %77’lik bir başarı elde ederken, araştırmacıların modeli %90’lık bir başarı elde etti.

“Bu çalışma, nefret söylemi algılama işini mükemmel yapmaz, bu büyük bir projedir ve birçok kişi üzerinde çalışmaktadır, ancak bu iş bazı ilerlemeler sağlar” dedi Kennedy.

“Korumalı grup üyelerinin sosyal medya gönderilerinin yanlışlıkla sansürlenmesini önlemekle birlikte, nefret söylemi algılama işinin sosyal gruplarla ilgili önyargı ve insanlıktan çıkarma arasındaki yanlış ilişkileri pekiştirmeyerek gereksiz zarara neden olmasını önleyeceğimiz ümidindeyiz.”