Facebook, Kötü Davranışları Önlemek İçin Botlar ve Simülasyonlar Kullanıyor

Facebook (META ), zararlı, zarar verici ve yasadışı davranışları daha iyi tespit etmek için yeni bir AI tasarladı. The Verge’in raporuna göre, Facebook’un Londra AI bölümündeki araştırmacılar, “WW” adlı bir AI destekli Facebook simülatörü geliştirdiler. Bu simülatör, sahtekarlar, yasadışı ürün satıcıları, spam gönderenler ve diğer kötü aktörlerin Facebook’da davranışlarını simüle etmek için kullanılıyor.

Facebook simülatörü “WW”, “WWW”nin kısaltması olarak adlandırıldı ve Facebook tarafından Nisan ayında yayımlanan bir makalede açıklandı. WW, Facebook araçları ve algoritmalarının test edilmesi için tasarlanmış, klonlanmış ve içerilmiş bir Facebook sürümüdür.

Şirket, WW’nin kullanımıyla ilgili daha fazla ayrıntı açıkladı. Bunlardan biri, AI kullanarak kötü aktörlerin davranışlarını simüle etmek. Araştırmacılar, botları kullanarak sahtekarlık, spam gönderme, taciz gibi davranışları simüle ediyorlar. Bu sayede, araştırmacılar kullanıcıların zararlı davranışlarını daha iyi tespit edip önlemek istiyorlar.

Facebook mühendisi Mark Harman, The Verge’e yaptığı açıklamada, WW’nin Facebook’ta zararlı davranışları önlemek için değerli bir araç olacağını söyledi. Örneğin, Harman, simülasyonların sahtekarları tespit etmek için daha iyi yöntemler geliştirmek için kullanılabileceğini düşünüyor.

Facebook mühendisleri, gerçek Facebook sahtekarlarının davranışlarını taklit etmek için iki bot grubu oluşturdular: hedef botlar ve sahtekar botlar. Sahtekarlar genellikle arkadaş ağlarını tarayarak, kullanıcıların arkadaşlarını bulmaya çalışırlar. Bu davranış, sahtekar botlar tarafından taklit edildi ve mühendisler, masum botların sahtekarlıktan korunması için farklı yöntemler denediler. Denenen taktiklerden biri, bir botun dakika başına gönderebileceği özel mesaj sayısını sınırlamaktı.

Simüle edilen Facebook, gerçek Facebook’dan birkaç yönden farklıdır. Birincisi, simülasyon görsel öğeler içermez, bu nedenle simülasyondan elde edilen veriler yalnızca numerical veriler ve botlar arasındaki etkileşim istatistikleridir. İkincisi, simülasyondaki tüm aktörler botlardan oluşur ve gerçek kullanıcılarla etkileşime giremezler. WW simülasyonu, kullanıcı niyeti veya bir sohbetin içeriği gibi şeyleri hesaba katamaz, yalnızca mesaj gönderme, yorum yapma gibi eylemler simüle edilir.

Harman, bu kısıtlarla deney yapma sürecinin, şehir plancılarının belirli yollarda hız sınırlarını azaltmak için “hız bump”leri oluşturmasına benzer olduğunu söyledi. Bir şehir plancısı gibi, mühendisler hız bump’leri oluşturur ve sonra onların faydasını veri toplamak için analiz ederler. Harman, goalin, Facebook platformunda zararlı davranışları önlemek için hangi değişikliklerin yapılabileceğini anlamak olduğunu açıkladı, ancak normal davranışları veya trafik akışını ciddi şekilde kısıtlamadan.

Harman, WW’yi simülasyonlar için kullanmanın avantajının, incelenen eylemlerin gerçek Facebook altyapısında gerçekleşmesi olduğunu açıkladı. Bu, proposed değişikliklerin gerçek Facebook kullanıcıları üzerindeki etkisini daha iyi anlamalarına olanak tanır. Ancak, bu bulguların uygulanması biraz zaman alacaktır, çünkü WW ve simülasyonu şu anda sadece araştırma aşamasındadır. Harman ve diğer Facebook araştırmacıları, bulgularını canlı Facebook sürümüne uygulamadan önce, simülasyonlarının gerçek insan davranışını yeterince temsil ettiğinden emin olmak zorundalar.

Harman’a göre, WW’nin ana avantajı, büyük ölçekli çalışabilmesidir. Bu, Facebook araştırmacılarının binlerce küçük değişikliğin potansiyel sonuçlarını simülasyonlar aracılığıyla test etmesine olanak tanır.

Gelecekte, araştırmacılar botlara biraz zaman vermeyi ve kendi başlarına nasıl etkileşime gireceklerini görmeyi düşünebilirler. Bu, araştırmacıların beklediğinden farklı bir şey olabilir.

“Şu anda, ana odak noktamız, botları platformda gerçekleşen şeyleri taklit etmeye öğretmektir. Ancak teoride ve uygulamada, botlar daha önce görmediğimiz şeyleri yapabilirler” dedi Harman, The Verge’e. “Aslında, bu bizim istediğimiz bir şey, çünkü sonunda kötü davranışları önlemek için catch up oynamak yerine öne geçmek istiyoruz.”

Eğer her şey yolunda giderse, Facebook, WW’nin simülasyonlarına dayanarak 2020 sonuna kadar değişiklikler yapmaya başlayabilir.