E-posta Tacizini Tespit Etmek İçin AI Araçları Oluşturan Startups

2017’nin sonlarında Me Too hareketi öne çıktığından beri, cinsel taciz olaylarına, včetně işyeri tacizi ve e-posta veya anlık mesajlaşma yoluyla tacize daha fazla dikkat edilmektedir.

The Guardian’ın raporuna göre, AI araştırmacıları ve mühendisleri, MetooBots olarak adlandırılan tacizi metin iletişimlerinde tespit etmek için araçlar geliştiriyorlar. MetooBots, şirketler tarafından potansiyel olarak zararlı ve taciz edici iletişimleri işaretlemek için dünya çapında uygulanıyor. Bunun bir örneği, yaklaşık 50 farklı şirket tarafından kullanılan Nex AI tarafından oluşturulan bir bot. Bot, şirket belgelerini, sohbet ve e-postaları inceler ve bunları eğitim verisi olarak kullanılan zorbalık veya taciz mesajlarıyla karşılaştırır. Potansiyel olarak taciz edici veya zararlı olarak değerlendirilen mesajlar daha sonra bir HR yöneticisine gözden geçirilmek üzere gönderilebilir, ancak Nex AI, botun analiz ettiği iletişimlerde hangi terimlere baktığını açıklamadı.

Diğer startups da AI destekli taciz tespit araçları geliştirdi. AI startup Spot, cinsel taciz iddialarını anonim olarak raporlamayı sağlayan bir sohbet botuna sahiptir. Bot, daha fazla ayrıntı toplamak ve olayı daha da araştırmak için sorular sorar ve tavsiyeler verir. Spot, HR ekiplerinin taciz sorunlarıyla duyarlı bir şekilde uğraşırken anonimliği korumasına yardımcı olmak istiyor.

The Guardian’a göre, MIT ve Harvard AI profesörü Prof. Brian Subirana, AI’yi taciz tespit etmeye çalışmanın sınırları olduğunu açıkladı. Taciz çok ince ve zor tespit edilebilir, genellikle sadece haftalarca veriyi inceleyerek ortaya çıkan bir model olarak kendini gösterir. Botlar ayrıca, belirli tetikleyici kelimelerin tespitinin ötesinde, potansiyel olarak oynanan daha geniş kişiler arası veya kültürel dinamikleri analiz edemez. Taciz tespitinin karmaşıklığına rağmen, Subirana, botların online tacizle mücadele etmek için bir rol oynayabileceğine inanıyor. Subirana, botların insanları tacizi gördüklerinde tespit etmeyi öğretmek için kullanılacağını, potansiyel olarak sorunlu mesajların bir veritabanını oluşturabileceğini düşünüyor. Subirana, ayrıca, insanların mesajlarının incelendiğinden şüphelenmeleri durumunda, aslında öyle olmasalar bile, iş arkadaşlarını taciz etmeleri weniger olası olabileceği konusunda bir placebo etkisi olabileceğini söyledi.

Subirana, botların potansiyel kullanımlarına rağmen, veri gizliliği ve mahremiyetin önemli bir endişe kaynağı olduğuna da inanmaktadır. Subirana, bu teknolojinin potansiyel olarak yanlış kullanıldığında güvensizlik ve şüphe atmosferi yaratabileceğini belirtti. Kadın hakları NGO’su Fawcett Society’nin CEO’su Sam Smethers de, botların nasıl geliştirildiği, kimin arkasında olduğu ve yaklaşımın işyeri kültürünü taciz önleme ve eşitliği teşvik etmeye yönelik olup olmadığını sorguladı. Smethers, “Teknolojinin nasıl geliştirildiğini, kimin arkasında olduğunu ve yaklaşımın işyeri kültürünü taciz önleme ve eşitliği teşvik etmeye yönelik olup olmadığını dikkatlice incelemek istiyoruz” dedi.

Tacizi tespit etmek için botları kullanırken anonimliği ve mahremiyeti korumak için yöntemler geliştirilmelidir. Botların ve AI’nın öngörücü gücünü kullanırken mahremiyeti korumak için olası yöntemler arasında iletişimlerin anonim tutulması yer alır. Örneğin, bot tarafından yalnızca potansiyel olarak zararlı dilin varlığı ve kaç kez ortaya çıktığı hakkında raporlar oluşturulabilir. HR, böylece toksik dil kullanımının farkındalık seminerleri之后 azalıp azalmadığını veya artırılıp artırılmadığını belirleyebilir.

Taciz tespitinde AI algoritmaları ve botların kullanımındaki anlaşmazlığa rağmen, her iki taraf da, taciz vakalarına müdahale etme kararının nihayetinde bir insan tarafından verilmesi gerektiği ve botların yalnızca eşleşen kalıplara dikkat çekmesi gerektiği, ancak kesinlikle tacizin bir örneği olduğunu söylememesi gerektiği konusunda hemfikir görünüyor.