Yapay Zeka Şimdi Okul Çocuklarında Siber Zulmü Tespit Etmek İçin Kullanılıyor

Dünya çapındaki okul çocukları arasında zorbalık, self-harm ve siber zorbalık verileri alarm verici bir hâl alıyor. Jun Wu tarafından sunulan verilere göre, 2017’de, Ulusal Eğitim İstatistikleri Merkezi ve Adalet Bakanlığı’na göre, 12-18 yaş arasındaki öğrencilerin yaklaşık %20’si zorbalığa maruz kaldı. Hastalık Kontrol ve Önleme Merkezine göre, 9-12. sınıflardaki öğrencilerin %19’u, anketin yapıldığı 12 aylık dönemde okul mülkiyetinde zorbalığa maruz kaldıklarını bildirdi.

Daha da alarm verici olan, okul bahçelerinin ötesine yayılan siber zorbalık artışı. Wu, “çevrimiçi forumlardaki, e-postalardaki ve sosyal medya platformlarındaki taciz, kurbanın mental sağlığına yüz yüze zorbalıktan daha zararlı olabilir. Siber zorbalık, okul zorbalığının bir sonucu olabilir. Aynı zamanda, zorbalık sosyal medyada başlayabilir ve sonra sınıfa yayılabilir.”

Avustralya’da araştırmacılar, “Momo” olarak adlandırılan bir fenomen hakkında rapor veriyor. Bu durum, “siber predatörlerin Momo adında bir persona alarak çocuklarla temas kurduğu ve onlara kendilerine zarar vermelerini istediği” bir durum. Bu, ülke çapındaki okullarda endişe dalgaları yaratmış.

Bu tür zorbalık ve possible self-harm’i önlemek, yapay zeka geliştiricilerini bu yaygın probleme çözümler aramaya sevk etti.

SkyNews’e göre, bazı İngiliz okulları, STEER adlı bir şirket tarafından geliştirilen AS Tracking adlı bir AI aracını kullanmaya başladı. Bu araç, 150 İngiliz okulunda kullanıma girdi. Araç, öğrencilerin bir online psikolojik testi doldurmasını içeriyor ve Eylül 2019’da 50.000 okul çocuğu bu teste katılacak.

Açıklamaya göre, test, öğrencilere kendilerini rahat hissettiği bir alanı hayal etmelerini istiyor, ardından “bu alana biri girmesi ne kadar kolay?” gibi soyut sorular soruyor. Çocuk, “çok kolay” ile “çok zor” arasında değişen bir ölçekte bir düğmeye tıklayarak cevap verebiliyor. Sonuçlar, STEER’a gönderiliyor, “bu da verileri psikolojik modeliyle karşılaştırıyor ve öğretmen panosunda dikkat gerektiren öğrencileri işaret ediyor.”

STEER’ın kurucu ortağı Dr. Jo Walker, “araç, bu gelişim aşamasında mücadele eden belirli çocukları vurguluyor ve öğretmenlere bu çocuğun nasıl düşündüğünü gösteriyor.” Ayrıca, “bu aracı tanıttıktan sonra, kolejde self-harm’de %20’lik bir azalma gördük.”

Wu, analizinde, siber zorbalık sorununa yardımcı olan ABD’deki bir aantal AI geliştiricisinden bahsediyor. Securly, okullar için “web filtreleme, siber zorbalık izleme ve self-harm uyarıları” yapmak için AI kullanıyor. Okullar, öğrencilere Apple (AAPL ) cihazları ve Chromebook’lar dağıtabiliyor ve öğrencilerin çevrimiçi faaliyetlerini izleyebiliyor. Ebeveynler de evdeki cihazlarında çocuklarının çevrimiçi faaliyetlerini izlemek için uygulamaları kullanabiliyor. Bark, AI kullanarak, metin mesajları, YouTube, e-postalar ve 24 farklı sosyal ağı izleyerek ebeveynleri olası güvenlik endişeleri hakkında uyarmak için kullanıyor. SN Technologies Corp, AI çözümlerini kullanarak, okul güvenlik kameralarından alınan videolardan “kara listeye alınan” öğrencileri takip ediyor.

Avustralya’da, siber güvenlik şirketi Saasyan Assure, öğretmenlerin “Momo Challenge” videolarını izleyen öğrencileri takip etmelerine yardımcı olan bir AI yöntemi geliştirdi. Saasyan Assure’ın başkanı Greg Margossian, şirketinin “sadece ‘Momo’ anahtar kelimesini tüm müşterilerin veritabanlarına eklediğini” ve bunu müşterilerin düşünmeden yaptığını söyledi. Şirketin, okullardaki tüm cihazlara eklenebilen ve öğretmenleri olası risklerden haberdar edebilen bir abonelik yazılımı sunduğu da belirtildi.