Yapay Zeka Artık Okul Çocuklarında Siber Zulmü Tespit Etmek için Kullanılıyor

Dünya çapındaki okul çocukları arasında zorbalık, kendine zarar verme ve siber zorbalık hakkında veri alarm verici bir hâl alıyor. Jun Wu tarafından sunulan verilere göre, 2017’de, Ulusal Eğitim İstatistikleri Merkezi ve Adalet Bürosu’na göre, 12-18 yaş arasındaki öğrencilerin yaklaşık %20’si zorbalığa maruz kaldı. Hastalık Kontrol ve Önleme Merkezine göre, 9-12. sınıflardaki öğrencilerin %19’u, anketten önceki 12 ay içinde okul mülkiyetinde zorbalığa maruz kaldıklarını bildirdi.

Daha da endişe verici olan, okul alanlarının ötesine yayılan siber zorbalığın yükselişi. Wu’nun dikkat çektiği gibi, “çevrimiçi forumlardaki, e-postalar ve sosyal medya platformlarındaki taciz, kurbanın zihinsel sağlığına face-to-face zorbalıktan daha fazla zarar verebilir. Siber zorbalık, okul zorbalığının bir sonucu olabilir. Aynı zamanda, zorbalık sosyal medyada başlayabilir ve sonra sınıfa yayılabilir.”

Avustralya’da araştırmacılar, Momo olarak adlandırılan bir olgudan bahsediyorlar, bu durumda “siber predatörler Momo adlı bir kişilik taklit ediyor ve çocuklara sosyal medya aracılığıyla kendilerine zarar vermelerini istiyordu, bu durum ülke çapındaki okullarda endişe dalgaları yaratmıştı.”

Bu tür zorbalık ve possible kendine zarar verme olasılığını önlemek, bir dizi yapay zeka geliştiricisini bu yaygın probleme çözümler aramaya yöneltti.

SkyNews’in haberine göre, bazı İngiliz okulları, STEER adlı bir şirket tarafından geliştirilen AS Tracking adlı bir AI aracını kullanmaya başladı, bu araç İngiltere’de 150 okulda kullanıma girdi. Araç, öğrencilerin bir online psikolojik testi doldurmasını içeriyor ve Eylül 2019’da test, 50.000 okul çocuğuna uygulanacak.

Açıklamaya göre, test, öğrencilere kendilerini rahat hissettikleri bir alan hayal etmelerini istiyor, ardından “başkasının bu alana girmesi ne kadar kolay?” gibi soyut sorular soruyor. Çocuk, “çok kolay” ile “çok zor” arasında değişen bir ölçekte bir düğmeye tıklayarak cevaplayabiliyor. Sonuçlar, STEER’a gönderiliyor, “bu da veriyi psikolojik modeliyle karşılaştırıyor ve öğretmen panosunda dikkat gerektiren öğrencileri işaretliyor.”

STEER’ın kurucu ortağı Dr. Jo Walker’a göre, “araç, bu gelişim aşamasında mücadele eden belirli çocukları vurguluyor ve öğretmenlere bu çocuğun nasıl düşündüğünü gösteriyor.” Ayrıca, “bu aracı tanıttıktan sonra kolejde kendine zarar verme oranında %20’lik bir azalma gördük.”

Analizinde Wu, bu problemle yardımcı olan ABD’deki bir aantal AI geliştiricisinden bahsediyor. Securly, okullar için “web filtreleme, siber zorbalık izleme ve kendine zarar verme uyarıları oluşturmak için AI kullanıyor. Okullar, öğrencilere Apple cihazları ve Chromebook’lar verebilir ve öğrencilerin siber faaliyetlerini izleyebilir. Veliler de evdeki cihazlarında çocuklarının çevrimiçi faaliyetlerini izlemek için uygulamaları kullanabilir.” Bark, metin mesajları, YouTube, e-postaları ve 24 farklı sosyal ağı izlemek için AI kullanıyor ve velilere olası güvenlik endişeleri hakkında uyarı veriyor. SN Technologies Corp daha da ileri gidiyor, şirketin AI çözümleri, okullardaki güvenlik kameralarının videolarından “kara listeye alınan” öğrencileri yüz tanıma yoluyla izliyor.

Avustralya’da siber güvenlik şirketi Saasyan Assure, öğretmenlerin “Momo Challenge” videolarını izleyen öğrencileri takip edebilecek bir AI yöntemi geliştirdi. Saasyan Assure’ın başkanı Greg Margossian, şirketinin “sadece ‘Momo’ anahtar kelimesinin tüm müşterilerin veritabanlarında olduğundan emin olduk, onlar bunu düşünmeden.” Ayrıca, şirketin “okulda tüm cihazlara eklenebilecek bir abonelik yazılımı sunduğunu” ve “her öğrencinin bilgisayar kullanımının histórik bir izini oluşturduğunu ve ortaya çıkan risklerden, zorbalıktan, kendine zarar vermeye veya şiddete kadar, öğretmenleri uyarmak için” olduğunu belirtti.