Araştırmacılar AI’ın İnsanların Mahremiyetini Korumada Kullanılabileceğine İnanıyor

Bilgi biliminden iki profesör最近, The Conversation’da bir makale yayınladı ve AI’ın insanların mahremiyetini korumanın bazı sorunlarını çözebileceğine inandıklarını savundular.

Zhiyuan Chen ve Aryya Gangopadhyay, yapay zeka algoritmalarının insanların mahremiyetini savunmak için kullanılabileceğine ve AI’ın yarattığı bazı mahremiyet endişelerini karşılayabileceğine inanıyor. Chen ve Gangopadhyay, birçok AI destekli ürünün büyük miktarda veriye erişimi olmadan çalışmayacağına ve bu durumun ilk bakışta mahremiyeti koruma girişimlerine ters düşebileceğine dikkat çekiyorlar. Ayrıca, AI’ın daha fazla endüstri ve uygulamaya yayılmasıyla daha fazla veri toplanacak ve veritabanlarında depolanacak, bu da bu veritabanlarının güvenliğini tehdit edecek. Ancak Chen ve Gangopadhyay, AI’ın doğru şekilde kullanıldığında bu sorunları hafifletebileceğine inanıyor.

Chen ve Gangopadhyay, makalelerinde AI ile ilgili mahremiyet risklerinin en az iki farklı kaynaktan geldiğini açıkladı. İlk kaynak, sinir ağları modellerini eğitmek için toplanan büyük veri kümeleri, ikinci mahremiyet tehdidi ise modeller kendileri. Veriler bu modellerden “sızdırılabiliyor” ve modellerin davranışı, kullanılan eğitim verilerini ortaya çıkarabiliyor.

Derin sinir ağları, birbirlerine bağlı çok sayıda nöron katmanından oluşur. Her bir nöron ve nöronlar arasındaki bağlantılar, eğitim verilerinin farklı parçalarını kodlar. Model, eğitim verilerinin kalıplarını hatırlamada çok başarılı olabilir, ancak bu durum modelin eğitim verilerini unutmamasına neden olabilir. Cornell Üniversitesi bir çalışmasında buldukları gibi, yüz tanıma algoritmaları, saldırganlar tarafından eğitimde kullanılan görüntülerin ve dolayısıyla insanların ortaya çıkarılması için sömürülebiliyor. Cornell araştırmacıları, bir saldırganın orijinal modeli eğitmek için kullanılan modele erişimi olmasa bile, modelin benzer verilerle eğitilmiş modellerini kullanarak, belirli bir kişinin eğitim verilerine dahil olup olmadığını belirleyebileceğini keşfetti.

Bazı AI modelleri hiện đang veri ihlallerine karşı korumak ve insanların mahremiyetini sağlamak için kullanılıyor. AI modelleri, sıklıkla güvenlik yöntemlerini ihlal etmeye çalışan saldırganların davranış kalıplarını tanımlamak için kullanılıyor. Ancak saldırganlar, AI’ın bu kalıpları tespit etmesini önlemek için davranışlarını değiştirmeye çalışıyorlar.

AI eğitimi ve geliştirme yöntemlerinin yeni yöntemleri, AI modellerini ve uygulamalarını daha az güvenlik açığına karşı daha dayanıklı hale getirmeyi amaçlıyor. Karşıt öğrenme, AI modellerini kötü niyetli veya zararlı girdilerin simülasyonlarına karşı eğitmeyi amaçlıyor, bu da modelin sömürülmesine karşı daha güçlü olmasını sağlıyor. Chen ve Gangopadhyay, araştırmalarının insanların özel bilgilerini çalmak için tasarlanmış kötü amaçlı yazılımlara karşı yöntemler keşfettiğini açıkladı. İki araştırmacı, modelin içine belirsizlik eklemenin en etkili yöntemlerden biri olduğunu açıkladı. Amaç, kötü niyetli aktörlerin modelin belirli bir girdiye nasıl tepki vereceğini tahmin etmesini daha zor hale getirmek.

AI’ı mahremiyeti korumak için kullanmanın diğer yöntemleri, model oluşturulurken ve eğitilirken veri açığını en aza indirmeyi ve ağın güvenlik açıklarını keşfetmeyi içerir. Veri mahremiyetini korumak için, federated öğrenme, yerel cihazlarda depolanan verilerin nevera çıkarmadan modeli eğitmeyi sağlar, bu da verilerin ve modelin parametrelerinin büyük kısmının casusluktan korunmasını sağlar.

Chen ve Gangopadhyay, AI’ın yayılmasıyla insanların mahremiyetini tehdit eden yeni tehditler yaratmış olsa da, AI’ın doğru şekilde tasarlandığında ve düşünülerek mahremiyeti korumada yardımcı olabileceğine inanıyor.