Bailey Kacsmar, University of Waterloo’da Doktora Adayı – Röportaj Serisi

Bailey Kacsmar, Waterloo Üniversitesi Bilgisayar Bilimi Okulu’nda doktora adayı ve Alberta Üniversitesi‘nde göreve başlayacak bir öğretim üyesidir. Araştırma ilgi alanları, kullanıcıyı gözeten gizlilik güçlendirici teknolojilerin geliştirilmesinde, gizliliği koruyan hesaplama için teknik yaklaşımların paralel olarak incelenmesi ve bu teknolojilerin kullanıcı algıları, endişeleri ve anlaşılmasıdır. Çalışmaları, makine öğrenimi uygulamalarında gizlilik için potansiyel ve sınırlamaları belirlemeyi amaçlar.

Araştırma ilgi alanlarınız, kullanıcıyı gözeten gizlilik güçlendirici teknolojilerin geliştirilmesinde. Neden AI’de gizlilik bu kadar önemli?

AI’de gizlilik bu kadar önemli, çünkü AI dünyamızda veri olmadan var olmaz. Veri, yararlı bir soyutlama olarak, sonunda insanları ve davranışlarını tanımlar. Çoğu zaman ağaç popülasyonları ve su seviyeleri hakkında veri çalışmıyoruz; bu nedenle, insanları etkileyebilecek her şeyde, sistemimizin iyi veya kötü yapabileceği şeyleri anlamak için bilinçli olmalıyız. Bu, özellikle AI için geçerlidir, çünkü birçok sistem büyük miktarda veriden yararlanabilir veya sağlık verileri gibi yüksek hassasiyetli verileri kullanarak yeni anlama düzeyleri geliştirmeye çalışabilir.

Kullanıcıların gizliliğini nasıl ihlal ettiğini gördüğünüz bazı yollar nelerdir?

İhanet güçlü bir kelimedir. Ancak, bir sistem, insanların rızası olmadan, onları bilgilendirmeden ve olası zararları düşünmeden bilgi kullanıyorsa, bireysel veya toplumsal gizlilik normlarına ihanet etme riski taşır. Bu, binlerce küçük kesikle sonuçlanır. Bu tür uygulamalar, kullanıcıların e-posta kutularında, metin mesajlarında veya sağlık verilerine dayalı olarak model eğitimi yapmayı içerebilir; tüm bunlar, verilerin ait olduğu kişilere bilgi verilmeden yapılır.

Diferansiyel gizliliği tanımlayabilir ve bu konuda ne düşünüyorsunuz?

Diferansiyel gizlilik, teknik gizlilik için kullanılan bir tanım veya tekniktir. Teknik gizlilik tanımları genellikle iki ana unsuru içerir; korunan şey ve kimden korunduğu. Teknik gizlilikte, gizlilik garantileri, belirli varsayımların karşılanması koşuluyla sağlanan korumalardır. Bu varsayımlar, potansiyel düşmanlar, sistem karmaşıklığı veya istatistikler hakkında olabilir. Bu, çok çeşitli uygulamalara sahip çok yararlı bir tekniktir. Ancak, diferansiyel gizliliğin gizlilikle eşanlamlı olmadığını unutmamak önemlidir.

Gizlilik, bir tanıma veya kavramla sınırlı değildir ve diğer kavramların da bilincinde olmak önemlidir. Örneğin, bağlamsal bütünlük, bir bireyin farklı uygulamalar veya organizasyonlar tarafından değiştirilen gizlilik algılarını dikkate alan bir gizlilik kavramıdır. Ayrıca, Kanada’nın PIPEDA’sı, Avrupa’nın GDPR’si ve California’nın tüketici koruma yasası (CCPA) gibi yasal gizlilik kavramları da vardır. Tüm bunlar, teknik sistemlerin diğer gizlilik faktörlerinden bağımsız bir vakumda var olmadıklarının bilincinde olmamız gerektiğini gösterir, hatta diferansiyel gizlilik kullanılıyorsa bile.

Diğer bir gizlilik güçlendirici makine öğrenimi türü de federatif öğrenmedir, bunu nasıl tanımlarsınız ve görüşünüz nedir?

Federatif öğrenme, modeli birden fazla sahibi veya konuma dağıtılan veri koleksiyonlarına dayanarak eğitmek için kullanılan bir makine öğrenimi türüdür. Kendiliğinden gizlilik güçlendirici bir makine öğrenimi türü değildir. Gizlilik güçlendirici bir makine öğrenimi türü, korunan şeyi, kimden korunduğunu ve bu korumaların geçerli olacağı koşulları formal olarak tanımlamalıdır. Örneğin, basit bir diferansiyel gizlilik sağlayan hesaplama düşünün; bu, çıktıyı gören birinin belirli bir veri noktasının katkıda bulunup bulunmadığını belirleyemeyeceği garantisi verir.

Daha fazla, diferansiyel gizlilik, veri noktaları arasında korelasyon varsa bu garantiyi vermez. Federatif öğrenme bu özelliği taşımaz; sadece veri sahiplerinin birbirlerine veya üçüncü bir tarafa doğrudan veri sağlamalarına gerek kalmadan bir modeli eğitir. Bu, bir gizlilik özelliği gibi görünse de, güvenilmeyen tarafların gözlemleyeceği ara değerler ve çıktılardan korunan bilginin öğrenilemeyeceğine ilişkin biçimsel bir garantiye ihtiyaç vardır. Bu formalite, özellikle federatif ortamda, ortak modeli eğitmek için veri sağlayan herkesin güvenilmeyen taraflar arasında yer aldığı durumlarda önemlidir.

Bu yaklaşımların mevcut sınırları nelerdir?

Şu anki sınırları, gizlilik-fayda ödünleşiminin doğası olarak tanımlayabilirim. Her şeyi yaptıktan sonra, etkilenenlere gizlilik etkilerini ilettikten, sistemi ne yapmaya çalıştığınızı değerlendirdikten sonra, hala mükemmel gizlilik ile mükemmel fayda arasında bir denge kurma sorunu vardır. Mükemmel gizlilik sağlamak, sistemi hiç yapmamak anlamına gelir; mükemmel fayda sağlamak, genellikle hiçbir gizlilik korumasının olmaması anlamına gelir, bu nedenle “ideal” denge noktasını nasıl belirleyeceğimizi ve ona doğru nasıl ilerleyeceğimizi sorguluyoruz.

Şu anda, gizliliği koruyan hesaplama için teknik çözümlerin paralel olarak incelenmesi yoluyla kullanıcıyı gözeten gizlilik teknolojileri geliştirmeyi amaçlıyorsunuz. Bu çözümlerden bazılarını açıklar mısınız?

Bu çözümlerden kastettiğim, teknik olarak herhangi bir sayıda gizlilik sistemi geliştirebilmemizdir. Ancak, bunları yaparken, korunanların gerçekten bu korumalardan yararlanıp yararlanmadığını belirlemek önemlidir. Bu, bir sistemi, korumak istediğimiz kişilerin hangi tür korumaları değerlendirdiğini öğrenerek geliştirmeyi içerebilir. Bu, bir sistemi, insanların gerçek tehdit ve risk dikkate almalarıyla nasıl kullandıklarını öğrenerek güncellemeyi içerebilir. Bir teknik çözüm, daha önce tanımladığım tanıma uyan bir sistem olabilir. Kullanıcıyı gözeten bir çözüm, sistemi, kullanıcılar ve uygulamada etkilenenler tarafından sağlanan girdilere dayanarak tasarlar.

Şu anda, Eylül 2024’te başlamaları için ilgili lisansüstü öğrencileri arıyorsunuz, neden AI gizliliği konusunda öğrencilerin ilgisini çekmesini düşünüyorsunuz?

Öğrencilerin ilgilenmesini düşünüyorum, çünkü bu, toplumumuzun her geçen gün daha da iç içe geçtiği bir alandır. Bu sistemlerin ne kadar hızlı geliştiğini görmek için yakın dönemde ChatGPT’nin haber makaleleri, sosyal medya ve etkileri hakkında yapılan tartışmalara bakmak yeterli. Veri toplama ve kullanmanın bizim günlük hayatımızın öyle bir parçası haline geldiği bir toplumda yaşıyoruz ki, neredeyse sürekli olarak çeşitli şirketlere ve organizasyonlara kendimiz hakkında bilgi veriyoruz. Bu şirketler, bazen hizmetlerini iyileştirmek, bazen de kar elde etmek için bu verileri kullanmak istiyorlar. Bu noktada, bu kurumsal veri kullanım uygulamalarının değişeceğini düşünmek gerçekçi görünmüyor. Ancak, kullanıcıları koruyan ve şirketlerin istediği bazı analizlerine izin veren gizlilik koruyucu sistemlerin varlığı, toplumumuzun bir parçası haline gelen risk ve fayda arasındaki ödünleşimi dengelemeye yardımcı olabilir.

Harika röportaj için teşekkür ederiz, daha fazla bilgi öğrenmek isteyen okuyucular Bailey Kacsmar’ın Github sayfasını ziyaret edebilirler.