Bailey Kacsmar, University of Waterloo’da Doktora Adayı – Röportaj Serisi

Bailey Kacsmar, Waterloo Üniversitesi Bilgisayar Bilimi Okulu’nda doktora adayı ve Alberta Üniversitesi’nde gelecek öğretim üyesidir. Araştırma ilgi alanları, kullanıcı bilinçli gizlilik güçlendirici teknolojilerin geliştirilmesinde, özel hesaplama için teknik yaklaşımların paralel olarak incelenmesi ve bu teknolojilerin kullanıcı algıları, endişeleri ve anlaşılmasıdır. Çalışmaları, makine öğrenimi uygulamalarında gizlilik için potansiyel ve sınırlamaları belirlemeyi amaçlar.

Araştırma ilgi alanlarınız, kullanıcı bilinçli gizlilik güçlendirici teknolojilerin geliştirilmesinde. Neden AI’de gizlilik bu kadar önemli?

AI’de gizlilik bu kadar önemli, çünkü AI dünyamızda veri olmadan var olmaz. Veri, yararlı bir soyutlama olarak, sonunda insanları ve davranışlarını tanımlar. Çoğu zaman ağaç popülasyonları ve su seviyeleri hakkında veri çalışmıyoruz; bu nedenle, insanları etkileyebilecek her şeyde, sistemimizin iyi veya kötü yapabileceği şeyleri anlamak için bilinçli olmalıyız. Bu, özellikle AI için geçerlidir, çünkü birçok sistem büyük miktarda veriden yararlanabilir veya sağlık verileri gibi yüksek hassasiyetli verileri kullanarak yeni anlama düzeyleri geliştirmeye çalışabilir.

Kullanıcıların gizliliğini nasıl ihlal ettiğini gördüğünüz bazı yollar nelerdir?

İhanet güçlü bir kelimedir. Ancak, bir sistem, insanların rızası olmadan, onları bilgilendirmeden ve olası zararları düşünmeden bilgi kullanıyorsa, bireysel veya toplumsal gizlilik normlarına ihanet etme riski taşır. Bu, binlerce küçük kesikle sonuçlanır. Bu tür uygulamalar, kullanıcıların e-posta kutularında, metin mesajlarında veya sağlık verilerine dayalı olarak model eğitimi yapmayı içerebilir; tüm bunlar, veri konularına bilgi verilmeden yapılır.

Farklılıklı gizliliği tanımlayabilir ve bu konuda ne düşünüyorsunuz?

Farklılıklı gizlilik, teknik gizlilik için kullanılan bir tanım veya tekniktir. Teknik gizlilik tanımları genellikle iki ana unsuru içerir; korunan şey ve kimden korunduğu. Teknik gizlilikte, gizlilik garantileri, belirli varsayımların karşılanması koşuluyla sağlanan korumalardır. Bu varsayımlar, potansiyel düşmanlar, sistem karmaşıklığı veya istatistikler hakkında olabilir. Bu, çok çeşitli uygulamalara sahip çok yararlı bir tekniktir. Ancak, farklılıklı gizliliğin gizlilikle eşanlamlı olmadığını unutmamak önemlidir.

Gizlilik, bir tanıma veya kavramla sınırlı değildir ve diğer kavramların da bilincinde olmak önemlidir. Örneğin, bağlamsal bütünlük, bir bireyin farklı uygulamalar veya organizasyonlar tarafından değiştirilen gizlilik algılarını dikkate alan bir gizlilik kavramıdır. Ayrıca, Kanada’nın PIPEDA’sı, Avrupa’nın GDPR’si ve California’nın tüketici koruma yasası (CCPA) gibi yasal gizlilik kavramları da vardır. Tüm bunlar, teknik sistemlerin diğer gizlilik faktörlerinden bağımsız bir vakumda var olmadıklarının bilincinde olmamız gerektiğini gösterir, hatta farklılıklı gizlilik kullanılıyorsa bile.

Diğer bir gizlilik güçlendirici makine öğrenimi türü de federatif öğrenmedir, bunu nasıl tanımlarsınız ve görüşünüz nedir?

Federatif öğrenme, modeli birden fazla sahibi veya konuma dağıtılan veri koleksiyonlarına dayanarak eğitmek için kullanılan bir makine öğrenimi türüdür. Kendiliğinden gizlilik güçlendirici bir makine öğrenimi türü değildir. Gizlilik güçlendirici bir makine öğrenimi türü, korunan şeyi, kimden korunduğunu ve bu korumaların geçerli olacağı koşulları formal olarak tanımlamalıdır. Örneğin, basitçe farklılıklı bir hesaplama düşünün; bu, çıktıyı gören birinin belirli bir veri noktasının katkıda bulunup bulunmadığını belirleyemeyeceği garantisi verir.

Daha fazla, farklılıklı gizlilik, veri noktaları arasında korelasyon varsa bu garantiyi vermez. Federatif öğrenme bu özelliği taşımaz; sadece veri sahiplerinin birbirlerine veya üçüncü bir tarafa doğrudan veri sağlamalarına gerek kalmadan bir modeli eğitir. Bu, bir gizlilik özelliği gibi görünse de, korunan bilginin, güvensiz ara sunucular ve çıktılar tarafından gözlemlenmesi durumunda öğrenilemeyeceği formal bir garantiye ihtiyaç vardır. Bu formalite, özellikle federatif ortamda, veri sağlayan tüm tarafların güvensiz olduğu durumlarda önemlidir.

Bu yaklaşımların当前 sınırları nelerdir?

Şu anki sınırları, gizlilik-fayda ticaretinin doğası olarak tanımlayabilirim. Her şeyi yaptıktan sonra, etkilenenlere gizlilik etkilerini ilettikten, sistemi ne yapmaya çalıştığınızı değerlendirdikten sonra, hala mükemmel gizlilik ile mükemmel fayda arasında bir denge kurma sorunu vardır. Mükemmel gizlilik sağlamak, sistemi hiç yapmamak anlamına gelir; mükemmel fayda sağlamak, genellikle hiçbir gizlilik koruması anlamına gelir, bu nedenle “ideal” ticaret noktasını nasıl belirleyeceğimizi ve ona doğru nasıl ilerleyeceğimizi sorguluyoruz.

Şu anda, özel hesaplama için teknik çözümlerin paralel olarak incelenmesi yoluyla kullanıcı bilinçli gizlilik teknolojileri geliştirmeyi amaçlıyorsunuz. Bu çözümlerden bazılarını açıklar mısınız?

Bu çözümlerden kastettiğim, teknik olarak herhangi bir sayıda gizlilik sistemi geliştirebilmemizdir. Ancak, bunları yaparken, korunanların gerçekten bu korumalardan yararlanıp yararlanmadığını belirlemek önemlidir. Bu, bir sistemi, korumak istediğimiz kişilerin hangi tür korumaları değerlendirdiğini öğrenerek geliştirmeyi içerebilir. Bu, bir sistemi, insanların gerçek tehdit ve risk dikkate almalarıyla nasıl kullandıklarını öğrenerek güncellemeyi içerebilir. Bir teknik çözüm, daha önce tanımladığım tanıma uyan bir sistem olabilir. Kullanıcı bilinçli bir çözüm, sistemi, kullanıcılar ve uygulamada etkilenenler tarafından sağlanan girdilere dayanarak tasarlar.

Şu anda, Eylül 2024’te başlamaları için intéresseli yüksek lisans öğrencilerini arıyorsunuz, neden AI gizliliği konusunda öğrencilerin ilgisini çekmesini düşünüyorsunuz?

Öğrencilerin ilgilenmesini düşünüyorum, çünkü bu, toplumumuzun her geçen gün daha da iç içe geçtiği bir alandır. Bu sistemlerin ne kadar hızlı geliştiğini görmek için recent Chat-GPT’nin haber makaleleri, sosyal medya ve etkileri hakkında yapılan tartışmalara bakmak yeterli. Veri toplama ve kullanmanın bizim günlük hayatımızın öyle bir parçası haline geldiği bir toplumda yaşıyoruz ki, neredeyse sürekli olarak çeşitli şirketlere ve organizasyonlara hakkında bilgi veriyoruz. Bu şirketler, bazen hizmetlerini iyileştirmek, bazen de kar elde etmek için bu verileri kullanmak istiyorlar. Bu noktada, bu kurumsal veri kullanım uygulamalarının değişmeyeceğini düşünmek gerçekçi görünmüyor. Ancak, kullanıcıları koruyan ve şirketlerin istediği bazı analizleri允许 eden gizlilik koruyucu sistemlerin varlığı, toplumumuzun bir parçası haline gelen risk-ödül ticaret dengesini dengelemeye yardımcı olabilir.

Harika röportaj için teşekkür ederiz, daha fazla bilgi öğrenmek isteyen okuyucular Bailey Kacsmar’ın Github sayfasını ziyaret edebilirler.