Generatif AI Tarafından Sunulan Gizlilik Risklerine Açık Bir Çözüm Var mı?

Generatif AI tarafından sunulan gizlilik riskleri çok gerçek. Artan gözetim ve maruz kalma, daha etkili phishing ve vishing kampanyalarına kadar, generatif AI, gizliliği kitlesel olarak, ayrım gözetmeksizin erozyona uğratırken, kötü aktörlere, suçlulara, devlet destekli veya hükümete bağlı olanlara, bireyleri ve grupları hedef almaları için gereken araçları sağlar.

Bu sorunun en açık çözümü, tüketicilerin ve kullanıcıların kolektif olarak AI hype’ını reddetmelerini, AI özelliklerini geliştiren veya uygulayanların şeffaflık talep etmelerini ve hükümetin denetlediği operasyonlardan etkili düzenleme talep etmelerini içerir. Bu, ulaşılması gereken bir hedef olsa da, bu yakın zamanda gerçekleşmeyecek.

Kalanlar, makul, ancak zorunlu olarak eksik, generatif AI gizlilik risklerini azaltmaya yönelik yaklaşımlardır. Uzun vadeli, garantili, ancak sıradan bir tahmin, kamuoyunun veri gizliliği hakkında ne kadar çok şey öğrendiği, generatif AI’nin kitlesel benimsenmesiyle oluşan gizlilik risklerinin o kadar az olacağıdır.

Generatif AI Kavramını Hepimiz Doğru Anlıyor muyuz?

AI حولındaki hype o kadar yaygın ki, insanların generatif AI’den ne anladığına ilişkin bir anket yapmaya gerek yok. Tabii ki, bu “AI” özelliklerinin, işlevlerin ve ürünlerin hiçbiri真正 artificial intelligence örneklerini temsil etmiyor. Daha çok, bunlar makine öğrenimi (ML), derin öğrenme (DL) ve büyük dil modelleri (LLM)’nin örnekleridir.

Generatif AI, isminden de anlaşılacağı gibi, yeni içerik oluşturabilir – metin (programlama dilleri dahil), ses (müzik ve insan benzeri sesler dahil) veya video (ses, diyalog, kesmeler ve kamera değişiklikleri ile). Tüm bunlar, LLM’leri insan tarafından oluşturulan içeriklerdeki desenleri tanımlamak, eşleştirmek ve yeniden üretmek için eğitmek yoluyla gerçekleştirilir.

Örneğin ChatGPT’yi ele alalım. Many LLM’ler gibi, bu da üç geniş aşamada eğitilir:

• Ön eğitim: Bu aşamada, LLM, internetten, kitaplardan, akademik dergilerden ve potansiyel olarak ilgili veya yararlı metin içeren diğer kaynaklardan metin materyali ile “beslenir”.
• Gözetimli talimat ince ayarlaması: Modeller, insanlardan gelen yüksek kaliteli talimat-yanıt çiftleri kullanılarak daha tutarlı bir şekilde talimatlara cevap vermeye eğitilir.
• İnsan geri bildirimi ile pekiştirme öğrenimi (RLHF): ChatGPT gibi LLM’ler, bu ek eğitim aşamasından geçerler. Bu aşamada, insan kullanıcılarla olan etkileşimler, modelin tipik kullanım durumlarına uyumu için kullanılır.

Eğitim sürecinin tüm aşamaları, büyük ön eğitim verisi depoları (ön eğitimde kullanılanlar gibi) veya neredeyse gerçek zamanlı olarak toplanan ve işlenen veriler (RLHF’de kullanılanlar gibi) dahil olmak üzere verilerle ilgilidir. İşte bu veriler, generatif AI’den kaynaklanan gizlilik risklerinin büyük çoğunluğunu taşır.

Generatif AI Tarafından Sunulan Gizlilik Riskleri

Gizlilik, kişisel bilgilerin, ilgili kişinin rızası olmadan diğer kişilere veya kuruluşlara ifşa edildiğinde ihlal edilir. LLM’ler, kişisel verileri de içerebilecek çok широк bir veri yelpazesi üzerinde ön eğitilir ve ince ayarlanır. Bu veriler genellikle kamu kaynaklarından toplanır, ancak her zaman böyle değildir.

Bu verilerin kamu kaynaklarından alındığı durumlarda bile, bu verilerin bir LLM tarafından toplandığı ve işlendiği ve ardından LLM arayüzü aracılığıyla temelde aranabilir hale geldiği iddia edilebilir. Bu, bir gizlilik ihlali olarak görülebilir.

İnsan geri bildirimi ile pekiştirme öğrenimi (RLHF) aşaması, durumu daha da karmaşık hale getirir. Bu eğitim aşamasında, gerçek insan kullanıcılarla olan etkileşimler, modelin cevaplarını düzeltmek ve iyileştirmek için kullanılır. Bu, bir kullanıcının LLM ile olan etkileşimlerinin, erişim izni olan herkes tarafından görülebileceği, paylaşılabileceği ve dağıtılabileceği anlamına gelir.

Çoğu durumda, bu bir gizlilik ihlali değildir, çünkü çoğu LLM geliştiricisi, kullanıcıların LLM ile etkileşime girmeden önce gizlilik politikaları ve hizmet şartlarını kabul etmelerini gerektirir. Gizlilik riski, birçok kullanıcının bu veri toplama ve kullanımına rıza gösterdiklerinin farkında olmamasında yatmaktadır. Bu kullanıcılar, LLM’lerle olan etkileşimlerinde özel ve hassas bilgileri ifşa edebilirler, bu etkileşimlerin gizli veya özel olmadığını fark etmeden.

Bu şekilde, generatif AI’nin gizlilik risklerini üç ana şekilde ortaya koyabiliriz:

• Kişisel bilgileri içerebilecek büyük ön eğitim verisi depoları, tehlikeye ve sızdırma riskine açıktır.
• Ön eğitim verisinde bulunan kişisel bilgiler, LLM’nin cevaplarına ve talimatlara verdiği yanıtlara sızabilir.
• LLM’lerle etkileşim sırasında verilen kişisel ve gizli bilgiler, LLM’nin çalışanları ve muhtemelen üçüncü taraf sözleşmeli kişilerle paylaşılabilir ve bu kişiler tarafından görülebilir veya sızdırılabilir.

Bu riskler, kullanıcıların gizliliğine yönelik risklerdir, ancak kişisel olarak tanımlanabilir bilgilerin yanlış ellere geçme olasılığı hala düşük görünüyor. Ancak veri brokerleri devreye girdiğinde, durum değişiyor. Bu şirketler, kişisel olarak tanımlanabilir bilgileri bulmak, toplamak ve dağıtmak için uzmanlaşmışlardır.

Kişisel veriler, bir tür mal haline geldiğinde ve veri brokerleri endüstrisi bu verilerin kârlı bir şekilde toplanması ve dağıtılması için ortaya çıktığında, “dışarıda” olan herhangi bir kişisel veri, veri brokerleri tarafından kolayca toplanıp geniş bir alana yayılabilir.

Generatif AI’nin Gizlilik Riskleri Bağlamında

Belirli ürünler, hizmetler ve kurumsal ortaklıklar bağlamında kullanıcıların gizliliğine yönelik generatif AI risklerini incelemeye başlamadan önce, generatif AI risklerinin tüm yelpazesine daha yapılandırılmış bir bakış atalım. IAPP için yazan Moraes ve Previtali, Solove’un 2006’da ortaya attığı “Gizlilik Taxonomisi”ne dayanan bir veri odaklı yaklaşım kullanarak, 16 gizlilik riskini 12 AI’ye özgü gizlilik riskine indirgediler.

Moraes ve Previtali’nin bu gözden geçirilmiş taksonomisi aşağıdaki 12 gizlilik riskini içerir:

• Gözetim: AI, kişisel veri toplama riskini artırarak ve bu toplamanın ölçek ve yaygınlığını artırarak gözetim riskini artırır.
• Kimlik: AI teknolojileri, çeşitli veri kaynakları arasında otomatik kimlik bağlantısı yapılmasını sağlar, bu da kişisel kimlik ifşası ile ilgili riskleri artırır.
• Toplama: AI, bir kişi hakkında çeşitli veri parçalarını birleştirerek gizlilik ihlali riski yaratır.
• Frenoloji ve fizyognomi: AI, fiziksel özelliklerden kişilik veya sosyal özellikler çıkarır, bu da Solove’un taksonomisinde yer almayan yeni bir risk kategorisidir.
• İkincil kullanım: AI, kişisel verilerin orijinal amaçları dışında kullanılması riskini artırır.
• Haricilik: AI, kullanıcıların verilerinin nasıl kullanıldığına ilişkin bilgi verilmemesi veya kontrol verilmemesi riskini artırır.
• Güvensizlik: AI’nin veri gereksinimleri ve depolama uygulamaları, veri sızıntısı ve yetkisiz erişim riskini taşır.
• İfşa: AI, hassas bilgileri ifşa edebilir, özellikle de generatif AI teknikleri kullanıldığında.
• Bozulma: AI, gerçekçi ancak sahte içerik oluşturabilir, bu da yanlış veya yanıltıcı bilginin yayılmasına yol açar.
• İfşa: AI, ham veriden ek hassas bilgileri çıkarabilir ve bu bilgileri paylaşabilir.
• Artan Erişim: AI, hassas bilgileri daha geniş bir kitleye ulaşılabilir hale getirebilir.
• İhlal: AI teknolojileri, kişisel alanı veya yalnızlığı ihlal edebilir, genellikle gözetim önlemleri aracılığıyla.

Bu, oldukça endişe verici bir durum. Önemli olan, bu taksonominin, generatif AI’nin yanılsama eğilimini dikkate almasıdır – yani gerçeğe aykırı bilgileri üretmesi ve sunması. Bu fenomen, gerçeğe aykırı bilgiler sunsa da, gizlilik ihlali olarak kabul edilebilir.

Şimdi, bu gizlilik risklerinin somut örneklerine bakalım.

Metin Tabanlı Generatif AI Sistemleriyle Doğrudan Etkileşimler

En basit durum, bir kullanıcının ChatGPT, Midjourney veya Gemini gibi bir generatif AI sistemine doğrudan etkileşime girdiği durumdur. Bu ürünlerin çoğunun kullanıcı etkileşimleri kaydedilir, depolanır ve RLHF (insan geri bildirimi ile pekiştirme öğrenimi), gözetimli talimat ince ayarlaması ve hatta diğer LLM’lerin ön eğitimi için kullanılır.

Bu tür hizmetlerin gizlilik politikalarının analizi, pazarlama ve veri brokerliği gibi farklı amaçlar için veri paylaşımını destekleyen diğer veri paylaşım faaliyetlerini de ortaya koyar. Bu, generatif AI’nin bir diğer gizlilik riskidir: bu sistemler, kullanıcılar tarafından sağlanan veri ve bu etkileşimlerden oluşan büyük veri toplama araçları olarak karakterize edilebilir.

Ekli Generatif AI Sistemleriyle Etkileşimler

Bazı kullanıcılar, ürünlerinde gömülü olan generatif AI arayüzleriyle etkileşime girebilirler. Kullanıcı, “AI” özelliğini kullandığının farkında olabilir, ancak bunun veri gizliliği riskleri açısından ne anlama geldiğini bilmeyebilir. Gömülü sistemlerin ortaya çıkardığı coisa, LLM ile paylaşılan kişisel verilerin geliştiriciler ve veri brokerleri tarafından erişilebileceği gerçeğinin farkında olmama durumudur.

Burada iki düzeyde farkındalığın eksikliği vardır: bazı kullanıcılar, bir generatif AI ürününü kullandıklarının farkındadır; ve bazıları, gömülü sistem aracılığıyla bir ürün kullandıklarının farkındadır. Her iki durumda da, kullanıcı, gömülü sisteme etkileşimi için teknik olarak gizlilik politikası ve hizmet şartlarını kabul etmiş olabilir.

Kullanıcıları Generatif AI Sistemlerine Maruz Bırakan Diğer Ortaklıklar

Bazı şirketler, kullanıcıların habersiz olarak üçüncü taraf generatif AI şirketleriyle etkileşime girmelerine neden olan şekilde yazılımlarına generatif AI arayüzlerini gömerler. Neyse ki, “AI” o kadar etkili bir satış noktası haline geldi ki, bir şirketin böyle bir uygulamayı gizli tutması olası değildir.

Bu bağlamda başka bir olgu, bazı şirketlerin kullanıcı verilerini generatif AI şirketlerine paylaşmaya çalıştıkları ve bunun sonucunda oluşan geri tepkidir. Örneğin, veri silme şirketi Optery, kullanıcı verilerini OpenAI ile paylaşma kararını geri aldı. Bu, varsayılan olarak programda kaydolan kullanıcıları içeriyordu.

Müşteriler, memnuniyetsizliklerini dile getirdiler ve şirketin veri silme hizmeti, Gizlilik Rehberi’nin önerilen veri silme hizmetleri listesinden çıkarıldı. Optery’nin kararı geri alması takdir edilesi bir adımdı, ancak burada önemli olan, genel geri tepki.

Optery örneği burada iyi bir örnek oluşturur, çünkü kullanıcıları, generatif AI sistemlerine maruz kalmaya karşı artan şüphesini temsil eder. Veri silme hizmetlerini kullanan kişiler, genellikle değişen gizlilik politikalarına ve hizmet şartlarına dikkat eden kişilerdir.

Generatif AI Veri Kullanımına Karşı Büyüyen Geri Tepki Kanıtları

Gizlilik konusunda duyarlı tüketiciler, generatif AI sistemleri ve bunlarla ilişkili veri gizliliği riskleri hakkında endişe duyan tek kişiler değildir. Yasama düzeyinde, AB’nin Yapay Zeka Yasası, riskleri ciddiyetlerine göre sınıflandırır, çoğu durumda ciddiyet kriteri olarak veri gizliliği açık veya örtük olarak belirtilir. Yasa, daha önce tartıştığımız bilgilendirilmiş onay konularını da ele alır.

ABD, genellikle kapsamlı, federal veri gizliliği yasalarını benimsemekte yavaş olsa da, Yürütme Emri 14110 sayesinde bazı güvenceler sağlar. Yine, veri gizliliği endişeleri, Emir’in amaçlarının başında gelir: “AI teknolojilerinin sorumlu kullanılması, toplumsal zararları önlemek için kritiktir; AI teknolojilerinin kötüye kullanılması, dolandırıcılık, ayrımcılık, önyargı ve yanlış bilgi gibi toplumsal zararları artırabilir” – tüm bunlar kişisel veri kullanılabilirliği ve yayılması ile ilgilidir.

Tüketici seviyesine dönersek, sadece özellikle gizlilik konusunda duyarlı tüketiciler değil, generatif AI’nin gizlilik ihlalına yol açan uygulamalarına karşı tepki gösterdiler. Microsoft’un şimdi ünlü “AI destekli” Recall özelliğini, Windows 11 işletim sistemine entegre etme planı, birincil örnek olarak gösterilebilir. Özelliğin gizlilik ve güvenlik riskleri ortaya çıktığında, geri tepki yeterliydi ve teknoloji devi geri adım attı. Ne yazık ki, Microsoft’un bu fikirden vazgeçmediği görünüyor, ancak ilk kamu tepkisi umut verici.

Microsoft’un Copilot programı, hem veri gizliliği hem de veri güvenliği sorunları nedeniyle geniş çapta eleştirildi. Copilot, GitHub verisine (çoğunlukla kaynak kodu) dayandığından, geliştiricilerin ve programcıların yazılım lisans anlaşmalarını ihlal ettiği iddiaları da ortaya çıktı. Bu gibi durumlarda, veri gizliliği ve fikri mülkiyet hakları arasındaki çizgiler bulanıklaşıyor.

Belki de AI’nin tüketiciler tarafından bir kırmızı bayrak olarak görülmesi açısından en büyük işaret, Apple’ın ilk AI lansmanına, özellikle de OpenAI ile veri paylaşma anlaşmalarına ilişkin kamu tepkisidir.

Parçalı Çözümler

Yasama organları, geliştiriciler ve şirketler, generatif AI tarafından sunulan bazı riskleri hafifletmek için adımlar atabilir. Bunlar, genel sorunun belirli yönlerine yönelik özel çözümlerdir. Her biri yeterli değildir, ancak hepsi birlikte anlamlı bir fark yaratabilir.

• Veri asgarileştirme. Toplanan ve depolanan veri miktarını minimize etmek makul bir hedeftir, ancak bu, generatif AI geliştiricilerinin eğitim verisi arzusuna doğrudan karşıttır.
• Şeffaflık. Mevcut durumun ötesinde, bu, birçok durumda teknik olarak mümkün olmayabilir. Üretilen bir çıktı için hangi verilerin işlendiğini ve nasıl işlendiğini görmek, generatif AI etkileşimlerinde gizliliği güvence altına almak için bir yoldur.
• Anonimleştirme. Veri asgarileştirme yoluyla hariç tutulamayan kişisel bilgiler, anonimleştirilmelidir. Ancak, birçok popüler anonimleştirme ve pseudonymization tekniği kolayca aşılabiliyor.
• Kullanıcı onayı. Kullanıcıların verilerinin toplanmasına ve paylaşılmasına onay vermeleri gereklidir, ancak bu, suistimale açık ve tüketici tembelliğine eğilimlidir. Burada ihtiyaç duyulan, bilgilendirilmiş onaydır ve çoğu tüketici, bu tür veri paylaşımına bilgilendirildiklerinde onay vermeyecektir, böylece teşvikler yanlış hizalanır.
• Verilerin transit ve dinlenme halinde güvence altına alınması. Veri gizliliği ve veri güvenliğinin temel taşı, kriptografik ve diğer araçlar kullanarak verilerin korunması her zaman daha etkili hale getirilebilir. Ancak, generatif AI sistemleri, arayüzleri aracılığıyla veri sızdırma eğilimindedir, bu da bu çözümün yalnızca bir parçası olması anlamına gelir.
• Telif hakkı ve fikri mülkiyet hukukunu “AI” bağlamında uygulama. AI, bir “kara kutu” içinde çalışabilir, bu da hangi telif hakkı materyalinin ve fikri mülkiyetin hangi generatif AI çıktısına girdiğini izlemeyi zor veya imkansız hale getirir.
• Denetimler. Bir diğer önemli güvence önlemi, LLM’ler ve destekledikleri generatif AI sistemlerinin kapalı kaynak doğası ve “kara kutu” işleyişi tarafından engellenir. Bu sınırlamayı daha da zorlaştıran, çoğu generatif AI ürününün kapalı kaynak olmasıdır, bu da denetimlerin yalnızca geliştiricinin uygun gördüğü zamanlarda yapılmasına izin verir.

Tüm bu yaklaşımlar geçerli ve gereklidir, ancak hiçbiri yeterli değildir. Tüm bunlar, anlamlı bir etkiye sahip olmak için yasama desteğine ihtiyaç duyar, bu da onları bu dinamik alanın sürekli evrimi karşısında geri bırakır.

Açık Çözüm

Generatif AI tarafından sunulan gizlilik risklerine çözüm, ne devrim niteliğinde ne de heyecan verici, ancak mantıksal sonuçlarına götürüldüğünde, sonuçları her iki şekilde de olabilir. Açık çözüm, günlük tüketicilerin, şirketlere verdikleri verilerin değerini ve veri gizliliğinin kendileri için taşıdığı değeri anlamaya başlamasıyla ilgilidir.

Tüketiciler, modern gözetim ekonomisinin arkasındaki özel bilgilerin kaynakları ve motorlarıdır. Bir kritik kütledeki tüketiciler, kamuoyuna akan özel verilerin akışını durdurmaya ve şirketlerden hesap vermelerini talep etmeye başladığında, sistem kendini düzeltecektir.

Generatif AI’nin olumlu tarafı, mevcut reklamcılık ve pazarlama modellerinin aksine, kişisel bilgileri herhangi bir aşamada içermesine gerek olmamasıdır. Ön eğitim ve ince ayar verisi, kişisel bilgiler veya diğer kişisel veriler içermeyebilir ve kullanıcılar, generatif AI sistemleriyle etkileşimlerinde aynı düzeyde bilgi ifşa etmesine gerek duymayabilir.

Kişisel bilgilerini eğitim verisinden çıkarmak için, insanlar, çeşitli veri brokerlerinden (kişisel arama siteleri dahil) kişisel profillerini kaldırarak, bu bilgileri açık pazarlarda dolaşıma sokan kaynaklara gidebilirler. Kişisel veri silme hizmetleri, bu süreci otomatikleştirerek hızlı ve kolay hale getirir. Tabii ki, bu şirketlerin veritabanlarından kişisel verileri kaldırmak, birçok başka faydaya sahip olmanın yanı sıra, hiçbir dezavantaja sahip değildir.

İnsanlar, yazılım ile etkileşime girdiklerinde, özellikle de generatif AI ile, kişisel veri üretirler. Bu verilerin akışını durdurmak için, kullanıcıların, etkileşimlerinin kaydedildiği, incelendiği, analiz edildiği ve paylaşıldığının farkında olmaları gerekir. Seçenekleri, online sistemlere ne kadar bilgi verdiğini sınırlamak ve her yerde mümkün olduğunda yerel, açık kaynaklı LLM’leri kullanmaktan ibarettir. İnsanlar, genel olarak, zaten kamuoyunda neler konuştuğunu düzenleme konusunda iyi bir iş çıkarmaktadır – sadece bu içgüdüyü generatif AI alanına genişletmemiz gerekiyor.