Derin Sahtecilik Teriminin Kaçınılmaz Tanımı

Almanya’dan gelen yeni bir çalışma, EU AI Act’in ‘derin sahtecilik’ teriminin tanımını özellikle dijital görüntü manipülasyonu bağlamında fazla belirsiz olarak eleştiriyor. Yazarlar, Act’in gerçek kişiler veya olaylara benzeyen içerik vurgusunun, ancak potansiyel olarak sahte görünen içeriği de içermesinin net olmadığını savunuyorlar.

Ayrıca, Act’in ‘standart düzenleme’ (yani, supposedly minor AI-aided modifications to images) istisnalarının, hem tüketici uygulamalarında AI’ın baskın etkisini hem de AI’ın ortaya çıkmasından önce var olan sanatsal kuralların öznel doğasını dikkate almadığını vurguluyorlar.

Bu konulardaki belirsiz yasalar iki ana riske yol açar: bir ‘soğutma etkisi’, где yasanın geniş yorumlayıcı kapsamı inovasyonu ve yeni sistemlerin benimsenmesini engelleyici bir etkiye sahiptir; ve bir ‘suçlu etkisi’, где yasa aşırı veya anlamsız olarak görülür.

Her iki durumda da, belirsiz yasalar pratik yasal tanımların sorumluluğunu gelecekteki mahkeme kararlarına bırakır – bir yasa koyucunun temkinli ve riskten kaçınan yaklaşımı.

AI tabanlı görüntü-manipülasyon teknolojileri, görünüşe göre, yasaların bunları ele alma kapasitesinin önünde kalıyor. Örneğin, kağıt, Sahne Optimizasyonu işlevinin recent Samsung kameralarında, bir kullanıcı tarafından alınan ayın fotoğrafını (bir zor konu) AI ile çalışan, ‘rafineli’ bir görüntü ile değiştirebileceğini gözlemliyor:

Üst sol, yeni çalışmadan bir gerçek kullanıcı tarafından alınan ayın fotoğrafı, Samsung tarafından otomatik olarak oluşturulan bir Sahne Optimizasyonu örneği; Sağ, Samsung’un bu sürecin arkasındaki resmi illüstrasyonu; alt sol, Reddit kullanıcısı u/ibreakphotos’tan örnekler, (solda) kasıtlı olarak bulanıklaştırılmış bir ay fotoğrafı ve (sağda), Samsung’un bu fotoğrafın yeniden hayal ettiği – aslında kaynak fotoğrafı bir monitörün fotoğrafı, gerçek ay değil. Kaynaklar (saat yönünde, üst soldan): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https://reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

Yukarıdaki resmin sol alt köşesinde, ayın iki fotoğrafını görüyoruz. Soldaki fotoğraf, bir Reddit kullanıcısı tarafından çekilmiş bir fotoğraftır.

Sağdaki fotoğraf, aynı düşük kaliteli fotoğrafın Samsung kamera tarafından AI ile çalışan post-prosesleme ile otomatik olarak ‘geliştirilmiş’ hali.

Çalışma, Google’ın recent akıllı telefonlarına entegre edilen En İyi Çekim özelliğini de eleştirmektedir – bir tartışmalı AI özelliği, bir grup fotoğrafının ‘en iyi’ kısımlarını düzenler, birden fazla saniyelik bir fotoğraf dizisini tarayarak gülüşleri ileri veya geri taşımak için gerekli olanları seçer – ve hiç kimse ortada kırpışırken görünmez:

Çalışma, bu tür bir kompozit sürecin olayları yanlış temsil etme potansiyeline sahip olduğunu savunuyor:

‘[Bir] tipik grup fotoğrafı ortamında, ortalama bir izleyici muhtemelen sonuç fotoğrafı hala otantik olarak kabul edecektir. Gülüş, fotoğrafın geri kalanı çekildiğinden birkaç saniye önce mevcuttu.

‘Öte yandan, En İyi Çekim özelliğinin 10 saniyelik zaman çerçevesi, bir ruh hali değişikliği için yeterlidir. Bir kişi, grubun bir şaka için gülerken gülümsemeyi bırakmış olabilir.

‘Sonuç olarak, böyle bir grup fotoğrafının iyi bir sahtecilik oluşturabileceğini varsayıyoruz.’

Yeni çalışma, Derin Sahtecilik Nedir? EU AI Act Altında Meşru İşleme ve Manipülasyon Arasındaki Bulanık Hat başlıklı ve Tübingen Üniversitesi ve Saarland Üniversitesi’nden iki araştırmacı tarafından yapılan bir çalışmadır.

Eski Hileler

Fotografide zamanı manipüle etmek, tüketici düzeyindeki AI’dan çok daha eskidir. Yeni çalışmanın yazarları, çok eski tekniklerin var olduğunu ve ‘sahte’ olarak savunulabileceğini belirtiyorlar, örneğin birden fazla ardışık görüntünün bir Yüksek Dinamik Aralıklı (HDR) fotoğrafına veya bir ‘dikişli’ panoramik fotoğrafa dönüştürülmesi.

Gerçekten de, en eski ve en komik fotografik sahtecilikler geleneksel olarak okul çocukları tarafından, okul grupları için kullanılan özel panoramik kameralar tarafından çekilen fotoğrafların önünde koşarak yaratılmıştır – böylece öğrenci aynı fotoğrafın iki kez görünmesini sağlayabilir:

Grup fotoğraflarında panoramik kameraları kandırmak için öğrencilerin çoğu, kendilerini okul fotoğraflarında ‘kopyalamak’ için risk almaya istekliydi. Kaynak: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

Eğer RAW modunda fotoğraf çekilmezse, kamera lens sensöründen yorumlama olmadan büyük bir dosyaya dökülür, muhtemelen dijital fotoğraflarınız tamamen otantik değildir. Kamera sistemleri, varsayılan olarak, görüntü keskinleştirme ve beyaz dengesi gibi ‘iyileştirme’ algoritmalarını uygular – ve tüketici düzeyindeki dijital fotoğrafçılığın başlangıcından beri bunu yapmışlardır.

Yeni çalışmanın yazarları, bu eski tür dijital fotoğraf artırma yöntemlerinin de ‘gerçekliği’ temsil etmediğini savunuyorlar, çünkü bu yöntemler fotoğrafları daha hoş hale getirmek için tasarlanmışlardır, daha ‘gerçek’ hale getirmek için değil.

Çalışma, EU AI Act’in, daha sonraki değişikliklerle birlikte, fotoğrafların üretildiği bağlamda uygun olmayan bir delil çerçevesi içinde tüm fotoğraf çıktısını yerleştirdiğini öne sürüyor – güvenlik kamerası görüntüleri veya adli fotoğrafçılık gibi (nominally nesnel) doğanın aksine.

Araştırmacılar, fotoğrafların ‘asla gerçekliğin nesnel bir temsili olmadığını’ savunuyorlar. Kameranın konumu, seçilen derinlik alanı ve aydınlatma tercihleri gibi faktörler, bir fotoğrafın derinlemesine öznel olmasını sağlar.

Çalışma, rutin ‘temizleme’ görevlerinin – örneğin sensör tozunu veya iyi bir şekilde oluşturulmuş bir sahnedeki istenmeyen elektrik hatlarını kaldırma – AI’ın ortaya çıkmasından önce sadece yarı otomatikleştirildiğini belirtiyor: kullanıcılar bir bölgeyi seçmek veya bir işlemi başlatmak zorundaydı.

Bugün, bu işlemler genellikle bir kullanıcı tarafından metin istemleri ile tetiklenmektedir, özellikle de Photoshop gibi araçlarda. Tüketici düzeyinde, bu özellikler artık kullanıcı girdisi olmadan otomatik hale getirilmektedir – ve bu, üreticiler ve platformlar tarafından açıkça ‘açıkça arzu edilen’ bir sonuç olarak görülüyor.

Derin Sahtecilik Teriminin Sulandırılmış Anlamı

AI tarafından değiştirilen veya oluşturulan görüntüler etrafındaki yasaların temel bir zorluğu, ‘derin sahtecilik’ teriminin belirsizliğidir, ki bu terim son iki yıl içinde önemli ölçüde genişletilmiştir.

Terim, başlangıçta yalnızca oto-encoder tabanlı sistemler gibi video çıkışları için geçerliydi, örneğin DeepFaceLab ve FaceSwap, her ikisi de 2017’nin sonlarında Reddit’e anonim olarak gönderilen kodlardan türetilmiştir.

2022’den itibaren, Latent Diffusion Models (LDMs) gibi Stable Diffusion ve Flux, serta Sora gibi metin-videya sistemleri, kimlik değiştirme ve özelleştirme olanakları sunmaya başladı – ve daha iyi bir çözünürlük, esneklik ve Sadakat ile ünlü ve politikacıları temsil edebilen difüzyon tabanlı modeller oluşturulmasına izin verdi.

Daha sonra, hem medyada hem de araştırma literatüründe, terim ayrıca metin tabanlı taklit içerir. Bu noktada, ‘derin sahtecilik’ teriminin orijinal anlamı neredeyse kaybolmuş, genişletilmiş anlamı ise sürekli olarak evrim geçirmekte ve giderek sulandırılmaktadır.

Ancak, terim o kadar ateşleyici ve etkiliydi ve şimdi bir siyasi ve medya kıvılcımı haline gelmişti ki, onu bırakmak imkansızdı. Web sitelerine okuyucular çekti, araştırmacılara fon sağladı ve politikacılara dikkat çekti. Bu terminolojik belirsizlik, yeni araştırmanın temel odak noktasıdır.

Yazarlar, EU AI Act’in 3(60) maddesinin, bir ‘derin sahtecilik’ tanımını dört koşulla belirlediğini belirtiyorlar.

1: Gerçek Ay

İlk olarak, içerik üretildi veya değiştirildi olmalıdır, yani ya AI kullanarak sıfırdan oluşturuldu (üretildi) ya da mevcut verilerden değiştirildi (manipüle edildi). Çalışma, ‘kabul edilebilir’ görüntü düzenleme sonuçları ile manipülatif derin sahtecilikler之间 arasındaki ayırımın zorluğunu vurguluyor – çünkü dijital fotoğraflar zaten gerçekliğin gerçek temsilcisi değildir.

Çalışma, Samsung tarafından üretilen bir ayın fotoğrafının argüman olarak gerçekçi olduğu savunuyor, çünkü ay muhtemelen görünümünü değiştirmeyecek ve AI tarafından oluşturulan içerik, gerçek ay fotoğraflarına dayandığından muhtemelen doğru olacaktır.

Yazarlar ayrıca, Samsung sisteminin, kaynak fotoğrafı ay değilken, ayın ‘geliştirilmiş’ bir fotoğrafını otomatik olarak oluşturabildiğini belirtiyorlar – bu, bir ‘derin sahtecilik’ olarak kabul edilecektir.

Bu tür bir işlevsellik etrafındaki farklı kullanım durumlarının kapsamlı bir listesini oluşturmak pratik olmayacaktır. Bu nedenle, tanım sorumluluğu yine mahkemelere geçer.

2: Metin Sahteciliği

İkincisi, içerik görüntü, ses veya video şeklinde olmalıdır. Metin içeriği, diğer şeffaflık yükümlülüklerine tabi olmakla birlikte, AI Act altında bir derin sahtecilik olarak kabul edilmez. Bu, yeni çalışmada ayrıntılı olarak ele alınmamıştır, ancak görünür derin sahteciliklerin (aşağıya bakınız) etkinliği üzerinde önemli bir etkiye sahip olabilir.

3: Gerçek Dünya Problemleri

Üçüncüsü, içerik mevcut kişiler, nesneler, yerler, varlıklar veya olaylara benzemelidir. Bu koşul, gerçek dünya ile bir bağlantı kurar, yani salt uydurma görüntüler, fotoğrafik gerçekçi olsalar bile, bir derin sahtecilik olarak nitelendirilmeyecektir. EU AI Act’in 134. madde gerekçesi, ‘benzerlik’ yönünü ‘önemli ölçüde’ kelimesini ekleyerek vurgulamaktadır (sonraki yasal kararlar için bir erteleme gibi görünüyor).

Yazarlar, daha önceki bir çalışmaya atıfta bulunarak, bir AI tarafından oluşturulan yüzün gerçekten bir kişiye ait olup olmaması gerektiğini veya sadece bir gerçek kişiye yeterli ölçüde benzer olup olmaması gerektiğini sorguluyorlar.

Örneğin, nasıl bir dizi fotoğrafik gerçekçi görüntü, Donald Trump’u temsil ediyor gibi görünse de, görüntüler (veya eklenen metinler) özellikle onu belirtmediği takdirde, bu görüntülerin taklit amacı taşıyıp taşımadığını belirlemek mümkün müdür? Yüz tanıma? Kullanıcı anketleri? Bir yargıcın ‘sıkıntı’ tanımına göre?

‘Metin Sahteciliği’ konusuna (yukarıya bakınız) dönersek, kelimeler souvent görünür bir derin sahteciliğin eyleminin önemli bir bölümünü oluşturabilir. Örneğin, ‘kişi a‘nın (değiştirilmemiş) bir fotoğrafı veya videosunu alabilir ve bir kaptiyon veya sosyal medya gönderisi olarak ‘kişi b‘nin fotoğrafı olduğunu söyleyebilirsiniz (iki kişinin benzer olduğunu varsayarak).

Bu durumda, hiçbir AI gerektirilmez ve sonuç oldukça etkili olabilir – ancak böyle bir düşük teknoloji yaklaşımı da bir ‘derin sahtecilik’ olarak kabul edilir mi?

4: Düzenle, Yeniden Modelle

Son olarak, içerik insanlara gerçekçi veya doğru görünmelidir. Bu koşul, insan izleyicilerin algısını vurgular. Sadece bir algoritma tarafından gerçek bir kişi veya nesneyi temsil ettiği tanınan içerik, bir derin sahtecilik olarak kabul edilmeyecektir.

Bu koşulların tümü arasında, bu koşul en açık şekilde gelecekteki mahkeme kararlarına bırakılır – çünkü teknik veya mekanize edilmiş araçlar aracılığıyla herhangi bir yorumlamaya izin vermez.

Açıkça, bu öznel koşul üzerinde uzlaşmaya varmak için bazı içkin zorluklar vardır. Yazarlar, örneğin, farklı insanların ve farklı türdeki insanların (çocuklar ve yetişkinler gibi) belirli bir derin sahteciliğe inanma konusunda çeşitli şekilde eğilimli olabileceğini belirtiyorlar.

Yazarlar ayrıca, Photoshop gibi araçların gelişmiş AI yeteneklerinin geleneksel ‘derin sahtecilik’ tanımlarını zorladığını belirtiyorlar. Bu sistemler, tartışmalı veya yasaklanmış içeriklere karşı temel güvenceler içerebilir, ancak ‘düzeltme’ kavramını dramatik bir şekilde genişletirler. Kullanıcılar artık nesneleri çok ikna edici ve fotoğrafik gerçekçi bir şekilde ekleyebilir veya kaldırabilir, böylece görüntü manipülasyonunun sınırlarını yeniden tanımlayan profesyonel bir gerçeklik düzeyine ulaşabilirler.

Yazarlar şunları söylüyor:

‘Derin sahteciliklerin tanımının EU AI Act’te ve ilgili yükümlülüklerde yeterince belirtilmediğini savunuyoruz. Dijital bir fotoğrafın yaşam döngüsünü, kamera sensöründen dijital düzenleme özelliklerine kadar analiz ederek, şunları buluyoruz:

‘(1) Derin sahtecilikler EU AI Act’te kötü tanımlanmıştır. Tanım, bir derin sahtecilik olan şey için fazla geniş bir kapsam bırakır.

‘(2) Google’ın “En İyi Çekim” gibi düzenleme işlevlerinin şeffaflık yükümlülüklerine bir istisna olarak nasıl kabul edilebileceği açık değildir.

‘(3) İçeriklerin önemli ölçüde düzenlenmesi istisnası, içeriklerin önemli ölçüde düzenlenmesinin ne anlama geldiği ve bu düzenlemenin bir insan tarafından algılanabilir olup olmadığı konusunda sorular ortaya koyuyor.’

İstisnaları Kabul Etme

EU AI Act, yazarların savunduğu gibi, çok geniş istisnalara sahiptir. 50(2) maddesi, orijinal kaynak fotoğrafının çoğunun değiştirilmediği durumlarda bir istisna sağlar. Yazarlar şunları belirtiyorlar:

’50(2) maddesindeki ‘içerik’ terimi, dijital ses, görüntü ve video dosyaları için ne anlama gelir? Örneğin, görüntüler için, insanlara algılanabilir olan piksel alanını mı yoksa insanlara algılanabilir olan görünür alanı mı dikkate almalıyız? Piksel alanında önemli manipülasyonlar, insan algısını değiştirmeyebilir ve ngượcine, piksel alanında küçük pertürbasyonlar insan algısını dramatik bir şekilde değiştirebilir.’

Araştırmacılar, bir fotoğrafa bir el silahı eklemenin örneğini verir – bu, görüntünün sadece %5’ini değiştirir, ancak değiştirilen kısmın semantik anlamı önemlidir. Bu nedenle, bu istisna, bir görüntünün genel anlamı üzerinde küçük bir ayrıntı etkisi konusunda ‘sıkıntı’ anlayışını dikkate almaz gibi görünüyor.

50(2) maddesi ayrıca, ‘standart düzenleme’ için bir yardımcı işlevi de sağlar. Ancak Act, ‘standart düzenleme’ ne anlama geldiğini tanımlamadığından, Google’ın En İyi Çekim gibi aşırı post-prosesleme özellikleri bile bu istisnaya tabi gibi görünüyor, yazarlar böyle diyor.

Sonuç

Yeni çalışmanın amacı, derin sahteciliklerin düzenlenmesine ilişkin disiplinler arası bir çalışma teşvik etmek ve bilgisayar bilimcileri ve hukukçular arasında yeni diyaloglar için bir başlangıç noktası olmaktır.

Ancak, çalışma kendisi de beberapa noktada tekrarlamaya düşer: sık sık ‘derin sahtecilik’ terimini, anlamının self-evident olduğu gibi kullanıyor, ancak EU AI Act’in gerçekten bir derin sahtecilik olan şeyi tanımlamayı başaramadığını eleştiriyor.

İlk olarak 16 Aralık 2024 Pazartesi günü yayımlanmıştır.