Avrupa ve İngiltere’de Derin Sahte Düzenleme Önerileri Şaşırtıcı Bir Şekilde Sınırlı

Analiz Derin sahte görüntülerin 2022 yılında daha sıkı bir yasal çerçevede yer alması umudu taşıyan kampanyacılara göre, erken göstergeler umut verici değil.

Geçen Perşembe, Avrupa Parlamentosu onayladı Dijital Hizmetler Yasası’na (DSA, 2023 yılında yürürlüğe girmesi bekleniyor) ilişkin değişiklikleri, derin sahtelerin yayılmasıyla ilgili olarak. Değişiklikler, derin sahteleri iki bölümde ele alıyor: 1709 numaralı değişiklik, 30. maddeye ilişkin ve 63. maddeye ilişkin bir değişiklik.

İlk değişiklik, tamamen yeni bir madde 30a öneriyor, Derin Sahteler başlıklı, şöyle diyor:

‘Bir büyük çevrimiçi platform, bir içeriğin üretilmiş veya değiştirilmiş bir resim, ses veya video içeriği olduğunu ve mevcut kişiler, nesneler, yerler veya diğer varlıklar veya olaylara benzeyen ve bir kişiye gerçek veya doğru görünmeyen (derin sahteler) olduğunu fark ettiğinde, sağlayıcı içeriği alıcıya açıkça görülebilecek şekilde etiketlemelidir.’

İkinci değişiklik, büyük reklam platformlarının şeffaflığını artırmayla ilgili olan mevcut 63. maddeye metin ekliyor. İlgili metin şöyle diyor:

‘Ayrıca, büyük çevrimiçi platformlar, bilinen derin sahte videoları, sesleri veya diğer dosyaları etiketlemelidir.’

Esasen, yasa, “meşru derin sahteler” uygulamasının artmasına hazırlanıyor, burada izin verilmiş ve reklam veya tanıtım materyallerinde yüz değiştirme için haklar güvence altına alınmıştır – Örneğin, Rus telekom şirketi Telefon’un lisanslı kullanımı Bruce Willis’in kimliği bir reklam kampanyasında.

Yasama Tereddütü

DSA, şimdiye kadar, derin sahte tekniklerinin en çok kullanıldığı şekilde – pornografik videoları yeniden düzenlemek için – endişeleri ele almıyor. Ayrıca, derin sahtelerin filmlerde ve televizyon dizilerinde kullanılmasının, en azından AB’de 2023’ten itibaren reklamcılıktaki derin sahteler gibi aynı şekilde açıklanması gerekip gerekmediğini ele almıyor.

DSA’nın onay süreci şimdi AB üye ülkeleriyle müzakereye geçiyor, ayrıca daha geniş bir kapsamda Dijital Pazarlar Yasası (DMA) ile birlikte.

Europol’un Aralık 2020 raporu Yapay Zeka’nın Zararlı Kullanımları ve Suistimali, AB’nin mevcut derin sahte teknolojilerini (örneğin, DeepFaceLive) ele almasının bir hata olacağını iddia etti, bu durum AB yasalarının sürekli olarak en son çerçeve veya yöntemle uğraşmak zorunda kalmasına neden olabilir.

Rapor şöyle diyor:

‘Özellikle, bu politikaların teknolojiye duyarsız olması gerekiyor, böylece uzun vadede etkili olmak ve teknolojinin derin sahtelerin oluşturulması ve suistimalinin arkasındaki gelişmesiyle birlikte düzenli olarak gözden geçirilip değiştirilmeleri gerekmiyor.’

‘Bununla birlikte, bu önlemler, GAN’lerin (Generatif Karşıt Ağlar) olumlu uygulamalarını da engellememelidir.’

Yukarıdaki alıntının son cümlesi, GAN’ler hakkında, Avrupa ve Kuzey Amerika’nın, ortaya çıkan bir AI araştırma sektörünü engelleyebilecek yasalar uygulamaya karşı tereddüt ettiğini genel olarak karakterize ediyor – Asya’nın daha didaktik ülkeleri, derin sahte düzenlemelerini hızlı bir şekilde uygulayabilmiştir.

Örneğin, 2018 raporu İngiltere’nin Yapay Zeka Seçme Komitesi, Lordlar Kamarası’nda, AI gelişimini engellememek için several kez riski vurguladı, bunu başlığıyla örnekledi: AI in the UK: hazır, istekli ve yetenekli mi?. Geçen Nisan ayında, İngiltere, self-driving arabaların otoyollarda kullanılmasına yeşil ışık yakarak ilk ülke oldu.

Amerika da aynı derecede hevesli değil; ABD’de Brookings Enstitüsü, artan yasama ihtiyacını vurguladı. AI için yasama yapanları, makine öğrenimi teknolojilerinin sonuçları konusunda “bekle ve gör” yaklaşımını eleştirdi.

İngiltere’de Derin Sahte Düzenlemesi Az

Derin sahte karşıtı kampanyacılara, örneğin yazar Helen Mort’a, 2021 yılında rızası olmadan pornografik derin sahte videolarda yer aldığı için yeni İngiltere yasaları için öne çıkan bir kampanya yürüttüğü için ek bir hayal kırıklığı olarak, İngiltere Parlamentosu’nun Dijital, Kültür, Medya ve Spor Komitesi tarafından bugün yayınlanan bir rapor, İngiliz hükümetini derin sahteleri ele almadığı için eleştiriyor. Çevrimiçi Güvenlik Fatura Taslağı.

Rapor, taslak yasaya karşı derin sahte suistimalinin hukuki çözümünü “belirsiz ve uygulaması zor” olarak nitelendiriyor ve önerilen yasamanın, “yasal ancak zararlı” AI destekli pornografik video ve görüntü manipülasyon tekniklerini ele almadığını söylüyor:

‘[Biz] öneriyoruz ki Hükümet, teknik olarak yasal olan içerik türlerini, örneğin çocuk istismarı dizilerinin kurnaz parçaları gibi ve kadın ve kızlara karşı çevrimiçi şiddetin türleri gibi teknoloji destekli ‘çıplaklaştırma’ gibi, ya birincil yasama yoluyla ya da zararlı içerik görevleri kapsamında ele alsın.’

Şu anda geçerli olan İngiltere yasaları, “gerçek” görüntülerin yayılmasıyla sınırlıdır, örneğin intikam pornosu vakalarında, burada gizli ve özel açık materyal bir eski partner tarafından halka açık olarak paylaşılır. Bir suçlu, hedefinin kimliğini pornografik içeriğe yerleştiren derin sahte materyali oluşturup yayınlarsa, yalnızca hedefi doğrudan hedef alarak materyali onlara yönlendirdikleri takdirde veya telif hakkı ile ilgili yasalar kapsamında cezalandırılabilir.

İlk durumda, yeni derin sahte içeriğin kolayca traction ve izleyici toplaması, neredeyse kaçınılmaz olarak kurbanın, suistimalciden değil, endişeli arkadaşlar veya ilgili olmayan üçüncü kişiler tarafından bilgilendirileceği anlamına gelir, bu da derin sahtecinin işinin “hedefe ulaşmasına” rağmen, suistimalcinin korunmasına izin verir.

İkinci durumda, kovuşturma, yalnızca bir üçüncü taraf pornografik videosunun (hedefin kimliği daha sonra yerleştirilir) profesyoneller tarafından üretilip ve meşru olarak İngiltere telif hakkı alanında korunduğu durumlarda muhtemelen uygulanabilir olabilirdi (herhangi bir yasal yargı bölgesinden kaynaklanabilir). “Amatör” bir video, herhangi bir yargı bölgesinden gelebilir, açık bir telif hakkı statüsüne sahip değildir ve suistimalcinin, kurbanı içeriğe yerleştirmek için özel olarak çektiği bir video, diğer yasalara uyması koşuluyla, telif hakkı yasaları kapsamında korunur.

Geride Kalan

2021 Aralık ayında İngiltere’nin Hukuk Komisyonu, önerdi nefret söylemi yasalarını, cinsiyet dayatmasına karşı kapsayacak şekilde genişletmeyi, ancak bu kategoride derin sahteleri dahil etmedi, dünyanın çeşitli yerlerinde (özellikle Hindistan’da) bu teknolojinin kadın politikacılar ve aktivistlere karşı silahlandırıldığı birçok örneğe rağmen.

Kadınlar, yasadışı derin sahte içeriğin baskın hedefidir, sahtecilerin motivasyonları sosyal (yani hedefi küçük düşürmek, platformdan çıkarmak ve yetkilendirmek için) veya sadece şehvet dolu (yani pornografik) olsun.

Amerika Birleşik Devletleri’ndeki Derin Sahte Yasaları

Karşılaştırıldığında, Amerika Birleşik Devletleri, “Kamuya Açıklama Hakkı”nı koruyor, ancak federal düzeyde değil (şu anda, bu tür yasalar ABD’nin yaklaşık yarısında var, yasal mekanizmalar büyük ölçüde değişiyor).

İngiltere’nin performansından daha iyi bir performans göstermesine rağmen, ABD yalnızca perakende, eyalet düzeyinde kapsama sahip ve derin sahtelerin siyasi manipülasyon potansiyelini ele almaya kararlı görünüyor, daha sonra özel kişilere etkisini ele alacak.

2019 yılında Teksas Eyaleti, yasakladı siyasi derin sahtelerin oluşturulmasını veya yayılmasını, Teksas Senato Yasası 751 (SB751) ile, derin sahte pornografisine dair herhangi bir beyanda bulunmadı. Aynı yıl, Virginia Eyaleti, mevcut bir yasaya diğerinin görüntülerinin veya seslerinin yasadışı dağıtımı veya satışı ile ilgili bir değişiklik ekledi, 18.2-386.2 maddeye yanlış olarak oluşturulan videografik veya statik görüntü terimini ekledi.

2020 yılında Kaliforniya Eyaleti, California Meclis Yasası 602 (AB 602) ile pornografik derin sahtelerin oluşturulmasını veya dağıtılmasını yasakladı. Yasa, süresiz bir hüküm içermiyor, ancak üç yıllık bir istatütle sınırlı ve siyasi derin sahtelere ilişkin ayrı bir hükümle birlikte geliyor.

2020 yılı sonunda New York Eyaleti, senato yasası S5959D‘yi kabul etti, bu yasa yalnızca pornografik derin sahtelerin oluşturulmasını ve/veya yeniden yayımlanmasını yasaklamakla kalmıyor, aynı zamanda bir kullanıcının derin sahteler, CGI veya diğer herhangi bir araç aracılığıyla bilgisayar tarafından oluşturulan bir benzerlik yoluyla tanıtım hakkını koruyor, bu durum ölümünden sonra bile (kişi ölüm anında New York’ta ikamet ediyorsa).

Son olarak, Maryland Eyaleti, çocuk pornosuyla ilgili yasalarını, derin sahtelerin kullanımını da kapsayacak ve cezalandıracak şekilde değiştirdi, ancak yetişkin hedeflere olan etkilerine değinmedi.

Derin Sahte Kapısı’ni Beklerken

Tarih, yeni teknolojilerin neden olabileceği zararı, bir ülkeye kişisel olarak dokunmadan önce, hızlı bir yasama tepkisi gerektirdiğini gösteriyor. Çok yakın zamanda Mısır’da derin sahte pornografisiyle tehdit edildiği iddia edilen bir genç kızın intiharı, Batılı medyada sınırlı bir şekilde yer buldu, 2021 yılında ortaya çıkan 35 milyon dolarlık bir banka soygunu da, olayın uzak bir olay olarak kalmasına neden oldu ve bu, ABD Senatosu’nu veya 45 kalan eyaletin henüz derin sahte yasaları çıkarmadığını hızlandırmaya yetmeyecek.

Eğer ABD, derin sahte teknolojisini suistimal etmeye karşı daha birleşik bir cephe benimserse, yaygın bir yasa, telekomünikasyon ve veri altyapısı ve depolama governance方面ında hızlı bir şekilde yakalama politikaları değişikliklerine yol açacaktır ve bu, dünya çapındaki iş ortaklarına uygulanacaktır. Avrupa’nın GDPR’yi benimsemesinin, Kuzey Amerika veri toplama ve saklama politikalarına geçmemesi, AB’nin derin sahte pornografisinin oluşturulması, depolanması ve saklanması konusunda daha kararlı bir yasama duruşu sergilemesi halinde, ticaret yaptığı weniger uyumlu ülkeler üzerinde baskı kuramayacağı anlamına gelmez.

Ancak önce, bu ülkelerden birinde “yerel sıfır”nda bir şeyler olmalı; ve hala bekliyoruz: otoritelerin büyük bir CSAM ele geçirmesi; bir Amerikan şirket müdürünü büyük miktarda para yanlış yönlendirmeye ikna etmek için ses ve/veya video tabanlı derin sahteleri kullanan büyük bir soygun; veya daha ataerkil ülkelerde kadınları mağdur etmek için derin sahtelerin artan kullanımının Amerikan eşdeğeri (eğer gerçekten ABD kültürü bu olayları yansıtmaya hazır ise, ki bu şüpheli). Bunlar, başka bir yöntemle kaçınmak isteyeceğimiz zor şeylerdir.

Birincil sorun, AB’nin, reklam şirketlerine karşı yasama gücünü, meşru derin sahtelerini tanıtmak isteyen şirketlere yönlendirmesi, derin sahtelerin algoritmik olarak tespit edilmesinin zor olmasıdır; her ay arXiv’de ortaya çıkan çoğu algılama yöntemi, watermarking, blockchain tabanlı doğrulama veya video tüketimi için kullandığımız tüm altyapıyı değiştirme gibi şeylere dayanır – bu, videoyu “gerçeklik” vekili olarak kavramının köklü bir yasal revizyonunu ima eden çözümler.

Diğer bir sorun, büyük Batılı ülkelerin, yeni AI teknolojilerindeki sorunlu bir dizi için acele bir yasaklama ve düzenleme başlatmaya karşı haklı bir şekilde tereddüt etmesi, birçokının toplum ve endüstri için büyük faydalar vaat ettiği ve birçokının, derin sahte görüntü sentez sistemlerinin düzenlenmesine karşı bir tepki olarak başlatabileceği bir şekilde olumsuz şekilde etkilenmesidir.

Ancak, belki de yavaş ve bazen amaçsız yürüttüğümüz derin sahte düzenlemelerine doğru yürüyüşü hızlandırmak iyi bir fikir olabilir ve bu sorunları, kendi şartlarımızda ve daha az düşünülmüş bir tepkiye zorlanmadan önce, orta alanda karşılamak iyi olabilir.

* Sanıklar şantajla suçlanıyor; Mısır’da derin sahte pornografisini kapsayan bir yasa yok.

İlk olarak 24 Ocak 2022’de yayınlandı.