Çin, Derin Sahtecilik ve Diğer AI Sentez Sistemlerinin Artan Düzenlenmesini Öneriyor

Çin’in Cyberspace Administration (CAC), derin öğrenme sistemlerini kullanarak sentezlenen medyanın çeşitli alt sektörlerini kapsayan AI destekli sentez sistemleri için yeni bir düzenleme seti önerdi. CAC’ın resmi sitesinde yayınlanan bir gönderi (Google Çeviri, orijinal burada), önerilen yükümlülükleri açıklıyor ve etkilenen hizmetleri ‘derin sentez hizmeti sağlayıcıları’ olarak nitelendiriyor ve vatandaşları 28 Şubat’a kadar taslak önerilere yorum yapmaları için davet ediyor.

Sadece Derin Sahtecilik Değil

Önerilen düzenlemelerin derin sahteciliklerin oluşturulması ve yayılması üzerindeki potansiyel etkileri açısından raporlandığı halde, belge ‘medya’ olarak geniş anlamda anlaşılan herhangi bir tür içeriğin oluşturulabilmesi için algoritmaların yeteneği üzerinde kapsayıcı bir bakış açısına sahip oluyor.

Madde 2, altı sektörde düzenlemenin dựlen scope’ünü açıklıyor:

(1) Metin içeriğinin oluşturulması veya düzenlenmesi için teknikler, such as bölüm oluşturma, metin stili dönüştürme ve soru-cevap diyalogu;

(2) Ses içeriğinin oluşturulması veya düzenlenmesi için teknolojiler, such as metin-sese, ses dönüştürme ve ses öznitelik düzenleme;

(3) Ses olmayan içeriğin oluşturulması veya düzenlenmesi için teknolojiler, such as müzik oluşturma ve sahne ses düzenleme;

(4) Yüz oluşturma, yüz değiştirme, karakter öznitelik düzenleme, yüz manipülasyonu, jest manipülasyonu ve diğer teknolojiler için biyometrik özelliklerin oluşturulması veya düzenlenmesi, such as yüzler ve görüntü içeriği;

(5) Görüntü ve video içeriğinde biyolojik olmayan özelliklerin düzenlenmesi için teknikler, such as görüntü geliştirme ve görüntü geri kazanımı;

(6) Sanal sahnenin oluşturulması veya düzenlenmesi için teknolojiler, such as 3D yeniden yapılandırma.

Derin Sahtecilik Düzenlemesi

Çin, 2019’un sonunda AI’nin sahte haber yaymak için kullanılmasını suç haline getirdi, bu sırada CAC, derin sahtecilik teknolojisinin potansiyel sonuçları hakkında endişe dile getirdi ve birçok kişi Çin hükümetinin sonunda derin sahtecilik teknolojisini tamamen yasaklayacağına inanmaya başladı.

Ancak, bu, Çin’in resmi olarak medya oluşturma, AI ve hatta politika tarihindeki en önemli gelişmelerden birini terk etmesi ve küresel ve açık bilimsel işbirliğinin faydalarından kendini mahrum bırakması anlamına gelecekti.

Bu nedenle, görünüşe göre Çin, potansiyel olarak sorunlu teknolojiyi yasaklamak yerine kontrol etmeye çalışıyor ve birçok kişi, bu teknolojinin sonunda pornografik hızlandırıcı aşamasından çıkıp eğlence gibi meşru ve kullanılabilir kullanım durumlarına geçeceğine inanıyor.

NeRF Dahil

Madde 2.6, sanal sahnenin oluşturulması veya düzenlenmesi ile ilgili, daha yeni bir teknoloji olan 3D yeniden yapılandırmaya değiniyor ve son iki yılda Neural Radiance Fields (NeRF) aracılığıyla en çok dikkat çeken teknoloji budur, burada makine öğrenimi modellerinin keşfedilebilir latent alanında tüm sahnelerin sentezlenmesi için fotogrametri kullanılır.

Ancak NeRF, hızlı bir şekilde modellerin ve çevrelerin yürüyüşlerinin tablolarından tam vücut videolarının oluşturulmasına doğru genişliyor ve Çinli araştırmacılar bu konuda bazı önemli yenilikler başardılar.

Çin’in ST-NeRF işleminde.

NeRF, 2020’de duyurulduğundan beri yeni bir araştırma fırtınası üretti, ancak VR veya AR sistemlerinde veya görsel efekt boru hatlarında uygulanması hala birçok önemli zorluğa ve teknolojik tıkanıklığa sahip.

Ses Derin Sahteciliği Öncelikli Mi?

Eğer Madde 2’nin listesi sırasını, Çin’in kontrol etmek ve düzenlemek istediği derin sentez teknolojileri olarak yorumlarsak, bu, metin tabanlı AI oluşturulmuş sahte haberlerin ilk öncelik olduğunu, ses sentezinin video derin sahteciliğinden daha büyük bir etkiye sahip olduğunu gösteriyor.

Eğer öyleyse, bu, derin sahtecik videoyu henüz pornografi ile ilgili olmayan bir suçta kullanılmadığı gerçeği ile uyumlu, oysa ses derin sahteciliği en az iki büyük finansal suçta, 2019’da İngiltere’de ve 2021’de Birleşik Arap Emirlikleri’nde aktif bir teknoloji olarak önerildi.

Yeni taslak düzenlemeler, bir kişinin kimliğini makine öğrenimi sistemlerini kullanarak kullanmak isteyen kullanıcıların ilgili kişiden yazılı izin almalarını zorunlu kıluyor. Ayrıca, sentezlenen medyanın, tüketiciye içeriğin değiştirildiğini veya tamamen üretilmiş olduğunu anlamasını sağlayan ‘önemli’ bir logo veya filigran veya başka bir yöntem ile işaretlenmesini gerektiriyor. Ancak, ses derin sahteciliği durumunda bu nasıl gerçekleştirileceği tamamen açık değil.

Kayıt

Eğer onaylanırsa, taslak öneriler, derin sentez hizmeti sağlayıcılarının ilgili uygulamalarını devletle kayıt etmelerini, mevcut İnternet Bilgisi Hizmetleri için Algoritma Önerileri Yönetmeliği’ne uygun olarak ve tüm gerekli dosya işlemlerine uymalarını gerektirecek. Derin sentez sağlayıcıları ayrıca denetimi ve inceleme konusunda özgürce işbirliği yapmaları ve ‘gerekli teknik ve veri desteği ve yardımı’nı talep üzerine sunmaları gerekecek.

Ayrıca, böyle sağlayıcılar, şikayet için kullanıcı dostu portallar oluşturmak ve şikayetlerin işleme süresini yayınlamak ve ‘şayi yayma mekanizmaları’nı sunmak zorunda kalacaklar, ancak öneriler bu mekanizmaların uygulanması hakkında ayrıntı vermiyor.

İhlaller, 10.000 ila 100.000 yuan (1.600 ila 16.000 dolar) arasında cezalara neden olabilir ve suçlu şirketleri hukuk ve cezai davalara maruz bırakabilir.

* Çeviri Google Çeviri tarafından yapıldı, bkz. makalenin başlangıcındaki bağlantı.

İlk olarak 28 Ocak 2022’de yayınlandı.