Çin, Derin Sahtecilik ve Diğer AI Sentez Sistemlerinin Düzenlenmesine İlişkin Artan Düzenlemeler Öneriyor

Çin’in Cyberspace Administration (CAC), derin sahtecilik, sanal gerçeklik sahneleri, metin oluşturma, ses ve diğer AI medya sentezinin alt sektörlerini içeren AI destekli sentez sistemlerini yönetmek için yeni bir dizi taslak düzenleme önerdi – bu, Çin’in her ay akademik makaleler ve yenilikçi araştırma projeleri açısından oldukça üretken bir alan.

CAC’nin resmi sitesinde yayınlanan bir gönderi (Google Çeviri, orijinal burada), önerilen yükümlülükleri açıklar ve etkilenen hizmetleri ‘derin sentez hizmeti sağlayıcıları’ olarak nitelendirir ve vatandaşları taslak önerilere yorum yapmaları için davet eder, 28 Şubat’a kadar bir son tarih belirler.

Derin Sahtecilikten Fazlası

Önerilen düzenlemelerin derin sahtecilik oluşturma ve yayma potansiyelleri açısından etkileri açısından raporlandığı halde, belge algoritmaların herhangi bir tür içeriği oluşturabilme yeteneği üzerinde geniş bir bakış açısına sahip olmaya çalışır – bu, geniş anlamda ‘medya’ olarak anlaşılır.

2. madde, altı sektörde* düzenlemenin dựlen scope’ünü açıklar:

(1) Metin içeriği oluşturma veya düzenleme teknikleri, such as bölüm oluşturma, metin stili dönüştürme ve soru-cevap diyalogu;

(2) Ses içeriği oluşturma veya düzenleme teknolojileri, such as metin-sese, ses dönüştürme ve ses özniteliği düzenleme;

(3) Ses olmayan içeriği oluşturma veya düzenleme teknolojileri, such as müzik oluşturma ve sahne ses düzenleme;

(4) Yüz oluşturma, yüz değiştirme, karakter özniteliği düzenleme, yüz manipülasyonu, jest manipülasyonu ve diğer biyometrik özellikler gibi yüzlerin görüntüleme ve video içeriğinde düzenlenmesi için teknolojiler;

(5) Görüntü ve video içeriğinde biyolojik olmayan özelliklerin düzenlenmesi için teknikler, such as görüntü geliştirme ve görüntü geri kazanımı;

(6) Sanal sahnelerin oluşturulması veya düzenlenmesi için teknolojiler, such as 3D yeniden inşası.

Derin Sahtecilik Düzenlemesi

Çin, 2019’un sonunda AI’nin sahte haber yaymak için kullanılmasını suç saydı burada, o zaman CAC, derin sahtecilik teknolojisinin potansiyel etkileri konusunda endişe dile getirdi ve birçok kişi Çin hükümetinin sonunda derin sahtecilik teknolojisini tamamen yasaklayacağından şüphelendi.

Ancak, bu, Çin’in resmi olarak tarihin en önemli medya oluşturma, AI ve hatta siyaset gelişmelerinden birini terk etmesi ve küresel ve açık bilimsel işbirliğinden faydalanmaktan kendini mahrum bırakması anlamına gelecekti.

Dolayısıyla, görünüşe göre Çin, potansiyel olarak sorunlu teknolojiyi yasaklamak yerine kontrol etmeye karar verdi – birçok kişi, bu teknolojinin sonunda pornografik hızlandırıcı aşamasından çıkıp meşru ve kullanılabilir kullanım örneklerine geçeceğine inanıyor, özellikle de eğlence sektöründe.

NeRF Dahil

2.6. madde, sanal sahnelerin oluşturulması veya düzenlenmesi ile ilgili, özellikle 3D yeniden inşası ile ilgili – bu, derin sahtecilik taklitinden daha yeni bir teknoloji ve son iki yıl içinde Neural Radiance Fields (NeRF) ile birlikte en çok dikkat çeken teknoloji.

Ancak NeRF, hızla masaüstü modelleri ve çevrelerin gezilmesi için kullanılan bir teknolojinin ötesine geçerek, tam vücut videolarının oluşturulmasına doğru ilerlemektedir – Çinli araştırmacılar, bu konuda önemli yenilikler başardı.

Çin’in ST-NeRF çalışması.

NeRF, 2020’de duyurulduğundan bu yana yeni araştırmalarla dolu bir fırtına yarattı, ancak VR veya AR sistemlerinde uygulanması veya görsel efekt.pipeline’indeki uygunluğu hala birçok önemli zorluğu ve teknolojik tıkanıklığı aşmak zorunda.

Sesli Derin Sahtecilik Önceliği?

Eğer 2. maddenin listedeki sıralamayı, Çin’in kontrol etmek ve düzenlemek istediği derin sentez teknolojileri olarak yorumlarsak, bu, metin tabanlı AI tarafından oluşturulan sahte haberlerin ilk öncelikli endişe kaynağı olduğunu, ses sentezinin video derin sahteciliğinden daha önemli olduğunu gösteriyor.

Eğer öyleyse, bu, derin sahtecilik videolarının henüz pornografi ile ilgili olmayan herhangi bir suçta kullanılmadığı, ancak derin sahtecilik sesinin en az iki büyük finansal suçta aktif bir teknoloji olarak önerildiği gerçeği ile uyumlu – birincisi 2019’da İngiltere’de, ikincisi 2021’de Birleşik Arap Emirlikleri’nde.

Yeni taslak düzenlemeler, bir kişinin kimliğini makine öğrenimi sistemlerini kullanarak yararlanmak isteyen kullanıcıların, ilgili kişiden yazılı izin almalarını gerektiriyor. Ayrıca, sentezlenen medyanın, tüketiciye içeriğin değiştirildiği veya tamamen üretilmiş olduğu anlaşılmasını sağlayan bir logo veya filigran gibi ‘önemli’ bir işareti taşıması gerekiyor. Ancak, sesli derin sahtecilik için bu nasıl gerçekleştirileceği tam olarak net değil.

Kayıt

Eğer taslak öneriler onaylanırsa, derin sentez hizmeti sağlayıcılarının, mevcut İnternet Bilgi Hizmetleri Algoritma Önerisi Yönetmeliği’ne uygun olarak ilgili uygulamalarını devlete kaydettirmeleri ve tüm gerekli kayıt işlemlerine uymaları gerekecek. Derin sentez sağlayıcıları, denetim ve inceleme konusunda serbestçe işbirliği yapmaları ve talep üzerine ‘gerekli teknik ve veri desteği’ sağlamaları gerekecek.

Ayrıca, bu sağlayıcıların, şikayet için kullanıcı dostu portallar oluşturmaları, şikayetlerin işleme süresi hakkında beklentileri yayımlamaları ve ‘asıl yalanlama mekanizmaları’ sunmaları gerekecek – ancak öneriler, bunun uygulanması hakkında detay vermiyor.

İhlaller, 10.000 ila 100.000 yuan (1.600 ila 16.000 dolar) arasında cezalara neden olabileceği gibi, suçlu şirketleri sivil ve cezai davalara maruz bırakabilir.

* Çeviri Google Çeviri ile yapıldı, bağlantı makalenin başlangıcında yer alıyor.

İlk olarak 28 Ocak 2022’de yayınlandı.