Derin Sahtekarlıklar Nedir?

Derin sahtekarlıklar kolayca yapılabildiği ve daha yaygın hale geldiği için onlara daha fazla dikkat edilmektedir. Derin sahtekarlıklar, AI etiği, yanlış bilgi, bilgi açıklığı ve internet ile düzenleme konularını içeren tartışmaların odağı haline gelmiştir. Derin sahtekarlıklar hakkında bilgili olmak ve derin sahtekarlıkların ne olduğu konusunda sezgisel bir anlayışa sahip olmak önemlidir. Bu makale, bir derin sahtekarlığın tanımını açıklamak, kullanım örneklerini incelemek, derin sahtekarlıkların nasıl tespit edilebileceğini tartışmak ve derin sahtekarlıkların toplum için anlamını inceleyecektir.

Derin Sahtekarlıklar Nedir?

Derin sahtekarlıklar hakkında daha fazla konuşmaya başlamadan önce, “derin sahtekarlıklar”ın aslında ne olduğu hakkında biraz zaman ayırmak ve açıklamak yardımcı olacaktır. Derin sahtekarlık terimi konusunda önemli bir karışıklık vardır ve souvent bu terim, gerçek bir derin sahtekarlık olup olmadığına bakılmaksızın, herhangi bir sahte medya için yanlış bir şekilde uygulanır. Bir medya, ancak ve ancak bir makine öğrenimi sistemi, özellikle bir derin sinir ağı ile oluşturulmuşsa, bir Derin Sahtekarlık olarak nitelendirilebilir.

Derin sahtekarlıkların ana bileşeni, makine öğrenimidir. Makine öğrenimi, bilgisayarların video ve sesi relatively nhanh ve kolay bir şekilde otomatik olarak oluşturabilmesini sağlamıştır. Derin sinir ağları, bir gerçek kişinin görüntüsünden eğitim almak için kullanılır, böylece ağ, hedef çevresel koşullar altında insanların nasıl göründüğünü ve hareket ettiğini öğrenebilir. Eğitimli ağ, daha sonra başka bir kişinin görüntüsüne uygulanır ve ek bilgisayar grafikleri teknikleri ile birleştirilir, böylece yeni kişi orijinal görüntüye eklenir. Bir kodlayıcı algoritması, orijinal yüz ve hedef yüz arasındaki benzerlikleri belirlemek için kullanılır. Yüzlerin ortak özelliklerini izole ettikten sonra, bir kodlayıcı (sıkıştırılmış) görüntüleri inceleyen ve orijinal görüntülerdeki özelliklere dayanarak yeniden oluşturan ikinci bir AI algoritması olan bir dekoder kullanılır. İki dekoder kullanılır, biri orijinal konunun yüzü için ve diğeri hedef kişinin yüzü için. Değişim yapılabilmesi için, kişi X’in yüzüne eğitimli dekoder, kişi Y’nin görüntülerine uygulanır. Sonuç, kişi Y’nin yüzünün, kişi X’in yüz ifadesi ve yönü üzerine yeniden inşa edilmesi şeklindedir.

Şu anda, bir derin sahtekarlık yaratmak hala önemli miktarda zaman almaktadır. Sahtekarlığın yaratıcısı, modelin parametrelerini manuel olarak ayarlamak için uzun süre harcamalıdır, çünkü alt optimal parametreler, sahtekarlığın gerçek doğasını ortaya çıkaran belirgin hatalara ve görüntü hatalarına neden olur.

Genellikle varsayıldığı gibi, çoğu derin sahtekarlığın bir tür sinir ağı olan generatif karşıt ağ (GAN) ile yapıldığı düşünülse de, günümüzde yaratılan birçok derin sahtekarlık, GAN’lara dayanmaz. GAN’lar, erken derin sahtekarlıkların yaratılmasında önemli bir rol oynamış olsa da, çoğu derin sahtekarlık videosu, alternatif yöntemlerle oluşturulmaktadır, SUNY Buffalo’dan Siwei Lyu’ya göre.

GAN’ları eğitmek için orantısız derecede büyük miktarda eğitim verisi gerekir ve GAN’lar genellikle diğer görüntü oluşturma tekniklerine kıyasla bir görüntüyü oluşturmak için daha uzun sürer. GAN’lar ayrıca video yerine statik görüntüler oluşturmak için daha iyidir, çünkü GAN’lar kareler arasında tutarlılıkları korumakta zorluk çeker. Derin sahtekarlıklar oluşturmak için bir kodlayıcı ve çoklu dekoderler kullanmak daha yaygın bir uygulamadır.

Derin Sahtekarlıklar Ne İçin Kullanılır?

İnternette bulunan birçok derin sahtekarlık, doğası gereği pornografiktir. AI firması Deeptrace tarafından yapılan bir araştırmaya göre, Eylül 2019’da alınan yaklaşık 15.000 derin sahtekarlık videosunun %95’i pornografikti. Bu gerçeğin endişe verici bir sonucu, teknolojinin kullanımı kolaylaştıkça, sahte intikam pornosu olaylarının artabileceği yönündedir.

Ancak tüm derin sahtekarlıklar pornografik doğada değildir. Derin sahtekarlık teknolojisi için daha meşru kullanımlar vardır. Ses derin sahtekarlığı teknolojisi, insanların regular seslerini, hastalık veya yaralanma nedeniyle hasar gördükten veya kaybettiğinden sonra yayınlamasına yardımcı olabilir. Derin sahtekarlıklar, insanların yüzlerini, hassas ve potansiyel olarak tehlikeli durumlar中的 while masih izin verirken, dudaklarını ve ifadelerini okumaya izin verebilir. Derin sahtekarlık teknolojisi, yabancı dil filmlerindeki dublajı iyileştirmek, eski ve hasarlı medyayı onarmak ve hatta yeni sanat stilleri oluşturmak için kullanılabilir.

Non-Video Derin Sahtekarlıklar

İnsanlar “derin sahtekarlık” terimini duyduklarında, çoğu kişi sahte videoları düşünür, ancak sahte videolar, derin sahtekarlık teknolojisi ile üretilen tek sahte medya türü değildir. Derin sahtekarlık teknolojisi, fotoğraf ve ses sahtekarlıkları oluşturmak için de kullanılır. Önceden de bahsedildiği gibi, GAN’lar sık sık sahte görüntüler oluşturmak için kullanılır. İnsanların GAN’lar ile oluşturulmuş profilleri olan sahte LinkedIn ve Facebook profilleri olduğu düşünülmektedir.

Ses derin sahtekarlıkları da oluşturmak mümkündür. Derin sinir ağları, farklı insanların ses klonları veya ses derileri oluşturmak için eğitilir, bunlar arasında ünlü kişiler ve politikacılar da bulunur. Ses derin sahtekarlığının ünlü bir örneği, AI şirketi Dessa’nın, bir AI modelini kullanarak, podcast sunucusu Joe Rogan’ın sesini yeniden yaratmasıdır.

Derin Sahtekarlıkları Nasıl Tespit Edilir?

Derin sahtekarlıklar daha da sofistike hale geldikçe, onları gerçek medyadan ayırt etmek daha da zor hale gelecektir. Şu anda, insanların bir videonun potansiyel olarak bir derin sahtekarlık olup olmadığını belirlemek için bakabileceği bazı ipuçları vardır, bunlar arasında kötü dudak senkronizasyonu, doğal olmayan hareket, yüzün kenarlarında parlamalar ve saç, diş veya yansımalar gibi ince detayların bozulması bulunur. Derin sahtekarlığın diğer olası belirtileri arasında, aynı videonun daha düşük kaliteli kısımları ve gözlerin düzensiz kırpılması bulunur.

Bu ipuçları şu anda bir derin sahtekarlığı tespit etmeye yardımcı olabilir, ancak derin sahtekarlık teknolojisi geliştikçe, güvenilir derin sahtekarlık tespiti için tek seçenek, sahte medyadan gerçek medyayı ayırt etmek için eğitilmiş diğer AI türleri olabilir.

Yapay zeka şirketleri, birçok büyük teknoloji şirketi dahil, derin sahtekarlık tespiti yöntemleri üzerinde araştırma yapmaktadır. Geçen Aralık ayında, üç teknoloji devi tarafından desteklenen bir derin sahtekarlık tespiti yarışması başlatıldı: Amazon, Facebook ve Microsoft. Dünyadaki araştırma ekipleri, derin sahtekarlık tespiti yöntemleri geliştirmek için yarıştı. Diğer araştırmacı grupları, Google ve Jigsaw’dan bir grup birleşik araştırmacı, veri setlerini açık kaynak olarak sunmakta ve diğerlerini derin sahtekarlık tespiti yöntemleri geliştirmeye teşvik etmektedir. Yukarıda bahsedilen Dessa, derin sahtekarlık tespiti tekniklerini geliştirmeye çalışmaktadır, böylece tespiti modelleri, yalnızca önceden oluşturulmuş eğitim ve test veri setlerinde değil, aynı zamanda internette bulunan derin sahtekarlık videolarında da çalışır.

Derin sahtekarlıkların yayılması ile başa çıkmak için araştırılan diğer stratejiler de vardır. Örneğin, videoların diğer bilgi kaynakları ile uyumlu olup olmadığını kontrol etmek bir stratejidir. Videoların farklı açılardan çekilen görüntüleri veya arka plan detayları (hava durumu modelleri ve konumlar gibi) için aramalar yapılabilir. Ayrıca, bir Blockchain online defter sistemi, videoları ilk oluşturulduğunda kaydedebilir ve orijinal ses ve görüntüleri tutabilir, böylece türetilen videolar her zaman manipülasyon için kontrol edilebilir.

Sonuç olarak, derin sahtekarlıkları tespit etmenin güvenilir yöntemlerinin oluşturulması ve bu tespiti yöntemlerinin derin sahtekarlık teknolojisinin en son gelişmelerini takip etmesi önemlidir. Derin sahtekarlıkların etkileri tam olarak bilinmese de, derin sahtekarlıkların (ve diğer sahte medya türlerinin) güvenilir tespiti yoksa, yanlış bilgi potansiyel olarak yaygın hale gelebilir ve insanların toplum ve kurumlar üzerindeki güvenini zayıflatabilir.

Derin Sahtekarlıkların Anlamı

Derin sahtekarlıkların kontrolsüz bir şekilde yayılmasına izin verilmesinin tehlikeleri nelerdir?

Derin sahtekarlıkların şu anda yarattığı en büyük sorunlardan biri, insanların yüzlerini pornografik videolar ve görüntülerle birleştiren rızasız pornografidir. AI etikçileri, derin sahtekarlıkların sahte intikam pornosu oluşturmak için daha fazla kullanılacağından endişe etmektedir. Bunun ötesinde, derin sahtekarlıklar, insanların几乎 herkesin itibarını zedelemek ve zarar vermek için kullanılabilecek tartışmalı ve tehlike arz eden durumlara yerleştirilmesine kullanılabilir.

Şirketler ve siber güvenlik uzmanları, derin sahtekarlıkların dolandırıcılık, sahtekarlık ve şantaj için kullanılmasına karşı endişe dile getirmektedir. İddiaya göre, derin sahtekarlık sesi, şirketlerin çalışanlarını para transferi yapmaya ikna etmek için kullanılmıştır.

Derin sahtekarlıkların, yukarıda listelenenlerden daha da öteye giden zararlı etkileri olabilir. Derin sahtekarlıklar, insanların genel olarak medyaya güvenini zayıflatabilir ve insanların gerçek haberleri sahte haberlerden ayırt etmesini zorlaştırabilir. İnternetteki birçok video sahte ise, hükümetlerin, şirketlerin ve diğer kurumların meşru tartışmaları ve etik dışı uygulamaları hakkında şüphe uyandırmaları daha kolay hale gelebilir.

Derin sahtekarlıklar, demokrasinin işleyişine bile tehdit oluşturabilir. Demokrasi, vatandaşların politikacılar hakkında güvenilir bilgiye dayanarak kararlar alabilmesi gerektirir. Yanlış bilgi, demokratik süreçleri zayıflatabilir. Örneğin, Gabon cumhurbaşkanı Ali Bongo, muhtemel bir sahte video ile Gabon vatandaşlarına hitap etmeye çalıştı ve bu, bir darbe girişimine yol açtı. Başkan Donald Trump, hakkındaGrabbing kadınların cinsel organlarına ilişkin bir ses kaydının sahte olduğunu iddia etti, ancak aynı zamanda bunu “sohbet odası konuşması” olarak tanımladı. Prens Andrew da, Emily Maitilis’in avukatının sağladığı bir görüntünün sahte olduğunu iddia etti, ancak avukat bunun gerçek olduğunu iddia etti.

Sonuç olarak, derin sahtekarlık teknolojisi için meşru kullanımlar olsa da, bu teknolojinin suistimalinin birçok potansiyel zararı olabilir. Bu nedenle, medyanın gerçekliğini belirleme yöntemlerinin oluşturulması ve bu yöntemlerin korunması son derece önemlidir.