Derin Sahtekarlıklar ve Sentetik Medyanın Yeni Dönemi

“Sahte haber”i hatırlıyor musunuz? Bu terim o kadar çok kullanıldı ve suistimal edildi ki, ilk olarak neye atıfta bulunduğunu hatırlamak zor olabilir. Ancak bu kavram çok spesifik bir kökene sahiptir. On yıl önce, gazeteciler, politikacılar ve ünlüler hakkında saçma ve yanlış iddialar atan iddia edilen “haber” siteleri hakkında uyarıda bulunmaya başladılar. Bunların çoğu, bu sitelerin meşru olmadığını hemen anlayabiliyordu.

Ancak daha fazlası, bu sahtekarlıkları tanımak için gerekli eleştirel araçlardan yoksundu. Sonuç, interneti saracak bir epistemolojik krizinin ilk sinyalleri oldu – ki bu, derin sahtekarlıklar ile birlikte ulaştığı en korkutucumanifestasyonuna ulaştı.

Hatta geçici bir derin sahtekarlığa kıyasla, eski “sahte haber” siteleri masum görünüyor. Daha da kötüsü, medyaya karşı okuryazarlık düzeyleri nispeten yüksek olan kişiler bile kandırılma riski ile karşı karşıya. Sentetik medya, derin öğrenme algoritmaları ve oluşturucu AI kullanılarak oluşturulan sentetik medya, toplumun temellerini yıkma potansiyeline sahiptir. Deloitte’e göre, bu yıl alone, bu tür medya, sahte işlemler ve diğer türlerdeki dolandırıcılık yoluyla şirketlere 250 milyondan fazla dolar maliyet getirebilir. Dünya Ekonomik Forumu, derin sahtekarlıkları “AI’ın en endişe verici kullanımlarından biri” olarak nitelendirdi ve “gündem odaklı, gerçek zamanlı AI sohbet botları ve avatarların” yeni türlerdeki ultra kişiselleştirilmiş (ve ultra etkili) manipülasyonları kolaylaştırma potansiyeline dikkat çekti.

Dünya Ekonomik Forumu’nun önerdiği çözüm mantıklı: “sıfır güven zihniyeti” savunuyor – her dijital medya karşılaşmasına bir degree şüphe ile yaklaşan bir zihniyet. İnternet ortamında, özellikle de sanal ortamlarda, gerçek ve sentetik arasındaki farkı ayırt etmek istiyorsak, böyle bir zihniyet giderek daha önemli hale gelecektir.

Derin Sahtekarlık Krizini Çözme için İki Yaklaşım

Sentetik medya tarafından üretilen yaygın yanlış bilgilendirme ile mücadele etmek, benim görüşüme göre, iki farklı yaklaşımı gerektirecektir.

İlki, doğrulamadır: günlük internet kullanıcılarının, izlediği videonun gerçekten gerçek olup olmadığını belirlemesi için basit bir yol sunmak. Bu tür araçlar zaten sigorta gibi endüstrilerde yaygın olarak kullanılıyor, çünkü kötü niyetli aktörler, düzenlenmiş videolar, fotoğraflar ve belgeler aracılığıyla sahte taleplerde bulunabiliyor. Bu araçları demokratikleştirmek – yani ücretsiz ve erişilebilir hale getirmek – bu mücadeledeki ilk adımdır ve bu konuda already önemli ilerleme kaydediliyor.

İkinci adım daha teknolojik değil, daha çok bir zorluk teşkil ediyor: yani, farkındalık yaratmak ve eleştirel düşünme becerilerini geliştirmek. Orijinal “sahte haber” skandalının ardından, 2015 yılında, ülke çapındaki kar amacı gütmeyen kuruluşlar, medya okuryazarlığı programları oluşturdu ve en iyi uygulamaları yaymaya çalıştı, souvent yerel sivil kurumlarla işbirliği yaparak, günlük vatandaşları yanlışlıkları tanımaya güçlendirmek için. Elbette, eski “sahte haber” siteleri, en gelişmiş derin sahtekarlıklara kıyasla çocuk oyuncağı gibi görünüyor, bu nedenle bu alanda çabayı iki katına çıkarmamız ve her düzeyde eğitime yatırım yapmamız gerekiyor.

Gelişmiş Derin Sahtekarlıklar Gelişmiş Eleştirel Düşünme Becerileri Gerektirir

Tabii ki, bu eğitim girişimleri, söz konusu yanlış bilgiler metin tabanlı olduğunda daha kolaydı. Sahte haber siteleriyle, sahtekarlığın belirtileri genellikle belliydi: kötü web tasarımı, yaygın yazım hataları, tuhaf kaynaklar. Derin sahtekarlıklarla, bu işaretler çok daha ince – ve çoğu zaman ilk bakışta fark edilmesi imkansız.

Dolayısıyla, her yaştan internet kullanıcısının, derin sahtekarlık göstergeleri için dijital videoyu etkili bir şekilde incelemeyi yeniden öğrenmesi gerekiyor. Bu, bir dizi faktöre yakından dikkat etmek anlamına geliyor. Video için, bu, gerçekdışı görünen bulanık alanlar ve gölgeler, doğal olmayan yüz hareketleri ve ifadeler, çok mükemmel cilt tonları, giysilerde ve hareketlerde tutarlı olmayan desenler, dudak senkronizasyonu hataları ve benzeri şeyler olabilir. Ses için, bu, çok temiz veya dijital olarak üretilmiş sesler, insanlara özgü duygusal tonun eksikliği, garip konuşma kalıpları veya alışılmadık cümleler olabilir.

Kısa vadede, bu tür kendi kendine eğitim çok faydalı olabilir. Kendimize, tekrar tekrar, Bu şüpheli görünüyor mu? diye sorduğumuzda, yalnızca derin sahtekarlıkları tespit etme yeteneğimizi değil, genel eleştirel düşünme becerilerimizi de keskinleştiriyoruz. Bununla birlikte, çok geçmeden, hatta en iyi eğitilmiş gözün, dışarıdan yardım olmadan gerçeği kurgudan ayırt edemeyeceği bir noktaya hızla yaklaşıyoruz. Görsel ipuçları – yukarıda belirtilen tutarsızlıklar – teknolojik olarak pürüzsüz hale getirilecek, böylece tamamen üretilmiş klipler gerçek olanlardan ayırt edilemeyecek. Geriye, durumun sezgisel hissimiz kalacak – bir politikacının veya ünlünün gerçekten böyle bir şey söyleyip söylemeyeceğini, videonun içeriğinin inandırıcı olup olmadığını sorma yeteneğimiz.

AI algılama platformları bu bağlamda çok önemli hale geliyor. Çıplak göz, derin sahtekarlık tespiti için artık anlamsız hale geldiğinde, bu platformlar gerçekliğin nihai hakemleri olarak görev yapabilir – epistemolojik uçuruma karşı koruma görevi görecekler. Bir video gerçek gibi görünüyor ancak bir şekilde şüpheli görünüyorsa – ki bu, gelecek aylarda ve yıllarda giderek daha sık xảyacak – bu platformlar, bize baktığımız şeyin temel doğruluğunu onaylayarak, gerçeğe bağlı kalabilmemizi sağlayabilir. Sonunda, bu kadar güçlü bir teknoloji ile, bizi kurtarabilecek tek şey AI itself. Ateşle ateşle savaşmamız gerekiyor – yani, teknolojinin en kötü suistimallerini ortadan kaldırmak için iyi AI’ı kullanmamız gerekiyor.

Aslında, bu becerilerin kazanılması hiçbir şekilde karamsar veya olumsuz bir süreç olmak zorunda değil. Sıfır güven zihniyetini benimsemek, eleştirel düşünme, sezgi ve farkındalığınızı keskinleştirmek için bir fırsat olarak düşünülebilir. Kendinize, tekrar tekrar, belirli anahtar sorular sorarak – Bu mantıklı mı? Bu şüpheli mi? – yalnızca sahte medyayla değil, genel olarak dünya ile başa çıkma yeteneğinizi güçlendiriyorsunuz. Derin sahtekarlık çağındaki gümüş bir çizgi varsa, bu budur. Kendi başımıza düşünmeye ve günlük hayatımızda daha amprik olmaya zorlanıyoruz – ve bu, yalnızca iyi bir şey olabilir.