Derin Sahtekarlıkları ve Diğer Sahte Medyayı Tanıma Amacı Taşıyan AI Tarayıcı Araçları

Teknoloji şirketlerinin yanlış bilgi ve sahte içerikle mücadele çabaları, DeepFakes gibi gelişmiş sahte içerik oluşturma teknolojilerinin kullanımı kolaylaştıkça ve daha da geliştirildikçe son zamanlarda yüksek hızda devam ediyor. Derin sahtekarlıkları tespit etmeye ve bunlarla mücadele etmeye yardımcı olmak için yapılacak bir sonraki girişimlerden biri, AI Vakfı tarafından üretilen RealityDefender’dir. AI Vakfı, kullanıcıların çeşitli görevleri gerçekleştirmek için eğitebileceği etik AI ajanları ve asistanları geliştirmeye kendini adamıştır.

AI Vakfının en önemli projesi, insanların kendilerine benzeyen ve sanal toplantı alanlarında temsil eden kendi dijital kişiliklerini oluşturmalarına olanak tanıyan bir platformdur. AI Vakfı, Global AI Konseyi tarafından denetlenmektedir ve görevlerinin bir parçası olarak, AI platformlarının olası olumsuz etkilerini öngörmek ve bu sorunlara karşı önlemler almak zorundadır. VentureBeat tarafından bildirildiği üzere, AI Vakfının sahte içeriği tespit etmeye yardımcı olmak için oluşturduğu araçlardan biri Reality Defender’dir. Reality Defender, bir kişinin web tarayıcısında kullanabileceği, video, resim ve diğer türdeki medyaları analiz ederek bunların sahte veya değiştirilmiş olup olmadığını belirlemek için tasarlanmış bir araçtır. Bu aracın, internet üzerindeki derin sahtekarlıkların artan akışını karşılamak için yardımcı olacağı umulmaktadır ve bazı tahminlere göre, son altı ayda yaklaşık iki katına çıkmıştır.

Reality Defender, bir görüntünün veya videonun sahte olabileceğini gösteren ipuçlarını tespit edebilen çeşitli AI tabanlı algoritmalar kullanır. AI modelleri, hile ve manipülasyonun ince işaretlerini tespit eder ve modelin yanlış pozitif olarak tespit ettiği veriler, aracın kullanıcıları tarafından yanlış olarak işaretlenir. Veriler daha sonra modeli yeniden eğitmek için kullanılır. Sahte olmayan derin sahtekarlıklar üreten AI şirketleri, içeriğini “dürüst AI” etiketi veya filigran ile etiketler, böylece insanlar AI tarafından oluşturulan sahtekarlıkları kolayca tanımlayabilir.

Reality Defender, AI Vakfının oluşturmaya çalıştığı bir dizi araç ve tüm bir AI sorumluluk platformunun yalnızca bir parçasıdır. AI Vakfı, bireylerin kendileri için çalışan ve kötü niyetli aktörlerin suistimaline karşı korumaya yardımcı olabilecek kişisel AI ajanlarına erişimi olan bir sorumluluk platformu oluşturmayı amaçlamaktadır. Esasen, AI Vakfı, toplumda AI’nin erişimi genişletirken aynı zamanda AI’nin risklerine karşı korumayı amaçlamaktadır.

Reality Defender, yanlış bilgiyi azaltmaya yönelik yeni AI destekli ürünlerden yalnızca biridir. Benzer bir ürün, UC Berkeley’den iki lisans öğrencisi Rohan Phadte ve Ash Bhat tarafından oluşturulan SurfSafe’dir. The Verge’e göre, SurfSafe, kullanıcıların merak ettikleri bir medya parçasına tıklamasına ve programın çeşitli güvenilir internet kaynaklarından benzer içeriği aramasına ve değiştirilmiş olarak bilinen resimleri işaretlemesine olanak tanır.

Uzun vadede bu çözümlerin ne kadar etkili olacağı belirsizdir. Dartmouth College profesörü ve adli bilirkişi Hany Farid, The Verge’e göre, Reality Defender gibi sistemlerin anlamlı bir şekilde çalışacağından “son derece şüpheli” olduğunu söyledi. Farid, sahte içeriği tespit etmenin ana zorluğunun, medyanın tamamen sahte veya gerçek olmadığı olduğunu açıkladı. Farid, “Bir AI’yi farkı görmeye eğitmeye çalışmak inanılmaz derecede naif ve bunu crowdsourcing yapmak daha da naiftir” dedi.

Dahası, insanların genellikle sahte resimleri tanımlamada不好 olduğu için, yanlış pozitifleri etiketleme gibi crowdsourcing öğelerini dahil etmek zordur. İnsanlar genellikle hatalar yapar ve bir resmin sahte olduğunu gösteren ince ayrıntıları kaçırır. Ayrıca, kötü niyetli aktörlerin içeriği işaretlerken nasıl başa çıkılacağı de belirsizdir.

Yanlış tespit eden araçların, insanların çevrimiçi olarak etkileşimde bulundukları içeriği nasıl akıl yürüteceklerini öğreten dijital okuryazarlık çabalarıyla birleştirilmesi gerektiği muhtemeldir.