2024’te Derin Sahtekarlıklar Ana Akıma Giriyor. İşletmelerin Kendilerini Koruma Yolları

En az 2016 seçimlerinden beri, yanlış bilgilendirme konusunda endişeler kamu bilincine çıktığında, uzmanlar derin sahtekarlıklar konusunda alarm zilleri çalmaya başladı. Bu teknolojinin sonuçları – ve hala – çok korkutucuydu. Hyper-gerçekçi sentetik medyanın kontrolsüz şekilde yayılması herkesi tehdit ediyor – politikacılardan günlük insanlara kadar. already existing bir môi trườngda, geniş çaplı güvensizlik zaten mevcut iken, derin sahtekarlıklar ateşleri daha da körükleyecekti.

Aslında, korkularımız erken geldi. Derin sahtekarlıklar oluşturmak için gereken teknoloji bilgisi, birlikte souvent shoddy kalitesi, son iki başkanlık seçim döngüsü boyunca bunları minimal bir endişe haline getirdi.

Ama tüm bunlar değişmek üzere – zaten değişiyor. Son iki yıl içinde, generative AI teknolojisi ana akıma girdi, ortalama tüketiciler için derin sahtekarlıklar oluşturma sürecini radikal olarak basitleştirdi. Aynı zamanda, bu yenilikler derin sahtekarlıkların kalitesini önemli ölçüde artırdı, öyle ki, kör bir testte, çoğu insan bir düzenlenmiş videoyu gerçek şeyden ayırt edemez.

Bu yıl, özellikle, bu teknolojinin toplum üzerinde nasıl bir etkiye sahip olabileceğine dair işaretler görmeye başladık. Geçen yıl, örneğin, AI tarafından oluşturulan bir fotoğrafında Papa Francis’in非常 stylish bir ceket giydiği viral oldu ve birçok kişi tarafından gerçek olduğu düşünüldü. Bu, bir düzeyde, masum bir eğlence gibi görünse de, bu derin sahtekarlıkların tehlikeli gücünü ve yanlış bilgilendirmeyi nasıl durdurmanın zorluğunu ortaya koyuyor. Daha az komik ve daha da tehlikeli bu tür viral sahtekarlık örneklerine önümüzdeki aylarda ve yıllarda karşılaşmayı bekleyebiliriz.

Bu nedenle, her türden kuruluşların – medyadan finansa, hükümetlerden sosyal medya platformlarına – derin sahtekarlık tespiti ve içerik kimlik doğrulama konusunda proaktif bir tavır takınması zorunludur. Güven kültürü şimdi kurulmalıdır – gerçeklik algımızın ortak anlayışını yıkabilecek bir dalganın gelmesinden önce.

Derin Sahtekarlık Tehdidi Anlamak

Kuruluşların bu derin sahtekarlık dalgasına karşı neler yapabileceğini ele almadan önce, neden güvenlik araçlarına ihtiyaç duyulduğunu açıklamak önemlidir. Genellikle, derin sahtekarlıklarla ilgili endişe duyanlar, bunların politikaya ve toplumsal güvene olan potansiyel etkilerini vurgularlar. Bu potansiyel sonuçlar çok önemlidir ve derin sahtekarlıklar hakkında yapılan herhangi bir konuşmada göz ardı edilmemelidir. Ancak, bu teknolojinin yükselişi, ABD ekonomisinin çeşitli sektörleri üzerinde potansiyel olarak feci sonuçlara sahiptir.

Örneğin, sigorta sektörünü ele alalım. Şu anda, ABD’de yıllık sigorta dolandırıcılığı 308.6 milyar dolar civarında – bu, tüm endüstrinin yaklaşık dörtte biri kadar büyük bir rakam. Aynı zamanda, çoğu sigorta şirketinin arka uç operasyonları giderek daha çok otomatik hale geliyor; 2025 yılına kadar %70 standart taleplerin dokunsal olmadan çözüleceği öngörülüyor. Bu, kararların giderek daha az insan müdahalesi ile verildiği anlamına geliyor: ön tarafta self-servis ve arka tarafta AI destekli otomasyon.

Ironik olarak, bu otomasyonu mümkün kılan teknoloji – yani makine öğrenimi ve yapay zeka – aynı zamanda kötü niyetli aktörler tarafından suistimal edilmesini garantiliyor. Artık, ortalama bir kişinin talepleri manipüle etmesi – örneğin, Dall-E, Midjourney veya Stable Diffusion gibi generative AI programlarını kullanarak bir arabanın daha hasarlı görünmesini sağlaması – çok daha kolay hale geldi. Zaten, bu amaçla tasarlanmış uygulamalar mevcut, Örneğin, Dude Your Car! gibi, kullanıcıların araçlarının fotoğraflarına yapay hasarlar eklemelerine olanak tanıyan uygulamalar.

Aynı durum resmi belgeler için de geçerli; bunlar artık kolayca manipüle edilebilir – faturalar, tahsis değerlendirmeleri ve hatta imzalar tümüyle değiştirilebilir veya uydurulabilir. Bu, yalnızca sigorta şirketleri için değil, tüm ekonomi için bir sorundur. Bankalar, çeşitli belgelerin kimlik doğrulamasını yapmak zorundadır. Perakendeciler, bir ürünün hasarlı olarak geldiğine ilişkin bir şikayet alabilir, birlikte düzenlenmiş bir görüntü eşlik edebilir.

İşletmeler bu düzeyde belirsizlik ile çalışamaz. Bir miktar dolandırıcılık her zaman kaçınılmaz olabilir, ancak derin sahtekarlıklarla, marjinal dolandırıcılık değil, işletmelerin gerçeklikten kurguyu ayırt edebileceği hiçbir rõ yöntem olmadan, milyarlarca dolar kaybetme potansiyeli olan bir epistemolojik felaketten bahsediyoruz.

Ateşle Savaşmak: AI Nasıl Yardımcı Olabilir

Peki, buna karşı ne yapılabilir? Belki şaşırtıcı olmayan bir şekilde, cevap, derin sahtekarlıkları mümkün kılan teknolojinin kendisinde yatıyor. Bu belayı daha da büyümeden durdurmak istiyorsak, ateşle savaşmamız gerekiyor. AI, derin sahtekarlıkları oluşturabilir, ancak aynı zamanda onları otomatik olarak ve büyük ölçekte tespit edebilir.

Doğru AI araçlarını kullanarak, işletmeler bir fotoğrafın, videonun veya belgenin değiştirilip değiştirilmediğini otomatik olarak belirleyebilir. Çeşitli modelleri sahte tespit görevine getirerek, AI, işletmelere bir fotoğrafın veya videonun şüpheli olup olmadığını söyleyebilir. İşletmelerin günlük operasyonlarını otomatikleştirmek için zaten kullandıkları araçlar gibi, bu araçlar da fazla personelin yükünü aumente etmeden veya önemli projelerden zaman almaksızın arka planda çalışabilir.

Eğer ve bir fotoğraf değiştirilmiş olarak tespit edilirse, insan personeli uyarılabilir ve AI tarafından sağlanan bilgilerle birlikte sorunu doğrudan değerlendirebilir. Derin tarama analizi kullanarak, AI, işletmelere neden bir fotoğrafın muhtemelen değiştirildiğine inandığını söyleyebilir – örneğin, el ile değiştirilmiş meta verileri, web genelinde aynı görüntülerin varlığını, çeşitli fotoğrafik düzensizlikleri vb. gösterebilir.

Bunun, son yıllarda gördüğümüz generative AI teknolojisi ilerlemelerini küçümsemek anlamına gelmediğini unutmayın; bu teknolojiler gerçekten de endüstriler genelinde yararlı ve üretken uygulamalara sahiptir. Ancak, bu teknolojinin gücü – ve basitleştirilmiş kullanımı – onun kötü niyetli kişiler tarafından manipülasyon için kullanılmasını neredeyse garantiliyor.

İşletmeler gerçekten de her iki dünyanın en iyisini sahip olabilir: AI’nin üretkenlik faydaları ve derin sahtekarlıkların dezavantajları olmadan. Ancak, bunu başarmak için özellikle yeni bir dikkat seviyesi gereklidir, zira generative AI’nin çıktıları gün geçtikçe daha inandırıcı, ayrıntılı ve gerçekçi hale geliyor. İşletmelerin bu soruna dikkat etmeleri ne kadar erken olursa, otomatik bir dünyanın tam faydalarını o kadar erken elde edebilirler.