Alex Fink, Tech Yöneticisi, Otherweb’in Kurucusu ve CEO’su – Röportaj Serisi

Alex Fink bir Tech Yöneticisi ve Otherweb‘in Kurucusu ve CEO’su, bir Kamu Yararı Şirketi olarak, insanların haber ve yorumları okumalarına, podcast’leri dinlemelerine ve web’i aramalarına yardımcı olmak için AI kullanır, böylece ödeme duvarları, tıkbağlantılar, reklamlar, otomatik oynayan videolar, bağlı kuruluş bağlantıları veya diğer ‘çöp’ içeriklerle karşılaşmazlar. Otherweb, bir uygulama (iOS ve Android), bir web sitesi, bir bülten veya bağımsız bir tarayıcı uzantısı olarak mevcuttur. Otherweb’den önce Alex, Panopteo’nun Kurucusu ve CEO’su ve Swarmer’ın Kurucu Ortağı ve Başkanıydı.

Otherweb ve junk-free haber alanı oluşturma misyonu hakkında genel bir bakış sağlayabilir misiniz?

Otherweb, bir kamu yararı şirketi olarak, insanların tükettikleri bilgilerin kalitesini iyileştirmeye yardımcı olmak için oluşturuldu.

Ana ürünümüz, çöp içeriği filtrelemek ve kullanıcıların sınırsız özelleştirmelere izin vermek için AI kullanan bir haber uygulamasıdır – uygulamanın kullandığı her bir kalite eşiği ve sıralama mekanizmasını kontrol etme.

Başka bir deyişle, dünyanın geri kalanı kullanıcı katılımını en üst düzeye çıkarmak için kara kutu algoritmaları oluştururken, biz kullanıcıların mümkün olan en kısa sürede en fazla değeri elde etmesini istiyoruz ve her şeyi özelleştirilebilir yapıyoruz. AI modellerimizi ve veri setlerimizi kaynak olarak kullanılabilir yaptık, böylece insanlar tam olarak ne yaptığımızı ve içeriği nasıl değerlendirdiğimizi görebilsinler.

Yanlış bilgi ve sahte haberlerle mücadele etmek için AI kullanmaya ne sizi yöneltti?

Sovyetler Birliği’nde doğdum ve herkesin propaganda tükettiği, kimsenin dünyanın ne olduğu hakkında hiçbir fikrinin olmadığı bir toplumda neler olduğu gördüm. Annem ve babamın 4’am sabahları uyanıp, kendilerini dolaba kilitleyip, Voice of America’yı dinlemelerine dair canlı anılarım var. Tabii ki bu yasadışıydı, bu nedenle bunu gece yapıyorlardı ve komşuların duymamasına dikkat ediyorlardı – ancak bize gerçek bilgiye erişim sağladı. Sonuç olarak, her şey çöktüğünde ve memleketimde savaş çıktığında 3 ay önce ayrıldık.

Aslında, büyüdüğüm sokağın üzerindeki tankların fotoğraflarını görmeyi ve “bunun gerçek bilgiye değer” diye düşünmeyi hatırlıyorum.

Daha fazla insanın gerçek, yüksek kaliteli bilgilere erişmesini istiyorum.

Derin sahtecilikler, özellikle seçimlerin etkilenmesi bağlamında, ne kadar önemli bir tehdittir? Derin sahteciliklerin yanlış bilgi yaymak için nasıl kullanıldığına ve bunların etkisiyle ilgili özel örnekler paylaşabilir misiniz?

Kısa vadede, çok ciddi bir tehdittir.

Seyirciler, video ve ses kayıtlarının artık güvenilir olmadıklarını anlamıyorlar. Videoyu bir şeyin kanıtı olarak düşünürler ve 2 yıl önce bu hala doğruydu, ancak şimdi açıkça artık öyle değil.

Bu yıl, Pakistan’da Imran Khan’ın seçmenleri, kendilerine seçimden kaçınmaları için kişisel olarak Imran Khan’dan aramalar aldı. Tabii ki sahteydi, ancak birçok insan buna inandı.

İtalya’daki seçmenler, bir kadın politikacının pornografik bir videoda görünmesini gördü. Tabii ki sahteydi, ancak sahteliği ortaya çıktığında – zarar zaten yapılmıştı.

Hatta burada Arizona’da, bir bültenin kendisini, Kari Lake’in bir onay videosunu gösteren bir reklamla tanıttığını gördük. Tabii ki hiç böyle bir onay vermedi, ancak bülten yine de binlerce aboneyi elde etti.

Bu nedenle, Kasım ayında, en az bir sahte bombanın ortaya çıkacağından neredeyse eminim. Ve bu, seçimden hemen önce ortaya çıkacak ve seçimden sonra – zarar zaten yapıldığında – sahteliği ortaya çıkacak.

Derin sahtecilikleri tanımlamak için mevcut AI araçlarının ne kadar etkili olduğu ve gelecekte hangi gelişmeleri öngördüğünüz hakkında bilgi verebilir misiniz?

Geçmişte, sahte görüntüleri tanımlamanın en iyi yolu, zoom yaparak karakteristik hataları (yani “artefaktlar”) aramaktı. Yanlış aydınlatma, eksik gölgeler, belirli nesnelerin kenarlarında düzensizlikler, nesnelerin etrafındaki aşırı sıkıştırma vb.

GAN tabanlı düzenleme (yani “derin sahtecilik”) sorununda, bu ortak artefaktların hiçbiri mevcut değildir. Süreç, bir AI modelinin görüntüyü düzenlediği ve başka bir AI modelinin hataları aradığı ve döngünün tekrarlandığı şekilde çalışır – ve bu, hiçbir hata kalmayana kadar devam eder.

Sonuç olarak, iyi yapılmış bir derin sahtecilik videosunu, içeriğini inceleyerek tanımlamanın genel olarak bir yolu yoktur.

Zihniyetimizi değiştirmeli ve içeriğin yalnızca kaynağına geri izlenebiliyorsa gerçek olduğu varsaymalıyız. Parmak izlerine benzer düşünün. Cinayet silahında parmak izleri görmek yeterli değil – silahı kimin bulduğunu, kimin depolama odasına getirdiğini, kimin eline geçtiğinden emin olmalısınız ve kimsenin müdahale etmediğinden emin olmalısınız.

Seçim gibi kritik zamanlarda yanlış bilginin yayılmasını önlemek için hükümetler ve teknoloji şirketleri hangi önlemleri alabilir?

Yanlış bilginin en iyi panzehiri zamandır. Bir şey görürseniz ve her şeyi değiştiriyorsa, yayınlamaya acele etmeyin – bunun gerçekten doğru olup olmadığını doğrulamak için bir veya iki gün bekleyin.

Maalesef, bu yaklaşım, yanlış olsa bile materyalin tıklanmasını ödüllendiren medyanın iş modeli ile çakışıyor.

Otherweb, agregasyon yaptığı haberlerin gerçekliği ve doğruluğunu sağlamak için AI’yi nasıl kullanıyor?

İnsanların gerçeği söylemek istedikleri zaman, belirli bir dil kullanma eğiliminde olduklarını ve bu dili vurgulayan bir dil kullandıklarını keşfettik. Diğer yandan, gerçeğe aldırmayan insanlar, mümkün olduğunca çok dikkat çekmeye çalışırlar – bu da bizim modellerimizin tespit etmeye ve filtrelemeye çalıştığı şeydir.

Otherweb’in en büyük odak noktası, gerçekliği kontrol etmek değil, şekli kontrol etmektir. Dikkat çekici dilden kaçınan, her iddiası için dış referanslar sağlayan, şeyleri olduğu gibi ifade eden ve ikna teknikleri kullanmayan makaleleri seçiyoruz.

Bu yöntem elbette mükemmel değil ve teoride bir kötü aktör, bizim modellerimizin ödüllendirdiği tarzda bir yalan yazabilir. Ancak uygulamada böyle bir şey gerçekleşmez. Yalancılar da çok dikkat çekmek ister – bu da bizim modellerimizin tespit etmeye ve filtrelemeye çalıştığı şeydir.

Dijital içerikte gerçek ve sahte görüntüler arasındaki ayrımı artık ayırt etmenin giderek zorlaştığı bir ortamda, Otherweb gibi platformlar kullanıcıların dijital içeriğe güvenini nasıl yeniden kazanabilir?

İnsanların daha iyi içerik tüketmesine yardımcı olmanın en iyi yolu, her tarafın en iyisini örneklemek ve çok fazla özdenetim uygulamaktır. Çoğu medya, şu günlerde doğrulanmamış bilgileri yayınlamaya koşuşuyor. Bilgileri yüzlerce kaynaktan karşılaştırma ve en iyi öğeleri odaklanma yeteneğimiz, kullanıcılarımızı meisten yanlış bilgi türlerinden korur.

Görüntü ve videoların gerçekliğini doğrulamada, C2PA standartları gibi meta veriler nasıl bir rol oynar?

Bu, tek geçerli çözümdür. C2PA doğru standart olmayabilir, ancak bir videoyu izlerken, bunun gerçekten gerçek bir şey olup olmadığını doğrulamanın tek yolu, a) kameranın yalnızca yakaladığını ve düzenlemediğini ve b) kameradan çıktıktan sonra kimsenin videosunu düzenlemediğini sağlamaktır. Bunu yapmak için en iyi yol, meta verilere odaklanmaktır.

Yanlış bilgi ve derin sahteciliklerle mücadele alanında gelecekte hangi gelişmeleri öngörüyorsunuz?

İnsanların, yeni gerçekliğe uyum sağlayacaklarını ve zihniyetlerini değiştireceklerini düşünüyorum. 19. yüzyıldan önce, en iyi kanıt, tanıkların tanıklığıydı. Derin sahteciliklerin, bu denenmiş ve doğru standartlara geri dönmemize neden olacağını düşünüyorum.

Yanlış bilgi hakkında daha geniş olarak, daha nüanslı bir bakış açısına ihtiyaç olduğunu ve yanlış bilgiyi (yani, people tarafından kasıtlı olarak aldatmak için oluşturulan yanlış bilgi) çöpten (yani, gerçeğe bakılmaksızın para kazanmak için oluşturulan bilgi) ayırmak gerektiğini düşünüyorum.

Çöpün panzehiri, çöpün yayılmasını menos likely hale getirecek bir filtreleme mekanizmasıdır. Bu, çöpün hızla yayılmasına neden olan teşvik yapısını değiştirecektir. Yanlış bilgi her zaman var olagelmiştir ve 20. yüzyılda olduğu gibi 21. yüzyılda da bununla başa çıkabileceğiz.

Endişelenmemiz gereken, şu anda başa çıkamadığımız çöp selidir.

Bir kez teşvikleri değiştirdiğimizde, internetin sinyal-kaba oranı herkes için iyileşecektir.

Teşekkür ederiz harika röportaj için, Otherweb web sitesini ziyaret etmek veya X veya LinkedIn‘de takip etmek isteyen okuyucular.