Alex Fink, Teknoloji Yöneticisi, Otherweb’in Kurucu ve CEO’su – Röportaj Serisi

Alex Fink bir teknoloji yöneticisi ve Otherweb‘in kurucu ve CEO’su, bir kamu yararına şirket olan Otherweb, insanların haberleri ve yorumları okumalarına, podcast’leri dinlemelerine ve web’i aramalarına yardımcı olmak için yapay zeka kullanıyor, aynı zamanda ödeme duvarları, tıkbağlantılar, reklamlar, otomatik oynayan videolar, bağlı kuruluş bağlantıları veya diğer “çöp” içerik olmadan. Otherweb, bir uygulama (iOS ve Android), bir web sitesi, bir bülten veya bağımsız bir tarayıcı uzantısı olarak mevcuttur. Otherweb’den önce Alex, Panopteo’nun kurucu ve CEO’su ve Swarmer’ın ortak kurucu ve başkanıydı.

Otherweb’i ve insanların haberleri ve yorumlarını okumalarını, podcast’leri dinlemelerini ve web’i aramalarını “çöp” içerik olmadan yapmalarına yardımcı olmak için misyonunuzu anlatır mısınız?

Otherweb, insanların tükettikleri bilgilerin kalitesini iyileştirmeye yardımcı olmak için kurulan bir kamu yararına şirkettir.

Temel ürünümüz, “çöp”ü filtrelemek ve kullanıcıların sınırsız özelleştirmelere izin vermek için yapay zeka kullanan bir haber uygulamasıdır – kullanıcılar, uygulamanın kullandığı her bir kalite eşiklerini ve sıralama mekanizmasını kontrol edebilir.

Diğer bir deyişle, dünyanın geri kalanı, kullanıcı katılımını en üst düzeye çıkarmak için siyah kutu algoritmaları oluştururken, biz kullanıcıların mümkün olduğunca kısa sürede mümkün olduğunca fazla değere sahip olmasını istiyoruz ve her şeyi özelleştirilebilir yapıyoruz. Ayrıca, AI modellerimizi ve veri setlerimizi kaynak olarak sunarak insanların tam olarak ne yaptığımızı ve içeriği nasıl değerlendirdiğimizi görmelerine olanak tanıyoruz.

Yapay zeka kullanarak yanlış bilgi ve sahte haberlerle mücadele etmeye odaklanmanızı ne etkiledi?

Sovyetler Birliği’nde doğdum ve bir toplumun herkesin propaganda tükettiği ve kimsenin dünyanın neler olduğu hakkında hiçbir fikri olmadığı zaman neler olduğu görülür. Annemin ve babamın 4’de uyanıp, kendilerini dolaba kilitleyip, Voice of America’yı dinlemelerine dair canlı anılarım var. Tabii ki bu yasadışıydı, bu yüzden bunu gece yapıyorlardı ve komşuların duymasını engellemek için önlem alıyorlardı – ancak bize gerçek bilgiye erişim sağlıyordu. Sonuç olarak, her şey çöktüğünde ve memleketimde savaş çıktığında 3 ay önce ayrıldık.

Aslında, büyüdüğüm sokağın üzerindeki tankların resimlerini gördüğümü ve “gerçek bilgi bu kadar önemli” diye düşündüğümü hatırlıyorum.

Daha fazla insanın gerçek, yüksek kaliteli bilgilere erişmesini istiyorum.

Derin sahtecilik tehdidi, özellikle seçimlerin etkilenmesi bağlamında ne kadar önemlidir? Derin sahteciliklerin yanlış bilgi yaymak için nasıl kullanıldığına ve bu sahteciliklerin etkisiyle ilgili somut örnekler verebilir misiniz?

Kısa vadede, bu çok ciddi bir tehdittir.

Seyirciler, video ve ses kayıtlarının artık güvenilir olmadığını anlamıyorlar. Video delil olduğunu düşünürler, 2 yıl önce bu hala doğruydu, ancak şimdi açıkça artık böyle değil.

Bu yıl, Pakistan’da, Imran Khan’ın seçmenleri, Imran Khan’dan kişisel olarak seçimlere katılmamalarını isteyen aramalar aldı. Tabii ki sahteydi, ancak birçok insan buna inandı.

İtalya’da, seçmenler, bir politikacının pornografik bir videoda göründüğünü gördü. Tabii ki sahteydi, ancak yalanın ortaya çıkmasından önce – zarar zaten yapılmıştı.

Arizona’da, bir bülten, Kari Lake’in bir onay videosunu gösteren bir tanıtım yayınladı. Tabii ki onaylamamıştı, ancak bülten zaten binlerce aboneyi elde etmişti.

Ekim ayında, en az bir sahte bombanın patlayacağından neredeyse eminim. Ve bu muhtemelen seçimden hemen önce ortaya çıkacak ve seçimden sonra – zararı zaten vermiş olacak – sahteliği ortaya çıkacak.

Derin sahtecilikleri tespit etmek için mevcut yapay zeka araçlarının ne kadar etkili olduğu ve gelecekte bu araçlarda hangi gelişmeleri öngörüyorsunuz?

Geçmişte, sahte resimleri tanımlamanın en iyi yolu, resim oluşturucuların yaptığı karakteristik hataları incelemektir (yani “artefaktlar”). Yanlış aydınlatma, eksik gölgeler, bazı nesnelerin kenarlarında düzensizlikler, nesnelerin etrafındaki aşırı sıkıştırma, vb.

GAN tabanlı düzenleme (yani “derin sahtecilik”) problemi, bu ortak artefaktların hiçbirinin mevcut olmamasıdır. Süreç, bir AI modelinin resmi düzenlediği ve diğer bir AI modelinin hataları bulup gösterdiği ve bu döngünün tekrarlandığı şekilde çalışır – ve bu, hatalar kalmayıncaya kadar devam eder.

Bu nedenle, iyi yapılmış bir derin sahtecilik videosunu, içeriğini inceleyerek tanımlamak mümkün değildir.

Aklımızı değiştirmeli ve içeriğin gerçek olduğunu varsaymak için, içeriğin kaynağına kadar izlenebilirliğini takip etmemiz gerektiğini düşünmeliyiz. Parmak izlerine benzer. Cinayet silahında parmak izleri görmek yetmez. Silahı kim buldu, kim depo odasına getirdi, vb. – her birini takip edebilmeli ve değiştirilmediğinden emin olmalıyız.

Kritik zamanlarda, seçimlerde yanlış bilginin yayılmasını önlemek için hükümetler ve teknoloji şirketleri hangi önlemleri alabilir?

Yanlış bilginin en iyi panzehri zamandır. Bir şey görürseniz ve her şeyi değiştiriyorsa, yayınlamaya acele etmeyin – doğru olup olmadığını doğrulamak için bir veya iki gün bekleyin.

Maalesef, bu yaklaşım, yanlış olan materyallerin bile tıklama aldıkları için medya şirketlerinin iş modeli ile çelişiyor.

Otherweb, haberleri toplarken ve sunarken nasıl yapay zeka kullanıyor ve haberlerin doğruluğunu ve güvenirliğini nasıl sağlıyor?

Doğru ve yanlış arasında güçlü bir korelasyon bulduk. Gerçeği söylemek isteyen insanlar, genellikle kısıtlama ve alçakgönüllülük vurgulayan bir dil kullanma eğilimindeler, oysa gerçeği önemsemeyen insanlar, dikkat çekmek için her şeyi yapmaya çalışırlar.

Otherweb’in odak noktası, gerçekleri doğrulamak değil,形式i doğrulamaktır. Dikkat çekici dilden kaçınan, her iddiası için dış referanslar sunan, şeyleri olduğu gibi ifade eden ve ikna teknikleri kullanmayan makaleleri seçiyoruz.

Tabii ki, bu yöntem mükemmel değildir ve teoride, kötü bir aktör, bizim modellerimizin ödüllendirdiği tarzda bir yalan yazabilir. Ancak uygulamada, bu gerçekleşmez. Yalancılar, aynı zamanda çok dikkat çekmek isterler – bu, modellerimizin tespit edip filtrelemesini öğrendiğimiz şeydir.

Dijital içerikte gerçek ve sahte görüntülerin ayırt edilmesinin giderek zorlaşmasıyla, Otherweb gibi platformlar nasıl kullanıcıların dijital içeriğe güvenini yeniden kazanmasına yardımcı olabilir?

İnsanların daha iyi içerik tüketmesine yardımcı olmanın en iyi yolu, her tarafın en iyilerini örneklemek, çok fazla kısıtlama uygulamak ve en iyi öğeleri seçmektir. Çoğu medya, şu günlerde doğrulanmamış bilgileri yayınlamaya koşuşuyor. Bilgileri yüzlerce kaynaktan karşılaştırma ve en iyi öğelere odaklanma yeteneğimiz, kullanıcılarımızı çoğu yanlış bilginin türünden korur.

Resim ve videoların kimlik bilgilerini doğrulamak için C2PA standartları gibi meta veriler nelerdir?

Bu, tek geçerli çözümdür. C2PA doğru standart olmayabilir, ancak bir videoyu izlediğinizde, gerçekten gerçekte meydana gelen bir şeyin yansıması olup olmadığını doğrulamanın tek yolu, a) kameranın videoyu yakalamak için kullanıldığını ve düzenlemediğini ve b) kameradan çıktıktan sonra videonun düzenlenmediğini sağlamaktır. Bunu yapmanın en iyi yolu, meta verilere odaklanmaktır.

Yanlış bilgi ve derin sahtecilikle mücadele için gelecekte hangi gelişmeleri öngörüyorsunuz?

Sanırım ki, 2-3 yıl içinde, insanlar yeni gerçeği kabul edecekler ve zihinlerini değiştirecekler. 19. yüzyıldan önce, en iyi kanıt, tanıkların şahitlikiydi. Derin sahtecilik, bize bu denenmiş ve doğru standartlara geri dönmeye neden olabilir.

Genel olarak yanlış bilgiyle ilgili olarak, daha nüanslı bir görüş benimsemek ve kasıtlı olarak yanlış bilgi yaratmak için oluşturulan yanlış bilgiyi (yani yanlış bilgi) para kazanmak için oluşturulan bilgilerden (yani “çöp”) ayırmak gerektiğini düşünüyorum.

Çöpün panzehri, çöpün yayılmasını menosunaştıran bir filtreleme mekanizmasıdır. Bu, çöpün hızla yayılmasına neden olan teşvik yapısını değiştirecektir. Yanlış bilgi her zaman var olacaktır, 20. yüzyılda olduğu gibi 21. yüzyılda da yanlış bilgiyle başa çıkabileceğiz.

Bizim endişelenmemiz gereken, şu anda başa çıkamadığımız çöp selidir. Bu, insanlığın çözmesi gereken temel sorundur.

Teşvikleri değiştirdiğimizde, internetin sinyal-karmaşıklık oranı herkes için iyileşecektir.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Otherweb web sitesini ziyaret edebilir veya X veya LinkedIn‘de takip edebilir.