Arjun Narayan, SmartNews’te Küresel Güven ve Güvenlik Başkanı – Röportaj Serisi

Arjun Narayan, SmartNews‘in Küresel Güven ve Güvenlik Başkanı’dır. Ayrıca bir AI etiği ve teknoloji politikası uzmanıdır. SmartNews bir haber toplama uygulamasıdır; okuyucular için haberleri derlerken AI ve insanlardan oluşan bir editör ekibinden yararlanır.

Singapur’da Google’ın Güven ve Güvenlik Asya Pasifik merkezini kurmaya yardımcı olurken, bu deneyimden neler öğrendiniz?

Güven ve Güvenlik ekipleri oluştururken, ülke düzeyinde uzmanlık kritik öneme sahiptir, çünkü kötüye kullanım ülkeden ülkeye farklılık gösterir. Örneğin, Google (GOOGL ) ürünlerinin Japonya’daki kötüye kullanım biçimleri, Güneydoğu Asya ve Hindistan’dakilerden farklıydı. Bu, kötüye kullanım vektörlerinin çok farklı olduğunu ve hangi ülkenin düzenlendiğine bağlı olarak değiştiğini gösterir. Bu, bizim erken dönemde öğrendiğimiz bir şeydi.

Bunun yanı sıra, Güven ve Güvenlik ekiplerini yurtdışında oluştururken, kültürel çeşitlilik ve anlayışın öneminin farkına vardım. Google’da, yeterli kültürel çeşitlilik ve anlayışa sahip personele sahip olmak için çalıştık. Belirli alanlarda uzmanlık ve dil ve pazar uzmanlığı arıyorduk.

Yerel kültürü doğrudan deneyimlemenin da çok önemli olduğunu gördüm. Güven ve Güvenlik ekiplerini sınırlar boyunca oluştururken, mühendislik ve iş ekiplerinin yerel kültüre yakından katılabilmeleri için gerekliydi. Bu, herkesin sorunları yönetmeye çalıştığımız konulara daha yakın olmasını sağladı. Bunu yapmak için, ana personele yönelik üç ayda bir yerel kültürü tanıma oturumları yaptık ve bu, herkesin kültürel zekâsını artırdı.

Son olarak, kültürler arası anlama çok önemliydi. Japonya, Avustralya, Hindistan ve Güneydoğu Asya’da bir ekibi yönettim ve bunların birbirleriyle nasıl etkileşimde bulundukları çok farklıydı. Bir lider olarak, herkesin sesini duyurabilmesini sağlamak istiyorsunuz. Bu, sonunda Güven ve Güvenlik gibi hassas görevleri gerçekleştirebilecek bir yüksek performans ekibi oluşturmak için tasarlanmıştır.

Önceden, TikTok uygulaması için ByteDance’in Güven ve Güvenlik ekibindeydiniz. Bir dakikadan kısa videoları nasıl güvenli bir şekilde izliyorsunuz?

Bu soruyu biraz yeniden çerçevelemek istiyorum, çünkü video uzunluğu gerçekten önemli değil. Video uzunluğu, video güvenliğini değerlendirmemizde bir faktör değildir ve uzunluk, bir videonun kötüye kullanımını yayma yeteneğine gerçek bir ağırlık vermez.

Kötüye kullanım konusunda düşünüyorum, “sorunlar” olarak düşünüyorum. Kullanıcıların karşı karşıya kalabileceği bazı sorunlar nelerdir? Yanlış bilgi? Kasıtlı dezenformasyon? Bir video bir dakika veya bir saat uzunluğunda olsun, hala yanlış bilgi paylaşılmaktadır ve kötüye kullanım düzeyi benzer kalır.

Sorun türüne bağlı olarak, politika uygulaması ve güvenlik önlemlerini düşünmeye başlarız ve nasıl kullanıcıları koruyabileceğimizi düşünürüz. Örneğin, birinin kendine zarar verdiği bir video varsa, bu videoyu hemen ele almalıyız, çünkü birinin hayatı kaybedilebilir. Makine öğrenimi bu tür algılamada bize çok yardımcı olur. İlk adım her zaman o hayatı kurtarmaya çalışmak için yetkililerle iletişime geçmektir; hiçbir şey bundan daha önemli değildir. Ardından videoyu, canlı yayını veya paylaşıldığı diğer formatı durdurmayı hedefleriz. Böyle zararlı içeriklere maruz kalmayı mümkün olan en kısa sürede en aza indirmeliyiz.

Aynı şekilde, nefret söylemi varsa, bunu farklı şekilde ele alıyoruz. Ya da zorbalık ve taciz durumunda, sorun türüne bağlı olarak farklı şekilde ele alıyoruz. Bir başka iyi güvenlik önlemi, birinin yorumlarda uygun olmayan bir şey yazdığında, düşünmesi için bir uyarı verilmesini sağlayan makine öğrenimi uygulamamızdır. Onları durdurmazdık, ama insanların böyle bir şey paylaşılmadan önce iki kez düşünmesini umardık.

Bu, makine öğrenimi ve anahtar kelime kurallarının bir kombinasyonuna dayanır. Ancak canlı yayınlarda, ayrıca AI tarafından işaretlenen bu yayınları gerçek zamanlı olarak inceleyen insan moderatörlerine de sahibiz, böylece hemen rapor verebilir ve protokoller uygulayabilirler. Çünkü bunlar gerçek zamanlı olarak gerçekleşiyor, yalnızca kullanıcıların raporlamalarına güvenmek yeterli değildir.

2021’den beri SmartNews’te Güven, Güvenlik ve Müşteri Deneyimi Başkanı olarak görev yapıyorsunuz. SmartNews’in yüksek kaliteli haber içeriğini tanımlamak ve önceliklendirmek için makine öğrenimi ve doğal dil işleme nasıl kullanıyor?

Temel kavram, bir makaleyi veya reklamı analiz edip konusunu anlayabilen belirli “kurallara” ya da makine öğrenimi teknolojisine sahip olmamızdır.

Herhangi bir şey bizim “kurallarımıza” aykırı olduğunda, örneğin bir şey gerçek dışı veya aldatıcı ise, makine öğrenimi bu içeriği insan editör ekibimizdeki bir inceleme için işaretler. O aşamada, editörlerimiz bizim editoryal değerlerimizi anlar ve makalenin kalitesini veya uygunluğunu hızlı bir şekilde değerlendirebilir. Ardından, bunu ele almak için eylemler alırız.

SmartNews, platformun güvenli, kapsayıcı ve nesnel olmasını sağlamak için AI’ı nasıl kullanıyor?

SmartNews, hyper-kişiselleştirme iyi bir ego için iyidir, ancak aynı zamanda hepimizi önyargılarımızı pekiştirerek ve insanları bir filtre balonuna yerleştirerek kutuplaştırıyor.

SmartNews’in AI’ı kullanma şekli biraz farklı, çünkü yalnızca etkileşimi optimize etmiyoruz. Algoritmamız sizi anlamak istiyor, ancak yalnızca sizin zevkinize göre kişiselleştirilmiyor. Çünkü geniş perspektifleri genişletmeye inanıyoruz. AI motorumuz sizi yakın ilişkili kavramların ötesindeki kavram ve makalelerle tanıştırır.

İnsanların bilmeleri gereken şeyler vardır, kamu çıkarına şeyler ve insanların bakış açılarını genişletmek için bilmeleri gereken şeyler. Çabalamaya çalıştığımız denge, bu bağlamları sağlarken büyük bir abi gibi davranmamak. Bazen insanlar algoritmamızın size getirdiği şeyleri sevmeyebilir. O zaman o makaleyi okumamayı seçebilirsiniz. Ancak, algoritmamızın meraklılığı, keşif yeteneği veya ne derseniz, gurur duyuyoruz.

Güvenlik açısından, SmartNews’te “Yayıncı Puanı” adı verilen bir şeyimiz var, bu, bir yayıncının güvenli olup olmadığını sürekli olarak değerlendiren bir algoritmadır. Sonunda, bir yayıncının güvenilir ve yetkin bir sesi olup olmadığını belirlemek istiyoruz. Örneğin, hepimiz ESPN’in spor konusunda otorite olduğunu kabul edebiliriz. Ancak, ESPN içeriğini kopyalayan rastgele bir blog varsa, ESPN’in o blogdan daha yüksek sırada yer almasını sağlamak istiyoruz. Yayıncı puanı, orijinallik, makalelerin ne zaman yayınlandığı, kullanıcı geri bildirimlerinin nasıl göründüğü gibi faktörleri de dikkate alır. Sonunda, birçok faktörü değerlendirdiğimiz bir spektrum.

Her şeyden önce, “Kullanıcı ne okumak istiyor?” sorusudur. Bir kullanıcı tıklamaya yönelik makaleleri görüntülemek isterse, içerik yasa dışı olmadığı ve kurallarımızı ihlal etmediği sürece onları engellemeyiz. Kullanıcıya müdahale etmiyoruz, ancak bir şey güvensiz veya uygunsuz ise, önce görevimizi yerine getirmemiz gerekiyor.

Gazetecilerin içerik üretimi sırasında yardımcı olmak için üretken AI’ı kullanma konusundaki görüşünüz nedir?

Bu etik bir soru ve şu anda SmartNews’te tartıştığımız bir konu. SmartNews, gazetecilerin yazdığı içerikler yerine üretken AI tarafından oluşturulmuş içerikler sunan yayıncılara nasıl yaklaşmalı?

İnanıyorum ki, bu tren artık istasyondan ayrıldı. Bugün, gazeteciler yazmaya yardımcı olmak için AI’ı kullanıyorlar. Bu, bir ölçek meselesidir, ticari olarak uygulanabilir bir oranda makaleler üretmek için dünyadaki zamanımız yok, özellikle de haber kuruluşları personeli kesmeye devam ettikçe. Soru, bu yaratıcılığın nerede olduğudur. Makaleyi gazeteci mi cilalıyor, yoksa gazeteci tamamen bağımlı mı?

Şu anda üretken AI, son dakika olayları hakkında haber makaleleri yazamaz, çünkü bunun için eğitim verisi yoktur. Ancak, bir gazeteciye bir şablon verebilir. Örneğin, okul silahlı saldırıları çok yaygın, üretken AI, bir gazeteciye okul silahlı saldırısı hakkında bir şablon verebilir ve gazeteci, etkilenen okulu ekleyerek tam bir şablon alabilir.

SmartNews’te çalışırken, dikkate almamız gereken iki ilke olduğunu düşünüyorum. İlk olarak, yayıncıların bize içeriklerinin AI tarafından üretildiğini söylemeleri gerekir ve bunu etiketlememiz gerekir. Böylece insanlar makaleyi okurken onu kimin yazdığı konusunda yanıltılmaz. Bu, en yüksek düzeyde şeffaflıktır.

İkincisi, o makalenin gerçek olmasını istiyoruz. Üretken AI’nın uydurmayı sevdiğini biliyoruz ve herhangi bir AI tarafından yazılan makale, bir gazeteci veya editoryal personel tarafından gözden geçirilmelidir.

Dijital toksisiteyle mücadele etmek için teknoloji platformlarının birleşip ortak standartlar geliştirmesi gerektiğini savundunuz. Bu mesele ne kadar önemli?

Bu meselenin yalnızca şirketlerin etik davranması için değil, belirli bir onur ve nezaket düzeyini korumak için de kritik olduğunu düşünüyorum. Platformlar bu insanlığı korumak için bir araya gelip ortak standartlar geliştirmeli. Örneğin hiç kimse kendi hayatına son vermeye teşvik edilmemeli; ancak bazı durumlarda platformlarda böyle bir kötüye kullanımla karşılaşıyoruz. Şirketler insanları buna karşı korumak için birlikte çalışmalı.

İnsanlığı ilgilendiren konularda rekabet olmamalı. En temiz veya en güvenli topluluğun kimde olduğu konusunda bile rekabet etmemiz gerekmiyor; hepimiz kullanıcıların kendilerini güvende ve anlaşılmış hissetmelerini sağlamalıyız. Özelliklerde rekabet edelim, sömürüde değil.

Dijital şirketler hangi yollarla birlikte çalışabilir?

Şirketler ortak değerler ve işbirliği olanağı olduğunda bir araya gelmeli. Özellikle kötüye kullanımla mücadele, platformlarda nezaketi sağlama veya kutuplaşmayı azaltma konularında şirketlerin ve sektörlerin kesiştiği alanlar her zaman vardır. Bunlar şirketlerin birlikte çalışması gereken durumlardır.

Elbette rekabetin ticari bir yönü vardır ve rekabet genellikle iyidir. Şirketlerin gücünü ve farklılaşmasını destekler ve tekellerin garanti edemeyeceği kadar etkili çözümler sağlar.

Ancak kullanıcıları korumak, nezaketi teşvik etmek ve kötüye kullanım yollarını azaltmak özgür dünyayı korumamızın temel konularıdır. Bizim için kutsal olan şeyleri ve insanlığımızı korumak için bunları yapmalıyız. Bence bütün platformların insan değerlerini ve bizi özgür bir dünya yapan değerleri savunmak için işbirliği yapma sorumluluğu vardır.

AI’ın sorumlu kullanımı hakkındaki mevcut görüşünüz nedir?

Hayatımızın her alanına yayılacak bir gelişmenin başındayız. Üretken AI’ın bu sonraki aşaması, şu anda tam olarak anlamadığımız veya ancak kısmen kavrayabildiğimiz bir sorundur.

AI’ı sorumlu bir şekilde kullanmak için, güçlü güvenlik önlemlerinin geliştirilmesi çok önemlidir, yoksa AI teknolojisinin Frankenstein canavarına dönüşmesine neden olabiliriz. Her şeyin yanlış gidebileceği konusunda düşünmek için zaman ayırmamız gerekiyor. AI algoritmalarına önyargı girmesi veya büyük dil modellerinin kötü niyetli kişiler tarafından kötü amaçlar için kullanılması gibi.

Teknolojinin kendisi iyi veya kötü değildir, ancak kötü niyetli kişiler tarafından kötü amaçlar için kullanılabilir. Bu nedenle, AI etiği uzmanlarına advers test yapma yatırımı, tasarım hatalarını anlamak ve kötüye kullanımın nasıl önleneceğini anlamak için çok önemlidir. Bu, AI’ı sorumlu bir şekilde kullanmanın en önemli yönüdür.

AI henüz kendi başına düşünemez, bu nedenle AI’ı programlarken akıllı insanların bu varsayımları oluşturması gerekir. Önemli olan, iyi niyetli bu insanların bunları şimdi, çok geç olmadan yapmasıdır.

Önceki sistemlerden farklı olarak, AI farklıdır, çünkü kendi kendine yineleyebilir ve öğrenebilir, bu nedenle AI’ı programlarken güçlü güvenlik önlemlerini kurmazsak, ne olabileceğini kontrol edemeyiz.

Şu anda, büyük şirketlerin AI etik kurullarını ve sorumlu AI ekiplerini büyük kıyımların bir parçası olarak çıkardıklarını görüyoruz. AI teknolojisini ve potansiyel olumsuz yanlarını ciddiye aldıklarını görmek için zaman bekleyeceğiz.

SmartNews’teki çalışmalarınız hakkında paylaşmak istediğiniz başka bir şey var mı?

SmartNews’e katıldım, çünkü misyonuna inanıyorum, bu misyon bir tür saflığa sahiptir. Dünya’nın kutuplaştığına inanıyorum ve bugün yeterli medya okuryazarlığı yok.

Maalesef, birçok insan WhatsApp mesajlarını olduğu gibi kabul edip sorgulamadan inanıyor ve bu, büyük sonuçlara yol açabilir, özellikle de şiddete. Bu, insanların neye inanabileceğini ve neye inanamayacağını anlamamasından kaynaklanıyor.

İnsanları eğitmez, tükettikleri içeriğin güvenilirliğine nasıl karar vereceklerini anlatmaz ve haberle sahte haberi ayırt etmelerini sağlayacak medya okuryazarlığını geliştirmezsek, sorunu sürdürür ve tarihin bize kaçınmayı öğrettiği hataları artırırız.

SmartNews’teki çalışmamdaki en önemli bileşenlerden biri, dünyanın kutuplaşmasını azaltmaya yardımcı olmaktır. Kurucu misyonunu yerine getirmek istiyorum, böylece insanlar ne tükettiklerini anlar ve dünyanın birçok farklı perspektifi hakkında bilinçli kararlar alabilir.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek veya farklı bir haber uygulamasını denemek isteyen okuyucular SmartNews‘i ziyaret edebilir.