Arjun Narayan, SmartNews’te Küresel Güven ve Güvenlik Başkanı – Röportaj Serisi

Arjun Narayan, SmartNews’in Küresel Güven ve Güvenlik Başkanı’dır. Ayrıca bir AI etiği ve teknoloji politikası uzmanıdır. SmartNews, haberleri okuyucular için agregatör olarak kullanır ve bu işlemlerde AI ve insan editör ekibini kullanır.

Singapure’de Google’ın Güven ve Güvenlik Asya Pasifik merkezini kurmaya yardımcı olurken, bu deneyimden neler öğrendiniz?

Güven ve Güvenlik ekipleri oluştururken, ülke düzeyinde uzmanlık kritik öneme sahiptir, çünkü kötüye kullanım ülkeden ülkeye farklılık gösterir. Örneğin, Google (GOOGL ) ürünleri Japonya’da kötüye kullanıldığı şekilde, Güneydoğu Asya ve Hindistan’da da kötüye kullanılmıştır. Bu, kötüye kullanım vektörlerinin çok farklı olduğunu ve hangi ülkenin düzenlendiğine bağlı olarak değiştiğini gösterir. Bu, bizim erken dönemde öğrendiğimiz bir şeydi.

Bunun yanı sıra, Güven ve Güvenlik ekiplerini yurtdışında oluştururken, kültürel çeşitlilik ve anlayışın öneminin farkına vardım. Google’da, yeterli kültürel çeşitlilik ve anlayışa sahip personele sahip olmak için çalıştık. Belirli alanlarda uzmanlık ve dil ve pazar uzmanlığı arıyorduk.

Kültürelimmersiyonun da çok önemli olduğunu gördüm. Güven ve Güvenlik ekiplerini sınırlar boyunca oluştururken, mühendislik ve iş ekiplerinin kendileriniimmersiyon edebilmeleri için gerekliydi. Bu, herkesin sorunları yönetmeye çalıştığımız konulara daha yakın olmasını sağladı. Bunu yapmak için, ana personele yönelik çeyreklikimmersiyon oturumları yaptık ve bu, herkesin kültürel zekâsını artırdı.

Son olarak, kültürler arası anlama çok önemliydi. Japonya, Avustralya, Hindistan ve Güneydoğu Asya’da bir ekibi yönettim ve bunların birbirleriyle nasıl etkileşimde bulundukları çok farklıydı. Bir lider olarak, herkesin sesini duyurabilmesini sağlamak istiyorsunuz. Bu, sonunda Güven ve Güvenlik gibi hassas görevleri gerçekleştirebilecek bir yüksek performans ekibi oluşturmak için tasarlanmıştır.

Önceden, TikTok uygulaması için ByteDance’in Güven ve Güvenlik ekibindeydiniz. Bir dakikadan kısa videoları nasıl güvenli bir şekilde izliyorsunuz?

Bu soruyu biraz yeniden çerçevelemek istiyorum, çünkü video uzunluğu gerçekten önemli değil. Video uzunluğu, video güvenliğini değerlendirmemizde bir faktör değildir ve uzunluk, bir videonun kötüye kullanımını yayma yeteneğine gerçek bir ağırlık vermez.

Kötüye kullanım konusunda düşünüyorum, “sorunlar” olarak düşünüyorum. Kullanıcıların karşı karşıya kalabileceği bazı sorunlar nelerdir? Yanlış bilgi? Yanlış bilgi? Bir video bir dakika veya bir saat uzunluğunda olsun, hala yanlış bilgi paylaşılmaktadır ve kötüye kullanım düzeyi benzer kalır.

Sorun türüne bağlı olarak, politika uygulaması ve güvenlik önlemlerini düşünmeye başlarız ve nasıl kullanıcıları koruyabileceğimizi düşünürüz. Örneğin, jemandın intihar ettiği bir video varsa, bu videoyu hemen ele almalıyız, çünkü jemandın hayatı kaybedilebilir. Makine öğrenimi bu tür algılamada bize çok yardımcı olur. İlk adım her zaman yetkililerle iletişime geçmektir ve bu hayat kurtarmak için yapılır. Ardından, videonun, canlı yayının veya paylaşıldığı formatın yayılmasını en aza indirmek için çalışırız.

Aynı şekilde, nefret söylemi varsa, bunu farklı şekilde ele alıyoruz. Ya da zorbalık ve taciz durumunda, sorun türüne bağlı olarak farklı şekilde ele alıyoruz. Bir başka iyi güvenlik önlemi, jemandın yorumlarda uygun olmayan bir şey yazdığında, düşünmesi için bir uyarı verilmesini sağlayan makine öğrenimi uygulamamızdır. Onları durdurmazdık, ama insanların böyle bir şey paylaşılmadan önce iki kez düşünmesini umardık.

Bu, makine öğrenimi ve anahtar kelime kurallarının bir kombinasyonuna dayanır. Ancak canlı yayınlarda, ayrıca AI tarafından işaretlenen bu yayınları gerçek zamanlı olarak inceleyen insan moderatörlerine de sahibiz, böylece hemen rapor verebilir ve protokoller uygulayabilirler. Çünkü bunlar gerçek zamanlı olarak gerçekleşiyor, yalnızca kullanıcıların raporlamalarına güvenmek yeterli değildir.

2021’den beri SmartNews’te Güven, Güvenlik ve Müşteri Deneyimi Başkanı olarak görev yapıyorsunuz. SmartNews’in yüksek kaliteli haber içeriğini tanımlamak ve önceliklendirmek için makine öğrenimi ve doğal dil işleme nasıl kullanıyor?

Merkezi kavram, belirli “kurallar” veya makine öğrenimi teknolojisi olan bir makale veya reklamı.parse edebiliyor ve o makalenin ne hakkında olduğunu anlayabiliyor.

Herhangi bir şey bizim “kurallarımıza” aykırı olduğunda, örneğin bir şey gerçek dışı veya aldatıcı ise, makine öğrenimi bu içeriği insan editör ekibimizdeki bir inceleme için işaretler. O aşamada, editörlerimiz bizim editoryal değerlerimizi anlar ve makalenin kalitesini veya uygunluğunu hızlı bir şekilde değerlendirebilir. Ardından, bunu ele almak için eylemler alırız.

SmartNews, platformun güvenli, kapsayıcı ve nesnel olmasını sağlamak için AI’ı nasıl kullanıyor?

SmartNews, hyper-kişiselleştirme iyi bir ego için iyidir, ancak aynı zamanda hepimizi önyargılarımızı pekiştirerek ve insanları bir filtre balonuna yerleştirerek kutuplaştırıyor.

SmartNews’in AI’ı kullanma şekli biraz farklı, çünkü yalnızca etkileşimi optimize etmiyoruz. Algoritmamız sizi anlamak istiyor, ancak yalnızca sizin zevkinize göre kişiselleştirilmiyor. Çünkü geniş perspektifleri genişletmeye inanıyoruz. AI motorumuz, size yalnızca komşu kavramlara değil, makalelere ve konulara da tanıtacak.

İnsanların bilmeleri gereken şeyler vardır, kamu çıkarına şeyler ve insanların bakış açılarını genişletmek için bilmeleri gereken şeyler. Çabalamaya çalıştığımız denge, bu bağlamları sağlarken büyük bir abi gibi davranmamak. Bazen insanlar algoritmamızın size getirdiği şeyleri sevmeyebilir. O zaman, o makaleyi okumayı seçmeyebilirsiniz. Ancak, algoritmamızın meraklılığı, keşif yeteneği veya ne derseniz, gurur duyuyoruz.

Güvenlik açısından, SmartNews’te “Yayıncı Puanı” adı verilen bir şeyimiz var, bu, bir yayıncının güvenli olup olmadığını sürekli olarak değerlendiren bir algoritmadır. Sonunda, bir yayıncının otoriter bir sesi olup olmadığını belirlemek istiyoruz. Örneğin, hepimiz ESPN’in spor konusunda otorite olduğunu kabul edebiliriz. Ancak, ESPN içeriğini kopyalayan rastgele bir blog varsa, ESPN’in o blogdan daha yüksek sırada yer almasını sağlamak istiyoruz. Yayıncı puanı, orijinallik, makalelerin ne zaman yayınlandığı, kullanıcı geri bildirimlerinin nasıl göründüğü gibi faktörleri de dikkate alır. Sonunda, birçok faktörü değerlendirdiğimiz bir spektrum.

Her şeyden önce, “Kullanıcı ne okumak istiyor?” sorusudur. Bir kullanıcı tıklamaya yönelik makaleleri görüntülemek isterse, onları durdurmayız, ancak yasal veya rehberimize aykırı değilse. Kullanıcıya müdahale etmiyoruz, ancak bir şey güvensiz veya uygunsuz ise, önce görevimizi yerine getirmemiz gerekiyor.

Gazetecilerin içerik üretimi sırasında yardımcı olmak için üretken AI’ı kullanma konusundaki görüşünüz nedir?

Bu soru, etik bir soru ve şu anda SmartNews’te tartıştığımız bir şey.

İnanıyorum ki, trend resmi olarak tren istasyonundan ayrıldı. Bugün, gazeteciler yazmaya yardımcı olmak için AI’ı kullanıyorlar. Bu, bir ölçek meselesidir, ticari olarak uygulanabilir bir oranda makaleler üretmek için dünyadaki zamanımız yok, özellikle de haber kuruluşları personeli kesmeye devam ettikçe. Soru, bu yaratıcılığın nerede olduğudur. Makaleyi gazeteci mi cilalıyor, yoksa gazeteci tamamen bağımlı mı?

Şu anda, üretken AI, olaylar hakkında haber makaleleri yazamaz, çünkü bunun için eğitim verisi yoktur. Ancak, bir gazeteciye bir şablon verebilir. Örneğin, okul silahlı saldırıları çok yaygın, üretken AI, bir gazeteciye okul silahlı saldırısı hakkında bir şablon verebilir ve gazeteci, etkilenen okulu ekleyerek tam bir şablon alabilir.

SmartNews’te çalışırken, dikkate almamız gereken iki ilke olduğunu düşünüyorum. İlk olarak, yayıncıların bize içeriklerinin AI tarafından üretildiğini söylemeleri gerekir ve bunu etiketlememiz gerekir. Bu şekilde, insanlar makaleyi okurken kimi yazdığını bilmeyeceklerdir. Bu, en yüksek düzeyde şeffaflıktır.

İkincisi, o makalenin gerçek olmasını istiyoruz. Üretken AI’nın uydurmayı sevdiğini biliyoruz ve herhangi bir AI tarafından yazılan makale, bir gazeteci veya editoryal personel tarafından gözden geçirilmelidir.

Önceden, dijital toksisiteyle mücadele için teknoloji platformlarının ortak standartlar oluşturması gerektiğini savundunuz. Bu vấnenin ne kadar önemli olduğunu düşünüyorsunuz?

Bu vấnenin kritik önemde olduğuna inanıyorum, yalnızca şirketlerin etik olarak faaliyet göstermesi için değil, aynı zamanda insan onurunu ve medeniyeti korumak için.

İnsanların intihar etmesi için teşvik edilmemesi gibi, platformlarda asla kötüye kullanım teşvik edilmemelidir. Ancak, bazı durumlarda, bu tür kötüye kullanıma karşı şirketlerin birlikte çalışması gerektiğini düşünüyorum. Bu, şirketlerin rekabet etmemesi gereken bir alandır – temizlik veya güvenlik rekabeti değil, kullanıcıların güvende ve anlaşıldığını hissetmelerini sağlamak için.

Rekabet, özellikler konusunda iyidir, çünkü şirketlerin güçlenmesini ve farklı çözümler sunmasını sağlar. Ancak, kullanıcıları korumak, sivillik sağlamak veya kutuplaşmayı azaltmak gibi konularda, şirketlerin birlikte çalışması gerekir. Bunlar, insanları korumanın ve insanlığımızı korumanın gerekli olduğu konulardır.

Dijital şirketlerin birlikte çalışabileceği yollar nelerdir?

Şirketler, paylaşılan değerler ve işbirliği olasılığı olduğunda birlikte çalışmalıdır. Özellikle kötüye kullanım, platformlardaki sivillik veya kutuplaşmayı azaltma gibi konularda, şirketler arasında her zaman kesişme noktaları vardır.

Tabii ki, rekabetin ticari bir açısı vardır ve rekabet genellikle iyidir. Şirketler ve endüstriler arasında farklılıkları sağlar ve tekelin garanti edemeyeceği çözümler sunar. Ancak, kullanıcıları korumak, sivillik veya kötüye kullanım vektörlerini azaltmak gibi konularda, bu, insanlığımızı korumanın gerekli olduğu konulardır.

İnsan değerlerini savunmak için tüm platformların bir sorumluluğu vardır. İnsanların birlikte çalışması gereken anlar, kötüye kullanım, sivillik veya insan değerlerini koruma konularında birlikte çalıştıkları anlardır.

AI’ın sorumlu kullanımı hakkındaki mevcut görüşünüz nedir?

AI’ın responsable kullanımının çok önemli olduğuna inanıyorum. AI teknolojisini tam olarak anlamadığımız veya yalnızca kısmen comprendebildiğimiz bir noktadayız.

AI’ı sorumlu bir şekilde kullanmak için, güçlü güvenlik önlemlerinin geliştirilmesi çok önemlidir, yoksa AI teknolojisinin Frankenstein canavarına dönüşmesine neden olabiliriz. Her şeyin yanlış gidebileceği konusunda düşünmek için zaman ayırmamız gerekiyor. AI algoritmalarına_bias girmesi veya büyük dil modellerinin kötü niyetli kişiler tarafından kötü amaçlar için kullanılması gibi.

Teknoloji itself iyi veya kötü değildir, ancak kötü niyetli kişiler tarafından kötü amaçlar için kullanılabilir. Bu nedenle, AI etiği uzmanlarına advers test yapma yatırımı, tasarım hatalarını anlamak ve kötüye kullanımın nasıl önleneceğini anlamak için çok önemlidir. Bu, AI’ı sorumlu bir şekilde kullanmanın en önemli yönüdür.

AI henüz kendi başına düşünemez, bu nedenle AI’ı programlarken akıllı insanların bu varsayımları oluşturması gerekir. Önemli olan, bu olumlu aktörlerin bunları şimdi, çok geç olmadan yapmasıdır.

Önceki sistemlerden farklı olarak, AI farklıdır, çünkü kendi kendine yineleyebilir ve öğrenebilir, bu nedenle AI’ı programlarken güçlü güvenlik önlemlerini kurmazsak, ne olabileceğini kontrol edemeyiz.

Şu anda, büyük şirketlerin AI etik kurullarını ve sorumlu AI ekiplerini büyük kıyımların bir parçası olarak çıkardıklarını görüyoruz. AI teknolojisini ve potansiyel olumsuz yanlarını ciddiye aldıklarını görmek için zaman bekleyeceğiz.

SmartNews’teki çalışmalarınız hakkında paylaşmak istediğiniz başka bir şey var mı?

SmartNews’e katıldım, çünkü misyonuna inanıyorum, bu misyon bir tür saflığa sahiptir. Dünya’nın kutuplaştığına inanıyorum ve bugün yeterli medya okuryazarlığı yok.

Maalesef, birçok insan WhatsApp mesajlarını face value olarak alıyor ve bu, büyük sonuçlara yol açabilir, özellikle de şiddete. Bu, insanların neye inanabileceğini ve neye inanamayacağını anlamamasından kaynaklanıyor.

Eğer insanları eğitmeyeceğiz veya onlara tüketimlerinin güvenilirliğini belirleme konusunda bilgi vermeyeceğiz, o zaman sorunları devam ettireceğiz ve tarihin öğrettiği şeyleri yapmamaya çalıştığımız sorunları artıracaktır.

SmartNews’teki çalışmamdaki en önemli bileşenlerden biri, dünyanın kutuplaşmasını azaltmaya yardımcı olmaktır. Kurucu misyonunu yerine getirmek istiyorum, böylece insanlar ne tükettiklerini anlar ve dünyanın birçok farklı perspektifi hakkında bilinçli kararlar alabilir.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek veya farklı bir haber uygulamasını denemek isteyen okuyucular SmartNews‘i ziyaret edebilir.