Arjun Narayan, SmartNews için Küresel Güven ve Güvenlik Başkanı – Röportaj Serisi

Arjun Narayan, SmartNews adlı haber toplama uygulamasının Küresel Güven ve Güvenlik Başkanı’dır ve ayrıca AI etiği ve teknoloji politikası uzmanıdır. SmartNews, haberleri okuyucular için toplarken AI ve insan editör ekibini kullanır.

Singapure’de Google’ın Güven ve Güvenlik Asya Pasifik merkezini kurmaya yardımcı olmakta enstrumental olduğunuzu biliyorum, bu deneyimden neler öğrendiniz?

Güven ve Güvenlik ekipleri oluştururken ülke düzeyinde uzmanlık kritiktir çünkü kötüye kullanım ülkeden ülkeye farklılık gösterir. Örneğin, Google ürünlerinin Japonya’da nasıl kötüye kullanıldığı, Güneydoğu Asya ve Hindistan’da nasıl kötüye kullanıldığı farklıydı. Bu, kötüye kullanım vektörlerinin ülkeden ülkeye farklı olduğunu ve homojenliğin olmadığını gösterir. Bunu erken öğrendik.

Ayrıca, Güven ve Güvenlik ekiplerini yurtdışında oluştururken kültürel çeşitliliğin son derece önemli olduğunu öğrendim. Google’da, yeterli kültürel çeşitliliğin ve anlayışın olduğunu sağlamak için çalıştık. Belirli alan uzmanlığına sahip insanları arıyorduk, ancak aynı zamanda dil ve pazar uzmanlığına da ihtiyacımız vardı.

Ayrıca, kültürel daldırma son derece önemli olduğunu keşfettim. Güven ve Güvenlik ekiplerini sınırlar boyunca oluştururken, mühendislik ve iş ekiplerimizin bunları yönetmeye çalıştığımız sorunlara yakın olmasını sağlamak için çalıştık. Bunu yapmak için, ana personel ile çeyreklik daldırma seansları yaptık ve bu, herkesin kültürel zekâsını artırmaya yardımcı oldu.

Son olarak, kültürler arası anlama son derece önemliydi. Japonya, Avustralya, Hindistan ve Güneydoğu Asya’da bir ekip yönettim ve birbirleriyle nasıl iletişim kurdukları çok farklıydı. Bir lider olarak, herkesin sesini bulabilmesini sağlamak istiyorsunuz. Nihayetinde, bu, Güven ve Güvenlik gibi duyarlı görevleri gerçekleştirebilecek yüksek performanslı bir ekip oluşturmak için tasarlanmıştır.

Önceden, TikTok uygulaması için ByteDance’in Güven ve Güvenlik ekibindeydiniz, genellikle bir dakikadan kısa olan videolar nasıl güvenli bir şekilde izlenmektedir?

Bu soruyu biraz yeniden çerçevelemek istiyorum, çünkü video uzunluğu gerçekten önemli değildir. Video uzunluğu, bir videoyu güvenlik açısından değerlendirmemizde bir faktör değildir ve video uzunluğu, bir videonun kötüye kullanımını yayma yeteneği üzerinde gerçek bir etkiye sahip değildir.

Kötüye kullanım düşününce, “sorunlar” olarak düşünüyorum. Kullanıcıların maruz kalabileceği bazı sorunlar nelerdir? Yanlış bilgi? Yanlış bilgi? Video bir dakika veya bir saat uzunluğunda olsun, hala yanlış bilgi paylaşılmaktadır ve kötüye kullanım düzeyi benzer kalır.

Sorun türüne bağlı olarak, politika uygulaması ve güvenlik önlemleri hakkında düşünmeye başlarsınız ve nasıl savunmasız kullanıcıları koruyabileceğinizi düşünürsünüz. Örneğin, jemandin intihar ettiği bir video varsa, bu videonun varlığından haberdar olduğumuzda, hemen hareket etmemiz gerekir, çünkü jemandin hayatı kaybedilebilir. Makine öğrenimi bu tür algılamaları yapmak için çok fazla kullanıyoruz. İlk adım, her zaman yetkililerle iletişim kurmak ve o hayatı kurtarmaya çalışmaktır, hiçbir şey bu kadar önemli değildir. Bundan sonra, videonun, canlı yayının veya paylaşıldığı formatın askıya alınmasını hedefliyoruz. Güvenli olmayan veya uygunsuz içeriklere maruz kalma riskini en aza indirmemiz gerekiyor.

Ayrıca, nefret söylemi varsa, bunu çözmek için farklı yollar vardır. Ya da zorbalık ve taciz durumunda, sorun türüne bağlı olarak, uygulamamız ve güvenlik önlemlerimizi ayarlarız. Bir başka iyi güvenlik önlemi, insanların yorumlarda uygun olmayan şeyler yazmadan önce iki kez düşünmelerini sağlayan bir makine öğrenimi uygulamasıydı. Onları durdurmayacaktık, ancak insanların kötü şeyler paylaşıp paylaşmadıklarını düşünmelerini umuyorduk.

Bu, makine öğrenimi ve anahtar kelime kurallarının bir kombinasyonuna gelir. Ancak, canlı yayınlarda, AI tarafından işaretlenen akışları inceleyen insan moderatörleri de vardı, böylece hemen rapor verebilir ve protokoller uygulayabilirlerdi. Gerçek zamanlı olarak gerçekleştiği için, kullanıcıların bildirmesini beklemeye yetmez, bu nedenle gerçek zamanlı olarak izleyen insanlara ihtiyacımız vardır.

2021’den beri SmartNews’ta Güven, Güvenlik ve Müşteri Deneyimi Başkanı olarak görev yapıyorsunuz, SmartNews’un yüksek kaliteli haber içeriğini tanımlamak ve önceliklendirmek için nasıl makine öğrenimi ve doğal dil işleme kullanıyor?

Merkezi kavram, belirli “kurallar” veya makine öğrenimi teknolojisinin bir makaleyi veya reklamı analiz edebilmesi ve bunun ne hakkında olduğunu anlayabilmesidir.

Bir şey, “kurallarımızı” ihlal ettiğinde, örneğin, bir şey gerçeğe aykırı veya yanıltıcı ise, bu içeriği insan inceleme ekibimizdeki bir inceleme ekibine işaretleyen makine öğrenimi kullanıyoruz. Bu aşamada, editoryal değerlerimizi anlar ve hızlı bir şekilde makaleyi inceleyerek kalitesini veya uygunluğunu değerlendirebilir. Bundan sonra, bunu ele almak için eylemler gerçekleştirilir.

SmartNews, platformun güvenli, kapsayıcı ve nesnel olmasını sağlamak için AI’ı nasıl kullanıyor?

SmartNews, hiper kişiselleştirmenin ego için iyi olduğu ancak aynı zamanda bizi tümünü polarize ettiği ve偏见leri pekiştirdiği için kuruldu.

SmartNews’un AI’ı kullanma şekli biraz farklıdır, çünkü sadece etkileşimi optimize etmiyoruz. Algoritmamız sizi anlamak istiyor, ancak size göre hiper kişiselleştirilmiş değil. Çünkü perspektifleri genişletmeye inanıyoruz. AI motorumuz, size yalnızca komşu kavramlara değil, makalelere de tanıtacak.

İdea, insanların kamu çıkarına bilmeleri gereken şeyler olduğu ve insanların bakış açılarını genişletmeleri gereken şeyler olduğudur. Çabalamaya çalıştığımız denge, bu bağlamlı analizleri sunarken büyük birader gibi davranmamaktır. Bazen insanlar, algoritmanın onlara sunduğu şeyleri sevmeyeceklerdir. Bu olduğunda, insanlar o makaleyi okumayı seçmeyebilir. Ancak, AI motorunun serendipite, meraklılık, ne olursa olsun tanıttığını gurur duyuyoruz.

Güvenlik açısından, SmartNews’un “Yayıncı Puanı” adı verilen bir şeyi vardır, bu, bir yayıncının güvenli olup olmadığını sürekli olarak değerlendiren bir algoritmadır. Nihayetinde, bir yayıncının otoriter bir sesi olup olmadığını belirlemek istiyoruz. Örneğin, hepimiz ESPN’in spor konusunda otorite olduğunu kabul edebiliriz. Ancak, ESPN içeriğini kopyalayan rastgele bir blog varsa, ESPN’in o rastgele blogdan daha yüksek sırada yer aldığını đảmamlamak istiyoruz. Yayıncı puanı, orijinallik, makalelerin ne zaman yayınlandığı, kullanıcı incelemelerinin nasıl göründüğü gibi faktörleri de dikkate alır. Son olarak, bir spektrumun birçok faktörünü dikkate alır.

Her şeyden önce, “Kullanıcı ne okumak istiyor?” sorusu gelir. Kullanıcı, tıklama tuzağı makalelerini görüntülemek isterse, bunları görüntülemesini engellemeyiz, ancak bunları görüntülemeyecektir. Kullanıcı, bunları görüntülemek isterse, bunları görüntülemeyecektir, ancak bunları görüntülemeyecektir. Kullanıcı, bunları görüntülemeyecektir, ancak bunları görüntülemeyecektir.

Haber içeriklerini üretmek için gazetecilerin üretken AI’ı kullanması hakkında görüşünüz nedir?

Bu soru etiktir ve şu anda SmartNews’te tartıştığımız bir şey. SmartNews, AI tarafından oluşturulan içerikleri sunan yayıncıları nasıl değerlendirecektir? Gazetecilerin yazdığıyla karşılaştırıldığında?

İnanıyorum ki, bu trendin treni resmi olarak istasyondan ayrıldı. Bugün, gazeteciler yazmaya yardımcı olmak için AI’ı kullanıyorlar. Bu, ölçeklendirme açısından bir işlevdir, ticari olarak uygulanabilir bir oranda makaleler üretmek için dünyadaki zamanımız yok, özellikle de haber kuruluşları personeli kesmeye devam ettikçe. Soru, bu yaratıcılıkta ne kadar yaratıcılık olduğu trởür.

Şu anda, üretken AI, breaking news olayları hakkında makaleler yazamaz, çünkü bunun için eğitim verisi yoktur. Ancak, bir gazeteciye bir şablon verebilir. Örneğin, okul silahlı saldırıları çok yaygın, üretken AI, bir gazeteciye okul silahlı saldırıları hakkında bir şablon verebilir ve bir gazeteci, etkilenen okulu ekleyerek tam bir şablon alabilir.

SmartNews’te çalışırken, dikkate alınması gereken iki ilke olduğunu düşünüyorum. İlk olarak, yayıncıların AI tarafından oluşturulan içeriği bize söylemelerini ve bunu böyle etiketlemelerini istiyoruz. Böylece insanlar makaleyi okurken, kimin yazdığını yanıltılmazlar. Bu, en yüksek düzeyde şeffaflıktır.

İkincisi, o makalenin gerçek bilgiler içerdiğinden emin olmak istiyoruz. Üretken AI’nın uydurduğunu biliyoruz ve AI tarafından yazılan herhangi bir makale, bir gazeteci veya editör ekibi tarafından gözden geçirilmelidir.

Önce, dijital toksisite ile mücadele için teknoloji platformlarının ortak standartlar oluşturması gerektiğini savunmuştunuz, bu vấnenin ne kadar önemli olduğunu düşünüyorsunuz?

Bu vấnenin çok önemli olduğunu düşünüyorum, sadece şirketlerin etik olarak çalışması için değil, aynı zamanda insan onurunu ve medeniyeti korumak için. İnanıyorum ki, platformlar, bu insanlığı korumak için belirli standartlar oluşturmalı ve birlikte çalışmalıdır.

Örneğin, hiç kimse intihar etmeye teşvik edilmemelidir, ancak bazen bu tür kötüye kullanımları platformlarda buluruz ve şirketlerin bunları korumak için birlikte çalışması gerektiğini düşünüyorum.

Nihayetinde, insanlık sorunlarında rekabet olmamalıdır. Güvenli ve güvenli bir toplulukta rekabet bile olmamalıdır – herkes, kullanıcılarının güvende ve anlaşıldığını hissetmesini sağlamalıdır. Özelliklerde rekabet edelim, sömürüde değil.

Dijital şirketler nasıl birlikte çalışabilir?

Şirketler, paylaşılan değerler ve işbirliği olasılığı olduğunda birlikte çalışmalıdır. Şirketler ve endüstriler arasında, özellikle kötüye kullanımla mücadele, platformlardaki sivillik ve polarizasyonu azaltma konusunda her zaman kesişme noktaları vardır. Bu, şirketlerin birlikte çalışması gereken anlardır.

Tabii ki, rekabetin ticari bir açısı vardır ve genellikle rekabet iyidir. Şirketler ve çözümler arasında güç ve farklılaşma sağlar ve tekelin garanti edemeyeceği bir etkinlik seviyesi sağlar.

Ancak, kullanıcıları korumak, sivillik ve kötüye kullanım vektörlerini azaltmak söz konusu olduğunda, bu, insan değerlerimizi ve özgür dünyamızı korumak için yaptığımız şeylerdir. İnanıyorum ki, tüm platformlar, insan değerlerini ve özgür dünyamızı savunmak için işbirliği yapmakla yükümlüdür.

Şu anda sorumlu AI hakkında neler düşünüyorsunuz?

Hayatımızda çok yaygın bir şeyin başlangıcındayız. Bu next phase of generative AI, tam olarak anlamadığımız veya sadece kısmen anlayabildiğimiz bir sorundur.

Sorumlu AI hakkında, çok önemli olduğunu düşünüyorum, güçlü güvenlik önlemleri geliştirmemiz gerekiyor, yoksa Generative AI teknolojilerinin Frankenstein canavarıyla karşılaşabiliriz. Her şeyin yanlış gidebileceği hakkında düşünmek için zaman ayırmamız gerekiyor. Bu, algoritmaların içine nüfuz eden önyargılar veya büyük dil modellerinin kötü amaçlar için kötü niyetli kişiler tarafından kullanılması olabilir.

Teknoloji itself iyi veya kötü değildir, ancak kötü amaçlar için kötü niyetli kişiler tarafından kötü amaçlar için kullanılabilir. Bu nedenle, AI etiği uzmanlarını işe almak ve tasarım hatalarını anlamak için karşıt testler yapmak çok önemlidir. Bu, kötüye kullanımın nasıl önleneceğini anlamak için yardımcı olacaktır ve sorumlu AI’ın en önemli方面i olduğunu düşünüyorum.

AI henüz kendisi düşünemez, bu nedenle AI’ı programlarken akıllı insanların bu varsayımları oluşturması gerekir. Şimdi dikkate alınması gereken önemli bir yön, zamanlama – bunları melakukan things NOW önce çok geç olmadan.

Önceki sistemlerden farklı olarak tasarladığımız ve inşa ettiğimiz AI, farklıdır, çünkü kendisi için yinelemeli ve öğrenebilir. Eğer AI’ı öğrenmesi ve ne öğrendiği hakkında güçlü güvenlik önlemleri oluşturmazsak, ne olacağını kontrol edemeyiz.

Şu anda, bazı büyük şirketlerin AI etik kurullarını ve sorumlu AI ekiplerini büyük裁员 olarak çıkardıklarını görüyoruz. Teknoloji ve AI’ın potansiyel aşağılarını karar alma süreçlerinde ne kadar ciddiye aldıkları henüz görülmedi.

SmartNews ile ilgili olarak paylaşmak istediğiniz başka bir şey var mı?

SmartNews’e katıldım, çünkü misyonuna inanıyorum, misyonun bir tür saflığı vardır. Dünyanın daha da polarize olduğunu ve bugün yeterli medya okuryazarlığı olmadığını düşünüyorum.

Maalesef, çok fazla insan WhatsApp mesajlarını face value olarak alıyor ve onlara inanıyor, bu da büyük sonuçlara yol açabilir, özellikle de şiddete.

Eğer insanları eğitmeyip, onlara tüketmekte oldukları şeylerin güvenilirliğini nasıl belirleyeceklerini öğretmezsek, sorunları savunmaya devam edeceğiz ve tarihin bize öğrettiği şeyleri yapmayacağız.

SmartNews’teki çalışmamdaki en önemli bileşen, dünyanın polarizasyonunu azaltmaya yardımcı olmaktır. Kurucunun misyonunu gerçekleştirmek, insanların tüketmekte oldukları şeyleri anlama ve dünyanın çeşitli perspektifleri hakkında bilgili kararlar almasına yardımcı olmak istiyorum.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek veya farklı bir haber uygulamasını denemek isteyen okuyucular SmartNews‘i ziyaret edebilir.