Primer CEO'su ve Kurucusu Sean Gourley - Röportaj Serisi

Sean Gourley CEO'su ve Kurucusu astar boyadevlet kurumları, finans kurumları, Fortune 50 şirketleri ve diğer birçok kuruluş için endüstriyel düzeyde Doğal Dil İşleme (NLP) uygulamaları sağlayan bir kuruluştur.

Primer'ın başlıca kullanım alanlarından biri, insanların dezenformasyon kampanyalarını tespit etmesine, anlamasına ve bunlara yanıt vermesine yardımcı olmaktır. Bu hizmetleri geliştirmek amacıyla Primer, dezenformasyon saldırılarıyla mücadele etme yeteneklerini geliştirmek amacıyla yakın zamanda Yonder'ı satın aldı.

Son zamanlarda yanlış bilgileri tartışmak için Sean'la oturduk. Ai4 konferansı Las Vegas'ta yapıldı. Sean, yanlış bilgilendirme kampanyaları ve hükümet propagandası ile ilgili bir bilgi hazinesidir. Röportajımız aşağıdadır.

Başlangıçta sizi tüm yanlış bilgi ekosistemini öğrenmeye ve anlamaya çeken şey neydi?

Bu yüzden, yüksek frekanslı ticaret hakkında biraz konuştum ve ilginçti. Bunu inceliyordum. Dünyada bir şey olup olmadığını anlamaya çalışan ve sonra ticaret yapan bir tür algoritma alanı vardı. Ve ilkeldi. Bu 2012'deydi ve gürültü alıyorduk.

Okuduklarında bazı şeyleri yanlış anlıyorlar veya sinyalleri yanlış yorumluyorlardı. Ve sonra AP'nin hacklendiği iddia edilen bir tweet çıktı. Ve Twitter hesaplarında "Son dakika: Beyaz Saray'da patlama, Barack Obama yaralandı" yazıyordu. Ve sonra piyasa bu bilgiyi aldı ve düştü, bu tweet'ten yaklaşık 130 milyar dolar kaybetti. Şimdi, bir piyasayı yönlendirmek için mi, sadece ortalığı kasıp kavurmak için mi yoksa bir şey yapmak için mi amaçlandığını bilmiyorum, ama o zamanlar tam da o bağlantıydı, "Vay canına" gibiydim. Bu bir kelebeğin kanatlarını çırpması ve bu tür bir etki yaratması gibi, çünkü gerçekten o kadar da akıllı olmayan algoritmik aktörler setinden yararlanıyor.

Bunu gördüm ve bu beni araştırmaya itti ve sonra aramaya başladım... Ve bir sürü Meksikalı bot olduğunu gördüm, Meksikalı hesaplar gazetecilerin uyuşturucu kartelleri tarafından öldürülmediğini iddia ediyordu. Ve bu, 2013 gibi. Ve görünüşe göre kazanıyorlar.” Ben de "Bunlar devlet aktörü bile değil" gibiydim. Ve o noktada bir nevi, “Peki ya bir devlet aktörü buna el koyarsa? Neye benzerdi ve bu ne işe yarardı?” Sonra 2015'te Wired'da bir yazı yayınladım. Aslında 2014'ün sonunda yazılmıştı ama 2015'e dair tahminlerle ilgiliydi. Ben de dedim ki, “Bu, botların seçimleri ele geçirip kontrol edeceği yıl olacak. ”

Ve o parça ortaya çıktıkça inanılmaz derecede ileri görüşlü hale geldi, belki de başlangıçta düşündüğümden bile daha fazla. Ama sadece bu tür bir teknoloji yayını görüyordu. Aynı zamanda, bu teknolojilerin çoğunun ne kadar ilkel olduğunu da görüyorduk. Oldukça ilkeldi. Böylece bunların hepsi bir şekilde bir araya gelmeye başladı ve sonra bu tür bir alanı bulduk ve sonunda bu tür bir alana sahibiz, ki bu vay canına, şu anda tükettiğiniz akışlardan gelen bilgilere tekrar tekrar maruz kalarak anlatıları kontrol edebilirsiniz.

Bu tür yanlış bilgilerle sallanan bir seçim olduğuna veya gelecekteki bir seçimin etkilenebileceğine inanıyor musunuz?

Bunu bir anlamda burada çerçevelemek. Birincisi, bu konuda çok dar bir ölçü aldık, yani yanlış bilgilendirme gerçek değil. Ve bence bu çok dar. Anlatıları kimin kontrol ettiğini içerecek şekilde genişletmemiz gerekiyor. Şu anda anlatı pekala gerçek olabilir ama o kadar da önemli olmayabilir.

Suçla ilgili endişeleriniz varsa bir hikaye alabiliriz ve tüm suçları tüm kanallara toplu olarak yayınlayabiliriz ve siz bundan geri dönüp şehrinizin en korkunç suç dalgasından geçtiğini düşünürsünüz. şimdiye kadar gördüğü. Ve tüm yaptığınız şimdiye kadar bildirilen, daha önce radarınızda olmayan her bir suçu alıp sisteminize yerleştirmek.

Şimdi suçun gerçekte olduğundan çok daha yüksek olduğuna inanmaya başlayacaksınız. Değişmedi ama sen ona daha çok maruz kaldın. Yani bu suçun işlenip işlenmediği değil, sizin dikkatinizi çekmek için savaşıp savaşmadığıdır. Yani bu tek parça. Biz buna kapılırız, oldu mu olmadı mı? Sanki savaş bu. Ancak savaş gerçekten insanların dünya görüşleri içindir. Yani, bu işin bir tarafı.

Buradaki ikinci parça, peki, bu şeyi ne kadar etkileyebilirsin? Peki aşıların 37 puan IQ kaybına neden olup olmadığına dair bir algınız yoksa veya daha önce aşılarla zekanın bağlantılı olduğuna dair bir inancınız yoksa. Size aşıların IQ'nuzu artırdığını söyleseydim, buna inanma ihtimaliniz, birisi gelip size aşıların IQ'nuzun düşmesine neden olduğunu söylemesinden üç kat daha fazla olurdu. Bu nedenle, daha önce bir şey hakkında bir fikriniz yoksa, ilk mesajla kim gelirse gelsin, bu inanca sahip olmanız için en büyük şansa sahip.

Peki buna karşı savunmasız olan insan beynindeki önyargı mı?

İnsan beyninde önyargı var. İkinci kısım, bilginin yanlış olduğunu bilseniz bile, ona maruz kalırsanız, yanlış olduğunu bilseniz bile ona inanma olasılığınız daha yüksektir. Yani bu bilgi tekrarı var. Daha önce hakkında hiçbir fikriniz olmadığında ilk bilgi var. Ve sonra bildiğimiz diğer parça, eğer onu bağımsız kaynaklardan alırsanız, ona daha çok güvenirsiniz. Ve bunu arkadaş ağınızdaki insanlardan alırsanız, ona daha çok güvenirsiniz, bu bir yakınlık metodolojisi haline gelir. Ve biliyoruz ki yaklaşık %25 bir devrilme noktasıdır, eğer insanların %25'i bir şeye inanmaya başlarsa, bu çok büyük bir taşma noktası yaratır ve böylece insanların %75 veya %80'inin buna inanmaya başlama olasılığı çok yüksektir.

Dolayısıyla tüm bunlar, bir tür fikir oluşturma dünyasına ve grupların fikir birliğine varma mekanizmasına bağlı. Fiziğin bir alt dalı var, o da hesaplamalı fizik, bunu araştırıyor ve literatüre girip fikirlerin nasıl oluştuğunu, yayıldığını ve benimsendiğini gösteren bu modelleri anlayabilirsiniz.

İsterseniz bu sistemleri tasarlayabilirsiniz ve insanlar bunu yapmaya başlıyor. Çok gelişmiş olduklarını düşünmüyorum. Ama bakın, Çin yapay zeka süper gücü. Tayvan'ın dinamikleri etrafındaki bilgi savaşlarını kazanmanın inanılmaz derecede önemli hale geldiğini biliyorlar. Onlardan teknolojinin izin verdiği her adımı atmalarını, bu çatışmaya dahil olmalarını ve bu çatışmada kazanmalarını beklemeliyiz.

İnsanların buna nasıl kurban gittiğini biliyoruz, ancak bir yapay zeka temel gerçeği nasıl tespit eder?

Bu doğru olan şeyden uzaklaşmamız gerekiyor ve bununla demek istediğim, bunun her şeye teyitçi getirmekle ilgili olmadığı. Çünkü dedik ki, bakın, bir yapay zeka evet, bu suçun işlendiğini belirleyebilir, ama önemli değil. Konu bu değil. Artık şehrinizde büyük bir suç dalgası olduğuna ve bu konuda bir şeyler yapılması gerektiğine inanıyorsunuz. Sağ? Ve Tayvan'ın Çin'e ait olup olmadığına dair temel gerçek nedir? Demek istediğim, tarihsel olarak geri dönebilirsin. Bunu tartışabiliriz, ancak yapay zeka biliyor mu? Tam olarak nerede olduğunu biliyor muyuz?

Artık bunun nispeten bölücü bir konu olduğunu biliyoruz. Ve ABD ve Tayvan'ın inanç yapıları var. Çin'in başka bir inanç yapısı var. AI'nın işi, bu konuda kimin haklı olduğunu bulmak değil. Yapay zekanın işi, birinin sizi bir tarafa veya diğerine inanmanız için aktif olarak etkilemeye çalışıp çalışmadığını belirlemektir.

Ve bu ikinci kısım, insanlar yapay zekayı sizi ikna etmeye çalışmak, bir tarafa veya diğerine inanmak için kullanacaklar, ilk inancı elde etme yöntemlerini kullanarak, buna maruz kalmanın sürekli tekrarını sağlayarak, görünüşte bağımsız sesler duyarak, Diğer tarafa inanmanızı sağlamak için etki ağınızın% 25'ini kontrol etmek ve seçmek. Bunların hepsi, yapay zekanın geliştirebileceği ve yapay zekanın da savunma yapabileceği tekniklerdir. Ancak bu AI gerçeği belirleyebilir mi meselesinden uzaklaşmamız gerekiyor, çünkü çoğu zaman gerçek belki de anlatı için verilen savaştan daha az önemlidir.

Primer bu konuda nasıl yardımcı oluyor?

Yani öncelikle gözetleme ve tespit üzerine. Ortaya çıkan şeylerden biri, yanlış bilgilendirme kampanyalarını ilk kez, gerçekleştikten altı ay sonra duyduğumuz bir yerdeyiz.

Bunu asla gerçek zamanlı olarak yakalayamayacağımız anlamına mı geliyor?

Gerçek zamanlı bile değil. Bizi kinetik olayına sokarsanız, füzeler ABD sınırına ulaştı ve altı ay sonra bize ateşlendiklerini anlıyoruz. Biz oradayız. Yanlış bilgilendirme veya bilgi operasyonları dediğimiz bilgi operasyonları etrafında gözetleme ve keşif konusunda doldurmamız gereken büyük bir boşluk var. Yürütülen bir bilgi operasyonu varsa, bunun neye benzediğini, motivasyonların, manipülasyonların ne olduğunu gerçek zamanlı veya neredeyse gerçek zamanlı olarak anlamamız ve bunu başlayabileceğimiz bir yere koymamız gerekir. ya bu bot ağlarını kapatmak için harekete geçeceğiz ya da bu bilgilerin yayılmasını sınırlamaya başlayacağız.

Ve Çin'in dünyada oynadığı nihai tehdit hakkındaki görüşünüz nedir?

Bu dünya için büyük bir soru. Bildiğimiz şey, Çin ile bir AI silahlanma yarışında olduğumuzdur, çünkü bunun galibi, o yarışta ikinci olana karşı çok baskın bir askeri avantaja sahip olacak. Yani Çin, yapay zekanın bileşenlerini çok agresif bir şekilde takip edecek. Bunun ikinci parçası, çip üretiminin önemi ve Tayvan'ın sahip olduğu gelişmiş GPU'lardır. Ve bence Çin buna bakıyorsa ve Tayvan'ın fabrikasyon laboratuvarlarına, tesislerine ve dökümhanelerine sahip olabilirse, yapay zeka silahlanma yarışında çok ama çok baskın bir konumda olurlardı.

Şimdi, eğer Çin bunu zorla alırsa, büyük olasılıkla bu yetenekleri yok edecekler ya da Tayvan tarafından yok edilecekler ve kimse onlara sahip olmayacak. Çin için bir düzeyde iyi olurdu. Küresel olarak büyük bir aksama olurdu, ancak bu olursa, Çin için mutlaka bir sorun yaratmaz.

Ancak, bir bütün olarak alabilirlerse, bu onlar için büyük bir avantajdır. Ve bunu yapma şekliniz, Hong Kong'da gördüğümüz gibi, bilirsiniz, "Sen gerçekten bizim bir parçamızsın." Ve dünyanın geri kalanını gerçekten bizim bir parçamız olduklarına ikna edersiniz. Ve eğer bu inanca veya görüşe muhalefet etmeye çalışırsanız, o zaman ekonomik veya başka sorunlar olacaktır. Yani, Çin'in uğraştığı şey, dünyayı Tayvan'ın Çin'in bir parçası olduğuna ikna etmek, Tayvanlıları Çin'in bir parçası olduğuna ikna etmek için küresel bir etki operasyonu olacak. Ve eğer bunu yapabilirlerse, o zaman birdenbire Çin pastayı alır ve onu da yiyebilir.

Peki bunu göreceğimiz yer, Çin'in dünyayı Tayvan'ın Çin'in bir parçası olduğuna ikna etmek için anlatısal bilgi operasyonları tasarlayacağı mı? Ve bu, Meclis İstihbarat Komitesi tarafından kabul ediliyor. İstihbarat Yetkilendirme Yasasını bir araya getirirken, özellikle Karayipler, Güney Amerika ve Orta Amerika'daki Çin nüfuz operasyonlarını tespit etmek için yöntemler önerdiler.

Bu, istihbarat topluluğunun bu konuda çalışması için özel bir çağrı. İstihbarat Yetkilendirme Yasası ayrıca yapay zekayı benimseme yeteneğini, ticari kullanıma hazır teknolojileri kullanma becerisini ve bu kuruluşlara kodsuz ortamlar dağıtma becerisini de çağırdı. Hill'den gerçekten yapıcı şeyler geliyor. Açık ve okunabilir olan bazı parçalar, özellikle Güney Amerika, Orta Amerika ve Karayipler'deki ülkelerde Çin'in yanlış bilgilendirme kampanyalarıyla mücadele konusunda çok ilginç olmuştur.

Sizce YouTube, Facebook, Twitter ve TikTok gibi tavsiye motorları bu yanlış anlatının büyütülmesinde ne kadar rol oynamalı?

Çin hakkında bildiğimiz bir şey, Facebook'un gelmesini engelledikleri. Facebook Çin'e girdi. 2012'de Mark Zuckerberg, “Mandarin dilini öğreneceğim. Her şey Çin ile ilgili.” Çin, "Sizi içeri alacağız ve şimdi vedalaşacağız" gibiydi.

Çünkü Çin şöyle diyordu: "Ne lanet olsun ki, bir Amerikan şirketinin nüfusumuzun bilgi akışlarını kontrol etmesine izin vereceğiz. Nüfusumuzun aldığı bilgileri kontrol etmek için çok çalıştık, çok teşekkürler. Bu bizim yaptığımız şey. Bunda çok iyiyiz. Sizi içeri alacağız, sizden öğreneceğiz. Ama ondan sonra sen yoksun.” Yani şimdi Facebook orada değil.

Böylece ÇKP (Çin Komünist Partisi), bilgiyi nasıl kontrol etmek istediği konusunda çok net bir karar verdi. Şimdi, otoriter bir rejim olarak, bu kontrol sizde. “Bu fikirleri düşünmeyeceksin. Bunları söylemeyeceksin. Bunu yapmayacaksın.” Liberal bir demokrasi olarak, nispeten özgür ve açık bir alanda tartışma ve fikir alışverişi yapma becerisiyle meşgul olmalıyız. Belirli sınırlar vardır, ancak tam sınırdadırlar. Böylece Çin, bence bilgiyi kontrol edebildi. ABD aynı ölçüde olamaz, bir demokrasi var. Bilgi dağınıklığının kendi kendine savaşmasına izin vermeliyiz. İşte bu yüzden bu tür bilgi saldırılarına açık hale geldik. Sistemde büyük bir asimetri var. “Tartışma özgürlüğünü mümkün kılmak mı istiyorsunuz? Peki, bunu bozacağız. Bunu bize yapamazsınız çünkü bilgi sistemlerimizde çok iyi kilitlemeler var.”

Bence bu, bununla mücadele edeceğimiz bir şey. Ve ilk protokol türü ve bu, bilgi işlemlerinin platformda yürütülüp yürütülmediğini hızlı bir şekilde belirlemek, sistemlere uyarı vermek, en azından bu bilgilerin yayılma türünü sınırlamaktır, ama aynı zamanda, eğer yoksa -bot ağları, onları hızla çökertin. Bunun tavsiye tarafı… Bence bu, ABD şirketleri tarafından kötü niyetle kullanılmadı. Orası olduğunu sanmıyorum. Harici bir şirket tarafından kötü amaçla kullanılabilir mi? Evet, potansiyel olarak. Biriyle savaşta olsaydınız ve halkınıza anlatılar besleyen bir bilgi ağının kontrolüne sahip olsaydınız, onların adil ve tarafsız olduklarına güvenir miydiniz?

Sosyal ağ olan VK ve Rusya'ya ne olduğunu zaten biliyoruz. “Ukrayna'da öldürdüğümüz ölülerin resimlerini koymayacaksın. Bu sadece yasaklandı. Ve batılı ağlardan bizim ağlarımıza bilgi yayılmasını durdurmak için bir bilgi duvarı kuracağız.” Öyleyse, bir çatışma başladığında olan şey, insanların "Nüfusumuz üzerinde etki kontrolüne sahip olmayacaksınız" diyen engeller koymasıdır.

Bence ders kitabı olayı, VK'nın bunu yapması belki üç veya dört hafta sürdü. Nispeten açık olduğunu düşündüğüm bir pencere vardı ama sonra onu kapattılar, çünkü popülasyonunuzdaki anlatıyı kontrol etmezseniz ve füzelerin ve saldırıların verdiği zararı görmelerine izin verirseniz fark ettiler. Ukrayna'daki sivil nüfus üzerinde, belki artık savaşmak istemiyorlar.

Bence Ukrayna ile ilgili hepimizin şaşırdığı şeylerden biri, ileri geri ne kadar güçlü olduklarıydı. Ve bence Ukraynalılar silahlarını bıraksalardı, çok hızlı bir savaş olabilirdi diye düşünmekte yanılmadık. Ama olan tam tersi oldu. Ülkeye geri döndüler, Kalaşnikofları aldılar ve savaşmaya başladılar. Ve bunun nedeni, anlatının tersine dönmesi ve bazı önemli şeyleri tersine çevirmesiydi. Kiev'in Hayaleti, Yılan Adası, askerin ceplerinde ayçekirdeği olan ve "Sen öldüğünde ayçiçekleri gelecek" diyen kadın. Bu anlar, memler, o popülasyonda yankı buldu.

Şimdi birçoğu aslında doğru değildi. Ya da imal edilmişlerdir. Kiev Hayaleti ve Yılan Adası güçlendirildi. Hayatta kaldılar ama “S*ktir git” diyen şehitler olarak atıldılar ve öldürüldüler. Bu, sadece Ukrayna'da değil, NATO üyesi ülkelerde ve ABD'de de Ukrayna bayrakları dalgalandıran ve “Bunu önemsemeliyiz” diyen ABD'de bir mücadele ruhu yaratan mükemmel bir bilgi savaşıydı. Böyle olmak zorunda değildi. Kazanması en kolay savaş, muhalefetin savaşmak istemediği savaştır. Ve bu, Rusların ve Putin'in yaptığı bahis ve kumardı ve yanılmıştı. Ve yanılıyordu çünkü daha önce Ukrayna ile gördüğümüz gibi anlatı savaşını kazanmak için geri dönen bir etki operasyonu görmemiştik. Ve mükemmeldi.

Bilgi işlemlerinin gücünü hafife aldığımızı düşünüyorum. Çin'in çok yakından ilgilendiğini düşünüyorum ve bence bunun sonucunu göreceğiz. Ve bunun Tayvan karşısında oynandığını ve dünyanın geri kalanının bu konuda ne düşündüğünü görüyoruz. Ve ABD, angaje olmak istiyorsa, bilgi operasyonlarıyla mücadele etmek için aynı becerilere sahip olması gerektiğini düşünüyorum.

Primer ile ilgili paylaşmak istediğiniz son sözler var mı?

Savaşçıların ellerine en iyi teknolojiyi getirmek için ABD ve müttefiklerini desteklemeye yardımcı olmak için bu misyonla ilgileniyoruz ve bence daha fazla teknoloji şirketinin gelip bu savaşa katılmasını istiyoruz.

Bu aydınlatıcı röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucuların ziyaret etmeleri önerilir. astar boya.