Sean Gourley, CEO & Pendiri Primer – Seri Wawancara

Sean Gourley adalah CEO & Pendiri Primer, sebuah perusahaan yang menyediakan aplikasi Pemrosesan Bahasa Alami (NLP) industri untuk lembaga pemerintah, lembaga keuangan, perusahaan Fortune 50, dan banyak organisasi lainnya.

Salah satu kasus penggunaan utama Primer adalah untuk membantu orang mendeteksi, memahami, dan menanggapi kampanye disinformasi. Dalam upaya untuk meningkatkan layanan ini, Primer baru-baru ini mengakuisisi Yonder untuk meningkatkan kemampuan mereka dalam melawan serangan disinformasi.

Kami duduk bersama Sean untuk membahas disinformasi di konferensi Ai4 yang baru-baru ini diadakan di Las Vegas. Sean adalah sumber informasi yang sangat berharga tentang kampanye disinformasi dan propaganda pemerintah. Berikut adalah wawancara kami.

Apa yang awalnya menarik Anda untuk mempelajari dan memahami ekosistem disinformasi?

Jadi, saya berbicara sedikit tentang perdagangan frekuensi tinggi, dan itu menarik. Saya sedang melihat-lihat itu. Ada ruang ini yang penuh dengan algoritma, mencoba memahami jika sesuatu telah terjadi di dunia, dan kemudian berdagang berdasarkan itu. Dan itu primitif. Ini kembali pada tahun 2012, dan kami sedang memilih kebisingan.

Mereka salah ketika mereka membacanya, atau salah menafsirkan sinyal. Dan kemudian ada sebuah tweet yang keluar, yang diduga AP telah diretas. Dan akun Twitter mereka mengatakan, “Breaking: Ledakan Gedung Putih, Barack Obama terluka.” Dan kemudian pasar mengambil informasi itu dan jatuh, kehilangan sekitar $130 miliar dari tweet itu. Sekarang saya tidak tahu apakah itu dimaksudkan untuk menggerakkan pasar, jika itu dimaksudkan hanya untuk menciptakan kekacauan, atau apakah itu dimaksudkan untuk melakukan sesuatu, tetapi itu hanya koneksi kembali pada saat itu, saya seperti, “Wah.” Ini seperti kupu-kupu yang mengibaskan sayapnya dan menciptakan dampak seperti itu, karena itu menggunakan serangkaian aktor algoritmik yang tidak terlalu pintar.

Saya melihat itu, dan itu membuat saya menggali lebih dalam dan kemudian saya mulai melihat… Dan saya melihat ada sejumlah besar bot Meksiko, akun Meksiko yang mengklaim bahwa jurnalis tidak dibunuh oleh kartel narkoba. Dan ini adalah, seperti, 2013. Dan saya seperti, “Oh Tuhan, Anda memiliki aktor non-negara, kartel narkoba, yang terlibat dalam hal ini untuk menciptakan pertempuran narasi. Dan tampaknya mereka menang.” Dan saya seperti, “Ini bukanlah aktor negara.” Dan pada titik itu saya seperti, “Baik, apa yang terjadi jika aktor negara mendapatkan tangan mereka pada ini? Apa yang akan terjadi dan apa yang akan mereka lakukan?” Dan kemudian saya menerbitkan sebuah artikel di Wired pada 2015. Ini sebenarnya ditulis pada akhir 2014, tetapi itu tentang prediksi untuk 2015. Dan saya mengatakan, “Ini akan menjadi tahun ketika bot mengambil alih dan mengontrol pemilihan.”

Dan itu menjadi sangat presien sebagai artikel itu muncul, mungkin bahkan lebih dari yang saya pikirkan sebelumnya. Tetapi itu hanya melihat busur teknologi. Di sisi lain, kami juga melihat betapa primitifnya teknologi ini. Ini cukup primitif. Jadi semua itu mulai datang bersama, dan kemudian kami mendapatkan ruang ini yang kami akhirnya masuki, yang adalah, wah, Anda dapat mengontrol narasi hanya melalui paparan berulang informasi dari umpan yang Anda konsumsi sekarang.

Apakah Anda percaya bahwa telah ada pemilihan yang dipengaruhi atau bahwa pemilihan di masa depan mungkin dipengaruhi oleh jenis disinformasi ini?

Mengarahkan kembali di sini. Pertama adalah kita telah mengambil ukuran yang sangat sempit, yang adalah disinformasi tidak nyata. Dan saya pikir itu terlalu sempit. Kita perlu memperluasnya ke siapa yang mengontrol narasi. Sekarang, narasi bisa sangat nyata, tetapi mungkin tidak terlalu penting.

Kita dapat mengambil sebuah cerita jika Anda khawatir tentang kejahatan, dan kita dapat menyebarkan semua kejahatan ke semua saluran, dan Anda akan kembali melalui ini dan berpikir bahwa kota Anda telah mengalami gelombang kejahatan yang paling mengerikan yang pernah terjadi. Dan semua yang Anda lakukan adalah mengambil setiap kejahatan yang pernah dilaporkan, yang sebelumnya tidak ada di radar Anda, dan memasukkannya ke dalam sistem Anda.

Sekarang Anda akan mulai percaya bahwa kejahatan jauh lebih tinggi dari yang sebenarnya. Ini tidak berubah, tetapi Anda terpapar lebih banyak kepadanya. Jadi ini bukan tentang apakah kejahatan itu terjadi atau tidak. Ini tentang apakah itu berjuang untuk perhatian Anda. Jadi ini adalah satu bagian. Kami terjebak dalam hal ini, apakah itu terjadi atau tidak? Seolah-olah itu adalah pertempuran. Tetapi pertempuran sebenarnya adalah untuk pandangan dunia orang. Jadi, itu adalah satu sisi.

Bagian kedua dari ini adalah, seberapa banyak Anda dapat mempengaruhi hal ini? Jika Anda tidak memiliki persepsi tentang apakah vaksin menyebabkan Anda kehilangan 37 poin IQ, atau jika Anda tidak memiliki keyakinan sebelumnya bahwa vaksin dan inteligensi terkait. Jika saya mengatakan kepada Anda bahwa mereka terkait, Anda sekarang tiga kali lebih mungkin untuk percaya itu, daripada jika seseorang kembali dan mengatakan kepada Anda bahwa vaksin menyebabkan IQ Anda turun. Jadi, siapa pun yang datang dengan pesan pertama memiliki kesempatan terbaik untuk Anda memegang keyakinan itu, jika Anda sebelumnya tidak memiliki pendapat tentang sesuatu.

Jadi, apakah itu bias di otak manusia yang rentan terhadap ini?

Itu adalah bias di otak manusia. Bagian kedua, bahkan jika Anda tahu informasi itu salah, jika Anda terpapar kepadanya, Anda lebih mungkin untuk percaya itu, bahkan jika Anda tahu itu salah. Jadi, ada repetisi informasi. Ada bagian pertama informasi ketika Anda sebelumnya tidak memiliki pendapat tentang itu. Dan kemudian bagian lain yang kita ketahui adalah, jika Anda memiliki informasi itu dari sumber independen, Anda lebih mempercayainya. Dan jika Anda memiliki informasi itu dari orang-orang yang ada di jaringan teman Anda, Anda lebih mempercayainya, itu menjadi metode afiliasi. Dan kita tahu bahwa sekitar 25% adalah titik balik, jika 25% orang mulai percaya sesuatu, itu menciptakan titik balik besar di mana 75% atau 80% orang akan mulai percaya itu.

Jadi, semua ini berkaitan dengan dunia pembentukan opini, dan mekanika bagaimana kelompok mencapai konsensus. Ada sub-cabang fisika, yang disebut fisika komputasi, yang telah mempelajari hal ini, dan Anda dapat memasuki literatur dan memahami model-model bagaimana opini terbentuk, disebarkan, dan diadopsi.

Anda dapat merancang sistem ini jika Anda mau, dan ini adalah apa yang orang mulai lakukan. Saya tidak pikir mereka sangat canggih. Tetapi lihat, Cina adalah kekuatan super AI. Mereka tahu bahwa memenangkan perang informasi di sekitar dinamika Taiwan menjadi sangat penting. Kami harus mengharapkan mereka untuk mengambil setiap langkah yang teknologi izinkan, untuk terlibat dan menang dalam konflik itu.

Kita tahu bagaimana manusia menjadi korban ini, tetapi bagaimana AI mendeteksi kebenaran sebenarnya?

Kita perlu meninggalkan hal ini tentang apa yang benar, dan apa yang saya maksud dengan itu, adalah bahwa ini tidak tentang membawa pemeriksa fakta ke segala sesuatu. Karena kita katakan, lihat, AI bisa menentukan bahwa, ya, kejahatan itu terjadi, tetapi itu tidak penting. Itu bukanlah hal itu. Anda sekarang percaya bahwa ada gelombang kejahatan besar di kota Anda dan sesuatu perlu dilakukan tentang itu. Benar? Dan apa kebenaran sebenarnya tentang apakah Taiwan milik Cina? Saya bisa kembali secara historis. Kita bisa debat itu, tetapi apakah AI tahu? Apakah kita tahu persis di mana itu?

Kita tahu sekarang itu adalah isu yang relatif divisif. Dan AS dan Taiwan memiliki struktur kepercayaan. Cina memiliki struktur kepercayaan lain. Tugas AI bukanlah untuk menentukan siapa yang benar tentang itu. Tugas AI adalah untuk menentukan apakah seseorang mencoba untuk secara aktif mempengaruhi Anda untuk percaya satu sisi atau lainnya.

Dan itu adalah bagian kedua, adalah orang akan menggunakan kecerdasan buatan untuk mencoba untuk membujuk Anda, untuk percaya satu sisi atau lainnya, menggunakan metode untuk mendapatkan keyakinan pertama, mendapatkan repetisi paparan informasi itu, mendapatkan suara independen yang tampaknya datang dari sana, mengontrol dan memilih 25% dari jaringan pengaruh Anda untuk berharap Anda percaya sisi lain. Ini semua adalah teknik yang dapat ditingkatkan oleh AI, dan AI juga dapat membela diri terhadapnya. Tetapi kita perlu meninggalkan hal ini tentang apakah AI dapat menentukan kebenaran, karena seringkali kebenaran itu kurang penting daripada pertempuran untuk narasi.

Dan bagaimana Primer membantu dalam hal ini?

Jadi, terutama itu adalah tentang pengawasan dan deteksi. Salah satu hal yang muncul adalah kita berada di tempat di mana pertama kali kita sering mendengar tentang kampanye disinformasi adalah enam bulan setelah mereka terjadi.

Artinya kita tidak pernah dapat menangkap ini secara nyata?

Ini bukanlah nyata. Ini adalah jika Anda memasukkan kita ke dalam hal kinetik, rudal telah bergerak ke perbatasan AS, dan enam bulan kemudian, kita menyadari bahwa mereka telah ditembakkan kepada kita. Itu adalah di mana kita berada. Kita memiliki celah besar untuk diisi tentang pengawasan dan pengintaian sekitar disinformasi, atau operasi informasi yang kita sebut. Jika ada operasi informasi yang telah dilakukan, kita perlu mendapatkan pemahaman nyata, atau hampir nyata, tentang apa itu, apa motivasinya, apa manipulasinya, dan meletakkannya di tempat di mana kita dapat mulai untuk menghentikan jaringan bot tersebut, atau kita dapat mulai membatasi penyebaran informasi itu.

Apakah pendapat Anda tentang ancaman utama yang dimainkan Cina di dunia?

Itu adalah pertanyaan besar di dunia. Apa yang kita ketahui adalah kita berada dalam perlombaan senjata AI dengan Cina, karena pemenangnya akan memiliki keunggulan militer yang sangat dominan atas siapa pun yang berada di tempat kedua dalam perlombaan itu. Jadi, Cina akan mengejar komponen kecerdasan buatan dengan sangat agresif. Bagian kedua dari itu adalah prominen chip manufaktur, dan GPU canggih yang dimiliki Taiwan. Dan saya pikir jika Cina melihat itu, dan mereka bisa memiliki laboratorium fabrikasi, fasilitas, dan pabrik Taiwan, mereka akan berada dalam posisi yang sangat dominan dalam perlombaan senjata AI.

Sekarang, jika Cina mengambil itu dengan kekerasan, ada kemungkinan bahwa mereka akan menghancurkan kemampuan itu, atau mereka dihancurkan oleh Taiwan dan tidak ada yang memiliki mereka. Yang akan menjadi baik dalam beberapa tingkat untuk Cina. Ada akan menjadi gangguan besar secara global, tetapi itu tidak akan menciptakan masalah besar untuk Cina jika itu terjadi.

Namun, jika mereka dapat mengambilnya secara utuh, maka itu akan menjadi keunggulan besar bagi mereka. Dan caranya adalah seperti yang kita lihat di Hong Kong, adalah bagaimana, Anda tahu, “Anda benar-benar bagian dari kami.” Dan Anda membujuk sisanya dari dunia bahwa mereka benar-benar bagian dari kami. Dan jika Anda mencoba untuk menentang keyakinan atau pendapat itu, maka ada akan menjadi masalah ekonomi atau lainnya. Jadi, apa yang Cina lakukan adalah operasi pengaruh global untuk membujuk dunia bahwa Taiwan adalah bagian dari Cina, untuk membujuk orang Taiwan bahwa mereka adalah bagian dari Cina. Dan jika mereka dapat melakukannya, maka tiba-tiba Cina memiliki kue dan dapat memakannya juga.

Jadi, di mana kita akan melihat itu, adalah Cina akan memproyeksikan operasi informasi narasi untuk membujuk dunia bahwa Taiwan adalah bagian dari Cina. Dan ini diakui oleh Komite Intelijen House. Ketika mereka menyusun Undang-Undang Otorisasi Intelijen, mereka menyerukan, secara khusus, metode untuk mendeteksi operasi pengaruh Cina di Karibia, Amerika Selatan, Amerika Tengah.

Itu adalah seruan khusus untuk komunitas intelijen untuk bekerja pada hal itu. Undang-Undang Otorisasi Intelijen juga menyerukan kemampuan untuk mengadopsi kecerdasan buatan, kemampuan untuk menggunakan teknologi komersial, dan kemampuan untuk menerapkan lingkungan tanpa kode ke dalam organisasi tersebut. Ada beberapa hal yang sangat konstruktif yang datang dari Hill. Beberapa bagian yang terbuka dan tersedia untuk dibaca, telah sangat menarik tentang melawan kampanye disinformasi Cina, terutama di negara-negara di Amerika Selatan, Amerika Tengah, dan Karibia.

Seberapa besar peran yang Anda pikir mesin rekomendasi seperti YouTube, Facebook (META ), Twitter, dan TikTok memiliki dalam amplifikasi narasi palsu ini?

Salah satu hal yang kita ketahui tentang Cina adalah mereka menghentikan Facebook dari masuk. Facebook masuk ke Cina. Pada 2012 Mark Zuckerberg seperti, “Saya akan belajar Mandarin. Ini semua tentang Cina.” Cina seperti, “Kami akan membiarkan Anda masuk dan sekarang selamat tinggal.”

Karena Cina seperti, “Kami tidak akan membiarkan perusahaan Amerika mengontrol umpan informasi populasi kami. Kami telah bekerja sangat keras, terima kasih, untuk mengontrol informasi yang populasi kami dapatkan. Ini adalah apa yang kami lakukan. Kami sangat baik dalam hal itu. Kami akan membiarkan Anda masuk, kami akan belajar dari Anda. Tetapi setelah itu, Anda pergi.” Jadi sekarang Facebook tidak ada di sana.

Jadi, CCP (Partai Komunis Cina) membuat keputusan yang sangat jelas tentang bagaimana mereka ingin mengontrol informasi. Sekarang, sebagai rezim otoriter, Anda memiliki kontrol itu. “Anda tidak akan berpikir ide-ide ini. Anda tidak akan mengatakan hal-hal ini. Anda tidak akan melakukan itu.” Sebagai demokrasi liberal, kita harus terlibat dalam kemampuan debat, dan pertukaran ide, dalam ruang yang relatif bebas dan terbuka. Ada beberapa batasan, tetapi mereka berada di tepi. Jadi, Cina, saya pikir, dapat mengontrol informasi. AS tidak dapat melakukan hal yang sama, ada demokrasi. Kita harus membiarkan kekacauan informasi melawan dirinya sendiri. Yang mana kita telah menjadi rentan terhadap serangan informasi jenis ini.

Saya pikir itu adalah sesuatu yang kita akan terus-menerus berjuang dengan. Dan itu adalah protokol pertama, yaitu dengan cepat mengidentifikasi jika operasi informasi sedang dijalankan di platform, memberitahu itu ke sistem, minimalnya adalah untuk membatasi difusi informasi itu, tetapi juga, jika ada jaringan non-bot, ambil mereka dengan cepat. Sisi rekomendasi dari ini… Ini belum, saya katakan, digunakan secara jahat oleh perusahaan AS. Saya tidak pikir itu adalah di mana itu. Bisakah itu digunakan secara jahat oleh perusahaan eksternal? Ya, potensial. Jika Anda berperang dengan seseorang, dan mereka memiliki kontrol atas jaringan informasi yang memberikan narasi kepada populasi Anda, apakah Anda percaya mereka akan adil dan tidak bias?

Well, kita sudah tahu apa yang terjadi dengan VK dan Rusia, yang adalah jaringan sosial. Mereka mengatakan, “Anda tidak akan memasukkan gambar orang mati yang kami bunuh di Ukraina. Itu dilarang. Dan kami akan memasang tembok informasi untuk menghentikan difusi informasi dari jaringan barat ke jaringan kami.” Jadi, apa yang terjadi ketika konflik dimulai, adalah orang-orang memasang penghalang yang mengatakan, “Anda tidak akan memiliki kontrol pengaruh atas populasi kami.”

Jadi, saya pikir hal yang paling penting, itu membutuhkan waktu tiga atau empat minggu untuk VK melakukan itu. Ada jendela di mana saya pikir itu relatif terbuka, tetapi kemudian mereka menutupnya, karena mereka menyadari bahwa jika Anda tidak mengontrol narasi di populasi Anda, dan jika Anda membiarkan mereka melihat kerusakan yang disebabkan oleh rudal dan serangan itu kepada populasi sipil di Ukraina, mungkin mereka tidak ingin berperang lagi.

Saya pikir salah satu hal yang kita semua terkejut tentang Ukraina adalah betapa kuatnya mereka kembali dan maju. Dan saya tidak pikir kita salah dalam berpikir bahwa itu bisa menjadi perang yang sangat singkat, jika orang-orang Ukraina menyerah. Tetapi apa yang terjadi adalah sebaliknya. Mereka kembali ke negara itu, mengambil senjata, dan mulai berperang. Dan itu karena narasi berubah, dan itu berubah pada beberapa hal kunci. Hantu Kiev, Pulau Ular, wanita dengan biji bunga matahari di saku tentara dan mengatakan, “Ketika Anda mati, bunga matahari akan tumbuh.” Momen-momen ini, meme-meme ini, beresonansi melalui populasi itu.

Sekarang, banyak dari mereka tidak benar-benar nyata. Atau mereka dibuat-buat. Hantu Kiev dan Pulau Ular diperkuat. Mereka selamat, tetapi mereka dianggap sebagai martir yang mengatakan, “F*** you,” dan terbunuh. Ini adalah perang informasi yang sangat baik yang menciptakan semangat perang, tidak hanya di Ukraina, tetapi juga di negara-negara NATO, dan AS untuk memiliki bendera Ukraina berkibar di sekitar dan mengatakan, “Kita perlu peduli tentang ini.” Itu tidak harus menjadi kasus. Perang yang paling mudah untuk dimenangkan adalah perang di mana oposisi tidak ingin berperang. Dan itu adalah taruhan dan tindakan yang diambil oleh Rusia, dan Putin, dan dia salah. Dan dia salah karena kita tidak pernah melihat operasi pengaruh yang telah kembali untuk memenangkan perang narasi seperti yang kita lihat dengan Ukraina sebelumnya. Dan itu sangat baik.

Saya pikir kita meremehkan kekuatan operasi informasi. Saya pikir Cina telah memperhatikan sangat dekat dan saya pikir kita akan melihat itu dimainkan. Dan kita telah melihat itu dimainkan, terutama sehubungan dengan Taiwan, dan apa yang dipikirkan dunia tentang itu. Dan AS, saya pikir, jika ingin terlibat, perlu memiliki keterampilan yang sama untuk melawan operasi informasi.

Apakah ada kata-kata terakhir yang Anda ingin bagikan tentang Primer?

Kita terlibat dalam misi ini untuk membantu mendukung AS dan sekutunya untuk membawa teknologi terbaik untuk ditempatkan di tangan pejuang, dan saya pikir kita ingin lebih banyak perusahaan teknologi untuk bergabung dalam pertempuran ini.

Terima kasih atas wawancara yang mendalam ini, pembaca yang ingin mempelajari lebih lanjut diundang untuk mengunjungi Primer.