Alex Fink, Eksekutif Teknologi, Pendiri & CEO Otherweb – Seri Wawancara

Alex Fink adalah seorang Eksekutif Teknologi dan Pendiri serta CEO dari Otherweb, sebuah Perusahaan Manfaat Publik yang menggunakan AI untuk membantu orang membaca berita dan komentar, mendengarkan podcast, dan mencari web tanpa paywall, clickbait, iklan, video autoplay, tautan afiliasi, atau konten “sampah” lainnya. Otherweb tersedia sebagai aplikasi (iOS dan Android), situs web, buletin, atau ekstensi browser mandiri. Sebelum Otherweb, Alex adalah Pendiri dan CEO dari Panopteo dan Co-pendiri serta Ketua dari Swarmer.

Apakah Anda dapat memberikan gambaran umum tentang Otherweb dan misinya untuk menciptakan ruang berita bebas sampah?

Otherweb adalah perusahaan manfaat publik, dibuat untuk membantu meningkatkan kualitas informasi yang dikonsumsi orang.

Produk utama kami adalah aplikasi berita yang menggunakan AI untuk menyaring sampah dan memungkinkan pengguna melakukan penyesuaian tak terbatas – mengontrol setiap ambang kualitas dan setiap mekanisme pengurutan yang digunakan aplikasi.

Dengan kata lain, sementara dunia lain menciptakan algoritma black-box untuk memaksimalkan keterlibatan pengguna, kami ingin memberikan pengguna nilai sebanyak mungkin dalam waktu sesingkat mungkin, dan kami membuat semuanya dapat disesuaikan. Kami bahkan membuat model AI dan dataset kami tersedia sumber sehingga orang dapat melihat secara tepat apa yang kami lakukan dan bagaimana kami mengevaluasi konten.

Apa yang menginspirasi Anda untuk fokus pada memerangi informasi palsu dan berita palsu menggunakan AI?

Aku lahir di Uni Soviet dan melihat apa yang terjadi pada masyarakat ketika semua orang mengonsumsi propaganda, dan tidak ada yang tahu apa yang terjadi di dunia. Aku memiliki kenangan yang jelas tentang orang tuaku bangun pukul 4 pagi, mengunci diri di lemari, dan menyalakan radio untuk mendengarkan Voice of America. Ini ilegal, tentu saja, yang mengapa mereka melakukannya di malam hari dan memastikan tetangga tidak bisa mendengar – tetapi ini memberi kami akses ke informasi nyata. Sebagai hasilnya, kami meninggalkan 3 bulan sebelum semuanya runtuh dan perang pecah di kota tempat aku tumbuh.

Aku benar-benar ingat melihat foto tank di jalan tempat aku tumbuh dan berpikir “jadi ini yang dimaksud dengan informasi nyata”.

Aku ingin lebih banyak orang memiliki akses ke informasi nyata dan berkualitas tinggi.

Seberapa signifikan ancaman deepfake, terutama dalam konteks mempengaruhi pemilihan umum? Apakah Anda dapat membagikan contoh spesifik tentang bagaimana deepfake telah digunakan untuk menyebarkan informasi palsu dan dampaknya?

Dalam jangka pendek, ini adalah ancaman yang sangat serius.

Pemilih tidak menyadari bahwa rekaman video dan audio tidak dapat dipercaya lagi. Mereka berpikir video adalah bukti bahwa sesuatu terjadi, dan 2 tahun yang lalu ini masih benar, tetapi sekarang ini tidak lagi benar.

Tahun ini, di Pakistan, pemilih Imran Khan menerima panggilan dari Imran Khan sendiri, secara pribadi, meminta mereka untuk memboikot pemilihan umum. Ini palsu, tentu saja, tetapi banyak orang percaya.

Pemilih di Italia melihat salah satu politisi wanita mereka muncul dalam video pornografi. Ini palsu, tentu saja, tetapi ketika kebohongan terungkap – kerusakan sudah terjadi.

Even di sini di Arizona, kami melihat buletin yang mengiklankan diri dengan menampilkan video endorsement yang dibintangi Kari Lake. Dia tidak pernah memberikan endorsement, tentu saja, tetapi buletin masih mendapatkan ribuan pelanggan.

Jadi come November, aku pikir hampir tidak mungkin kita tidak akan melihat setidaknya satu bomshell palsu. Dan ini sangat mungkin untuk muncul tepat sebelum pemilihan umum dan terbukti palsu setelah pemilihan umum – ketika kerusakan sudah terjadi.

Bagaimana efektifnya alat AI saat ini dalam mengidentifikasi deepfake, dan apa perbaikan yang Anda lihat di masa depan?

Dalam masa lalu, cara terbaik untuk mengidentifikasi gambar palsu adalah dengan memperbesar dan mencari kesalahan khas (aka “artefak”) yang dibuat oleh pembuat gambar. Pencahayaan yang salah, bayangan yang hilang, tepi yang tidak rata pada objek tertentu, kompresi yang berlebihan di sekitar objek, dll.

Masalah dengan editing GAN (aka “deepfake”) adalah bahwa tidak ada artefak yang umum ini hadir. Cara proses ini bekerja adalah bahwa satu model AI mengedit gambar, dan model AI lain mencari artefak dan menunjukkannya – dan siklus ini diulangi berulang kali sampai tidak ada artefak yang tersisa.

Sebagai hasilnya, tidak ada cara untuk mengidentifikasi deepfake video yang dibuat dengan baik hanya dengan melihat kontennya.

Kita harus mengubah pola pikir kita, dan mulai berasumsi bahwa konten hanya nyata jika kita dapat melacak rantai kepemilikan kembali ke sumber. Pikirkan seperti sidik jari. Melihat sidik jari pada senjata pembunuhan tidak cukup. Anda perlu tahu siapa yang menemukan senjata pembunuhan, siapa yang membawanya kembali ke ruang penyimpanan, dll – Anda perlu dapat melacak setiap kali itu berubah tangan dan memastikan itu tidak diutak-atik.

Apa langkah yang dapat diambil oleh pemerintah dan perusahaan teknologi untuk mencegah penyebaran informasi palsu selama waktu kritis seperti pemilihan umum?

Obat terbaik untuk informasi palsu adalah waktu. Jika Anda melihat sesuatu yang mengubah segalanya, jangan terburu-buru untuk menerbitkan – tunggu satu atau dua hari untuk memverifikasi bahwa itu benar-benar benar.

Sayangnya, pendekatan ini bertabrakan dengan model bisnis media, yang menghargai klik bahkan jika materi tersebut ternyata palsu.

Bagaimana Otherweb menggunakan AI untuk memastikan keaslian dan akurasi berita yang dikumpulkannya?

Kami telah menemukan bahwa ada korelasi yang kuat antara kebenaran dan bentuk. Orang yang ingin mengatakan kebenaran cenderung menggunakan bahasa tertentu yang menekankan keterbatasan dan kerendahan hati, sedangkan orang yang mengabaikan kebenaran mencoba mendapatkan perhatian sebanyak mungkin.

Fokus utama Otherweb bukanlah fact-checking. Ini adalah form-checking. Kami memilih artikel yang menghindari bahasa yang menarik perhatian, menyediakan referensi eksternal untuk setiap klaim, menyatakan hal-hal sebagaimana adanya, dan tidak menggunakan teknik persuasi.

Metode ini tidak sempurna, tentu saja, dan secara teori aktor jahat bisa menulis kebohongan dalam gaya yang sama dengan yang kami hargai. Tetapi dalam praktek, ini tidak terjadi. Orang yang ingin berbohong juga ingin banyak perhatian – ini adalah hal yang kami ajarkan kepada model kami untuk mendeteksi dan menyaring.

Dengan kesulitan yang semakin meningkat dalam membedakan gambar nyata dari gambar palsu, bagaimana platform seperti Otherweb dapat membantu memulihkan kepercayaan pengguna pada konten digital?

Cara terbaik untuk membantu orang mengonsumsi konten yang lebih baik adalah dengan mengambil sampel dari semua sisi, memilih yang terbaik dari masing-masing, dan melakukan banyak keterbatasan. Kebanyakan media terburu-buru untuk menerbitkan informasi yang tidak diverifikasi ini hari. Kemampuan kami untuk mencocokkan informasi dari ratusan sumber dan fokus pada item terbaik memungkinkan kami untuk melindungi pengguna kami dari sebagian besar bentuk informasi palsu.

Apa peran metadata, seperti standar C2PA, dalam memverifikasi keaslian gambar dan video?

Ini adalah satu-satunya solusi yang layak. C2PA mungkin atau mungkin tidak menjadi standar yang tepat, tetapi jelas bahwa satu-satunya cara untuk memvalidasi apakah video yang Anda tonton mencerminkan sesuatu yang benar-benar terjadi dalam kenyataan adalah dengan a) memastikan kamera yang digunakan untuk merekam video hanya merekam dan tidak mengedit, dan b) memastikan bahwa tidak ada yang mengedit video setelah itu meninggalkan kamera. Cara terbaik untuk melakukan ini adalah dengan fokus pada metadata.

Apa perkembangan masa depan yang Anda antisipasi dalam perjuangan melawan informasi palsu dan deepfake?

Aku pikir bahwa, dalam 2-3 tahun, orang akan beradaptasi dengan kenyataan baru dan mengubah pola pikir mereka. Sebelum abad ke-19, bentuk bukti terbaik adalah kesaksian dari saksi mata. Deepfake kemungkinan akan menyebabkan kita kembali ke standar-standar yang terbukti ini.

Dengan informasi palsu lebih luas, aku percaya bahwa perlu untuk mengambil pandangan yang lebih nuansa dan memisahkan disinformasi (yaitu informasi palsu yang sengaja dibuat untuk menyesatkan) dari sampah (yaitu informasi yang dibuat untuk dimonetisasi, terlepas dari kebenarannya).

Obat untuk sampah adalah mekanisme penyaringan yang membuat sampah kurang mungkin berkembang biak. Ini akan mengubah struktur insentif yang membuat sampah menyebar seperti api. Disinformasi masih akan ada, seperti yang selalu ada. Kami telah dapat mengatasi ini sepanjang abad ke-20, dan kami akan dapat mengatasi ini di abad ke-21.

Ini adalah banjir sampah yang kita harus khawatirkan, karena itu adalah bagian yang kita tidak siap untuk menangani saat ini. Ini adalah masalah utama yang perlu diatasi oleh kemanusiaan.

Setelah kita mengubah insentif, rasio sinyal-ke-bisingan internet akan meningkat untuk semua orang.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi situs web Otherweb, atau mengikuti mereka di X atau LinkedIn.