Pertumbuhan Seruan untuk Regulasi AI Setelah Berita Berweeks

Selama beberapa minggu terakhir, ada seruan yang semakin keras untuk regulasi yang lebih kuat terhadap kecerdasan buatan (AI). Kekhawatiran ini muncul setelah berbagai cerita berita pecah menunjukkan potensi penyalahgunaan teknologi. Sekarang, pertanyaan lebih lanjut sedang diajukan dengan dirilisnya white paper tentang kecerdasan buatan oleh Komisi Eropa (EU), yang merupakan upaya pertama untuk mengatur AI secara nasional. Sekitar waktu yang sama, Kantor Kebijakan Sains dan Teknologi Gedung Putih (OSTP) merilis laporan tentang Inisiatif Kecerdasan Buatan Amerika.

Sebelum dirilisnya white paper EU, The Intercept memecahkan berita tentang dokumen internal Uni Eropa yang bocor. Menurut dokumen tersebut, EU sedang mempertimbangkan pembuatan jaringan database pengenalan wajah di seluruh Eropa. Kepolisian nasional dari 10 negara anggota EU menghasilkan laporan yang menyerukan pembuatan dan interkoneksi database di setiap negara anggota. Banyak yang khawatir bahwa pembuatan database tersebut akan terhubung dengan database serupa di Amerika Serikat, memungkinkan konsolidasi jumlah besar data biometrik. Banyak yang berharap white paper EU akan mengusulkan larangan terhadap pengenalan wajah, tetapi itu tidak ada.

Menurut Edin Omanovic, direktur advokasi untuk Privacy International, “Ini sangat mengkhawatirkan pada tingkat nasional dan tingkat Eropa, terutama karena beberapa negara EU cenderung menuju pemerintahan yang lebih otoriter.”

Salah satu berita besar selama beberapa minggu terakhir, dipicu oleh investigasi New York Times pada Januari, terkait dengan startup Clearview AI. Aplikasi pengenalan wajah perusahaan ini mengidentifikasi orang-orang melalui penggunaan database gambar yang diambil dari media sosial. Aplikasi ini membandingkan foto dengan database lebih dari 3 miliar gambar dari situs seperti Facebook, Venmo, dan Youtube. Setelah aplikasi menemukan kecocokan, itu merespons dengan tautan ke situs tempat foto aslinya berasal. Teknologi ini dapat menyebabkan penemuan detail pribadi tentang seorang individu. Menurut laporan, aplikasi ini telah digunakan oleh lebih dari 600 lembaga penegak hukum. Sementara database Clearview memiliki lebih dari 3 miliar gambar, database FBI hanya berisi 641 juta gambar warga AS.

Cerita ini meletus lagi dengan laporan baru dari BuzzFeed News minggu lalu. Menurut laporan, perusahaan ini telah mempertimbangkan untuk memperluas lebih dari hanya tujuan penegakan hukum, dengan ritel, real estat, perbankan, dan pasar internasional yang sedang dipertimbangkan. Laporan itu juga menyatakan bahwa aplikasi pengenalan wajah telah terjual kepada ribuan organisasi di seluruh dunia dan digunakan oleh Departemen Kehakiman, ICE, Macy’s, Walmart, dan NBA. Mungkin yang paling bermasalah dalam daftar klien adalah dana kekayaan berdaulat di Uni Emirat Arab dan ribuan entitas pemerintah.

Pengembangan baru ini menyebabkan kekhawatiran di kalangan advokat privasi tentang potensi penggunaan pengawasan massal. Kekhawatiran lainnya adalah kemungkinan ketidakakuratan teknologi, yang menyebabkan penargetan penegak hukum terhadap individu yang tidak bersalah. Di atas semua kekhawatiran privasi, perusahaan seperti Facebook, Google, dan Twitter mengancam akan mengambil tindakan hukum. Selain tindakan hukum pribadi, setidaknya dua senator AS telah menyatakan bahwa mereka bermaksud untuk menyelidiki perusahaan.

Contoh penyalahgunaan teknologi ini dapat dilihat dalam Badan Imigrasi dan Bea Cukai AS (ICE). The Washington Post melaporkan minggu lalu bahwa pejabat ICE telah diizinkan untuk menggunakan teknologi pengenalan wajah untuk mencari jutaan foto SIM Maryland, dan mereka dapat melakukannya tanpa persetujuan negara atau pengadilan.

Menurut Harrison Rudolph, asosiasi senior di Pusat Privasi dan Teknologi Sekolah Hukum Universitas Georgetown, “ICE menggunakan informasi biometrik di balik layar, tanpa pemberitahuan atau persetujuan pemerintah, untuk mengejar orang-orang yang paling rentan.”

Ini hanya beberapa contoh paling publik tentang bagaimana teknologi ini digunakan, tetapi banyak lagi yang terjadi di balik layar. Karena itu, ada seruan yang semakin keras untuk pengawasan dan regulasi. Transparansi yang meningkat, baik secara sukarela atau melalui pelaporan investigatif, membawa banyak praktik ke cahaya. Tanpa pemahaman publik tentang kecerdasan buatan dan apa yang bisa berarti untuk perekonomian, pemerintah, penegakan hukum, pengawasan, dan setiap aspek masyarakat lainnya, ada sedikit harapan bagi pemerintah dan perusahaan untuk mengatur diri sendiri. Masyarakat melihat manfaat besar AI dan kekhawatiran besar, dengan semua itu terjadi terlalu cepat bagi perusahaan, pemerintah, dan individu untuk mengikuti.