Pertumbuhan Seruan untuk Regulasi AI Setelah Berita Berweeks

Selama beberapa minggu terakhir, telah ada seruan yang meningkat untuk regulasi yang lebih kuat terhadap kecerdasan buatan (AI). Kekhawatiran ini muncul setelah berbagai cerita berita pecah menunjukkan potensi penyalahgunaan teknologi ini. Sekarang, bahkan lebih banyak pertanyaan yang diajukan dengan dirilisnya white paper Komisi Eropa (EU) yang sangat dinantikan tentang kecerdasan buatan, yang merupakan upaya pertama untuk mengatur AI secara nasional. Sekitar waktu yang sama, Kantor Kebijakan Sains dan Teknologi Gedung Putih (OSTP) merilis laporan tentang Inisiatif Kecerdasan Buatan Amerika.

Sebelum dirilisnya white paper EU, The Intercept memecahkan berita tentang dokumen internal Uni Eropa yang bocor. Menurut dokumen tersebut, EU mempertimbangkan pembuatan jaringan basis data pengenalan wajah di seluruh Eropa. Kepolisian nasional dari 10 negara anggota EU menghasilkan laporan yang menyerukan pembuatan dan interkoneksi basis data di setiap negara anggota. Banyak yang khawatir bahwa pembuatan basis data seperti itu pasti akan terhubung dengan basis data serupa di Amerika Serikat, memungkinkan konsolidasi jumlah besar data biometrik. Banyak yang mengharapkan white paper EU untuk mengusulkan larangan terhadap pengenalan wajah, tetapi itu tidak ada.

Menurut Edin Omanovic, direktur advokasi untuk Privacy International, “Ini mengkhawatirkan pada tingkat nasional dan pada tingkat Eropa, terutama karena beberapa negara EU cenderung menuju pemerintahan yang lebih otoriter.”

Salah satu berita besar selama beberapa minggu terakhir, yang dimulai oleh investigasi The New York Times pada Januari, terkait dengan startup Clearview AI. Aplikasi pengenalan wajah perusahaan ini mengidentifikasi orang-orang melalui penggunaan basis data gambar yang diambil dari media sosial. Aplikasi ini membandingkan foto dengan basis data lebih dari 3 miliar gambar dari situs seperti Facebook (META ), Venmo, dan Youtube. Setelah aplikasi menemukan kecocokan, aplikasi ini merespons dengan tautan ke situs tempat foto-foto tersebut awalnya berasal. Teknologi ini dapat menyebabkan penemuan rincian pribadi tentang seorang individu. Menurut laporan, aplikasi ini telah digunakan oleh lebih dari 600 lembaga penegak hukum. Sementara basis data Clearview memiliki lebih dari 3 miliar gambar, basis data FBI hanya berisi 641 juta gambar warga AS.

Cerita ini meletus lagi dengan laporan baru dari BuzzFeed (BZFD ) News minggu lalu. Menurut laporan, perusahaan ini mempertimbangkan untuk memperluas ke lebih dari hanya tujuan penegakan hukum, dengan ritel, real estat, perbankan, dan pasar internasional yang dipertimbangkan. Laporan tersebut juga menyatakan bahwa aplikasi pengenalan wajah telah dijual ke ribuan organisasi di seluruh dunia dan digunakan oleh Departemen Kehakiman, ICE, Macy’s (M ), Walmart (WMT ), dan NBA. Mungkin yang paling bermasalah dalam daftar klien adalah dana kekayaan berdaulat di Uni Emirat Arab dan ribuan entitas pemerintah.

Pengembangan baru ini menyebabkan kekhawatiran di kalangan advokat privasi tentang penggunaan pengawasan massal yang potensial. Kekhawatiran lainnya adalah kemungkinan ketidakakuratan dengan teknologi ini, yang menyebabkan penegakan hukum menargetkan individu yang tidak bersalah. Di atas semua kekhawatiran privasi, perusahaan seperti Facebook, Google (GOOGL ), dan Twitter mengancam tindakan hukum. Selain tindakan hukum swasta, setidaknya dua senator AS telah menyatakan bahwa mereka bermaksud untuk menyelidiki perusahaan tersebut.

Contoh penyalahgunaan teknologi ini dapat dilihat dalam Badan Imigrasi dan Bea Cukai AS (ICE). The Washington Post melaporkan minggu lalu bahwa pejabat ICE telah diizinkan untuk menggunakan teknologi pengenalan wajah untuk mencari jutaan foto lisensi mengemudi Maryland, dan mereka dapat melakukannya tanpa mencari persetujuan negara bagian atau pengadilan.

Menurut Harrison Rudolph, asosiasi senior di Pusat Privasi dan Teknologi Sekolah Hukum Universitas Georgetown, “ICE menggunakan informasi biometrik di balik layar, tanpa pemberitahuan pemerintah atau persetujuan publik, untuk memburu orang-orang yang paling rentan.”

Ini hanya beberapa contoh paling umum tentang bagaimana teknologi ini digunakan, tetapi banyak hal lain yang terjadi di balik layar. Karena itu, telah ada seruan yang meningkat untuk pengawasan dan regulasi. Transparansi yang meningkat, baik secara sukarela maupun melalui pelaporan investigatif, membawa banyak praktik ke permukaan. Tanpa pemahaman publik tentang kecerdasan buatan dan apa yang dapat dilakukan untuk perekonomian, pemerintah, penegakan hukum, pengawasan, dan setiap aspek masyarakat lainnya, ada sedikit harapan bagi pemerintah dan perusahaan untuk mengatur diri sendiri. Masyarakat melihat manfaat besar AI dan kekhawatiran besar, dengan semua itu terjadi terlalu cepat bagi perusahaan, pemerintah, dan individu untuk mengikuti.