Bagaimana Taman-Taman Terkunci dalam Keselamatan Publik Mengungkap Krisis Privasi Data Amerika

Perbatasan yang Meluas dari AI dan Data yang Dibutuhkannya

Kecerdasan buatan dengan cepat mengubah cara kita hidup, bekerja dan memerintah. Dalam kesehatan masyarakat dan layanan publik, alat-alat AI menjanjikan lebih banyak efisiensi dan pengambilan keputusan yang lebih cepat. Namun, di bawah permukaan transformasi ini terdapat ketidakseimbangan yang tumbuh: kemampuan kita untuk mengumpulkan data telah melampaui kemampuan kita untuk mengaturnya dengan bertanggung jawab.

Ini melampaui hanya tantangan teknis untuk menjadi krisis privasi. Dari perangkat lunak polisi prediktif hingga alat pengawasan dan pembaca pelat nomor otomatis, data tentang individu dikumpulkan, dianalisis, dan diaktifkan dengan kecepatan yang belum pernah terjadi sebelumnya. Dan yet, sebagian besar warga tidak menyadari siapa yang memiliki data mereka, bagaimana data tersebut digunakan, atau apakah data tersebut dilindungi.

Saya telah melihat ini dari dekat. Sebagai mantan Agen Khusus Cyber FBI dan sekarang CEO dari perusahaan teknologi keselamatan publik terkemuka, saya telah bekerja di seluruh pemerintah dan sektor swasta. Satu hal yang jelas: jika kita tidak memperbaiki cara kita menangani privasi data sekarang, AI hanya akan membuat masalah yang ada menjadi lebih buruk. Dan salah satu masalah terbesar? Taman-taman terkunci.

Apa itu Taman-Taman Terkunci dan Mengapa Mereka Berbahaya dalam Keselamatan Publik?

Taman-taman terkunci adalah sistem tertutup di mana satu perusahaan mengontrol akses, aliran, dan penggunaan data. Mereka umum di iklan dan media sosial (pikirkan platform Facebook, Google, dan Amazon) tetapi semakin banyak, mereka muncul di keselamatan publik juga.

Perusahaan keselamatan publik memainkan peran kunci dalam infrastruktur kepolisian modern, namun, sifat propietary dari beberapa sistem ini berarti mereka tidak selalu dirancang untuk berinteraksi dengan alat dari vendor lain.

Taman-taman terkunci ini mungkin menawarkan fungsionalitas yang kuat seperti rekaman kamera tubuh berbasis cloud atau pembaca pelat nomor otomatis, tetapi mereka juga menciptakan monopoli atas bagaimana data disimpan, diakses, dan dianalisis. Lembaga kepolisian sering menemukan diri mereka terkunci dalam kontrak jangka panjang dengan sistem propietary yang tidak berbicara satu sama lain. Hasilnya? Fragmentasi, wawasan yang terisolasi, dan ketidakmampuan untuk merespons secara efektif di komunitas ketika itu paling penting.

Masyarakat Tidak Mengetahui, dan Itu Menjadi Masalah

Sebagian besar orang tidak menyadari seberapa banyak informasi pribadi mereka mengalir ke dalam sistem ini. Di banyak kota, lokasi, kendaraan, aktivitas online, dan bahkan keadaan emosi dapat diinferensi dan dilacak melalui patchwork alat yang didorong oleh AI. Alat-alat ini dapat dipasarkan sebagai peningkatan pencegahan kejahatan, tetapi dalam ketiadaan transparansi dan regulasi, mereka dapat dengan mudah disalahgunakan.

Dan itu bukan hanya data yang ada, tetapi data yang ada dalam ekosistem terkunci yang dikendalikan oleh perusahaan swasta dengan pengawasan minimal. Sebagai contoh, alat seperti pembaca pelat nomor sekarang ada di ribuan komunitas di seluruh AS, mengumpulkan data dan memasukkannya ke dalam jaringan propietary mereka. Departemen kepolisian sering tidak memiliki perangkat keras, mereka menyewanya, yang berarti pipa data, analisis, dan peringatan ditentukan oleh vendor dan bukan oleh kesepakatan masyarakat.

Mengapa Ini Harus Menaikkan Bendera Merah

AI membutuhkan data untuk berfungsi. Namun, ketika data terkunci di dalam taman-taman terkunci, data tersebut tidak dapat di-cross-referensi, divalidasi, atau ditantang. Ini berarti keputusan tentang siapa yang ditarik, ke mana sumber daya pergi, atau siapa yang diberi label sebagai ancaman dibuat berdasarkan informasi yang tidak lengkap, kadang-kadang tidak akurat.

Risikonya? Keputusan yang buruk, pelanggaran potensial atas kebebasan sipil, dan kesenjangan yang tumbuh antara departemen kepolisian dan komunitas yang mereka layani. Transparansi melemah. Kepercayaan menguap. Dan inovasi terhambat, karena alat baru tidak dapat memasuki pasar kecuali mereka memenuhi keterbatasan sistem terkunci ini.

Dalam skenario di mana sistem pengenalan pelat nomor salah mengidentifikasi kendaraan curian berdasarkan data yang sudah ketinggalan atau dibagikan, tanpa kemampuan untuk memverifikasi informasi tersebut di seluruh platform atau memeriksa bagaimana keputusan itu dibuat, petugas mungkin bertindak berdasarkan positif palsu. Kami telah melihat insiden di mana teknologi yang cacat mengarah pada penangkapan yang salah atau konfrontasi yang ditingkatkan. Hasil ini tidak hipotetis, mereka terjadi di komunitas di seluruh negeri.

Apa yang Dibutuhkan Kepolisian Sebenarnya

Bukannya mengunci data, kita membutuhkan ekosistem terbuka yang mendukung berbagi data yang aman, standard, dan interoperabel. Ini tidak berarti mengorbankan privasi. Sebaliknya, ini adalah satu-satunya cara untuk memastikan perlindungan privasi ditegakkan.

Beberapa platform bekerja menuju ini. Sebagai contoh, FirstTwo menawarkan alat kesadaran situasional waktu nyata yang menekankan integrasi data publik yang bertanggung jawab. Yang lain, seperti ForceMetrics, fokus pada menggabungkan dataset yang berbeda seperti panggilan 911, catatan kesehatan perilaku, dan riwayat insiden sebelumnya untuk memberikan konteks yang lebih baik bagi petugas di lapangan. Namun, sistem ini dibangun dengan kebutuhan keselamatan publik dan rasa hormat komunitas sebagai prioritas, bukan sebagai pertimbangan.

Membangun Infrastruktur yang Berprioritas pada Privasi

Pendekatan yang berprioritas pada privasi berarti lebih dari sekedar meredaksi informasi sensitif. Ini berarti membatasi akses ke data kecuali ada kebutuhan hukum yang jelas. Ini berarti mendokumentasikan bagaimana keputusan dibuat dan memungkinkan audit pihak ketiga. Ini berarti bermitra dengan pemangku kepentingan komunitas dan kelompok hak sipil untuk membentuk kebijakan dan implementasi. Langkah-langkah ini menghasilkan keamanan yang diperkuat dan legitimasi secara keseluruhan.

Meskipun kemajuan teknologi, kita masih beroperasi dalam vacuum hukum. Amerika Serikat kekurangan legislasi privasi data federal yang komprehensif, meninggalkan lembaga dan vendor untuk membuat aturan mereka sendiri. Eropa memiliki GDPR, yang menawarkan peta jalan untuk penggunaan data berbasis persetujuan dan akuntabilitas. Amerika Serikat, di sisi lain, memiliki patchwork kebijakan tingkat negara bagian yang tidak cukup menangani kompleksitas AI dalam sistem publik.

Itu perlu berubah. Kita membutuhkan standar yang jelas dan dapat ditegakkan seputar bagaimana lembaga penegakan hukum dan organisasi keselamatan publik mengumpulkan, menyimpan, dan berbagi data. Dan kita perlu melibatkan pemangku kepentingan komunitas dalam percakapan. Persetujuan, transparansi, dan akuntabilitas harus dimasukkan ke dalam setiap tingkat sistem, dari pengadaan hingga implementasi hingga penggunaan sehari-hari.

Kesimpulan: Tanpa Interoperabilitas, Privasi Menderita

Dalam keselamatan publik, nyawa dipertaruhkan. Gagasan bahwa satu vendor dapat mengontrol akses ke data kritis dan membatasi bagaimana dan kapan data tersebut digunakan tidak hanya tidak efisien. Ini tidak etis.

Kita perlu melampaui mitos bahwa inovasi dan privasi berada di pihak yang berlawanan. AI yang bertanggung jawab berarti sistem yang lebih adil, efektif, dan akuntabel. Ini berarti menolak kunci vendor, memprioritaskan interoperabilitas, dan menuntut standar terbuka. Karena dalam demokrasi, tidak ada perusahaan tunggal yang seharusnya mengontrol data yang menentukan siapa yang mendapatkan bantuan, siapa yang diberhentikan, atau siapa yang ditinggalkan.