Bagaimana Taman-Taman Berpagar dalam Keselamatan Publik Mengungkap Krisis Privasi Data Amerika

Perbatasan yang Meluas dari AI dan Data yang Dibutuhkannya

Kecerdasan buatan dengan cepat mengubah cara kita hidup, bekerja dan memerintah. Dalam kesehatan masyarakat dan layanan publik, alat-alat AI menjanjikan lebih banyak efisiensi dan pengambilan keputusan yang lebih cepat. Namun, di bawah permukaan transformasi ini terdapat ketidakseimbangan yang semakin besar: kemampuan kita untuk mengumpulkan data telah melampaui kemampuan kita untuk mengaturinya dengan bertanggung jawab.

Hal ini melampaui sekedar tantangan teknis untuk menjadi krisis privasi. Dari perangkat lunak polisi prediktif hingga alat pengawasan dan pembaca pelat nomor otomatis, data tentang individu dikumpulkan, dianalisis, dan diambil tindakan dengan kecepatan yang belum pernah terjadi sebelumnya. Dan yet, sebagian besar warga tidak menyadari siapa yang memiliki data mereka, bagaimana data tersebut digunakan, atau apakah data tersebut dilindungi.

Saya telah melihat ini dari dekat. Sebagai mantan Agen Khusus Cyber FBI dan sekarang CEO dari perusahaan teknologi keselamatan publik terkemuka, saya telah bekerja di seluruh pemerintah dan sektor swasta. Satu hal yang jelas: jika kita tidak memperbaiki cara kita menangani privasi data sekarang, AI hanya akan membuat masalah yang ada menjadi lebih buruk. Dan salah satu masalah terbesar? Taman-taman berpagar.

Apa itu Taman-Taman Berpagar dan Mengapa Mereka Berbahaya dalam Keselamatan Publik?

Taman-taman berpagar adalah sistem tertutup di mana satu perusahaan mengontrol akses, aliran, dan penggunaan data. Mereka umum di iklan dan media sosial (pikirkan platform Facebook, Google, dan Amazon) tetapi semakin banyak, mereka muncul di keselamatan publik juga.

Perusahaan keselamatan publik memainkan peran kunci dalam infrastruktur kepolisian modern, namun, sifat proprietari dari beberapa sistem ini berarti mereka tidak selalu dirancang untuk berinteraksi dengan lancar dengan alat dari vendor lain.

Taman-taman berpagar ini mungkin menawarkan fungsionalitas yang kuat seperti rekaman kamera tubuh berbasis cloud atau pembaca pelat nomor otomatis, tetapi mereka juga menciptakan monopoli atas cara data disimpan, diakses, dan dianalisis. Lembaga kepolisian sering menemukan diri mereka terkunci dalam kontrak jangka panjang dengan sistem proprietari yang tidak berbicara satu sama lain. Hasilnya? Fragmentasi, wawasan yang terisolasi, dan ketidakmampuan untuk merespons efektif di masyarakat ketika itu paling penting.

Masyarakat Tidak Mengetahui, dan Itu Menjadi Masalah

Sebagian besar orang tidak menyadari seberapa banyak informasi pribadi mereka mengalir ke dalam sistem ini. Di banyak kota, lokasi, kendaraan, aktivitas online, dan bahkan keadaan emosi Anda dapat diinferensi dan dilacak melalui patchwork alat yang didorong oleh AI. Alat ini dapat dipasarkan sebagai peningkatan pencegahan kejahatan, tetapi tanpa transparansi dan regulasi, mereka dapat dengan mudah disalahgunakan.

Dan bukan hanya data itu ada, tetapi data itu ada di ekosistem berpagar yang dikendalikan oleh perusahaan swasta dengan pengawasan minimal. Sebagai contoh, alat seperti pembaca pelat nomor sekarang ada di ribuan komunitas di seluruh AS, mengumpulkan data dan memasukkannya ke dalam jaringan proprietari mereka. Departemen kepolisian sering tidak memiliki perangkat keras, mereka menyewanya, yang berarti pipa data, analisis, dan peringatan ditentukan oleh vendor dan bukan oleh kesepakatan masyarakat.

Mengapa Ini Harus Menaikkan Bendera Merah

AI membutuhkan data untuk berfungsi. Namun, ketika data terkunci di dalam taman-taman berpagar, data tersebut tidak dapat di-cross-referensi, divalidasi, atau ditantang. Ini berarti keputusan tentang siapa yang ditarik, ke mana sumber daya pergi, atau siapa yang diberi label sebagai ancaman dibuat berdasarkan informasi sebagian, kadang-kadang tidak akurat.

Risikonya? Keputusan yang buruk, pelanggaran potensial hak-hak sipil, dan kesenjangan yang semakin besar antara departemen kepolisian dan masyarakat yang mereka layani. Transparansi melemah. Kepercayaan menguap. Dan inovasi terhambat, karena alat baru tidak dapat memasuki pasar kecuali mereka sesuai dengan keterbatasan sistem berpagar ini.

Dalam skenario di mana sistem pengenalan pelat nomor salah mengidentifikasi kendaraan curian berdasarkan data usang atau dibagikan, tanpa kemampuan untuk memverifikasi informasi tersebut di seluruh platform atau audit bagaimana keputusan itu dibuat, petugas mungkin bertindak berdasarkan positif palsu. Kami telah melihat insiden di mana teknologi yang bermasalah menyebabkan penangkapan yang salah atau konfrontasi yang diperburuk. Hasil ini bukanlah hipotetis, mereka terjadi di komunitas di seluruh negeri.

Apa yang Sebenarnya Dibutuhkan Kepolisian

Sebagai gantinya untuk mengunci data, kita membutuhkan ekosistem terbuka yang mendukung berbagi data yang aman, standar, dan interoperabel. Itu tidak berarti mengorbankan privasi. Sebaliknya, itu adalah satu-satunya cara untuk memastikan perlindungan privasi ditegakkan.

Beberapa platform bekerja menuju hal ini. Sebagai contoh, FirstTwo menawarkan alat kesadaran situasional waktu nyata yang menekankan integrasi data yang tersedia secara publik dengan bertanggung jawab. Lainnya, seperti ForceMetrics, fokus pada menggabungkan dataset yang berbeda seperti panggilan 911, catatan kesehatan perilaku, dan riwayat insiden sebelumnya untuk memberi petugas konteks yang lebih baik di lapangan. Namun, sistem ini dibangun dengan kebutuhan keselamatan publik dan rasa hormat masyarakat sebagai prioritas, bukan sebagai pemikiran belakangan.

Membangun Infrastruktur Privasi-Pertama

Pendekatan privasi-pertama berarti lebih dari sekedar meredaksi informasi sensitif. Ini berarti membatasi akses ke data kecuali ada kebutuhan hukum yang jelas. Ini berarti mendokumentasikan bagaimana keputusan dibuat dan memungkinkan audit pihak ketiga. Ini berarti bermitra dengan pemangku kepentingan masyarakat dan kelompok hak-hak sipil untuk membentuk kebijakan dan implementasi. Langkah-langkah ini menghasilkan keamanan yang diperkuat dan legitimasi secara keseluruhan.

Meskipun kemajuan teknologi, kita masih beroperasi dalam vakum hukum. AS tidak memiliki legislasi privasi data federal yang komprehensif, meninggalkan lembaga dan vendor untuk membuat aturan mereka sendiri. Eropa memiliki GDPR, yang menawarkan peta jalan untuk penggunaan data berbasis persetujuan dan akuntabilitas. AS, di sisi lain, memiliki patchwork kebijakan tingkat negara bagian yang tidak secara memadai mengatasi kompleksitas AI dalam sistem publik.

Itu perlu berubah. Kita membutuhkan standar yang jelas dan dapat ditegakkan seputar bagaimana lembaga kepolisian dan organisasi keselamatan publik mengumpulkan, menyimpan, dan berbagi data. Dan kita perlu melibatkan pemangku kepentingan masyarakat dalam percakapan. Persetujuan, transparansi, dan akuntabilitas harus dimasukkan ke dalam setiap tingkat sistem, dari pengadaan hingga implementasi hingga penggunaan sehari-hari.

Intinya: Tanpa Interoperabilitas, Privasi Menderita

Dalam keselamatan publik, nyawa dipertaruhkan. Gagasan bahwa satu vendor dapat mengontrol akses ke data kritis dan membatasi bagaimana dan kapan data tersebut digunakan tidak hanya tidak efisien. Itu tidak etis.

Kita perlu melampaui mitos bahwa inovasi dan privasi berada di pihak yang berlawanan. AI yang bertanggung jawab berarti sistem yang lebih adil, efektif, dan akuntabel. Ini berarti menolak kunci vendor, memprioritaskan interoperabilitas, dan menuntut standar terbuka. Karena dalam demokrasi, tidak satu perusahaan pun seharusnya mengontrol data yang menentukan siapa yang mendapatkan bantuan, siapa yang diberhentikan, atau siapa yang ditinggalkan.