Bagaimana Kota Menggunakan Teknologi Terkemuka dengan Algoritma AI yang Tidak Bias

Hari ini, hampir setiap aspek kehidupan kita menyentuh beberapa bagian dari jaringan online. Sementara ini telah memperbaiki banyak area kehidupan, seperti bagaimana kita berjalan dengan perangkat genggam yang dapat memberikan informasi kepada kita kapan saja, itu juga menimbulkan beberapa risiko.

Risiko ini melampaui peretasan tradisional dan pelanggaran data ke rekening bank kita, misalnya. Lebih dari apa yang saya maksud di sini adalah bahwa ada banyak bagian dari kehidupan kita hari ini yang dipengaruhi oleh algoritma yang digunakan oleh kecerdasan buatan (AI). Kami menganggap AI ini secara inheren menggunakan algoritma yang berada dalam kepentingan terbaik kami. Namun, apa yang terjadi ketika jenis bias yang salah memasuki algoritma ini? Bagaimana itu dapat mempengaruhi hasil tertentu?

Apa yang terjadi ketika algoritma yang bias memasuki sistem AI?

Untuk memberikan contoh lain, di YouTube, sebuah algoritma AI merekomendasikan hampir 70% dari semua video, dan di platform media sosial seperti Instagram dan TikTok, persentasenya bahkan lebih tinggi. Meskipun algoritma AI ini dapat membantu pengguna menemukan konten yang mereka minati, mereka menimbulkan masalah privasi yang serius, dan ada bukti yang meningkat bahwa beberapa konten yang direkomendasikan orang-orang konsumsi online bahkan berbahaya karena informasi yang salah atau mungkin mengandung perspektif tertentu yang dirancang untuk mempengaruhi pemikiran atau keyakinan politik seseorang secara subliminal.

Pembuatan AI yang seimbang dan adaptif adalah upaya teknis dan sosial yang menantang, tetapi salah satu yang paling penting.

Ini dapat dipahami bagaimana AI dapat memiliki dampak negatif pada norma-norma sosial dan pola penggunaan online sambil juga fokus pada efek positif teknologi. Sumber daya online memiliki pengaruh signifikan pada masyarakat kita, dan bias dalam algoritma online akan secara tidak sengaja mempromosikan ketidakadilan, membentuk keyakinan orang, menyebarkan informasi palsu, dan mempromosikan konflik di antara berbagai kelompok.

Ini adalah tempat di mana “AI yang buruk” dapat memiliki konsekuensi yang sangat signifikan sehubungan dengan bias yang tidak diinginkan dan/atau tidak adil.

Bagaimana AI yang bias dapat mempengaruhi persimpangan lalu lintas

Ambil persimpangan lalu lintas, sebagai contoh yang lebih nyata. Waktu tunggu yang lama di lampu lalu lintas menjadi hal yang lampau berkat teknologi AI baru yang diterapkan di pasar di seluruh negeri. Solusi Prioritas Transit ini menggunakan data lalu lintas waktu nyata dan menyesuaikan lampu untuk mengkompensasi pola lalu lintas yang berubah, menjaga lalu lintas tetap mengalir dan mengurangi kemacetan.

Sistem ini menggunakan pembelajaran dalam, di mana sebuah program memahami ketika itu tidak berjalan dengan baik dan mencoba tindakan yang berbeda – atau terus memperbaiki ketika itu membuat kemajuan.

Terdengar seperti ide yang bagus, bukan? Apa yang terjadi jika, seiring waktu, algoritma AI yang tertanam dalam teknologi sensor lalu lintas mulai memprioritaskan kendaraan yang lebih mahal daripada yang lain, berdasarkan algoritma yang bias yang dirancang untuk mengenali bahwa orang yang mengemudi kendaraan tertentu layak mendapatkan prioritas daripada yang lain?

Ini adalah tempat di mana “AI yang buruk” dapat mempengaruhi bagian penting dari kehidupan kita.

Mari kita ambil contoh sistem prioritas transit yang ditenagai AI ini sebagai bagian dari Sistem Transportasi Cerdas (ITS) yang lebih besar yang menggunakan kekuatan teknologi kendaraan terhubung. Sistem ITS hanya sebaik platform berbagi data berbasis awan yang netral yang mereka operasikan, dan tidak semua platform diciptakan sama.

Menghilangkan bias dalam algoritma AI

Platform berbagi data ini telah terbukti sangat efektif, tetapi hanya ketika kota dan pemerintah daerah yang mengawasi sistem transportasi membuatnya terbuka untuk berbagi data yang tepat di mana algoritma yang bias tidak diizinkan untuk mengambil bagian. Sayangnya, banyak pemerintah daerah tetap terkunci dalam kontrak dengan penyedia perangkat keras dan perangkat yang mengklaim beroperasi di bawah “arsitektur terbuka” tetapi tidak mau bekerja di bawah platform data terbuka, dan kota-kota ini membatasi diri mereka sendiri dari kemungkinan yang sebenarnya dapat disediakan oleh platform berbasis awan.

Sistem prioritas transit berbasis awan mempertimbangkan gambaran global dari sistem dan menggunakan pembelajaran mesin yang berbasis data tanpa bias untuk memprediksi waktu optimal untuk memberikan lampu hijau kepada kendaraan transit pada waktu yang tepat. Ini meminimalkan gangguan dengan rute yang berpotongan dan secara bersamaan memaksimalkan kemungkinan berkendara terus menerus. Yang lebih penting, platform berbasis awan yang netral memastikan kota-kota menggunakan sistem yang terus diperbarui untuk memaksimalkan potensi transit, tanpa bias dari sumber yang tidak diinginkan.

Dengan teknologi ini sekarang tersedia, kota-kota, pengembang, dan pemerintah daerah memiliki teknologi yang mereka butuhkan untuk mempercepat pembangunan jaringan transit cerdas untuk membenefitkan semua orang di wilayah, secara adil dan setara.

Wilayah seperti Kota San José sekarang menggunakan manfaat AI untuk memperbaiki pengiriman layanan kepada penduduknya. Ketika Kota semakin menggunakan alat-alat AI, semakin penting untuk memastikan bahwa sistem AI tersebut efektif dan dapat dipercaya. Dengan meninjau algoritma yang digunakan dalam alat-alatnya, Kantor Privasi Digital (DPO) memastikan bahwa akuisisi teknologi AI Kota berfungsi dengan akurat, meminimalkan bias, dan dapat diandalkan. Ketika sebuah departemen Kota ingin memperoleh alat AI, DPO mengikuti proses tinjauan khusus untuk menilai manfaat dan risiko dari setiap sistem AI.

Untuk wilayah ini, kami bangga bergabung dengan perusahaan seperti Google sebagai salah satu dari sedikit vendor AI yang disetujui untuk berpartisipasi dalam penerapan teknologi kota karena algoritma yang tidak bias. Ketika lebih banyak teknologi AI dikembangkan, akan sangat penting untuk memastikan bahwa mereka dibangun tanpa algoritma yang tidak bias untuk kepentingan penggunaan layanan munisipal yang adil dan setara.