AI: Oleh Rakyat, untuk Rakyat, dan dari Rakyat

Oleh: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI dan Automasi di Infosys.

Kita beruntung hidup di era teknologi di mana Kecerdasan Buatan (AI) bekerja keras untuk membuat hidup kita lebih mudah – ponsel kita sekarang dapat mengenali kita dan membuka kunci ketika “melihat” kita, kita memiliki peta yang dapat berbicara untuk membantu kita menemukan jalur terpendek dan paling tidak ramai untuk mencapai tujuan kita, perangkat pintar yang dapat menghangatkan dan mendinginkan rumah kita bahkan sebelum kita mengucapkan kata, aplikasi cerdas yang dapat memprediksi dan mencegah penipuan, dan banyak lagi.

Namun, kita juga telah mengalami kasus di mana sistem AI yang cerdas ini gagal kita dari perspektif keadilan dan etika. Misalnya, sebuah bank terkemuka yang bekerja sama dengan kita menduga bahwa model AI yang mereka gunakan untuk mengevaluasi kelayakan kredit sebelum memberikan pinjaman mungkin memiliki bias, dan mereka meminta bantuan kita. Di lain kesempatan, sebuah produsen mesin bekerja sama dengan kita untuk menganalisis pola klaim garansi untuk menghilangkan bias, dari dataset dan proses, sebelum merancang ulang dan mengotomatisasi proses persetujuan klaim mereka. Model AI terkait perekrutan, kita sering menemukan, telah dikorup oleh bias usia, jenis kelamin, ras, bahkan kode pos, dalam dataset mereka – menghasilkan hasil yang tidak adil jika tidak dicek.

Karena dampak besar yang dapat disebabkan oleh bias AI di seluruh perusahaan, pertanyaan etika telah menjadi pusat perhatian dalam pengembangan, penerapan, dan penggunaan sistem AI. Sistem AI adalah hasil dari banyak keputusan manusia, yang secara inheren juga didasarkan pada bias manusia. Perlindungan otonomi dan privasi karyawan, risiko bias yang memengaruhi pertumbuhan karir dan peluang, diskriminasi berdasarkan warna kulit, ras, atau jenis kelamin, kurangnya kemampuan untuk menjelaskan pilihan yang dibuat oleh solusi AI, dan dengan demikian, akuntabilitas pengambilan keputusan AI, sedang menjadi topik perdebatan hangat ketika membahas AI dan kelebihannya.

Membuat AI yang Bertanggung Jawab

Bias AI dapat memiliki efek riak di seluruh organisasi. Oleh karena itu, pemimpin IT harus memastikan bahwa mereka mengimplementasikan AI dengan cara yang etis yang bekerja sama dengan, dan tidak melawan, karyawan. Untuk melakukan ini, organisasi harus memasukkan hal-hal berikut dalam penerapan AI mereka.

Pemerintahan Data: Penggunaan AI yang etis juga bergantung pada penggunaan data yang tergovern dengan baik, mulai dari sumber data yang etis dan transparan. Untuk melakukan ini, pemimpin IT harus membangun kerangka pemerintahan yang terdefinisi dengan baik yang akan memastikan keamanan data, integritas, dan privasi, serta mencegah korupsi dan kehilangan data – semua ini diperlukan.

Akuntabilitas: Model Pembelajaran Mesin harus adil, tidak bias, memperlakukan orang dengan setara, dan juga membagikan manfaat secara adil (tingkat penerimaan dan penolakan yang sama) di seluruh atribut seperti ras, agama, jenis kelamin, dll. Mereka harus mencapai akurasi yang dapat diterima tidak hanya pada angka keseluruhan tetapi juga pada kelas minoritas. Model ini harus dapat menjelaskan bagaimana hasilnya diperoleh. Misalnya, dapat menjelaskan mengapa model menolak permohonan pinjaman dari pelamar A tetapi menyetujui permohonan yang sama dari pelamar B. Pemimpin IT yang mengembangkan solusi AI harus membuat logika yang mendasari keputusan ini jelas bagi pemangku kepentingan bisnis sehingga ada transparansi yang lebih besar di seluruh perusahaan.

Keamanan Adversarial: Seluruh ekosistem AI harus setuju pada kebutuhan untuk menguji dan menghack model AI melalui simulasi untuk mempelajari hasil yang tidak diinginkan. Misalnya, pemimpin IT dapat menggunakan tes berikut untuk memeriksa sistem AI mereka dan mempersiapkan hambatan potensial.

• Mengubah data: mengubah langsung dataset yang digunakan untuk pelatihan dengan injeksi data, modifikasi, dan korupsi logika
• Mengubah model: menguji penurunan kepercayaan dan kesalahan klasifikasi
• Alat bantu: menggunakan alat untuk mempengaruhi atau mengkorup hasil

Manusia dalam Lingkaran: Model AI harus dihilangkan risikonya dengan memiliki manusia dalam lingkaran untuk semua titik keputusan kunci dan memiliki mekanisme cadangan yang efektif atau jalur alternatif jika sistem AI perlu ditarik kembali.

Mengembangkan Persetujuan Sosial untuk AI

Selain pedoman ini, kita perlu mempromosikan diskusi dan perdeliberan yang inklusif antara semua pemimpin di seluruh perusahaan, tentang manfaat, kepentingan, biaya, dan konsekuensi dari setiap penerapan AI besar. Hanya proses yang inklusif seperti ini, yang melibatkan semua pemangku kepentingan, untuk membahas dan memutuskan hasil yang dapat diterima, dan menimbang risiko dan manfaat, yang kemungkinan akan memberikan teknologi AI lisensi untuk beroperasi di seluruh perusahaan.