AI: Oleh Rakyat, untuk Rakyat dan dari Rakyat

Oleh: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI dan Automasi di Infosys.

Kita beruntung hidup di era teknologi di mana Kecerdasan Buatan (AI) bekerja keras untuk memudahkan hidup kita – ponsel kita sekarang mengenali kita dan akan membuka kunci ketika mereka ‘melihat’ kita, kita memiliki peta yang berbicara untuk membantu kita menemukan jalur terpendek dan paling tidak ramai untuk mencapai tujuan kita, perangkat pintar yang memanaskan dan mendinginkan rumah kita bahkan sebelum kita mengucapkan kata, aplikasi cerdas yang memprediksi dan mencegah penipuan, dan banyak lagi.

Namun, kita juga telah mengalami kasus di mana sistem AI yang cerdas ini gagal kita dari perspektif keadilan dan etika. Misalnya, sebuah bank terkemuka yang bekerja sama dengan kita menduga bahwa model AI yang mereka gunakan untuk mengevaluasi kelayakan kredit sebelum mengeluarkan pinjaman mungkin memiliki bias, dan mereka meminta bantuan kita. Di lain kesempatan, sebuah produsen mesin bekerja sama dengan kita untuk menganalisis pola klaim garansi untuk menghilangkan bias, dari set data dan proses, sebelum merekayasa ulang dan mengotomatisasi proses persetujuan klaim mereka. Model AI terkait perekrutan, kita sering menemukan, telah dikorup oleh bias usia, jenis kelamin, ras, bahkan kode pos terkadang, dalam set data mereka – menghasilkan hasil yang tidak adil jika tidak diperiksa.

Karena dampak besar bias AI dapat memiliki di seluruh perusahaan, pertanyaan etika telah mengambil tempat di pusat panggung dalam pengembangan, penerapan, dan penggunaan sistem AI. Sistem AI adalah amalgam dari banyak keputusan manusia, yang pada dasarnya juga berdasarkan pada bias manusia. Perlindungan otonomi dan privasi karyawan, risiko bias yang memengaruhi pertumbuhan karir dan peluang, diskriminasi berdasarkan warna kulit, ras atau jenis kelamin, kurangnya kemampuan menjelaskan pilihan yang dibuat oleh solusi AI, dan dengan demikian, akuntabilitas pengambilan keputusan AI, sedang diperdebatkan secara hangat ketika membahas AI dan kelebihannya.

Menciptakan AI yang Bertanggung Jawab

Bias AI dapat memiliki efek riak di seluruh organisasi. Oleh karena itu, pemimpin IT harus memastikan bahwa mereka mengirimkan AI dengan cara yang etis yang bekerja sama dengan, dan tidak melawan, karyawan. Untuk melakukan ini, organisasi harus mempertimbangkan untuk memasukkan hal-hal berikut dalam penerapan AI mereka.

Pemerintahan Data: Penggunaan AI yang etis juga bergantung pada penggunaan data yang tergovern dengan baik, mulai dari sumber data secara etis dan transparan. Untuk melakukan ini, pemimpin IT harus membangun kerangka pemerintahan yang terdefinisi dengan baik yang akan memastikan keamanan data, integritas, dan privasi serta mencegah korupsi dan kehilangan data – semua itu diperlukan.

Akuntabilitas: Model Pembelajaran Mesin perlu adil, tidak bias, memperlakukan orang secara sama dan juga membagikan manfaat secara adil (tingkat penerimaan dan penolakan yang sama) di seluruh atribut seperti ras, agama, jenis kelamin, dll. Mereka perlu mencapai akurasi yang dapat diterima tidak hanya pada angka keseluruhan tetapi juga pada kelas minoritas. Model ini harus dapat menjelaskan ketika menjelaskan bagaimana hasilnya diperoleh. Misalnya, dapat menjelaskan mengapa model menolak permohonan pinjaman dari pelamar A tetapi menyetujui permohonan yang sama dari pelamar B. Pemimpin IT yang mengembangkan solusi AI perlu membuat logika yang mendasari keputusan ini jelas bagi pemangku kepentingan bisnis sehingga ada transparansi yang lebih besar di dalam perusahaan.

Keamanan Adversarial: Seluruh ekosistem AI perlu setuju pada kebutuhan akan model AI yang diuji dan di-hack melalui simulasi untuk mempelajari hasil yang tidak diinginkan. Misalnya, pemimpin IT dapat menggunakan tes berikut untuk memeriksa sistem AI mereka dan mempersiapkan hambatan potensial.

• Modifikasi data: mengubah langsung dataset yang digunakan untuk pelatihan dengan injeksi data, modifikasi, dan korupsi logika
• Modifikasi model: menguji penurunan kepercayaan dan kesalahan klasifikasi
• Alat bantu: menggunakan alat untuk mempengaruhi atau mengkorup hasil

Manusia dalam Lingkaran: Model AI perlu didesain dengan memiliki manusia dalam lingkaran untuk semua titik keputusan kunci dan memiliki mekanisme cadangan yang efektif atau jalur alternatif jika sistem AI perlu ditarik kembali.

Mengembangkan Persetujuan Sosial untuk AI

Selain pedoman ini, kita perlu mempromosikan diskusi dan perdeliberan yang inklusif antara semua pemimpin di seluruh perusahaan, tentang manfaat, kepentingan, biaya, dan konsekuensi dari setiap penerapan AI besar. Hanya proses inklusif seperti itu, yang melibatkan semua pemangku kepentingan, untuk mendiskusikan dan memutuskan hasil yang dapat diterima, dan menimbang risiko dan manfaat, yang kemungkinan akan memberikan teknologi AI izin untuk beroperasi di seluruh perusahaan.