Ketika Industri Mempersiapkan Diri untuk Adopsi AI yang Dipercepat, Fokus Baru pada Etika & Tanggung Jawab

Oleh: Pandurang Kamat, CTO of Persistent Systems

Kecerdasan buatan (AI) pada intinya adalah pembelajaran mesin (ML), proses di mana mesin belajar untuk meningkatkan kinerja berdasarkan input data. Jumlah data yang ada saat ini berarti bahwa AI telah memiliki lahan yang subur untuk berkembang, percepatan dengan kecepatan yang luar biasa dalam beberapa tahun terakhir. Dan janji AI telah membuat teknolog dan eksekutif di berbagai industri berpikir kreatif tentang berbagai aplikasinya.

Dari revolusi industri dan seterusnya, setiap periode kemajuan teknologi yang cepat ditandai dengan antusiasme dan kekhawatiran. World Wide Web Consortium (W3C), sebuah kelompok yang membuat standar industri pengembang web, menunjukkan bahwa “terdapat kesadaran yang meningkat bahwa penerapan pembelajaran mesin menimbulkan risiko dan dapat menyebabkan kerugian” – termasuk di bidang seperti: bias, privasi, keamanan, keberlanjutan, dan akuntabilitas secara keseluruhan.

“Terjadi permintaan yang jelas untuk pendekatan etis terhadap ML, terlihat dari aktivisme masyarakat sipil, munculnya ~100 set prinsip etika AI secara global, dan langkah pemerintah di seluruh dunia untuk mengatur AI,” kelompok tersebut menulis. “Jika teknologi tidak sejalan dengan nilai-nilai masyarakat yang mereka operasikan, mereka berisiko merusaknya.”

Pilih Bijak

Di permukaan, sulit untuk membantah bahwa kecepatan dan output yang ditingkatkan buruk untuk bisnis. Tapi untuk beberapa industri, ada banyak yang dipertaruhkan dengan proses pengambilan keputusan yang beberapa orang berpendapat tidak boleh dibiarkan kepada algoritma. Dengan melihat beberapa industri terbesar, kita dapat melihat betapa rentannya kita terhadap kesalahan mesin, dan mengapa AI yang bertanggung jawab sangat penting.

Perbankan, Jasa Keuangan, dan Asuransi (BFSI)

World Economic Forum (WEF) dan Deloitte memeriksa proses penerapan AI di perusahaan BFSI, menemukan bahwa, “meskipun AI dapat membantu menciptakan wawasan bisnis yang berguna dari jumlah informasi yang luar biasa,” “keasingan AI” akan menjadi sumber risiko yang serius.

“AI berpikir dengan cara yang tidak manusiawi,” laporan tersebut menyatakan. “Sistem AI tidak mengikuti konstruk logika manusia, dan berperilaku sangat berbeda dari aktor manusia yang diberi tugas yang sama. Selain itu, sifat self-learning dari sistem AI memungkinkan mereka untuk berkembang tanpa input manusia, yang dapat menyebabkan hasil yang tidak terduga berdasarkan variabel yang tidak diketahui.”

Pendukung AI yang bertanggung jawab berpendapat bahwa pembelajaran mesin menimbulkan masalah serius dalam hal seperti skoring risiko otomatis, kredit, dan keputusan pemberian pinjaman, semua yang secara historis memihak pada beberapa demografi. Studi terbaru menunjukkan bahwa pemberi pinjaman yang menggunakan mesin keputusan berbasis AI lebih cenderung menolak pinjaman rumah kepada orang-orang berwarna – dalam beberapa kasus, 80% dari pelamar berwarna hitam lebih cenderung ditolak.

Kesehatan

Beberapa tahun yang lalu, Journal of the American Medical Association (JAMA) melihat adopsi AI di bidang kesehatan, menemukan bahwa tantangannya banyak, termasuk “harapan yang tidak realistis, data yang bias dan tidak representatif, prioritas yang tidak memadai untuk kesetaraan dan inklusi, risiko memperburuk kesenjangan kesehatan, tingkat kepercayaan yang rendah, dan lingkungan regulasi yang tidak pasti.”

Tidak tepat sebuah pengakuan yang mengesankan, tapi ada batangan yang lebih tinggi untuk AI yang bertanggung jawab di bidang kesehatan, terutama mengingat potensi hidup atau mati yang sebenarnya. Secara keseluruhan, para profesional kesehatan optimis tapi berhati-hati tentang masa depan AI, memilih untuk fokus upaya mereka pada mendidik praktisi lain tentang penggunaannya di pengaturan klinis dan membuat pedoman tentang cara untuk melangkah maju dengan bertanggung jawab sehingga menguntungkan semua pasien.

Media

PwC memperkirakan bahwa AI akan menyediakan $15,7 triliun pertumbuhan ekonomi global pada tahun 2030, tapi menurut Salesforce kurang dari setengah (48%) pelanggan mempercayai perusahaan untuk menggunakan AI secara etis, dan 65% khawatir tentang penggunaan AI yang tidak etis. Di persimpangan antara keuntungan dan kepercayaan, ada perusahaan media – pengadopsi awal dengan jangkauan dan pengaruh yang besar. Dan ada kekhawatiran tentang fakta bahwa AI bukanlah aplikasi “setel dan lupakan”, yang berarti bahwa untuk perusahaan media, tanggung jawab mereka tidak hanya dalam produksi konten, tapi juga pemantauan terus-menerus setelah penerapan.

Bagaimana iklan disajikan dan dipersonalisasi? Bagaimana konten mencapai audiens tertentu, dan apa pesannya? Siapa yang mengajar AI “bagaimana” untuk belajar? Dan bagaimana Anda dapat menargetkan konsumen tertentu sambil juga menghormati privasi? Ini hanya beberapa pertanyaan yang membingungkan perusahaan media saat mereka menyeimbangkan etika dengan mendapatkan keunggulan kompetitif.

Tanggapan terhadap Tanggung Jawab

Kemajuan dalam mengembangkan AI yang bertanggung jawab terlihat setiap hari – para pembuat undang-undang sedang menyusun peraturan, konsumen menuntut lebih banyak transparansi, dan banyak perusahaan telah membuat departemen khusus yang bertugas untuk memastikan AI mereka digunakan secara tepat. Perusahaan memerlukan kerangka AI yang bertanggung jawab yang terdefinisi dengan baik yang mencakup etika, transparansi, akuntabilitas, keadilan, privasi, dan keamanan. Saat debat dan reformasi terus berlanjut, studi terbaru oleh MIT Sloan Management Review dan Boston Consulting Group memberikan beberapa pedoman sederhana secara keseluruhan – mereka menulis, “Jika Anda ingin menjadi pemimpin AI yang bertanggung jawab, fokuslah pada menjadi perusahaan yang bertanggung jawab.”