Ketika Industri Mempersiapkan Diri untuk Adopsi AI yang Dipercepat, Fokus Baru pada Etika & Tanggung Jawab

Oleh: Pandurang Kamat, CTO dari Persistent Systems

Kecerdasan buatan (AI) pada intinya adalah pembelajaran mesin (ML), proses yang dilalui mesin untuk memperbaiki kinerja berdasarkan input data. Jumlah data yang ada saat ini berarti bahwa AI telah memiliki kesempatan untuk berkembang, berkembang dengan kecepatan yang sangat cepat dalam beberapa tahun terakhir. Dan janji AI telah membuat para teknolog dan eksekutif di berbagai industri berpikir kreatif tentang berbagai aplikasinya.

Sejak revolusi industri, setiap periode kemajuan teknologi yang cepat ditandai dengan antusiasme dan kekhawatiran yang sama. World Wide Web Consortium (W3C), sebuah kelompok yang membuat standar industri pengembang web, menunjukkan bahwa “ada kesadaran yang meningkat bahwa penerapan pembelajaran mesin menimbulkan risiko dan dapat menyebabkan kerusakan” – termasuk di bidang seperti: bias, privasi, keamanan, keberlanjutan, dan akuntabilitas secara keseluruhan.

“Ada permintaan yang jelas untuk pendekatan etis terhadap ML, terlihat dari aktivisme masyarakat sipil, munculnya sekitar 100 set prinsip etika AI secara global, dan langkah-langkah pemerintah di seluruh dunia untuk mengatur AI,” kelompok tersebut menulis. “Jika teknologi tidak selaras dengan nilai-nilai masyarakat yang mereka operasikan, mereka berisiko merusaknya.”

Pilihlah dengan Bijak

Di permukaan, sulit untuk membantah bahwa kecepatan dan output yang ditingkatkan buruk untuk bisnis. Namun, untuk beberapa industri, ada banyak yang dipertaruhkan dengan proses pengambilan keputusan yang beberapa orang berpendapat tidak boleh dibiarkan kepada algoritma. Dengan melihat beberapa industri terbesar, kita dapat melihat seberapa rentan kita terhadap kesalahan mesin, dan mengapa AI yang bertanggung jawab sangat penting.

Perbankan, Jasa Keuangan, dan Asuransi (BFSI)

Forum Ekonomi Dunia (WEF) dan Deloitte memeriksa proses penerapan AI di perusahaan BFSI, menemukan bahwa, “meskipun AI dapat membantu menciptakan wawasan bisnis yang berguna dari jumlah informasi yang luar biasa,” “keasingan AI” akan menjadi sumber risiko serius yang berkelanjutan.

“AI berpikir dengan cara yang tidak manusiawi,” laporan tersebut menyatakan. “Sistem AI tidak mengikuti konstruksi logika manusia, dan berperilaku sangat berbeda dari aktor manusia yang diberi tugas yang sama. Selain itu, sifat pembelajaran mandiri dari sistem AI memungkinkan mereka berkembang tanpa input manusia, yang dapat menyebabkan hasil yang tidak terduga berdasarkan variabel yang tidak diketahui.”

Pendukung AI yang bertanggung jawab berpendapat bahwa pembelajaran mesin menimbulkan masalah serius dalam hal seperti skoring risiko otomatis, kredit, dan keputusan pemberian pinjaman, semuanya yang secara historis memihak pada beberapa demografi tertentu. Studi-studi terbaru telah menunjukkan bahwa pemberi pinjaman yang menggunakan mesin pengambil keputusan berbasis AI lebih cenderung menolak pinjaman rumah kepada orang-orang berwarna – dalam beberapa kasus, 80% dari pemohon Afrika-Amerika lebih cenderung ditolak.

Kesehatan

Beberapa tahun yang lalu, Jurnal Asosiasi Medis Amerika (JAMA) melihat adopsi AI di bidang kesehatan, menemukan bahwa tantangannya banyak, termasuk “harapan yang tidak realistis, data yang bias dan tidak representatif, prioritisasi yang tidak memadai terhadap kesetaraan dan inklusi, risiko memperburuk kesenjangan kesehatan, tingkat kepercayaan yang rendah, dan lingkungan regulasi yang tidak pasti.”

Tidak tepat sebuah pengakuan yang sangat positif, namun ada standar yang lebih tinggi untuk AI yang bertanggung jawab di bidang kesehatan, terutama mengingat potensi hidup dan mati yang secara harfiah. Secara keseluruhan, para profesional kesehatan optimis tetapi berhati-hati tentang masa depan AI, memilih untuk fokus upaya mereka pada mendidik praktisi lain tentang penggunaan AI di pengaturan klinis dan membuat pedoman tentang cara melangkah maju dengan bertanggung jawab sehingga semua pasien dapat diuntungkan.

Media

PwC memperkirakan bahwa AI akan memberikan $15,7 triliun dalam pertumbuhan ekonomi global pada tahun 2030, namun menurut Salesforce kurang dari setengah (48%) dari pelanggan mempercayai perusahaan untuk menggunakan AI secara etis, dan 65% khawatir tentang penggunaan AI yang tidak etis. Di persimpangan antara keuntungan dan kepercayaan, ada perusahaan media – pelopor dengan jangkauan dan pengaruh yang besar. Dan ada kekhawatiran tentang kenyataan bahwa AI bukanlah aplikasi “setel dan lupakan”, yang berarti bahwa bagi perusahaan media, tanggung jawab mereka tidak hanya dalam produksi konten, tetapi juga dalam pemantauan konten secara terus-menerus setelah penerapan.

Bagaimana iklan disajikan dan dipersonalisasi? Bagaimana konten mencapai audiens tertentu, dan apa pesannya? Siapa yang mengajarkan AI “bagaimana” untuk belajar? Dan bagaimana Anda dapat menargetkan konsumen tertentu sambil juga menghormati privasi? Ini hanya beberapa pertanyaan yang memusingkan perusahaan media saat mereka menyeimbangkan etika dengan mendapatkan keunggulan kompetitif.

Tanggapan terhadap Tanggung Jawab

Kemajuan dalam mengembangkan AI yang bertanggung jawab terlihat setiap hari – para pembuat undang-undang sedang menyusun peraturan, konsumen menuntut lebih banyak transparansi, dan banyak perusahaan telah membuat departemen khusus yang bertugas untuk memastikan AI mereka digunakan secara tepat. Perusahaan memerlukan kerangka AI yang bertanggung jawab yang terdefinisi dengan baik yang mencakup etika, transparansi, akuntabilitas, keadilan, privasi, dan keamanan. Ketika debat dan reformasi terus berlanjut, studi bersama terbaru oleh MIT Sloan Management Review dan Boston Consulting Group memberikan beberapa pedoman umum yang sederhana – mereka menulis, “Jika Anda ingin menjadi pemimpin AI yang bertanggung jawab, fokuslah pada menjadi perusahaan yang bertanggung jawab.” rs etika, transparansi, akuntabilitas, keadilan, privasi, dan keamanan. Ketika debat dan reformasi terus berlanjut, studi bersama terbaru oleh MIT Sloan Management Review dan Boston Consulting Group memberikan beberapa pedoman umum yang sederhana – mereka menulis, “Jika Anda ingin menjadi pemimpin AI yang bertanggung jawab, fokuslah pada menjadi perusahaan yang bertanggung jawab.”