Bagaimana Perusahaan Dapat Menciptakan AI yang Bertanggung Jawab dan Transparan – Pemimpin Pemikiran

Oleh Eric Paternoster, CEO of Infosys Public Services

Sundar Pichai, CEO dari perusahaan induk Google Alphabet, telah menggambarkan perkembangan AI sebagai “lebih mendalam daripada api atau listrik,” dan COVID-19 telah membawa urgensi baru dalam melepaskan janji teknologi ini. Aplikasi AI sekarang secara kuat berada di sorotan, memperbaiki pengobatan COVID, melacak pembawa potensial COVID, dan menerapkan chatbot waktu nyata untuk pengguna situs web eceran yang kehabisan stok. Aplikasi ini telah menunjukkan bahwa AI meningkatkan ketahanan bisnis dan memberikan manfaat bagi masyarakat yang lebih luas.

Jadi, bersama dengan “cloud-native,” kata kunci dari kuartal terakhir mungkin saja “transformasi AI-pertama,” sebuah istilah yang dipercaya oleh praktisi industri akan tetap benar bahkan setelah COVID hilang. Bagi banyak perusahaan, janji biaya yang lebih rendah (yaitu, algoritma rantai pasokan yang mencocokkan pasokan dengan permintaan) dan peningkatan produktivitas yang mengagumkan (yaitu, ketika bank menggunakan verifikasi dokumen dan identitas secara waktu nyata) terlalu baik untuk diabaikan.

Mengapa Transformasi AI-Pertama?

Dalam transformasi AI-pertama, sebuah perusahaan menggunakan AI sebagai Bintang Utara, bekerja untuk menggunakan AI tidak hanya dengan cerdas tetapi juga dengan cara yang mempengaruhi keputusan yang dibuat oleh orang, proses, dan sistem secara besar-besaran. Ini menyetel organisasi ke dalam dinamika yang berubah antara karyawan, mitra, dan pelanggan. Ini memungkinkan mereka untuk dengan cepat berubah dan memenuhi permintaan yang bergeser sambil menciptakan keunggulan kompetitif jangka panjang.

Tapi tidak semua perusahaan berada pada tingkat kematangan AI yang sama. Ada beberapa yang dapat disebut sebagai “kelompok AI konvensional,” atau H1. Perusahaan ini, yang memiliki pengalaman dan investasi yang lebih sedikit, umumnya menggunakan algoritma klasik seperti naive Bayes, yang telah ada selama 250 tahun, atau random forest (dikembangkan oleh Tin Kam Ho pada 1995) untuk meningkatkan kecerdasan yang terfragmentasi dalam sistem yang ada. Penggunaan AI seperti ini secara ketat berbasis aturan dan kaku, kekurangan kemampuan untuk menggeneralisasi dari aturan yang ditemukan. Kemudian ada “kelompok pembelajaran dalam,” atau H2. Perusahaan ini mengadopsi AI yang lebih kompleks, termasuk terjemahan mesin neural dan sistem berbasis transkripsi, untuk menambang wawasan konversasional. Sistem seperti ini memiliki lebih banyak kekuatan tetapi tidak dengan mudah menjelaskan mengapa mereka melakukan hal-hal yang mereka lakukan. Mereka juga kekurangan transparansi. Bagi kedua kelompok ini, AI yang digunakan sering tidak dapat dipercaya atau andal dan dapat membuat keputusan yang bias yang membawa perhatian negatif dari badan pemerintah, regulator, dan masyarakat umum.

Perusahaan ini perlu membuat langkah sekarang untuk membawa implementasi AI mereka satu langkah lebih lanjut — ke kamp ketiga (H3) di mana AI adalah self-learning dan generatif. Pada titik ini, sistem AI adalah semi-terawasi atau bahkan tidak terawasi. Mereka transparan dan mencapai “kesadaran” melalui pembelajaran multitugas. Sistem ini menyampaikan kecerdasan yang lebih kaya dan memberikan wawasan yang dapat ditindaklanjuti secara waktu nyata. Ini dilakukan melalui AI yang dikelola dengan baik, yang dapat dijelaskan dan dipahami pada semua tahap.

Bagaimana Bekerja Menuju AI yang Lebih Bertanggung Jawab dan Transparan

AI semakin banyak digunakan untuk mengelola sekolah, tempat kerja, dan entitas publik lainnya. Dalam pengaturan ini, sangat penting bahwa AI adil dan transparan. Namun, ketika masyarakat melalui ledakan adopsi AI, badan regulator memberikan panduan terbatas tentang pengembangan dan penerapan teknologi AI yang tepat. Oleh karena itu, beban ada pada perusahaan untuk mengambil langkah awal. Industri teknologi yang lebih luas harus memanfaatkan sumber daya keuangan dan modal manusia untuk mengubah implementasi awal AI yang terfragmentasi menjadi ekosistem yang efisien, kreatif, bertanggung jawab, dan transparan yang didorong oleh kecerdasan. Untuk memasuki ruang ini, perusahaan harus melakukan empat hal berikut:

• Simpan Manusia dalam Lingkaran: Model AI sering dirancang untuk beroperasi secara independen dari manusia. Namun, elemen manusia sangat penting dalam banyak kasus. Manusia perlu meninjau keputusan dan menghindari bias dan kesalahan yang sering mengganggu proyek AI. Dua contoh kasus termasuk deteksi penipuan dan kasus di mana penegakan hukum terlibat. Kami merekomendasikan bahwa perusahaan merekrut praktisi AI secara perlahan-lahan tetapi konsisten seiring waktu untuk mendapatkan keunggulan dalam perjalanan AI-pertama mereka.
• Hapuskan Dataset yang Bias: Dataset yang tidak bias adalah prasyarat kritis untuk membuat model AI yang dapat diandalkan, adil, dan tidak diskriminatif. Untuk memahami pentingnya, AI digunakan untuk menyortir resume dan skor kredit oleh bank, dan bahkan telah masuk ke dalam beberapa sistem peradilan. Dalam lanskap ini, bias yang tidak terkendali telah memiliki implikasi yang sangat nyata.
• Pastikan Keputusan yang Dapat Dijelaskan: Fitur ini telah diliput oleh banyak outlet berita besar, dan tepat saja. XAI membantu menjelaskan mengapa sistem AI membuat keputusan tertentu. Ini mengungkap fitur mana dari model pembelajaran dalam yang digunakan lebih dari yang lain untuk membuat prediksi atau hipotesis. Memahami pentingnya fitur dan dapat membenarkan bagaimana keputusan diambil sangat penting untuk kasus seperti kendaraan otonom dan visi komputer yang digunakan dalam biopsi medis.
• Reproduksi Temuan dengan Andal: Kebutuhan umum dalam proyek penelitian, model AI harus konsisten ketika memberikan prediksi seiring waktu. Model seperti itu tidak boleh terganggu ketika dihadapkan pada data baru.

Keempat hal ini akan menciptakan ekosistem yang transparan dan didorong oleh kecerdasan, menuju apa yang kita sebut sebagai “perusahaan hidup.” Di sini, keputusan yang tidak bias dan dapat dijelaskan dibuat hampir secara waktu nyata, dengan seluruh perusahaan berfungsi sebagai organisme yang sadar yang dikelola oleh manusia. Baca makalah putih Infosys Knowledge Institute untuk mengetahui lebih lanjut.