Bagaimana Perusahaan Dapat Menciptakan AI yang Bertanggung Jawab dan Transparan – Pemimpin Pemikiran

By Eric Paternoster, CEO of Infosys Public Services

Sundar Pichai, CEO dari perusahaan induk Google Alphabet, telah menggambarkan perkembangan AI sebagai “lebih mendalam daripada api atau listrik,” dan COVID-19 telah membawa urgensi baru dalam melepaskan janji teknologi ini. Aplikasi AI sekarang secara kuat berada di bawah sorotan, memperbaiki pengobatan COVID, melacak pembawa potensial COVID, dan menggelar chatbot waktu nyata untuk pengguna situs web retail yang kehabisan pasokan. Aplikasi ini telah menunjukkan bahwa AI memperbaiki ketahanan bisnis dan memberikan manfaat bagi masyarakat yang lebih luas.

Jadi, bersama dengan “cloud-native,” kata kunci dari kuartal terakhir mungkin hanya “transformasi AI-pertama,” sebuah istilah yang dipercaya oleh praktisi industri akan tetap benar bahkan setelah COVID hilang. Bagi banyak perusahaan, janji biaya yang lebih rendah (yaitu, algoritma rantai pasokan yang mencocokkan pasokan dengan permintaan) dan peningkatan produktivitas yang mengesankan (yaitu, ketika bank menggunakan verifikasi dokumen dan identitas secara waktu nyata) terlalu baik untuk diabaikan.

Mengapa Transformasi AI-Pertama?

Dalam transformasi AI-pertama, sebuah perusahaan menggunakan AI sebagai Bintang Utara, bekerja untuk menggunakannya tidak hanya dengan cerdas tetapi juga dengan cara yang mempengaruhi keputusan yang dibuat oleh orang, proses, dan sistem secara besar-besaran. Ini menyetel organisasi ke dinamika yang berubah antara karyawan, mitra, dan pelanggan. Ini memungkinkan mereka untuk dengan cepat berubah dan memenuhi permintaan yang bergeser sambil menciptakan keunggulan kompetitif jangka panjang.

Tapi tidak semua perusahaan berada pada tingkat kematangan AI yang sama. Ada beberapa yang dapat disebut “kelompok AI konvensional,” atau H1. Perusahaan ini, yang memiliki pengalaman dan investasi yang lebih sedikit, umumnya menggunakan algoritma klasik seperti naïve Bayes, yang telah ada selama 250 tahun, atau random forest (dikembangkan oleh Tin Kam Ho pada 1995) untuk meningkatkan kecerdasan yang terfragmentasi dalam sistem yang ada. Penggunaan AI seperti ini secara ketat berbasis aturan dan kaku, kekurangan kemampuan untuk menggeneralisasi dari aturan yang ditemukan. Lalu ada “kelompok pembelajaran dalam,” atau H2. Perusahaan ini mengadopsi AI yang lebih kompleks, termasuk terjemahan mesin neural dan sistem berbasis transkripsi, untuk menambang wawasan konversasional. Sistem seperti ini memiliki lebih banyak kekuatan tetapi tidak dengan mudah menjelaskan mengapa mereka melakukan hal-hal yang mereka lakukan. Mereka juga kekurangan transparansi. Untuk kedua kelompok ini, AI yang digunakan sering tidak dapat dipercaya atau andal dan dapat membuat keputusan yang bias yang membawa perusahaan perhatian negatif dari badan pemerintah, regulator, dan masyarakat umum.

Perusahaan ini perlu membuat langkah sekarang untuk membawa implementasi AI mereka satu langkah lebih jauh — ke kamp ketiga (H3) di mana AI adalah self-learning dan generatif. Pada titik ini, sistem AI adalah semi-supervised atau bahkan unsupervised. Mereka transparan dan mencapai “kesadaran” melalui multitask learning. Sistem ini memberikan kecerdasan yang lebih kaya dan menyediakan wawasan yang dapat ditindaklanjuti secara waktu nyata. Ini dilakukan melalui AI yang dikelola dan diatur dengan baik, yang dapat dijelaskan dan dipahami pada semua tahap.

Bagaimana Bekerja Menuju AI yang Lebih Bertanggung Jawab dan Transparan

AI semakin banyak digunakan untuk mengelola sekolah, tempat kerja, dan entitas publik lainnya. Dalam pengaturan ini, sangat penting bahwa AI adil dan transparan. Namun, ketika masyarakat bekerja melalui ledakan adopsi AI ini, badan regulator memberikan panduan terbatas tentang pengembangan dan penerapan teknologi AI yang tepat. Jadi, beban ada pada perusahaan untuk mengambil langkah-langkah. Industri teknologi yang lebih luas harus memanfaatkan kekuatan keuangan dan modal manusia, mengubah implementasi awal AI yang terfragmentasi menjadi ekosistem cerdas yang efisien, kreatif, bertanggung jawab, dan transparan. Untuk memasuki ruang ini, perusahaan harus melakukan empat hal berikut:

• Simpan manusia dalam loop: Model AI sering dirancang untuk beroperasi secara independen dari manusia. Namun, elemen manusia sangat penting dalam banyak kasus. Manusia perlu meninjau keputusan dan menghindari bias dan kesalahan yang sering mengganggu proyek AI. Dua contoh kasus termasuk deteksi penipuan dan kasus di mana penegakan hukum terlibat. Kami sarankan perusahaan untuk merekrut praktisi AI secara perlahan-lahan namun konsisten seiring waktu untuk mendapatkan keunggulan dalam perjalanan AI-pertama mereka.
• Hapus dataset yang bias: Dataset yang tidak bias adalah prasyarat penting untuk membuat model AI yang andal, adil, dan tidak diskriminatif. Untuk memahami pentingnya, AI digunakan untuk memilih resume dan skor kredit oleh bank, dan bahkan telah masuk ke dalam beberapa sistem peradilan. Dalam lanskap ini, bias yang tidak terkendali telah memiliki implikasi yang sangat nyata.
• Pastikan keputusan dapat dijelaskan: Fitur ini telah diliput oleh banyak outlet berita besar, dan dengan alasan yang tepat. XAI membantu menjelaskan mengapa sistem AI membuat keputusan tertentu. Ini mengungkapkan fitur mana dari model pembelajaran dalam yang digunakan lebih dari yang lain untuk membuat prediksi atau hipotesis. Memahami pentingnya fitur dan dapat membenarkan bagaimana keputusan diambil sangat penting untuk kasus seperti kendaraan otonom dan visi komputer yang digunakan dalam biopsi medis.
• Reproduksi temuan dengan andal: Kebutuhan umum dalam proyek penelitian, model AI harus konsisten ketika memberikan prediksi seiring waktu. Model seperti ini tidak boleh terganggu ketika dihadapkan pada data baru.

Keempat hal ini akan menciptakan ekosistem yang transparan dan didorong oleh kecerdasan, menuju apa yang kami sebut “perusahaan hidup.” Di sini, keputusan yang tidak bias dan dapat dijelaskan dibuat dalam waktu nyata, dengan seluruh perusahaan bertindak sebagai organisme yang hidup yang diatur oleh manusia. Baca makalah putih Infosys Knowledge Institute untuk mengetahui lebih lanjut.