Peneliti Mengembangkan Algoritma untuk Mencegah Perilaku Buruk pada Kecerdasan Buatan

Bersama dengan semua kemajuan dan kelebihan kecerdasan buatan yang telah ditunjukkan sampai sekarang, ada juga laporan tentang efek sampingan yang tidak diinginkan seperti bias rasial dan gender pada kecerdasan buatan. Jadi, seperti sciencealert.com mempertanyakan “bagaimana para ilmuwan dapat memastikan bahwa sistem pemikiran yang canggih dapat adil, atau bahkan aman?”

Jawabannya mungkin terletak pada laporan oleh peneliti di Stanford dan Universitas Massachusetts Amherst, yang berjudul Mencegah perilaku tidak diinginkan dari mesin pintar. Seperti eurekaalert.org mencatat dalam cerita tentang laporan ini, kecerdasan buatan sekarang mulai menangani tugas-tugas yang sensitif, sehingga “para pembuat kebijakan menuntut bahwa ilmuwan komputer menawarkan jaminan bahwa sistem otomatis telah dirancang untuk meminimalkan, jika tidak sepenuhnya menghindari, hasil yang tidak diinginkan seperti risiko berlebihan atau bias rasial dan gender.”

Laporan yang disajikan oleh tim peneliti ini “menggarisbawahi sebuah teknik baru yang menerjemahkan tujuan yang tidak jelas, seperti menghindari bias gender, ke dalam kriteria matematika yang tepat yang akan memungkinkan algoritma pembelajaran mesin untuk melatih aplikasi kecerdasan buatan untuk menghindari perilaku tersebut.”

Tujuan dari penelitian ini, seperti yang dijelaskan oleh Emma Brunskill, asisten profesor ilmu komputer di Stanford dan penulis senior makalah ini, adalah “kita ingin memajukan kecerdasan buatan yang menghormati nilai-nilai pengguna manusia dan membenarkan kepercayaan yang kita tempatkan pada sistem otonom.”

Gagasan ini adalah untuk mendefinisikan “tidak aman” atau “tidak adil” hasil atau perilaku dalam istilah matematika. Ini akan, menurut peneliti, membuatnya mungkin “untuk menciptakan algoritma yang dapat belajar dari data tentang cara menghindari hasil yang tidak diinginkan dengan kepercayaan tinggi.”

Tujuan kedua adalah untuk “mengembangkan serangkaian teknik yang akan membuatnya mudah bagi pengguna untuk menentukan jenis perilaku yang tidak diinginkan yang mereka ingin batasi dan memungkinkan perancang pembelajaran mesin untuk memprediksi dengan kepercayaan bahwa sistem yang dilatih menggunakan data masa lalu dapat diandalkan ketika diterapkan dalam situasi dunia nyata.”

ScienceAlert mengatakan bahwa tim ini menamai sistem baru ini  ‘algoritma Seldonian’, setelah karakter utama dari seri novel fiksi ilmiah Foundation karya Isaac Asimov. Philip Thomas, asisten profesor ilmu komputer di Universitas Massachusetts Amherst dan penulis pertama makalah ini, mengatakan, “Jika saya menggunakan algoritma Seldonian untuk pengobatan diabetes, saya dapat menentukan bahwa perilaku yang tidak diinginkan berarti gula darah yang berbahaya rendah atau hipoglikemia.”

“Saya dapat mengatakan kepada mesin, ‘Saat Anda mencoba memperbaiki pengontrol pada pompa insulin, jangan membuat perubahan yang akan meningkatkan frekuensi hipoglikemia.’ Sebagian besar algoritma tidak memberikan cara untuk menempatkan jenis batasan pada perilaku; itu tidak termasuk dalam desain awal.”

Thomas menambahkan bahwa “kerangka Seldonian ini akan membuatnya lebih mudah bagi perancang pembelajaran mesin untuk membangun instruksi penghindaran perilaku ke dalam semua jenis algoritma, dengan cara yang dapat memungkinkan mereka untuk menilai kemungkinan bahwa sistem yang dilatih akan berfungsi dengan baik di dunia nyata.”

Bagi Emma Brunskill, dia juga mencatat bahwa “memikirkan tentang bagaimana kita dapat menciptakan algoritma yang menghormati nilai-nilai seperti keamanan dan keadilan adalah sangat penting karena masyarakat semakin bergantung pada kecerdasan buatan.”