Peneliti AI Mengusulkan Pembayaran Bounty untuk Bias AI untuk Membuat AI Lebih Etis

Tim peneliti AI dari perusahaan dan laboratorium pengembangan AI seperti Intel (INTC ), Google (GOOGL ) Brain, dan OpenAI telah merekomendasikan penggunaan bounty untuk membantu memastikan penggunaan AI yang etis. Tim peneliti baru-baru ini merilis sejumlah proposal mengenai penggunaan AI yang etis, dan mereka termasuk saran bahwa memberikan penghargaan kepada orang-orang yang menemukan bias dalam AI bisa menjadi cara yang efektif untuk membuat AI lebih adil.

Seperti yang dilaporkan oleh VentureBeat, peneliti dari berbagai perusahaan di AS dan Eropa bergabung untuk menyusun serangkaian pedoman etika untuk pengembangan AI, serta saran untuk memenuhi pedoman tersebut. Salah satu saran yang dibuat oleh peneliti adalah menawarkan bounty kepada pengembang yang menemukan bias dalam program AI. Saran ini dibuat dalam sebuah makalah berjudul “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims”.

Sebagai contoh dari bias yang tim peneliti harapkan untuk ditangani, data dan algoritma yang bias telah ditemukan dalam semua hal, dari aplikasi kesehatan hingga sistem pengenalan wajah yang digunakan oleh kepolisian. Salah satu contoh terjadinya bias adalah alat penilaian risiko PATTERN yang baru-baru ini digunakan oleh Departemen Kehakiman AS untuk menentukan tahanan mana yang dapat dikirim pulang ketika mengurangi ukuran populasi penjara dalam menanggapi pandemi coronavirus.

Praktik memberikan penghargaan kepada pengembang untuk menemukan perilaku yang tidak diinginkan dalam program komputer adalah satu yang lama, tetapi ini mungkin pertama kalinya sebuah dewan etika AI secara serius mengusulkan ide ini sebagai pilihan untuk melawan bias AI. Meskipun tidak mungkin ada cukup banyak pengembang AI untuk menemukan cukup banyak bias sehingga AI dapat dijamin etis, hal ini masih akan membantu perusahaan mengurangi bias secara keseluruhan dan memahami jenis bias apa yang bocor ke dalam sistem AI mereka.

Penulis makalah menjelaskan bahwa konsep bounty bug dapat diperluas ke AI dengan menggunakan bounty bias dan keamanan, dan bahwa penggunaan teknik ini yang tepat dapat mengarah pada dataset dan model yang lebih baik didokumentasikan. Dokumentasi ini akan lebih baik mencerminkan keterbatasan model dan data. Peneliti bahkan mencatat bahwa ide yang sama dapat diterapkan pada properti AI lainnya seperti interpretability, keamanan, dan perlindungan privasi.

Seiring semakin banyak diskusi yang terjadi sekitar prinsip etika AI, banyak yang telah menyatakan bahwa prinsip saja tidak cukup dan bahwa tindakan harus diambil untuk menjaga AI tetap etis. Penulis makalah mencatat bahwa “peraturan dan norma yang ada di industri dan akademisi tidak cukup untuk memastikan pengembangan AI yang bertanggung jawab.” Co-pendiri Google Brain dan pemimpin industri AI Andrew Ng juga berpendapat bahwa prinsip pedoman saja tidak memiliki kemampuan untuk memastikan bahwa AI digunakan secara bertanggung jawab dan adil, mengatakan bahwa banyak dari mereka perlu lebih eksplisit dan memiliki ide yang dapat diambil.

Rekomendasi berburu bounty bias dari tim peneliti gabungan adalah upaya untuk melangkah melampaui prinsip etika ke arah tindakan etika. Tim peneliti juga membuat sejumlah rekomendasi lain yang dapat memicu tindakan etika di bidang AI.

Tim peneliti membuat sejumlah rekomendasi lain yang dapat diikuti oleh perusahaan untuk membuat penggunaan AI mereka lebih etis. Mereka menyarankan bahwa database pusat insiden AI harus dibuat dan dibagikan di antara komunitas AI yang lebih luas. Demikian pula, peneliti mengusulkan bahwa jejak audit harus dibuat dan bahwa jejak ini harus mempertahankan informasi tentang penciptaan dan penerapan aplikasi kritis keamanan di platform AI.

Untuk menjaga privasi orang, tim peneliti menyarankan bahwa teknik yang berfokus pada privasi seperti komunikasi terenkripsi, pembelajaran federasi, dan privasi diferensial harus semua digunakan. Di luar itu, tim peneliti menyarankan bahwa alternatif sumber terbuka harus dibuat tersedia secara luas dan bahwa model AI komersial harus diperiksa secara ketat. Akhirnya, tim peneliti menyarankan bahwa pendanaan pemerintah harus ditingkatkan sehingga peneliti akademis dapat memverifikasi klaim kinerja perangkat keras. l akan digunakan. Di luar itu, tim peneliti menyarankan bahwa alternatif sumber terbuka harus dibuat tersedia secara luas dan bahwa model AI komersial harus diperiksa secara ketat. Akhirnya, tim peneliti menyarankan bahwa pendanaan pemerintah harus ditingkatkan sehingga peneliti akademis dapat memverifikasi klaim kinerja perangkat keras.