Apa yang Dimaksud dengan Hak Asasi Manusia AI di Gedung Putih untuk Amerika & Dunia

Kantor Ilmu Pengetahuan dan Teknologi Gedung Putih (OSTP) baru-baru ini merilis sebuah makalah putih yang disebut “Rancangan untuk Hak Asasi Manusia AI: Membuat Sistem Otomatis Bekerja untuk Rakyat Amerika”. Kerangka ini dirilis setahun setelah OSTP mengumumkan peluncuran proses untuk mengembangkan “hak asasi manusia untuk dunia yang ditenagai oleh AI”.

Pendahuluan dalam tagihan ini secara jelas menggambarkan bahwa Gedung Putih memahami ancaman yang mendesak bagi masyarakat yang ditimbulkan oleh AI. Ini adalah apa yang dinyatakan dalam pendahuluan:

“Di antara tantangan besar yang dihadapi demokrasi saat ini adalah penggunaan teknologi, data, dan sistem otomatis dengan cara yang mengancam hak-hak masyarakat Amerika. Terlalu sering, alat-alat ini digunakan untuk membatasi kesempatan kita dan mencegah akses kita ke sumber daya atau layanan yang penting. Masalah-masalah ini sudah terdokumentasi dengan baik. Di Amerika dan di seluruh dunia, sistem yang seharusnya membantu dalam perawatan pasien telah terbukti tidak aman, tidak efektif, atau bias. Algoritma yang digunakan dalam keputusan perekrutan dan kredit telah ditemukan mencerminkan dan mereproduksi ketidaksetaraan yang tidak diinginkan atau memasukkan bias dan diskriminasi yang merugikan. Pengumpulan data media sosial yang tidak terkendali telah digunakan untuk mengancam kesempatan orang, merusak privasi mereka, atau melacak aktivitas mereka secara luas – seringkali tanpa sepengetahuan atau persetujuan mereka.”

Apa yang akan terjadi dengan Tagihan Hak Asasi Manusia ini dan kerangka yang diajukan untuk masa depan AI masih belum terlihat. Yang kita ketahui adalah bahwa perkembangan baru muncul dengan kecepatan yang eksponensial. Apa yang dulunya dianggap mustahil, terjemahan bahasa instan sekarang menjadi kenyataan, dan pada saat yang sama kita memiliki revolusi dalam pemahaman bahasa alami (NLU) yang dipimpin oleh OpenAI dan platform terkenal mereka GPT-3.

Sejak itu kita telah melihat generasi gambar instan melalui teknik yang disebut Stable Diffusion yang mungkin segera menjadi produk konsumen mainstream. Pada dasarnya dengan teknologi ini, pengguna hanya perlu mengetikkan pertanyaan apa pun yang mereka bayangkan, dan seperti magic, AI akan menghasilkan gambar yang sesuai dengan pertanyaan tersebut.

Ketika mempertimbangkan pertumbuhan eksponensial dan Hukum Percepatan Pengembalian, akan tiba saatnya ketika AI telah mengambil alih setiap aspek kehidupan sehari-hari. Individu dan perusahaan yang mengetahui hal ini dan memanfaatkan pergeseran paradigma ini akan mendapatkan keuntungan. Sayangnya, sebagian besar masyarakat mungkin menjadi korban dari konsekuensi yang tidak diinginkan dan tidak disengaja dari AI.

Tagihan Hak Asasi Manusia AI dimaksudkan untuk mendukung pengembangan kebijakan dan praktik yang melindungi hak-hak sipil dan mempromosikan nilai-nilai demokratis dalam pembangunan, penerapan, dan pengawasan sistem otomatis. Bagaimana tagihan ini akan dibandingkan dengan pendekatan China masih belum terlihat, tetapi ini adalah tagihan hak asasi manusia yang memiliki potensi untuk mengubah lanskap AI, dan kemungkinan akan diadopsi oleh sekutu seperti Australia, Kanada, dan UE.

Yang perlu diperhatikan adalah bahwa Tagihan Hak Asasi Manusia AI ini tidak mengikat dan tidak merupakan kebijakan pemerintah AS. Ini tidak menggantikan, memodifikasi, atau menafsirkan undang-undang, peraturan, kebijakan, atau instrumen internasional yang ada. Apa yang ini maksudkan adalah bahwa akan menjadi tanggung jawab perusahaan dan pemerintah untuk mematuhi kebijakan yang tercantum dalam makalah putih ini.

Tagihan ini telah mengidentifikasi lima prinsip yang harus memandu desain, penggunaan, dan penerapan sistem otomatis untuk melindungi masyarakat Amerika di era kecerdasan buatan, di bawah ini kita akan menguraikan 5 prinsip tersebut:

1. Sistem yang Aman dan Efektif

Terdapat bahaya yang jelas dan nyata bagi masyarakat dengan sistem AI yang menyalahgunakan. Ini mencoba untuk diatasi dengan prinsip-prinsip berikut:

“Anda harus dilindungi dari sistem yang tidak aman atau tidak efektif. Sistem otomatis harus dikembangkan dengan konsultasi dari komunitas yang beragam, pemangku kepentingan, dan ahli domain untuk mengidentifikasi kekhawatiran, risiko, dan dampak potensial dari sistem. Sistem harus menjalani pengujian sebelum penerapan, identifikasi risiko dan mitigasi, dan pemantauan yang berkelanjutan untuk menunjukkan bahwa mereka aman dan efektif berdasarkan penggunaan yang dimaksud, mitigasi hasil yang tidak aman termasuk yang di luar penggunaan yang dimaksud, dan kepatuhan terhadap standar domain-spesifik. Hasil dari langkah-langkah protektif ini harus termasuk kemungkinan tidak menerapkan sistem atau menghapus sistem dari penggunaan. Sistem otomatis tidak boleh dirancang dengan niat atau kemungkinan yang dapat diprediksi untuk membahayakan keselamatan Anda atau keselamatan komunitas Anda. Mereka harus dirancang untuk proaktif melindungi Anda dari bahaya yang berasal dari penggunaan yang tidak disengaja atau dampak yang tidak terduga dari sistem otomatis. Anda harus dilindungi dari penggunaan data yang tidak tepat atau tidak relevan dalam desain, pengembangan, dan penerapan sistem otomatis, dan dari bahaya yang diperburuk oleh penggunaan kembali data tersebut. Evaluasi dan pelaporan yang independen yang mengkonfirmasi bahwa sistem tersebut aman dan efektif, termasuk pelaporan langkah-langkah yang diambil untuk mitigasi bahaya potensial, harus dilakukan dan hasilnya dibuat publik setiap kali memungkinkan.”

2. Perlindungan Diskriminasi Algoritmik

Kebijakan ini mengatasi beberapa masalah gajah di ruangan ketika datang ke perusahaan yang menyalahgunakan individu.

Sebuah masalah umum ketika merekrut staf menggunakan sistem AI adalah bahwa sistem pembelajaran dalam akan sering dilatih pada data yang bias untuk mencapai kesimpulan perekrutan. Ini pada dasarnya berarti bahwa praktik perekrutan yang buruk di masa lalu akan menghasilkan diskriminasi gender atau rasial oleh agen perekrutan. Sebuah studi menunjukkan kesulitan dalam mencoba untuk menghilangkan gender dari data pelatihan.

Masalah inti lainnya dengan data yang bias dari pemerintah adalah risiko untuk penangkapan yang salah, atau bahkan lebih buruk algoritma prediksi kriminalitas yang menawarkan hukuman penjara yang lebih lama bagi minoritas.

“Anda tidak boleh menghadapi diskriminasi oleh algoritma dan sistem harus dirancang dan digunakan dengan cara yang adil. Diskriminasi algoritmik terjadi ketika sistem otomatis menyumbang pada perlakuan yang tidak adil atau dampak yang merugikan orang-orang berdasarkan ras, warna, etnis, jenis kelamin (termasuk kehamilan, kelahiran, dan kondisi medis terkait, identitas gender, status interseks, dan orientasi seksual) agama, usia, asal negara, disabilitas, status veteran, informasi genetik, atau klasifikasi lain yang dilindungi oleh hukum. Tergantung pada keadaan spesifik, seperti diskriminasi algoritmik dapat melanggar perlindungan hukum. Perancang, pengembang, dan penerap sistem otomatis harus mengambil langkah-langkah proaktif dan terus-menerus untuk melindungi individu dan komunitas dari diskriminasi algoritmik dan untuk menggunakan dan merancang sistem dengan cara yang adil. Perlindungan ini harus termasuk penilaian keseimbangan sebagai bagian dari desain sistem, penggunaan data yang representatif dan perlindungan terhadap proksi untuk fitur demografis, memastikan aksesibilitas untuk orang-orang dengan disabilitas dalam desain dan pengembangan, pengujian disparitas sebelum dan selama penerapan dan mitigasi, dan pengawasan organisasi yang jelas. Evaluasi yang independen dan pelaporan dalam bahasa sederhana, termasuk hasil pengujian disparitas dan informasi mitigasi, harus dilakukan dan dibuat publik setiap kali memungkinkan untuk mengkonfirmasi perlindungan ini.”

3. Privasi Data

Prinsip privasi data ini adalah yang paling mungkin mempengaruhi segmen terbesar dari populasi. Paruh pertama dari prinsip ini tampaknya berkaitan dengan pengumpulan data, terutama dengan data yang dikumpulkan melalui internet, masalah yang diketahui terutama untuk platform media sosial. Data yang sama kemudian dapat digunakan untuk menjual iklan, atau bahkan lebih buruk untuk memanipulasi sentimen publik dan mempengaruhi pemilihan.

“Anda harus dilindungi dari praktik data yang menyalahgunakan melalui perlindungan yang dibangun dan Anda harus memiliki kekuatan atas cara data tentang Anda digunakan. Anda harus dilindungi dari pelanggaran privasi melalui pilihan desain yang memastikan perlindungan tersebut termasuk dalam desain, termasuk memastikan bahwa pengumpulan data sesuai dengan harapan yang wajar, dan bahwa hanya data yang ketat diperlukan untuk konteks spesifik yang dikumpulkan. Perancang, pengembang, dan penerap sistem otomatis harus mencari izin Anda dan menghormati keputusan Anda mengenai pengumpulan, penggunaan, akses, transfer, dan penghapusan data Anda dengan cara yang sesuai dan sejauh mungkin; di mana tidak mungkin, perlindungan privasi oleh desain alternatif harus digunakan. Sistem tidak boleh menggunakan keputusan desain dan pengalaman pengguna yang mengaburkan pilihan pengguna atau membebani pengguna dengan default yang invasif privasi. Persetujuan hanya boleh digunakan untuk membenarkan pengumpulan data dalam kasus di mana dapat diberikan dengan tepat dan bermakna. Setiap permintaan persetujuan harus singkat, dapat dipahami dalam bahasa sederhana, dan memberi Anda kekuatan atas pengumpulan data dan konteks penggunaan yang spesifik; praktik pemberitahuan dan pilihan yang sulit dipahami untuk penggunaan data yang luas harus diubah.”

4. Pemberitahuan dan Penjelasan

Ini harus menjadi seruan untuk perusahaan untuk menerapkan dewan etika AI, serta mendorong percepatan pengembangan AI yang dapat dijelaskan. AI yang dapat dijelaskan diperlukan dalam kasus model AI membuat kesalahan, memahami bagaimana AI bekerja memungkinkan diagnosis masalah yang mudah.

AI yang dapat dijelaskan juga akan memungkinkan berbagi informasi yang transparan tentang cara data digunakan, dan mengapa keputusan dibuat oleh AI. Tanpa AI yang dapat dijelaskan, mustahil untuk mematuhi kebijakan ini karena masalah blackbox dari pembelajaran dalam.

Perusahaan yang fokus pada perbaikan sistem ini juga akan mendapatkan manfaat positif dari memahami nuansa dan kompleksitas di balik mengapa algoritma pembelajaran dalam membuat keputusan tertentu.

“Anda harus tahu bahwa sistem otomatis sedang digunakan dan memahami bagaimana dan mengapa sistem tersebut menyumbang pada hasil yang mempengaruhi Anda. Perancang, pengembang, dan penerap sistem otomatis harus menyediakan dokumentasi bahasa sederhana yang dapat diakses secara umum, termasuk deskripsi yang jelas tentang fungsi sistem secara keseluruhan dan peran otomatisasi, pemberitahuan bahwa sistem tersebut sedang digunakan, individu atau organisasi yang bertanggung jawab atas sistem, dan penjelasan tentang hasil yang jelas, tepat waktu, dan dapat diakses. Pemberitahuan tersebut harus tetap mutakhir dan orang-orang yang terkena dampak sistem harus diberitahu tentang perubahan penggunaan atau fungsi kunci yang signifikan. Anda harus tahu bagaimana dan mengapa hasil yang mempengaruhi Anda ditentukan oleh sistem otomatis, termasuk ketika sistem otomatis bukanlah satu-satunya input yang menentukan hasil. Sistem otomatis harus menyediakan penjelasan yang valid secara teknis, bermakna dan berguna bagi Anda dan bagi operator atau orang lain yang perlu memahami sistem, dan disesuaikan dengan tingkat risiko berdasarkan konten. Pelaporan yang mencakup informasi ringkas tentang sistem otomatis ini dalam bahasa sederhana dan penilaian tentang kejelasan dan kualitas pemberitahuan dan penjelasan harus dibuat publik setiap kali memungkinkan.”

5. Alternatif Manusia, Pertimbangan, dan Penggantian

Tidak seperti kebanyakan prinsip di atas, prinsip ini paling berlaku untuk entitas pemerintah, atau lembaga yang diprivatisasi yang bekerja atas nama pemerintah.

Even dengan dewan etika AI, dan AI yang dapat dijelaskan, penting untuk jatuh kembali pada tinjauan manusia ketika nyawa dipertaruhkan. Selalu ada potensi kesalahan, dan memiliki tinjauan manusia atas kasus ketika diminta bisa mencegah skenario seperti AI mengirim orang yang salah ke penjara.

Sistem peradilan dan pidana memiliki ruang yang paling luas untuk menyebabkan kerusakan yang tidak dapat diperbaiki pada anggota masyarakat yang termarginalkan dan harus memperhatikan prinsip ini dengan serius.

“Anda harus dapat memilih untuk tidak menggunakan sistem otomatis, di mana tepat, dan memiliki akses ke orang yang dapat dengan cepat mempertimbangkan dan memperbaiki masalah yang Anda temui. Anda harus dapat memilih untuk tidak menggunakan sistem otomatis dan memilih alternatif manusia, di mana tepat. Kelayakan harus ditentukan berdasarkan harapan yang wajar dalam konteks tertentu dan dengan fokus pada memastikan aksesibilitas yang luas dan melindungi publik dari dampak yang sangat merugikan. Dalam beberapa kasus, alternatif manusia mungkin diperlukan oleh hukum. Anda harus memiliki akses ke pertimbangan dan perbaikan manusia yang cepat dan efektif jika sistem otomatis gagal, menghasilkan kesalahan, atau Anda ingin banding atau mempertanyakan dampaknya pada Anda. Pertimbangan dan perbaikan manusia harus dapat diakses, adil, efektif, dipelihara, dan disertai dengan pelatihan operator yang sesuai, dan tidak boleh membebani publik dengan beban yang tidak wajar. Sistem otomatis dengan penggunaan yang dimaksud dalam domain yang sensitif, termasuk, tetapi tidak terbatas pada, sistem peradilan, pekerjaan, pendidikan, dan kesehatan, harus disesuaikan dengan tujuan, menyediakan akses yang bermakna ke pengawasan, termasuk pelatihan untuk orang-orang yang berinteraksi dengan sistem, dan menggabungkan pertimbangan manusia untuk keputusan yang merugikan atau berisiko tinggi. Pelaporan yang mencakup deskripsi tentang proses tata kelola manusia ini dan penilaian tentang ketepatan waktu, aksesibilitas, hasil, dan efektivitasnya harus dibuat publik setiap kali memungkinkan.”

Rangkuman

OSTP harus diberi kredit untuk mencoba memperkenalkan kerangka yang menjembatani protokol keamanan yang diperlukan untuk masyarakat, tanpa juga memperkenalkan kebijakan yang drakonik yang dapat menghambat kemajuan dalam pengembangan pembelajaran mesin.

Setelah prinsip-prinsip tersebut diuraikan, tagihan tersebut melanjutkan dengan menyediakan pendamping teknis untuk masalah yang dibahas serta informasi rinci tentang setiap prinsip dan cara terbaik untuk menerapkan prinsip-prinsip tersebut.

Pemilik bisnis yang cerdas dan perusahaan harus memperhatikan untuk mempelajari tagihan ini, karena hanya dapat menguntungkan untuk menerapkan kebijakan ini secepat mungkin.

AI yang dapat dijelaskan akan terus mendominasi dalam pentingnya, seperti yang terlihat dari kutipan dari tagihan ini.

“Di seluruh pemerintah federal, badan-badan sedang melakukan dan mendukung penelitian tentang sistem AI yang dapat dijelaskan. NIST melakukan penelitian dasar tentang kemampuan menjelaskan sistem AI. Tim multidisiplin peneliti bertujuan untuk mengembangkan metode pengukuran dan praktik terbaik untuk mendukung implementasi inti dari AI yang dapat dijelaskan. Badan Penelitian dan Pengembangan Lanjutan Pertahanan memiliki program tentang AI yang Dapat Dijelaskan yang bertujuan untuk menciptakan serangkaian teknik pembelajaran mesin yang menghasilkan model yang lebih dapat dijelaskan, sambil mempertahankan tingkat kinerja pembelajaran yang tinggi (akurasi prediksi), dan memungkinkan pengguna manusia untuk memahami, percaya, dan mengelola dengan efektif generasi mitra cerdas buatan yang muncul. Program Yayasan Sains Nasional tentang Keadilan dalam Kecerdasan Buatan juga mencakup minat khusus dalam penelitian dasar untuk AI yang dapat dijelaskan.”

Apa yang tidak boleh diabaikan adalah bahwa prinsip-prinsip yang diuraikan di sini akhirnya akan menjadi standar baru.