Bradford Newman, Ketua Praktik Rahasia Perdagangan di Amerika Utara – Seri Wawancara

Bradford berspesialisasi dalam masalah yang terkait dengan rahasia perdagangan dan Kecerdasan Buatan. Ia adalah Ketua Subkomite Kecerdasan Buatan dari ABA. Diakui oleh Daily Journal (DJCO ) pada 2019 sebagai salah satu dari 20 pengacara Kecerdasan Buatan terbaik di California, Bradford telah sangat berperan dalam mengusulkan legislasi federal tentang tempat kerja dan kekayaan intelektual Kecerdasan Buatan yang pada 2018 diubah menjadi Rancangan Undang-Undang Diskusi Dewan Perwakilan Rakyat Amerika Serikat. Ia juga telah mengembangkan praktik terbaik pengawasan dan tata kelola perusahaan Kecerdasan Buatan yang dirancang untuk memastikan keadilan algoritmik.

Apa yang awalnya membangkitkan minat Anda dalam kecerdasan buatan?

Saya telah mewakili inovator dan produsen terkemuka di dunia dalam produk dan teknologi Kecerdasan Buatan selama bertahun-tahun. Minat saya selalu untuk memahami aspek hukum dan teknis dari pembelajaran mesin, dan menyaksikan Kecerdasan Buatan berkembang. Saya tertarik dengan apa yang mungkin dilakukan dalam berbagai domain.

Anda adalah advokat yang gigih untuk regulasi rasional kecerdasan buatan, terutama dalam regulasi yang melindungi kesehatan masyarakat, dapatkah Anda membahas beberapa kekhawatiran utama Anda?

Saya percaya bahwa kita berada di awal salah satu revolusi paling mendalam yang pernah dialami oleh umat manusia. Kecerdasan Buatan memiliki potensi untuk mempengaruhi setiap aspek kehidupan kita, dari saat kita bangun pagi hingga saat kita tidur — dan juga saat kita tidur. Banyak aplikasi Kecerdasan Buatan akan mempengaruhi kualitas hidup kita, dan kemungkinan juga umur panjang kita sebagai spesies.

Saat ini, dari perspektif ilmu komputer dan pembelajaran mesin, manusia masih sangat terlibat dalam proses, dari pengkodean algoritma, memahami set data pelatihan, memproses hasil, mengenali kekurangan dan menghasilkan teknologi.

Tapi kita berada dalam perlombaan melawan waktu pada dua front utama. Pertama, apa yang umum disebut sebagai “masalah kotak hitam”: keterlibatan dan pemahaman manusia tentang Kecerdasan Buatan akan menurun seiring waktu karena Kecerdasan Buatan menjadi lebih canggih (pikirkan ANNs). Dan kedua, penggunaan Kecerdasan Buatan oleh pemerintah dan kepentingan swasta akan meningkat.

Kepercayaan saya adalah bahwa Kecerdasan Buatan akan digunakan, baik secara sengaja maupun tidak sengaja, dalam cara yang bertentangan dengan ideal demokrasi Barat tentang kebebasan dan kebebasan individu.

Bagaimana kita mengatasi kekhawatiran ini?

Masyarakat telah mencapai titik di mana kita harus menentukan tidak apa yang mungkin dilakukan dengan Kecerdasan Buatan, tetapi apa yang harus dilarang atau dibatasi sebagian.

Pertama, kita harus mengidentifikasi keputusan yang tidak pernah dapat diambil secara keseluruhan atau sebagian oleh output algoritmik yang dihasilkan oleh Kecerdasan Buatan. Ini berarti bahwa bahkan dalam situasi di mana setiap ahli setuju bahwa data masuk dan keluar benar-benar tidak bias, transparan, dan akurat, harus ada larangan statutorer untuk menggunakannya untuk keputusan prediktif atau substantif.

Mengakui bahwa ini bertentangan dengan intuisi dalam dunia di mana kita menginginkan kepastian matematis, tetapi menetapkan “zona terlarang” Kecerdasan Buatan sangat penting untuk mempertahankan kebebasan yang kita hargai dan yang menjadi landasan bagi masyarakat kita.

Kedua, untuk keputusan lain yang diidentifikasi berdasarkan analitik Kecerdasan Buatan yang tidak dilarang secara keseluruhan, kita memerlukan legislasi yang jelas mendefinisikan keputusan di mana manusia harus terlibat dalam proses pengambilan keputusan.

Anda telah berperan penting dalam mengusulkan legislasi federal tentang tempat kerja dan kekayaan intelektual Kecerdasan Buatan yang pada 2018 diubah menjadi Rancangan Undang-Undang Diskusi Dewan Perwakilan Rakyat Amerika Serikat. Dapatkah Anda membahas beberapa proposal ini?

Undang-Undang Perlindungan Data Kecerdasan Buatan dimaksudkan untuk mempromosikan inovasi dan dirancang untuk (1) meningkatkan transparansi dalam sifat dan penggunaan, serta membangun kepercayaan publik pada, Kecerdasan Buatan; (2) mengatasi dampak Kecerdasan Buatan pada pasar tenaga kerja dan (3) melindungi kesehatan dan keselamatan masyarakat.

Undang-undang ini memiliki beberapa komponen kunci. Misalnya, undang-undang ini melarang perusahaan yang tercakup untuk hanya mengandalkan Kecerdasan Buatan untuk membuat keputusan tertentu, termasuk keputusan tentang perekrutan individu atau penolakan atau pembatasan perawatan medis, dan melarang penerbit asuransi kesehatan untuk membuat keputusan tentang cakupan perawatan medis hanya berdasarkan analitik Kecerdasan Buatan. Undang-undang ini juga menetapkan Dewan Kecerdasan Buatan — lembaga federal baru yang bertanggung jawab untuk mengatur Kecerdasan Buatan sehubungan dengan kesehatan dan keselamatan masyarakat. Dan undang-undang ini mengharuskan entitas yang tercakup untuk menunjuk seorang Petugas Kecerdasan Buatan Utama.

Anda juga telah mengembangkan praktik terbaik pengawasan dan tata kelola perusahaan Kecerdasan Buatan yang dirancang untuk memastikan keadilan algoritmik. Apa beberapa masalah saat ini yang Anda lihat dengan keadilan atau bias dalam sistem Kecerdasan Buatan?

Subjek ini telah menjadi fokus penyelidikan intensif dari akademisi dan sekarang mendapatkan perhatian dari lembaga pemerintah AS, seperti Komisi Kesempatan Kerja yang Sama (EEOC), dan pengacara penuntut. Kebanyakan waktu, penyebabnya adalah kesalahan dalam set data pelatihan atau kurangnya pemahaman dan transparansi dalam lingkungan pengujian. Ini diperburuk oleh kurangnya kepemilikan dan pengawasan Kecerdasan Buatan oleh manajemen senior.

Kurangnya pemahaman teknis dan kesadaran situasional ini adalah masalah tanggung jawab yang signifikan. Saya telah berbicara dengan beberapa pengacara penuntut terkemuka yang sedang mencari kasus bias Kecerdasan Buatan.

Pembelajaran dalam memangkas sering menderita dari masalah “kotak hitam”, di mana kita memasukkan data ke dalam Jaringan Saraf Tiruan (ANN), dan kemudian kita menerima output, tanpa mengetahui bagaimana output itu dihasilkan. Apakah Anda percaya bahwa ini adalah masalah besar?

Saya percaya. Dan ketika algoritma dan jaringan saraf terus berkembang, dan manusia semakin tidak “dalam loop”, ada risiko nyata bahwa kita akan melewati titik di mana kita tidak akan dapat memahami elemen-elemen fungsi dan output yang kritis.

Dengan COVID-19, negara-negara di seluruh dunia telah memperkenalkan sistem pengawasan negara yang ditenagai Kecerdasan Buatan. Seberapa besar masalah yang Anda miliki dengan potensi penyalahgunaan pengawasan jenis ini?

Ini adalah kebodohan, dan secara jujur, tidak bertanggung jawab dari perspektif hak dan kebebasan individu, untuk mengabaikan atau meremehkan risiko penyalahgunaan. Sementara pelacakan kontak tampaknya bijak di tengah pandemi global, dan pengenalan wajah berbasis Kecerdasan Buatan menyediakan langkah efektif untuk melakukan apa yang manusia saja tidak mampu melakukan, masyarakat harus membangun larangan hukum terhadap penyalahgunaan bersama dengan mekanisme pengawasan dan penegakan yang efektif. Jika tidak, kita menyerahkan kepada negara elemen dasar hak dan kebebasan kita. Setelah diberikan secara grosir, elemen dasar kebebasan dan privasi kita tidak akan dikembalikan.

Anda sebelumnya menyatakan bahwa “Kita harus menetapkan ‘zona terlarang’ Kecerdasan Buatan jika kita ingin mempertahankan kebebasan yang orang Amerika semua hargai dan yang menjadi landasan bagi masyarakat kita.” Dapatkah Anda membagikan beberapa kekhawatiran yang Anda miliki?

Ketika membahas Kecerdasan Buatan, kita harus selalu fokus pada tujuan esensial Kecerdasan Buatan: untuk menghasilkan analitik prediktif yang akurat dari set data yang sangat besar yang kemudian digunakan untuk mengklasifikasikan manusia dan membuat keputusan. Kemudian, kita harus memeriksa siapa pembuat keputusan, apa yang mereka putuskan, dan apa yang mereka gunakan sebagai dasar keputusan.

Jika kita memahami bahwa pembuat keputusan adalah mereka yang memiliki dampak terbesar pada kesehatan, mata pencaharian, dan kebebasan kita — pengusaha, pemilik rumah, dokter, asuransi, penegak hukum, dan setiap perusahaan swasta dan pemerintah yang dapat menghasilkan, mengumpulkan, atau membeli analitik Kecerdasan Buatan — maka menjadi mudah untuk melihat bahwa dalam demokrasi liberal Barat, sebagai lawan dari rezim totaliter, ada keputusan yang tidak boleh dan tidak dapat diserahkan hanya kepada Kecerdasan Buatan.

Walaupun banyak keputusan yang jelas ada di benak kita, seperti melarang penjara sebelum kejahatan dilakukan, adopsi Kecerdasan Buatan yang luas ke setiap aspek kehidupan kita mempresentsi contoh yang lebih rumit dari dilema etika. Misalnya, jika algoritma secara akurat memprediksi bahwa pekerja yang memposting foto di media sosial tentang liburan pantai di mana mereka minum alkohol berhenti atau dipecat dari pekerjaan mereka rata-rata 3,5 tahun lebih awal daripada mereka yang memposting foto tentang bekerja, apakah kategori pertama harus ditolak promosi atau kenaikan gaji hanya berdasarkan output algoritmik? Jika algoritma menentukan bahwa remaja yang bermain video selama rata-rata lebih dari 2 jam per hari kurang mungkin lulus dari universitas empat tahun, apakah siswa seperti itu harus ditolak penerimaan? Jika wanita Asia berusia 60-an yang dirawat di ICU untuk gejala COVID-19 memiliki tingkat kelangsungan hidup yang lebih tinggi daripada pria Afrika-Amerika berusia 70-an, apakah wanita harus menerima perawatan medis yang lebih disukai?

Contoh-contoh yang disederhanakan ini hanyalah beberapa keputusan di mana ketergantungan pada Kecerdasan Buatan saja bertentangan dengan pandangan kita tentang apa yang diperlukan oleh hak asasi manusia.

Apakah ada yang lain yang Anda ingin bagikan tentang Kecerdasan Buatan atau Baker McKenzie?

Saya sangat bersemangat untuk membantu memimpin praktik Kecerdasan Buatan Baker McKenzie yang benar-benar internasional di tengah lanskap yang berkembang. Kami mengakui bahwa klien kami lapar akan bimbingan tentang semua hal Kecerdasan Buatan, dari negosiasi kontrak, menetapkan pengawasan internal, menghindari klaim bias, hingga memahami kerangka regulasi domestik dan internasional yang muncul.

Perusahaan ingin melakukan hal yang benar, tetapi ada sangat sedikit firma hukum yang memiliki keahlian dan pemahaman yang diperlukan tentang Kecerdasan Buatan dan pembelajaran mesin untuk dapat membantu mereka. Bagi kita yang merupakan pecinta Kecerdasan Buatan dan pengacara, ini adalah waktu yang menyenangkan untuk menambah nilai nyata bagi klien kita.

Terima kasih atas jawaban fantastis tentang beberapa kekhawatiran sosial besar yang melibatkan Kecerdasan Buatan. Pembaca yang ingin mempelajari lebih lanjut tentang Bradford Newman dapat klik di sini.