Kegagalan Rancangan Undang-Undang Kecerdasan Buatan Uni Eropa

Kritik hukum baru terhadap rancangan ‘Undang-Undang Kecerdasan Buatan’ Uni Eropa mengajukan sejumlah kritik terhadap peraturan yang diusulkan dirilis pada April, menyimpulkan bahwa sebagian besar dokumen tersebut ‘disatukan’ dari peraturan konsumen tahun 1980-an yang jarang berlaku; bahwa Undang-Undang tersebut sebenarnya mempromosikan lingkungan kecerdasan buatan yang tidak diatur di Eropa, bukan membawa sektor tersebut di bawah peraturan yang koheren; dan – di antara sejumlah kritik lainnya – bahwa proposal tersebut memetakan kerangka peraturan kecerdasan buatan di masa depan yang memiliki ‘sedikit makna dan dampak’.

Bernama Demistifikasi Rancangan Undang-Undang Kecerdasan Buatan Uni Eropa, pracetak ini merupakan kolaborasi antara peneliti dari UCL London dan Radboud University di Nijmegen.

Makalah ini menambahkan pada tubuh opini negatif yang semakin besar tentang implementasi yang diusulkan (bukan niat) dari kerangka peraturan kecerdasan buatan, termasuk klaim pada April dari salah satu kontributor rancangan peraturan bahwa pedoman yang diusulkan ‘dingin, sempit, dan sengaja samar’, yang menggambarkan dokumen Komisi Eropa sebagai pendukung ‘etika palsu’.

Sistem Kecerdasan Buatan Manipulatif

Makalah baru ini berpendapat bahwa batasan yang diusulkan Undang-Undang Kecerdasan Buatan terhadap ‘sistem manipulatif’ terhambat oleh definisi ‘kerugian’ yang samar dan bahkan kontradiktif, mengomentari ‘[a] seorang sinis mungkin merasa Komisi lebih tertarik pada nilai retoris larangan daripada efek praktis’.

Rancangan peraturan menjabarkan dua praktik terlarang yang diusulkan:

(a)  penempatan di pasar, penempatan dalam layanan atau penggunaan sistem kecerdasan buatan yang menerapkan teknik subliminal di luar kesadaran seseorang untuk mengubah secara material perilaku seseorang dengan cara yang menyebabkan atau kemungkinan menyebabkan kerugian fisik atau psikologis pada orang tersebut atau orang lain;

(b)  penempatan di pasar, penempatan dalam layanan atau penggunaan sistem kecerdasan buatan yang memanfaatkan kerentanan dari sekelompok orang tertentu karena usia, disabilitas fisik atau mental, untuk mengubah secara material perilaku seseorang yang termasuk dalam kelompok tersebut dengan cara yang menyebabkan atau kemungkinan menyebabkan kerugian fisik atau psikologis pada orang tersebut atau orang lain;

Para peneliti berpendapat bahwa batasan ini tidak menangani apakah layanan atau perangkat lunak penyedia kecerdasan buatan berhasil mendorong tujuan mereka sendiri, tetapi hanya jika pengguna akhir menderita ‘kerugian’ dalam prosesnya. Mereka menambahkan bahwa definisi kerugian dalam rancangan ini terbatas pada pengguna individu, bukan kerugian kolektif atau sosial yang dapat diinferensikan dari sejumlah kontroversi kecerdasan buatan dalam beberapa tahun terakhir, seperti skandal Cambridge Analytica.

Makalah ini mengamati bahwa ‘Dalam kehidupan nyata, kerugian dapat terakumulasi tanpa satu peristiwa yang melewati ambang batas serius, sehingga sulit untuk membuktikannya’.

Sistem Kecerdasan Buatan Berbahaya Diperbolehkan, Tapi Tidak untuk Konsumsi Uni Eropa

Undang-Undang Kecerdasan Buatan mengusulkan untuk melarang ‘sistem biometrik waktu nyata’ di ruang publik oleh penegak hukum. Meskipun beberapa skeptisisme publik telah ditujukan pada pengecualian yang dilakukan proposal untuk anti-terorisme, perdagangan anak, dan pengejaran perintah penangkapan Eropa, para peneliti mencatat bahwa tidak ada yang dapat mencegah pemasok menjual sistem biometrik yang melanggar hukum kepada rezim otoriter.

Makalah ini mengamati bahwa ini sudah menjadi praktik historis, seperti yang terungkap dalam laporan 2020 dari Amnesty International.

Lebih lanjut, makalah ini menyatakan bahwa spesifikasi ‘sistem biometrik waktu nyata’ dalam Undang-Undang Kecerdasan Buatan adalah sewenang-wenang, dan tidak termasuk sistem analitis offline, seperti pemrosesan lanjutan footage video dari acara protes.

Tambahnya, makalah ini mencatat bahwa proposal tersebut tidak menawarkan mekanisme untuk membatasi sistem biometrik yang tidak terkait dengan penegak hukum, yang malah diacuhkan ke GDPR; dan bahwa GDPR itu sendiri ‘menempatkan persyaratan persetujuan individu yang berkualitas tinggi untuk setiap orang yang dipindai yang secara efektif tidak mungkin dipenuhi’.

Kalimat dari bagian Undang-Undang Kecerdasan Buatan ini juga dikritik oleh para peneliti. Rancangan tersebut menetapkan bahwa pre-otorisasi akan diperlukan untuk penerapan sistem biometrik untuk ‘penggunaan individu’ otoritas yang kompeten – tetapi tidak menjelaskan apa yang dimaksud dengan ‘penggunaan individu’ dalam konteks ini. Makalah ini mencatat bahwa surat perintah yang kontroversial dapat tematik, dan terkait dengan organisasi, tujuan, dan tempat yang luas.

Lebih lanjut, rancangan peraturan tidak menetapkan mekanisme transparansi untuk jumlah dan jenis otorisasi yang diterbitkan, sehingga pengawasan publik menjadi bermasalah.

Outsourcing Regulasi ke ‘Standar Harmonisasi’

Penelitian ini menyatakan bahwa entitas paling penting dalam Undang-Undang Kecerdasan Buatan sebenarnya tidak disebutkan sama sekali dalam rancangan peraturan: CEN (Komite Eropa untuk Standardisasi) dan CENELEC (Komite Eropa untuk Standardisasi Elektroteknik) – dua dari tiga Organisasi Standardisasi Eropa (ESO) yang Komisi Eropa dapat memerintahkan untuk merumuskan standar harmonisasi, yang dalam banyak kasus akan tetap menjadi kerangka peraturan yang mengatur untuk jenis layanan dan penerapan kecerdasan buatan tertentu.

Ini secara efektif berarti bahwa produsen kecerdasan buatan dapat memilih untuk mengikuti standar dari apa yang pada dasarnya adalah peraturan yang bersaing daripada komplementer, bukan memenuhi persyaratan esensial yang diuraikan dalam Undang-Undang Kecerdasan Buatan. Ini memungkinkan penyedia untuk lebih longgar menafsirkan peraturan yang diusulkan ketika mereka mulai berlaku pada 2024-5.

Para peneliti makalah ini juga berpendapat bahwa tahun-tahun lobi industri yang mengintervensi di antara badan standar kemungkinan akan meredefinisi ‘standar esensial’ ini secara signifikan, dan menyarankan bahwa ‘ideal’ peraturan harus dimulai dari tingkat etika dan kejelasan legislatif yang lebih tinggi, jika hanya untuk mempertimbangkan proses pengausan yang tak terhindarkan ini.

Legitimasi Kesalahan Sistem Pengenalan Emosi

Undang-Undang Kecerdasan Buatan menampilkan ketentuan terhadap penerapan sistem pengenalan dan kategorisasi emosi – kerangka yang mungkin tidak harus mengidentifikasi individu, tetapi mengklaim untuk memahami apa yang mereka rasakan atau dapat mengkategorikan mereka dalam hal gender, etnis, dan berbagai penanda ekonomi dan sosial lainnya.

Para peneliti berpendapat bahwa klausa ini tidak berguna, karena GDPR sudah mengharuskan penyedia sistem tersebut untuk memberikan pengguna informasi yang jelas tentang penggunaan sistem tersebut, sehingga pengguna dapat memilih untuk tidak menggunakan layanan online atau tidak memasuki area di mana sistem tersebut dinyatakan ada.

Lebih penting lagi, makalah ini menyatakan bahwa klausa ini melegitimasi teknologi yang telah dibantah, dan melanjutkan untuk menggambarkan sistem pengenalan emosi gaya FACS dalam cahaya sejarah memalukan dari frenologi dan pendekatan kategorisasi sosial yang hampir syamanistik dari awal era industri.

‘Mereka yang mengklaim dapat mendeteksi emosi menggunakan taksonomi yang disederhanakan, dipertanyakan; mengasumsikan universalitas di seluruh budaya dan konteks; dan berisiko ‘[membawa kita kembali ke masa lalu frenologi]’ menganalisis ciri-ciri dari struktur wajah. Ketentuan Undang-Undang tentang pengenalan emosi dan kategorisasi biometrik tampaknya tidak cukup untuk memitigasi risiko.’

Usul yang Terlalu Sederhana

Selain itu, para peneliti mengatasi sejumlah kekurangan yang dirasakan dalam Undang-Undang Kecerdasan Buatan sehubungan dengan peraturan deepfake, kurangnya pengawasan untuk emisi karbon sistem kecerdasan buatan, duplikasi pengawasan peraturan dengan kerangka lain, dan definisi yang tidak memadai dari entitas hukum yang dapat dituntut.

Mereka mendesak legislator dan aktivis sipil untuk mengambil tindakan untuk memperbaiki masalah yang diidentifikasi, dan lebih lanjut mencatat bahwa bahkan dekonstruksi mereka yang luas terhadap rancangan peraturan telah harus menghilangkan banyak area kekhawatiran lain, karena kekurangan ruang.

Bagaimanapun, makalah ini memuji upaya vanguard Undang-Undang untuk memperkenalkan sistem peraturan horizontal kecerdasan buatan, mengutip ‘unsur-unsur yang masuk akal’, seperti membuat hierarki tingkat penilaian risiko, memiliki komitmen untuk memperkenalkan larangan, dan mengusulkan basis data publik sistem yang harus disumbangkan oleh penyedia untuk mendapatkan legitimasi Eropa, meskipun mencatat kerumitan hukum yang kemungkinan akan timbul dari persyaratan ini.