Regulasi
Uni Eropa akan Meluncurkan Peraturan AI Pertama
Pada tanggal 21 April, Uni Eropa akan mengumumkan kerangka regulasi pertamanya yang mengatur penggunaan kecerdasan buatan. Peraturan baru ini akan melarang sepenuhnya sistem pembelajaran mesin ‘berisiko tinggi’ dan memperkenalkan standar minimum untuk teknologi pembelajaran mesin lainnya, dengan menetapkan sanksi sebesar €20 juta, atau 4% dari pendapatan perusahaan, untuk pelanggaran.
Draf laporan dari undang-undang baru, diperoleh oleh Politico, bertujuan untuk mendorong inovasi dan pengembangan sistem AI untuk kepentingan umum perekonomian dan masyarakat Uni Eropa, di bidang seperti manufaktur, efisiensi energi yang ditingkatkan, dan pemodelan perubahan iklim; tetapi akan melarang penggunaan pembelajaran mesin dalam sistem penilaian kredit, evaluasi otomatis hukuman, dan penilaian kelayakan untuk manfaat keamanan sosial dan permohonan visa atau suaka, di antara larangan lain yang akan diungkapkan kemudian.
Draf tersebut secara eksplisit menyatakan bahwa sistem skor sosial gaya Tiongkok untuk perorangan dan perusahaan bertentangan dengan nilai-nilai Uni Eropa, dan akan dilarang di bawah peraturan, bersama dengan teknologi ‘pengawasan massal’ yang ditenagai oleh AI.
pengawasan Regulasi
Setelah penunjukan kelompok ahli tingkat tinggi pada kecerdasan buatan pada Maret 2021, Uni Eropa juga berencana untuk membentuk Dewan Kecerdasan Buatan Eropa yang baru, dengan setiap negara anggota diwakili, bersama dengan perwakilan dari Komisi Eropa dan otoritas perlindungan data Uni Eropa.
Mungkin yang paling luas dan kontroversial dalam draf adalah bahwa melarang sistem yang menyebabkan kerugian pada populasi Uni Eropa dengan ‘dengan memanipulasi perilaku, opini, atau keputusan mereka’, yang secara argumentatif termasuk banyak teknologi yang memungkinkan analisis pemasaran komersial dan politik.
Peraturan ini akan membuat pengecualian untuk memerangi kejahatan serius, memungkinkan penerapan sistem pengenalan wajah yang ditentukan, dalam batas cakupan dan durasi penggunaan.
Seperti cakupan luas GDPR, tampaknya peraturan baru ini mungkin cukup umum untuk menimbulkan ‘efek pendinginan’ di area di mana pedoman ketat untuk penggunaan AI tidak disediakan, dengan perusahaan menghadapi risiko eksposur di mana penggunaan pembelajaran mesin mereka jatuh ke dalam area abu-abu potensial dalam peraturan.
Bias di Bawah Peraturan AI Uni Eropa yang Baru
Namun, tantangan terbesar dan kemungkinan jerat hukum datang dalam bentuk ketentuan draf peraturan bahwa set data tidak ‘menggabungkan bias intention atau tidak disengaja’ yang dapat memfasilitasi diskriminasi.
Bias data adalah salah satu aspek paling menantang dalam pengembangan sistem pembelajaran mesin – sulit dibuktikan, sulit diatasi, dan erat terkait dengan budaya sentral badan pengumpulan data. Masalah ini semakin menempatkan lembaga penelitian swasta dan negara dalam arus silang antara kebutuhan untuk secara akurat mewakili kelompok yang berbeda (secara praktis tujuan pendiriannya matematika komputasi dan analisis statistik empiris) dan potensi untuk mempromosikan profil rasial dan demonisasi budaya, di antara pertimbangan lain.
Oleh karena itu, kemungkinan besar pasar non-Uni Eropa akan berharap bahwa peraturan baru ini akan memberikan setidaknya beberapa area pedoman spesifik, dan berbagai definisi yang dapat diterapkan dalam hal ini.
Perlawanan Eksternal terhadap Regulasi AI Uni Eropa
Peraturan baru ini kemungkinan akan memiliki dampak yang mendalam pada ramifikasi hukum penggunaan pembelajaran mesin untuk menganalisis data yang menghadap ke publik – serta pada data tersebut karena masih memungkinkan untuk mengekstrak dari pengguna web di era pasca-pelacakan yang saat ini diperkenalkan oleh Apple, Firefox dan (sampai tingkat yang lebih rendah), Chrome.
Yurisdiksi mungkin perlu didefinisikan dengan jelas, misalnya dalam kasus di mana raksasa FAANG mengumpulkan data pengguna sesuai dengan GDPR, tetapi memproses data tersebut melalui sistem pembelajaran mesin di luar Uni Eropa. Tidak jelas apakah algoritma yang dihasilkan melalui sistem tersebut dapat diterapkan pada platform di dalam Uni Eropa, dan bahkan kurang jelas bagaimana aplikasi tersebut dapat dibuktikan.
Dalam kasus penggunaan AI untuk memandu keputusan penjara dan penjatuhan hukuman, tren yang tumbuh di Amerika Serikat, eksperimen sesekali Inggris di sektor ini akan ditutupi oleh peraturan baru jika negara tersebut tidak keluar dari Uni Eropa.
Pada tahun 2020, draf memorandum Gedung Putih tentang regulasi AI menyatakan kasus Amerika untuk regulasi AI yang rendah, menyatakan bahwa ‘Lembaga federal harus menghindari tindakan regulasi atau non-regulasi yang tidak perlu menghambat inovasi dan pertumbuhan AI’. Secara argumentatif, sikap ini tampaknya akan bertahan setelah administrasi Trump di mana memorandum tersebut diterbitkan, tetapi lebih mencerminkan gesekan yang akan datang antara AS dan Uni Eropa setelah peraturan baru.
Demikian pula, ‘Peta Jalan AI’ Dewan AI Inggris mengekspresikan antusiasme besar untuk manfaat ekonomi adopsi AI, tetapi kekhawatiran umum bahwa regulasi baru tidak boleh diizinkan untuk menghambat kemajuan ini.
Hukum Pertama yang Nyata untuk AI
Komitmennya Uni Eropa terhadap posisi hukum pada AI adalah inovatif. Sepuluh tahun terakhir telah ditandai dengan badai kertas putih dan temuan komite awal dan rekomendasi dari pemerintah di seluruh dunia, yang berkonsentrasi pada etika AI, dengan sedikit hukum yang sebenarnya disahkan.
Distribusi geografis penerbit pedoman etika AI oleh jumlah dokumen yang dirilis, dalam survei dari 2019. Jumlah pedoman etika tertinggi dirilis di Amerika Serikat dan di dalam Uni Eropa, diikuti oleh Inggris dan Jepang. Kanada, Islandia, Norwegia, Uni Emirat Arab, India, Singapura, Korea Selatan, Australia diwakili dengan 1 dokumen masing-masing. Setelah memberikan kontribusi pada pernyataan G7 tertentu, negara-negara anggota G7 ditandai secara terpisah. Sumber: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf
Bacaan Lebih Lanjut
