Uni Eropa Meluncurkan Regulasi AI Pertama

Pada tanggal 21 April, Uni Eropa akan mengumumkan kerangka regulasi pertamanya yang mengatur penggunaan kecerdasan buatan. Regulasi baru ini akan melarang sepenuhnya sistem pembelajaran mesin yang berisiko tinggi dan memperkenalkan standar minimum untuk teknologi pembelajaran mesin lainnya, dengan denda sebesar €20 juta, atau 4% dari pendapatan perusahaan, untuk pelanggaran.

Draft laporan dari undang-undang baru, diperoleh oleh Politico, akan berusaha untuk mendorong inovasi dan pengembangan sistem AI untuk kepentingan umum perekonomian dan masyarakat Uni Eropa, di bidang seperti manufaktur, efisiensi energi yang ditingkatkan, dan pemodelan perubahan iklim; tetapi akan melarang penggunaan pembelajaran mesin dalam sistem penilaian kredit, evaluasi otomatis hukuman, dan penilaian kelayakan untuk manfaat keamanan sosial dan permohonan suaka atau visa, di antara larangan lain yang akan diungkapkan kemudian.

Draft tersebut secara eksplisit menyatakan bahwa sistem skor sosial gaya Tiongkok untuk individu dan perusahaan bertentangan dengan nilai-nilai Uni Eropa, dan akan dilarang di bawah regulasi, bersama dengan teknologi ‘pengawasan massal’ yang ditenagai oleh AI.

Pengawasan Regulasi

Setelah penunjukan kelompok ahli tingkat tinggi pada kecerdasan buatan pada Maret 2021, Uni Eropa juga berencana untuk membentuk Dewan Kecerdasan Buatan Eropa yang baru, dengan setiap negara anggota diwakili, bersama dengan perwakilan dari Komisi Eropa dan otoritas perlindungan data Uni Eropa.

Mungkin yang paling luas dan kontroversial dalam draft adalah bahwa melarang sistem yang menyebabkan kerugian pada populasi Uni Eropa dengan ‘dengan memanipulasi perilaku, opini, atau keputusan mereka’, yang secara argumentatif termasuk banyak teknologi yang memungkinkan analisis pemasaran komersial dan politik.

Regulasi akan membuat pengecualian untuk pemberantasan kejahatan serius, memungkinkan penerapan sistem pengenalan wajah yang ditentukan, dalam batas cakupan dan durasi penggunaan.

Seperti dengan cakupan luas GDPR, tampaknya regulasi baru ini mungkin cukup umum untuk menimbulkan ‘efek pendinginan’ di area di mana pedoman ketat untuk penggunaan AI tidak disediakan, dengan perusahaan berisiko terkena dampak di mana penggunaan pembelajaran mesin jatuh ke dalam area abu-abu dalam regulasi.

Bias di Bawah Regulasi AI Uni Eropa yang Baru

Namun, tantangan terbesar dan kemungkinan hukum yang paling berantakan datang dalam bentuk ketentuan draft regulasi bahwa set data tidak ‘mengandung bias yang disengaja atau tidak disengaja’ yang dapat memfasilitasi diskriminasi.

Bias data adalah salah satu aspek paling menantang dalam pengembangan sistem pembelajaran mesin – sulit dibuktikan, sulit diatasi, dan erat terkait dengan budaya sentral pengumpulan data. Masalah ini semakin menempatkan lembaga penelitian swasta dan negara dalam arus silang antara kebutuhan untuk secara akurat mewakili kelompok yang berbeda (hampir tujuan pendiriannya dari matematika komputasi dan analisis statistik empiris) dan potensi untuk mempromosikan profil rasial dan demonisasi budaya, di antara pertimbangan lain.

Oleh karena itu, kemungkinan besar pasar non-Uni Eropa berharap bahwa regulasi baru ini akan menyediakan setidaknya beberapa area pedoman spesifik, dan berbagai definisi yang dapat diterapkan dalam hal ini.

Perlawanan Eksternal terhadap Regulasi AI Uni Eropa

Regulasi baru ini kemungkinan akan memiliki dampak yang mendalam pada konsekuensi hukum penggunaan pembelajaran mesin untuk menganalisis data yang menghadap ke publik – serta pada data tersebut karena masih memungkinkan untuk mengekstrak dari pengguna web di era pasca-pelacakan yang saat ini diperkenalkan oleh Apple, Firefox dan (sampai batas tertentu), Chrome.

Yurisdiksi mungkin perlu didefinisikan dengan jelas, misalnya dalam kasus di mana raksasa FAANG mengumpulkan data pengguna sesuai dengan GDPR, tetapi memproses data tersebut melalui sistem pembelajaran mesin di luar Uni Eropa. Tidak jelas apakah algoritma yang dihasilkan melalui sistem tersebut dapat diterapkan pada platform di dalam Uni Eropa, dan bahkan kurang jelas bagaimana penerapan tersebut dapat dibuktikan.

Dalam kasus penggunaan AI untuk memandu keputusan penjara dan penjatuhan hukuman, tren yang berkembang di Amerika Serikat, eksperimen Inggris sendiri yang jarang dalam sektor ini akan ditutupi oleh regulasi baru jika negara tersebut tidak keluar dari Uni Eropa.

Pada tahun 2020, draft memorandum Gedung Putih tentang regulasi AI menyatakan kasus Amerika untuk regulasi AI yang rendah, menyatakan bahwa ‘Lembaga federal harus menghindari tindakan regulasi atau non-regulasi yang tidak perlu menghambat inovasi dan pertumbuhan AI’. Secara argumentatif, sikap ini tampaknya akan bertahan setelah pemerintahan Trump di mana memorandum tersebut diterbitkan, tetapi lebih mencerminkan gesekan yang akan datang antara AS dan Uni Eropa setelah regulasi baru.

Demikian pula, ‘Peta Jalan AI’ Dewan AI Inggris mengekspresikan antusiasme besar untuk manfaat ekonomi dari adopsi AI, tetapi kekhawatiran umum bahwa regulasi baru tidak boleh diizinkan untuk menghambat kemajuan ini.

Undang-Undang AI Pertama yang Nyata

Komitmennya Uni Eropa terhadap posisi hukum pada AI adalah inovatif. Sepuluh tahun terakhir telah ditandai oleh badai makalah putih dan temuan komite preliminer dan rekomendasi dari pemerintah di seluruh dunia, yang berfokus pada etika AI, dengan sedikit undang-undang yang benar-benar disahkan.

Distribusi geografis penerbit pedoman etika AI berdasarkan jumlah dokumen yang dirilis, dalam survei dari 2019. Jumlah pedoman etika tertinggi diterbitkan di Amerika Serikat dan di dalam Uni Eropa, diikuti oleh Inggris dan Jepang. Kanada, Islandia, Norwegia, Uni Emirat Arab, India, Singapura, Korea Selatan, Australia diwakili dengan 1 dokumen masing-masing. Setelah berkontribusi pada pernyataan G7 tertentu, negara-negara anggota G7 ditandai secara terpisah. Sumber: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Bacaan Lebih Lanjut

Kebijakan dan strategi AI nasional (OECD)