Pemimpin pemikiran

Ya, Undang-Undang AI Uni Eropa Mencakup AI Agentik—Begini Caranya

Dr. Ley Muller Gyda Grodås Christiansen
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaAI agentik sudah termasuk dalam EU AI Act karena memenuhi definisi sistem AI.
Lihat selengkapnya
  • AI agentik sudah termasuk dalam EU AI Act karena memenuhi definisi sistem AI.
  • AI Act mengatur apa yang dilakukan teknologi dan risiko yang ditimbulkannya, bukan menyebutkan teknologi tertentu.
  • Raksasa teknologi yang melobi menentang AI Act mendorong regulasi mandiri yang setara dengan pengambilalihan regulasi.

Saat ini, narasi yang berkembang luas menyebutkan bahwa AI agentik dan agen AI berada di luar jangkauan regulasi—seolah-olah Undang-Undang AI Uni Eropa tidak memadai untuk mengaturnya. Kami membaca narasi ini di media berita Norwegia yang bereputasi, yakni Morgenbladet dan Dagensnæringsliv, dan mendengarnya diulang oleh para akademisi terkemuka dari University of Oslo. Kami melihat dua kelemahan mendasar dalam klaim-klaim ini… dan kami berpendapat bahwa klaim tersebut didasarkan pada ketakutan, bukan fakta.

Pertama, AI agentik diatur berdasarkan Undang-Undang AI Uni Eropa.

Kedua, klaim semacam itu melemahkan regulasi yang sudah ada. Klaim tersebut memperkuat anggapan bahwa perusahaan AI lebih mampu mengelola risiko yang terkait dengan sistem mereka sendiri—argumen umum yang berujung pada pembajakan regulasi.

Kami bekerja cukup erat dengan Undang-Undang AI sebagai anggota yang ditunjuk untuk komite AI nasional Standards Norway. Kami juga menjadi anggota komite-komite Eropa yang menyusun standar harmonis bagi penyedia sistem AI berisiko tinggi; standar ini membantu perusahaan memenuhi persyaratan hukum Undang-Undang AI.

AI Agentik Diatur dengan Beberapa Cara dalam Undang-Undang AI Uni Eropa

Komisi Eropa telah menerbitkan beberapa FAQ yang menggunakan bahasa sederhana dan mudah dipahami tentang “agen” dan “AI agentik”, serta telah menegaskan bahwa keduanya termasuk dalam cakupan regulasi, tepatnya karena memenuhi definisi sistem AI yang lebih luas (Bagaimana agen AI dibahas dalam Undang-Undang AI? | Meja Layanan Undang-Undang AI). Berikut beberapa contoh lainnya:

  • AI agentik kerap dibangun di atas model bahasa besar, yang diatur sebagai model AI serbaguna.
  • Ketika sistem AI agentik berinteraksi dengan manusia, persyaratan transparansi dalam regulasi juga berlaku.
  • Jika suatu model AI diklasifikasikan memiliki risiko sistemik, penyedianya harus memenuhi persyaratan tambahan. Persyaratan ini antara lain mencakup penilaian atas kapabilitas model, termasuk fitur otonom dan agentiknya.

Undang-Undang AI tidak menyebut kata “agen”, tetapi ini karena undang-undang tersebut tidak mengatur jenis teknologi tertentu. Sebaliknya, undang-undang ini mengatur tujuan penggunaan teknologi dan risiko yang terkait dengan fungsi-fungsi tersebut.

Undang-Undang AI Bertujuan Melindungi Hak-Hak Fundamental Kita

Banyak kritik terhadap Undang-Undang AI dari pihak yang menginginkan lebih banyak regulasi berangkat dari kenyataan bahwa menghilangkan risiko secara sempurna secara struktural mustahil dilakukan. Namun, kerangka regulasi internasional tidak mungkin mengantisipasi setiap risiko di masa depan.

Sebaliknya, Undang-Undang AI berfokus pada risiko yang ditimbulkan oleh sistem AI yang dapat memengaruhi kesehatan, keselamatan, dan hak-hak fundamental—hal yang dinyatakan dalam kalimat pertama pasal pertama.

Hal lain yang tidak kami soroti dalam kalimat pertama ini juga sangat penting: Undang-Undang AI berorientasi pada pasar. Undang-undang ini harus mendorong penggunaan AI. Undang-undang ini harus mendukung inovasi. Dengan kata lain, Undang-Undang AI mendukung AI. Dalam konteks ini, aplikasi dan bidang tertentu diatur.

Bidang Tertentu Telah Diklasifikasikan Sebelumnya sebagai Berisiko Tinggi

Beberapa contohnya adalah sistem AI yang digunakan dalam:

  • perekrutan
  • alokasi layanan esensial
  • perangkat medis
  • sistem yang terintegrasi ke dalam infrastruktur kritis, yang mengutamakan keselamatan.

Penyedia sistem AI—baik yang agentik maupun bukan—yang dapat berdampak pada hak-hak kita wajib menerapkan sistem manajemen risiko yang komprehensif, termasuk menilai bagaimana pengguna dapat menyalahgunakan sistem AI tersebut.

Pembajakan Regulasi: Ketika Penyedia Mengusulkan Pengaturan Mandiri

Jika kita mendengarkan Anthropic, OpenAI, dan Meta, serta sejumlah pihak dalam perdebatan di Norwegia, kita mungkin mendapat kesan bahwa AI dan AI agentik terlalu rumit untuk diatur oleh Undang-Undang AI. Terlalu canggih bagi Uni Eropa. Terlalu berbahaya untuk diatur oleh pihak lain selain perusahaan itu sendiri.

Kita perlu berhati-hati ketika perusahaan teknologi paling berkuasa di dunia—yang telah gencar melobi agar Undang-Undang AI diterapkan dengan lebih longgar—kini menyatakan bahwa regulasi tersebut tidak memadai untuk mengatur sistem mereka yang paling canggih. Solusi yang mereka usulkan adalah mengatur diri mereka sendiri.

Ini adalah mekanisme klasik pembajakan regulasi, yakni proses ketika undang-undang dan peraturan secara bertahap dibentuk oleh pihak-pihak yang justru seharusnya diatur, demi keuntungan mereka sendiri.

Amerika Serikat memberikan contoh yang jelas tentang hal ini (Memulai Era Kecerdasan Super – Gedung Putih). Kesepakatan Gedung Putih tentang Kecerdasan Super adalah “pakta sukarela” dengan para pemimpin dari X, Meta, Anthropic, OpenAI, dan Google. Dalam kesepakatan itu, perusahaan-perusahaan tersebut berjanji untuk mengatur diri sendiri. Dokumen tersebut menyebutkan bahwa undang-undang mungkin layak diterapkan pada suatu waktu di masa depan yang masih bersifat hipotetis: “Seiring waktu, mungkin masuk akal untuk menuangkan langkah-langkah ini ke dalam undang-undang atau peraturan.” Seiring waktu. Mungkin. Peraturan mungkin layak dipertimbangkan.

Namun, untuk saat ini, warga Amerika diharapkan percaya bahwa perusahaan-perusahaan teknologi besar ini akan mengatur diri mereka sendiri.

Berbeda dengan Amerika Serikat, Eropa memiliki undang-undang yang mengikat: AI Act.

Meski demikian, risiko kooptasi regulasi tetap ada, termasuk melalui terkikisnya kepercayaan terhadap undang-undang ini. Sebab, jika raksasa teknologi dapat meyakinkan masyarakat bahwa AI Act tidak cukup baik, kita tidak akan lagi mendukung penegakannya. Klaim bahwa AI agentik terlalu canggih, pintar, atau berbahaya untuk ditangani oleh AI Act merupakan argumen yang melemahkan dukungan kita terhadap regulasi.

Begitu kooptasi regulasi terjadi, dampaknya sulit dibalikkan.

Kami memahami kekhawatiran bahwa beberapa sistem AI dapat menimbulkan konsekuensi yang sulit diperkirakan. Justru karena itu, kita memerlukan prosedur manajemen risiko—sebagaimana juga diwajibkan oleh AI Act. (Dr. Muller bekerja di komite yang hampir selesai menyusun standar harmonisasi untuk manajemen risiko, 18228.)

EU AI Act tidak sempurna dan kemungkinan masih perlu dikembangkan lebih lanjut. Namun, menggambarkan AI agentik sebagai ranah di luar cakupan EU AI Act hanya menambah ketidakpastian, bukan keselamatan.

Dr. Ley Muller mengkhususkan diri dalam tata kelola AI yang etis. Ia menjadi anggota komite standardisasi AI dan juga menjalankan perusahaan konsultan tata kelola AI, Values-driven AI. Separuh waktunya ia membantu penyedia AI di Eropa memenuhi persyaratan AI Act mereka; separuh waktu lainnya, ia membantu organisasi publik besar mengelola penggunaan AI bayangan dan membangun keselarasan yang lebih luas di antara para pemangku kepentingan terkait strategi AI.

Gyda Grodås Christiansen adalah Penasihat Senior yang bekerja di bidang kesehatan digital, informatika kesehatan, dan tata kelola kecerdasan buatan. Ia berkontribusi pada standardisasi internasional melalui Komite Teknis Gabungan 21 CEN/CENELEC dan Standard Norway. Pekerjaannya berfokus pada interoperabilitas, data kesehatan, dan penerapan AI yang bertanggung jawab di bidang kesehatan.