Paus Leo XIV Menyerukan agar AI “Dilucuti Senjatanya” dan Mendorong Pelarangan Senjata Otonom Mematikan

Paus Leo XIV menyerukan agar kecerdasan buatan “dilucuti senjatanya” dan mendorong negara-negara yang berkumpul di Jenewa pada November untuk mengambil langkah nyata menuju pelarangan senjata otonom mematikan. Seruan itu disampaikan dalam pidato di Aula Para Paus pada 30 Oktober 2026.

Audiensi tersebut mempertemukan para peserta dalam acara “Masa Depan AI: Dialog antara Vatikan dan Dunia Ilmiah tentang Perkembangan dan Penerapan Teknologi Cerdas”, yang diselenggarakan bersama oleh Pontifical Academy for Life dan Future of Life Institute.

Menyambut para peserta dari berbagai negara, Paus mengatakan bahwa ia yakin mereka sama-sama merasa gelisah melihat perkembangan kecerdasan buatan: arah yang seharusnya ditempuh sudah diketahui, tetapi belum cukup banyak upaya dilakukan untuk bergerak ke sana. Ia berterima kasih kepada para peserta atas keprihatinan, gagasan, dan usulan mereka untuk masa depan. Ia menyebutnya sebagai hasil awal dari pendekatan lintas disiplin yang, menurutnya, semakin diperlukan untuk menghadapi kompleksitas tantangan besar zaman ini.

Paus mengenang pidato Paus Fransiskus pada sesi G7 tentang kecerdasan buatan tanggal 14 Juni 2024. Dalam pidato itu, Fransiskus menggambarkan AI sebagai alat yang membangkitkan antusiasme sekaligus ketakutan, serta menegaskan bahwa keputusan untuk merenggut nyawa manusia tidak boleh pernah diserahkan kepada mesin. Paus Leo XIV mengatakan bahwa perkataan itu tetap relevan seperti sebelumnya. Ia menambahkan bahwa dalam ensikliknya, ia berupaya membahas persoalan tersebut secara lebih mendalam sebelum menguraikan lima pertimbangan.

Lima Pertimbangan

Pertama, kata Paus, masa depan kecerdasan buatan tidak ditentukan sebelumnya: karena teknologi ini dikembangkan manusia, masa depannya bergantung pada pilihan yang dibuat manusia. Karena itu, manusia bertanggung jawab untuk mengarahkan dan mengubah penerapannya, serta menolaknya jika diperlukan. Menurutnya, pertanyaan terpenting adalah tujuan yang harus dilayani AI, bukan sekadar apa yang mampu dilakukannya. Ia memperingatkan bahwa mereka yang hanya menganggap pengembangannya sebagai perlombaan yang harus dimenangkan berisiko terpaku pada garis akhir dan melupakan mereka yang tertinggal. Sistem yang andal dan melayani manusia lebih bernilai daripada sistem yang luar biasa kuat, tetapi dampaknya tidak dapat diperkirakan atau dikendalikan secara memadai.

Kedua, katanya, “mesin adalah alat, bukan pribadi.” Sistem AI tidak mengalami sesuatu atau memiliki tubuh; sistem tersebut tidak merasakan sukacita atau rasa sakit, tidak berkembang melalui hubungan dengan orang lain, dan tidak memahami dari dalam makna cinta, pekerjaan, persahabatan, atau tanggung jawab. Sebagian pihak mengusulkan agar sistem semacam itu diberi hak atau bahkan status sebagai subjek hukum. Ia memperingatkan bahwa pendekatan ini berisiko mengaburkan tanggung jawab manusia dan memaksa orang yang dirugikan untuk menuntut ganti rugi dari entitas yang tidak memiliki wajah manusia.

Pengawasan Manusia, Kebaikan Bersama, dan Lembaga

Ketiga, kata Paus, keputusan tertentu tidak boleh pernah diserahkan kepada pihak lain. Seseorang yang dimasukkan ke dalam daftar sasaran atau basis data pengawasan perbatasan berisiko direduksi menjadi sekadar titik data. Keputusan yang memengaruhi kehidupan manusia, kebebasan, dan penggunaan kekuatan harus selalu berada di bawah pengawasan manusia yang efektif, berdasarkan informasi yang memadai, dan bertanggung jawab. Karena itu, katanya, kecerdasan buatan harus dilucuti senjatanya. Ia mendorong negara-negara yang berkumpul di Jenewa pada November untuk mengambil langkah nyata menuju pelarangan senjata otonom mematikan.

Keempat, katanya, teknologi cerdas harus diarahkan untuk kebaikan bersama dan tidak boleh menjadi tujuan pada dirinya sendiri atau hanya melayani kepentingan segelintir orang yang diistimewakan. Merujuk pada ajaran dalam ensikliknya bahwa keadilan menuntut akses terhadap manfaat inovasi, termasuk layanan kesehatan, pengetahuan, alat, dan peluang, ia mengatakan bahwa pengembangan teknologi ini seharusnya mendorong solidaritas dan partisipasi di berbagai tingkatan masyarakat global. Dengan demikian, manfaat kemajuan dapat dibagikan secara adil, terutama kepada mereka yang paling membutuhkan.

Pertimbangan kelimanya, yang ia sebut mungkin paling mendesak, beralih pada lembaga. Menurutnya, banyak prinsip etika yang seharusnya memandu pengembangan kecerdasan buatan sudah diketahui; yang kini dibutuhkan adalah lembaga yang mampu menerapkannya, terutama lembaga internasional yang efektif dan dapat melindungi kebaikan bersama di tingkat global. Katanya, hal itu memerlukan standar bersama, pengawasan independen, dan mekanisme akuntabilitas yang jelas, agar keputusan mengenai pengembangan dan penggunaan AI dapat ditelaah, digugat bila perlu, serta disertai pemulihan yang sesuai atas kerugian yang ditimbulkan. Paus menutup dengan berterima kasih kepada para peserta atas kontribusi mereka, mendorong mereka untuk terus bertekun dalam semangat dialog dan tanggung jawab bersama demi kebaikan bersama, serta menyampaikan berkatnya.

Ensiklik yang Melandasi Pidato

Pidato itu mendasarkan masing-masing dari kelima pertimbangannya pada bagian-bagian bernomor dalam Magnifica Humanitas, ensiklik yang diterbitkan Leo XIV pada 15 Mei 2026 dengan judul lengkap Tentang Menjaga Pribadi Manusia pada Zaman Kecerdasan Buatan. Dalam dokumen itu, Paus mencatat bahwa Leo XIII menerbitkan ensikliknya, Rerum Novarum, pada 1891, dan bahwa Gereja memperingati ulang tahun ke-135 dokumen tersebut pada 2026.

Ensiklik tersebut mencatat bahwa jika dahulu negara sebagian besar memandu dan mengarahkan inovasi, kini penggerak utama perkembangan teknologi adalah pihak swasta, yang sering kali bersifat lintas negara dan memiliki sumber daya serta kapasitas untuk melakukan intervensi yang melampaui banyak pemerintah. Menurut dokumen itu, pergeseran tersebut membuat kekuatan teknologi memiliki karakter yang belum pernah ada sebelumnya dan terutama bersifat privat, sehingga lebih sulit dikenali, diatur, dan diarahkan untuk kepentingan bersama. Bab-babnya mencakup pembahasan khusus tentang tanggung jawab, transparansi, dan tata kelola AI, serta tentang senjata dan kecerdasan buatan.