Miliband Menyerukan UN Security Council untuk Bertindak atas Peringatan Pendiri AI

Menteri Luar Negeri Inggris Ed Miliband mengatakan kepada United Nations Security Council pada 23 September 2026 bahwa pemerintah harus bertindak bersama atas peringatan yang datang dari pendiri kecerdasan buatan, dengan menyusun agenda pengujian keamanan, transparansi dari perusahaan AI, dan ketahanan nasional. Foreign, Commonwealth & Development Office mempublikasikan transkrip, persis seperti yang disampaikan di Perserikatan Bangsa-Bangsa di New York, pada hari yang sama.

UN Meetings Coverage mencatat sesi tersebut sebagai pertemuan ke-10.228 Dewan Keamanan, sebuah sesi sore yang diadakan dengan judul “Artificial Intelligence and International Security.” Miliband membuka dengan mengucapkan terima kasih kepada penyelenggara sesi dan pembicara ahli yang, katanya, memberikan kontribusi yang mencerahkan.

Peringatan Pendiri dan Kewajiban Pemerintah

Miliband mengatakan kepada Dewan bahwa AI tanpa diragukan lagi memiliki kekuatan untuk mengubah dunia menjadi lebih baik, sesuatu yang ia katakan terlihat dalam kehidupan sehari-hari di setiap negara yang diwakili di ruangan itu. Namun, ia mengatakan, para pendiri teknologi kini menyampaikan peringatan tegas kepada pemerintah: mereka khawatir akan kemampuannya menyebabkan kerusakan, dan mereka menyatakan bahwa tidak dapat dibiarkan hanya pada mereka sendiri untuk mencegah bencana.

Ia mengatakan pemerintah tidak dapat mengabaikan peringatan tersebut, karena para pendiri benar. Pemerintah, katanya, tidak dapat mengabaikan tanggung jawabnya kepada warga, dan tidak dapat menyerahkan tugas utama pemerintah kepada perusahaan swasta, yaitu melindungi publik, apa pun masalahnya.

Miliband mengatakan Dewan Keamanan didirikan untuk menangani tantangan kolektif terbesar pada masa itu, dan bahwa kewajiban kini berada pada pemerintah untuk bekerja sama, serta bersama industri, demi kepentingan rakyat yang mereka wakili. Ia menyatakan pemerintah Inggris berkomitmen untuk melakukannya.

Keamanan, Transparansi, dan Ketahanan

Miliband menguraikan tiga bidang kerja. Yang pertama, katanya, harus berupa keamanan: bekerja lebih keras untuk memastikan model AI frontier diuji secara ketat, dan membangun sistem jaminan seputar pengembangan model sehingga pemerintah dapat membangun kepercayaan bahwa model tersebut aman.

Kedua, katanya, adalah transparansi. Perusahaan yang membangun model tidak dapat sekadar dibiarkan beroperasi sendiri, dan pemerintah harus memiliki visibilitas untuk memahami dan menilai apa yang dilakukan perusahaan AI. Miliband mencatat bahwa perusahaan AI terkemuka telah berkomitmen menyediakan visibilitas tersebut, dan ia menggambarkannya sebagai tawaran yang harus dipenuhi oleh pemerintah dan perusahaan.

Ketiga, katanya, adalah ketahanan: memperkuat pertahanan untuk mengurangi dampak insiden yang didukung AI. Bahkan jika setiap model diuji, ia mengatakan, pemerintah harus siap menghadapi penyalahgunaan AI. Itu mencakup meningkatkan pertahanan siber, melindungi infrastruktur kritis, dan memperkuat sistem keuangan, serta mendukung masyarakat untuk mengelola dan menyesuaikan diri dengan gangguan yang akan dibawa AI pada cara orang hidup dan bekerja, sambil memanfaatkan manfaatnya.

AI Security Institute dan Kepresidenan G20

Miliband mengatakan Inggris akan memainkan peran penuh dalam proses tersebut. Ia menyatakan Inggris mendirikan AI Security Institute pertama, yang ia gambarkan sebagai berbagi keahlian, kemampuan pengujian, dan penelitian sambil bekerja sama erat dengan Amerika Serikat serta laboratorium terkemuka dalam keamanan AI.

lembaga mendeskripsikan dirinya sebagai organisasi riset dalam Department for Science, Innovation and Technology yang menguji sistem AI terkemuka sebelum dirilis ke publik dan membuka sumber alat evaluasi seperti Inspect. Ia menyatakan penelitiannya mencakup penyalahgunaan siber, perlindungan, penyelarasan, kontrol, otonomi, pengaruh manusia, dan ketahanan sosial, didukung oleh £66 juta pendanaan per tahun fiskal, staf teknis lebih dari 100 orang, serta akses pra-penempatan ke model AI terkemuka.

Juga pada 23 September, Cabinet Office mengumumkan bahwa Dr Jade Leung akan menjadi Wakil Ketua AI Security Institute dan Penasihat Keamanan untuk Taskforce AI pemerintah. Ia akan mundur dari peran penuh waktunya sebagai Penasihat Perdana Menteri untuk AI dan Chief Technology Officer lembaga pada akhir September 2026 karena keadaan pribadi, dan seorang Penasihat AI baru untuk Perdana Menteri akan diangkat pada waktunya. Leung juga akan mengambil posisi paruh waktu sebagai Distinguished Visiting Fellow di Hoover Institution, Universitas Stanford.

Miliband juga mengatakan bahwa, sebagaimana Perdana Menteri Andy Burnham telah menyatakan pada 22 September 2026, Inggris akan menempatkan AI di jantung kepresidenan G20-nya pada 2027, membangun atas catatan menggabungkan pemerintah, industri, peneliti, dan masyarakat sipil dalam isu tersebut. Kantor Perdana Menteri mengumumkan pada 22 September bahwa KTT Pemimpin G20 yang diselenggarakan Inggris akan diadakan di Manchester pada November 2027, dan bahwa Inggris akan mengambil alih kepresidenan dari Amerika Serikat setelah KTT G20 di Miami pada Desember 2026. Rilis yang sama mengumumkan kemitraan AI dan Otonomi Inggris-AS yang memadukan Rapid AI Delivery Taskforce Kementerian Pertahanan dengan Chief Digital and Artificial Intelligence Office Departemen Perang AS, pekerjaan yang dikatakan rilis tersebut akan mempercepat penyampaian kemampuan tepercaya dan dapat beroperasi bersama serta membantu melindungi infrastruktur nasional kritis, termasuk jalur laut dan ruang udara. Kemitraan tersebut dibangun di atas teknologi generasi berikutnya yang sudah dikembangkan melalui AUKUS, kata rilis tersebut.

Standar Global dan Seruan Penutup

Miliband menyoroti upaya menuju kesepakatan satu set prinsip dan standar global, yang katanya akan memastikan transparansi dan akses yang diperlukan untuk meningkatkan kesiapsiagaan serta memastikan pengembangan AI aman. Mengutip poin yang disampaikan oleh pembicara sebelumnya, ia mengatakan potensi AI harus dimanfaatkan untuk Global Selatan dan Global Utara secara bersamaan, mencakup isu-isu mulai dari masa depan pekerjaan dan perlindungan anak hingga keamanan siber, biosekuriti, keamanan nasional, dan stabilitas keuangan.

Pada 21 September 2026, Sekretaris Jenderal PBB António Guterres mengeluarkan pernyataan menyambut Panggilan untuk Mengendalikan Model Kecerdasan Buatan Frontier, yang diluncurkan oleh Presiden Finlandia dan Perdana Menteri Norwegia. Inisiatif tersebut menyerukan kepada negara anggota PBB untuk memperkuat mekanisme internasional yang ada dan mengeksplorasi pembentukan lembaga internasional yang dapat menetapkan standar, memungkinkan verifikasi, serta mengumpulkan negara‑negara ketika ambang kemampuan terlampaui. Guterres juga menyambut sebuah brief tematik tentang keamanan AI dan risiko kehilangan kontrol manusia dari Panel Ilmiah Internasional Independen tentang AI, dan ia mendorong para pakar eksternal, termasuk dari laboratorium AI frontier dan institut keamanan AI, untuk berpartisipasi dengan panel tersebut.

Miliband menutup dengan menolak gagasan pilihan antara kemajuan dan keamanan. Inovasi dan manfaat AI, katanya, hanya dapat direalisasikan jika orang memiliki keyakinan bahwa perlindungan yang tepat telah diterapkan, dan pemerintah harus mengambil segala langkah yang diperlukan agar AI aman, dapat dipercaya, dan tetap dapat mengembangkan potensinya untuk mendorong pertumbuhan, menyembuhkan penyakit, dan mengubah peluang hidup manusia. “Kami tidak dapat mengatakan bahwa kami belum diperingatkan,” katanya. “Kami telah diperingatkan.” Pemerintah, katanya, harus bertindak atas peringatan para pendiri, dan harus bertindak bersama-sama.