Inggris Umumkan Paket Risiko AI dan Perpanjang Program Percontohan Pertahanan Siber

Pemerintah Inggris mengumumkan serangkaian langkah pada 12 Oktober 2026 untuk melindungi Inggris dari risiko yang ditimbulkan AI yang semakin canggih. Langkah-langkah ini mencakup perpanjangan program pertahanan siber AI mutakhir yang, menurut pemerintah, telah membantu menemukan dan memperbaiki lebih dari 1.000 potensi kerentanan di berbagai sistem pemerintah.

Pengumuman tersebut disampaikan oleh Cabinet Office, AI Security Institute (AISI), National Cyber Security Centre (NCSC), dan Department for Digital, Culture, Media and Sport. Menteri AI Kanishka Narayan memaparkan langkah-langkah tersebut di Base One, inkubator sains dan teknologi milik Imperial College London, seraya menyerukan pendekatan ketahanan yang melibatkan seluruh lapisan masyarakat. Ia memperingatkan bahwa seiring sistem AI mutakhir menjadi semakin canggih dan mampu bertindak secara otonom, potensi dampak kegagalan atau penyalahgunaan yang disengaja dapat menjadi jauh lebih serius.

“Saya ingin Inggris menjadi salah satu negara yang paling sulit diserang dengan menggunakan kecerdasan buatan,” kata Narayan. Ia berjanji akan membuat undang-undang jika diperlukan dan mengandalkan keahlian ilmiah, kemampuan teknologi, serta lembaga-lembaga Inggris untuk memahami sistem yang semakin canggih, menangkal ancaman yang muncul, dan merespons ketika terjadi masalah. Ia mengatakan perusahaan yang membangun sistem AI paling canggih di dunia harus mengindahkan peringatan para ilmuwan mereka tentang bahaya serius, menyelidiki perilaku yang tak terduga, dan tidak merilis sistem apa pun jika risikonya tidak dapat dikendalikan secara memadai.

Menurut pengumuman tersebut, langkah ini melanjutkan dua program percontohan yang telah membantu menemukan dan memperbaiki kerentanan serta mendeteksi potensi ancaman siber. Pemerintah mengatakan, perpanjangan program ini akan membantu melindungi layanan publik yang diandalkan masyarakat setiap hari, mengurangi risiko dalam jangka pendek, dan mendukung penerapan yang lebih luas di sektor publik dalam jangka panjang.

Perubahan RUU Siber dan Kesiapsiagaan Menghadapi Insiden AI

Pemerintah mengatakan akan mengkaji penguatan sejumlah bagian dalam RUU Keamanan Siber dan Ketahanan serta kerangka yang lebih luas, agar layanan esensial seperti rumah sakit dan utilitas lebih terlindungi dari risiko terkait AI yang muncul, termasuk risiko hilangnya kendali atas AI, ketika sistem otonom menghindari pengawasan manusia. Pemerintah juga akan menelaah cara mengidentifikasi dan melaporkan insiden AI serius maupun kejadian nyaris celaka, serta cara mengambil pelajaran dengan cepat untuk mengurangi risiko dampak buruk di masa mendatang. Rincian langkah apa pun akan dirumuskan bersama anggota parlemen, pakar teknis, dan operator yang nantinya bertanggung jawab melaksanakannya.

Pemerintah juga bekerja sama dengan NCSC dan AISI untuk menyusun cara merespons insiden yang melibatkan agen AI, yakni sistem yang mampu menjalankan tugas kompleks dengan sedikit pengawasan manusia. Menurut pengumuman tersebut, insiden semacam itu dapat berkembang lebih cepat dan menyebar lebih luas daripada insiden besar lain yang dirancang untuk ditangani pemerintah. Untuk menghadapi tantangan tersebut, diperlukan keahlian dan kemampuan baru.

Paket ini juga mencakup verifikasi AI, bidang baru yang, menurut pengumuman tersebut, memeriksa apakah klaim tentang proses pengembangan, pengujian, dan penilaian sistem AI tetap dapat dipertahankan setelah ditelaah secara saksama. Pemerintah mengatakan Inggris berada dalam posisi yang baik untuk memimpin bidang ini dan rincian lebih lanjut tentang dukungan bagi upaya verifikasi AI di Inggris akan diumumkan dalam beberapa bulan mendatang.

Menteri Siber Liz Lloyd mengatakan insiden siber terus mengganggu organisasi besar maupun kecil di sektor swasta dan publik. Hal ini, menurutnya, membuat kemampuan untuk selalu selangkah lebih maju dalam keamanan siber menjadi kebutuhan yang sangat penting bagi bisnis. “Dengan memperluas proyek percontohan yang menguji AI untuk melindungi layanan publik dan mendorong RUU Siber guna memperkuat pertahanan kita, pemerintah menempatkan keamanan siber dan kesiapsiagaan AI sebagai inti masa depan digital Inggris,” kata Lloyd.

Program Percontohan di Balik Angka Kerentanan

Untuk mendukung angka-angka yang disampaikan, pengumuman tersebut mengutip studi kasus yang diterbitkan pada 12 Juni 2026 oleh Department for Science, Innovation and Technology (DSIT) dan NCSC. Studi itu mendokumentasikan sebuah program percontohan yang dijalankan Government Cyber Coordination Centre (GC3), kemitraan antara NCSC dan DSIT. GC3 mengadakan hackathon tatap muka setiap minggu dengan menggunakan AI mutakhir untuk memindai repositori kode publik di berbagai lembaga pemerintah. Bekerja sama dengan para spesialis AISI dan NCSC, tim berupaya menemukan dan mengurangi kerentanan yang sebelumnya belum teridentifikasi sebelum kerentanan tersebut dapat dieksploitasi. GC3 tidak mewajibkan satu pendekatan tertentu; tim diberi akses ke model dan membuat perangkat mereka sendiri.

Studi kasus tersebut menjelaskan beberapa alur kerja. Satu tim menjalankan setiap repositori publik melalui rangkaian agen AI enam tahap (penyaringan awal, validator, auditor, pelacak, penilai, dan peringkas), dengan setiap tahap membaca dan mengkritisi hasil tahap sebelumnya. Proses ini juga mencakup eskalasi manual: seorang anggota tim memeriksa setiap baris, memverifikasi ulang paparan, dan menangani positif palsu. Tim lain terlebih dahulu menjalankan alat pemindaian konvensional, termasuk Gitleaks, Trivy, Semgrep, dan Hadolint, lalu menambahkan tiga tahap berbasis model untuk menemukan masalah, menyelidiki rangkaian serangan, dan melakukan penyaringan awal. Sebuah departemen ketiga menyaring audit tingkat organisasi yang mencakup ratusan layanan menjadi lima Claude Skills khusus domain.

Para peserta mengidentifikasi total 407 temuan, termasuk kelemahan kritis yang membuat layanan rentan terhadap upaya melewati autentikasi, kebocoran data, dan eksekusi kode jarak jauh, menurut laporan studi kasus tersebut. Semua kelemahan kritis telah diperbaiki dan tidak ditemukan bukti eksploitasi untuk temuan mana pun, dengan biaya token sebesar £13.000 di sembilan organisasi pemerintah selama sebulan. Para penulis mengatakan bahwa model-model tersebut menelusuri kerentanan yang melintasi batas layanan—hal yang tidak dapat dilakukan pemindai konvensional—serta menghubungkan logika bisnis dengan detail teknis.

Salah satu temuan kritis berdampak pada GitHub Actions versi lama di sebuah repositori yang mendukung layanan digital penting pemerintah. Komentar yang dibuat secara khusus pada permintaan tarik terbuka dapat memungkinkan pengguna eksternal memicu serangkaian alur kerja, sehingga terjadi eksekusi kode jarak jauh arbitrer pada pelari GitHub Actions dan terbuka kemungkinan untuk mengekstrak rahasia serta token yang tersedia bagi alur kerja tersebut. GC3 akan memulai tahap kedua uji coba dengan melibatkan lebih banyak departemen, menambahkan model lain, dan memperluas cakupan dari kode publik ke lingkungan kode sumber tertutup.

Evaluasi Model dan Program Pemerintah yang Lebih Luas

Narayan mengonfirmasi bahwa para ilmuwan AISI sedang melakukan evaluasi ketat terhadap generasi terbaru model AI canggih, setelah bekerja sama dengan pengembang AI terkemuka dan pemerintah AS.

Pengumuman tersebut juga merujuk pada surat terbuka kepada para pemimpin bisnis yang diterbitkan pada 15 April 2026. Dalam surat itu, Sekretaris Negara DSIT Liz Kendall dan Menteri Keamanan Dan Jarvis mendesak perusahaan agar menempatkan keamanan siber sebagai prioritas di tingkat pimpinan tertinggi, menerapkan langkah-langkah dasar dengan mengikuti skema Cyber Essentials pemerintah, serta mematuhi saran NCSC, termasuk mendaftar ke layanan Early Warning gratisnya. Layanan ini memberi tahu organisasi tentang potensi serangan siber agar mereka dapat bertindak sebelum insiden meningkat.

Menurut pengumuman tersebut, langkah-langkah ini merupakan tahap awal dari perjalanan yang lebih panjang, sementara upaya yang lebih luas dipimpin oleh Gugus Tugas AI Perdana Menteri. Pengumuman itu menyebut komitmen Perdana Menteri di Sidang Umum PBB pada September untuk melakukan apa pun yang diperlukan guna melindungi masyarakat Inggris dari risiko AI seiring munculnya risiko tersebut, serta menyatakan bahwa AI akan menjadi inti dari Presidensi G20 Inggris. Dalam beberapa bulan mendatang, gugus tugas tersebut akan berfokus pada bidang-bidang yang paling terdampak AI, mencakup keamanan nasional, pertumbuhan ekonomi, serta masa depan layanan publik dan tenaga kerja.