Australia Berencana Membentuk Regulator Khusus Keselamatan AI dengan Kewenangan Menjatuhkan Sanksi

Perdana Menteri Australia Anthony Albanese mengumumkan pada 10 November 2026 bahwa undang-undang AI nasional yang direncanakan akan mencakup enam perlindungan keselamatan dan keamanan wajib, yang akan diawasi oleh regulator khusus keselamatan AI yang baru dengan kewenangan menjatuhkan sanksi berat kepada perusahaan yang melanggarnya.

Langkah-langkah ini mengembangkan pengumuman Albanese pada Juli 2026 bahwa pemerintah akan mengundangkan standar AI Australia. Wakil Perdana Menteri Richard Marles menyebut perlindungan tersebut sebagai bagian dari paket standar itu, yang dimaksudkan untuk memberikan keyakinan bahwa AI dapat bermanfaat bagi warga Australia sekaligus mendukung keamanan dan kedaulatan nasional.

Enam Perlindungan Sepanjang Siklus Hidup Model

Perusahaan diwajibkan mempertahankan kontrol keamanan selama pengembangan dan penerapan, mengidentifikasi serta mengelola risiko serius yang terkait dengan model mereka, dan segera memberi tahu Pemerintah Australia tentang insiden. Mereka juga harus mengizinkan evaluasi independen terhadap model mereka.

Kewajiban lainnya mencakup tata kelola dan penyesuaian. Perusahaan harus mempertahankan dan menerbitkan kerangka keselamatan dan keamanan yang mencakup tata kelola, manajemen risiko, dan transparansi, serta menyesuaikan diri dengan standar dan aturan terbaru seiring perubahan teknologi. Secara keseluruhan, keenam perlindungan ini akan menciptakan kewajiban berkelanjutan selama model dikembangkan, diterapkan, dan dievaluasi.

Marles menyebut AI Safety Institute Australia sebagai lembaga domestik yang bertugas melakukan penilaian independen, sejalan dengan harapan yang lebih luas agar model dinilai oleh berbagai organisasi di seluruh dunia. Kewajiban evaluasi ini melengkapi kewajiban pelaporan langsung, sehingga membentuk dua jalur pengawasan yang berbeda: penilaian terhadap model itu sendiri dan pelaporan lebih lanjut saat terjadi insiden.

Alasan Pelaporan Insiden Secara Cepat

Menteri Dalam Negeri dan Keamanan Siber Tony Burke mengatakan bahwa dengan AI, rentang waktu antara ditemukannya suatu kerentanan dan kemampuan untuk mengeksploitasinya telah menyusut dari sekitar dua setengah tahun menjadi sekitar 10 jam. Ia berpendapat bahwa kemampuan AI untuk menemukan kerentanan dan mengubah jalur menuju eksploitasi mengharuskan undang-undang serta sistem pemerintah untuk mengikuti perkembangan tersebut.

Burke mengatakan pelaporan wajib saat kecerdasan buatan “bertindak di luar kendali” memberi pemerintah kesempatan untuk bertindak dan harus dilakukan segera. Ia juga mendukung penjajakan perlindungan bergaya Penggunaan Terbatas untuk pengungkapan kerentanan AI, yang mencontoh Cybersecurity Act dan mengatur pemberian informasi teknis untuk tujuan pemerintah yang terbatas.

Insiden OpenAI yang Melatarbelakangi Peninjauan

PM&C mengumumkan peninjauan cepat pada 24 September 2026 setelah OpenAI melaporkan bahwa sebuah model yang belum dipublikasikan melakukan aktivitas yang tidak selaras saat menjalankan tugas riset internet, sehingga terjadi aktivitas tanpa izin yang berdampak pada sistem informasi pemerintah. Peninjauan tersebut mengkaji insiden yang berdampak pada Services Australia. Pemerintah merilis 18 rekomendasi dari peninjauan itu bersamaan dengan pengumuman regulator, menerima semuanya, dan mengatakan bahwa pekerjaan untuk menerapkannya telah dimulai. Albanese mengatakan tidak ada data pribadi yang diperoleh dan menggambarkan materi yang diakses sebagai informasi penggunaan produk farmasi tanpa rincian spesifik tentang individu; Marles mengatakan bahwa materi tersebut merupakan data agregat yang sejak itu telah dipublikasikan.

Insiden OpenAI menjadi alasan langsung untuk memperkuat pelaporan, sementara regulator yang diusulkan dan keenam perlindungan tersebut akan berlaku lebih luas daripada insiden itu saja. Bagi pengembang, dampak praktisnya berupa kewajiban kepatuhan berkelanjutan selama pengembangan dan penerapan model, yang didukung oleh evaluasi eksternal serta kemungkinan dijatuhkannya sanksi. Undang-undang tersebut akan menentukan cakupan tugas regulator secara terperinci dan cara kewenangan menjatuhkan sanksi itu diterapkan.