Mengapa Skenario Kiamat Mengalihkan Perhatian, dan Risiko AI Nyata yang Perlu Kita Khawatirkan

Jika Anda mengikuti berita, sulit untuk mengabaikan meningkatnya alarmisme seputar industri AI dan peringatan tentang kiamat. Narasi yang memperingatkan tentang ‘risiko eksistensial’ yang ditimbulkan sistem AI bagi umat manusia ini membuat perusahaan keamanan siber sangat mudah ikut-ikutan dan menjual produk dengan memanfaatkan rasa takut. Namun, berfokus pada ‘kiamat’ adalah tindakan yang keliru karena mengabaikan risiko lebih mendesak yang ditimbulkan AI agen bagi organisasi saat ini.

Tentu saja, agen AI yang bertindak tanpa mengikuti kendali organisasi menimbulkan risiko yang nyata. Baru-baru ini, laporan dari Australia dan Amerika Serikat menemukan bahwa agen AI OpenAI telah menyimpang dari tugasnya pada sistem pemerintahan di kedua negara tersebut.

Namun, ancaman skenario kiamat akibat AI dibesar-besarkan. Alih-alih terpaku pada kemungkinan hipotetis, organisasi harus menghadapi kenyataan baru ini dan memastikan adanya perlindungan deterministik demi ketahanan operasional.

Internet Tidak Memiliki Satu Sakelar Pemutus

Mereka yang meyakini narasi kiamat percaya bahwa seiring AI berkembang semakin canggih dan menjangkau lebih luas, AI dapat menjadi ‘sakelar pemutus’ terkonsentrasi, satu titik yang rentan terhadap upaya seseorang untuk mengambil kendali penuh dan memicu bencana.

Namun, internet jauh lebih tersebar dan beragam daripada yang diasumsikan teori sakelar pemutus. Internet beroperasi sebagai ‘jaringan dari berbagai jaringan’, yang terdiri atas miliaran komponen dalam beragam arsitektur dan dilindungi oleh tak terhitung banyaknya tim operasional yang bekerja dengan standar dan perangkat berbeda. Karena itu, tidak ada satu sakelar pun yang bisa diaktifkan oleh siapa pun, baik manusia maupun mesin—tidak ada satu kerentanan atau rangkaian kerentanan yang dapat dieksploitasi hingga menimbulkan dampak fatal seperti itu.

Gagasan bahwa AI dapat menciptakan dan menyebarkan patogen hasil rekayasa atau membobol sistem nuklir yang terisolasi dari jaringan mungkin menarik untuk ditonton di bioskop. Meski begitu, hal tersebut jauh dari skenario yang masuk akal untuk penilaian ancaman operasional.

Tak Terlihat, Tak Terkendali

Seiring AI agen terus berkembang, dua faktor telah mengubah secara mendasar sifat risiko yang dihadapi perusahaan.

Di satu sisi, AI kini dapat membantu pelaku kejahatan menemukan dan mengeksploitasi kerentanan siber dalam hitungan menit, bukan bulan. Saat pertahanan AI probabilistik berhasil mengidentifikasi aktivitas mencurigakan, sering kali sudah terlambat untuk merespons ancaman tersebut. Karena bekerja berdasarkan kemungkinan statistik, bukan aturan tetap, bahkan pertahanan terbaik pun akan luput mendeteksi sebagian aktivitas berbahaya, dan penyerang hanya perlu berhasil lolos satu kali

Di sisi lain, penggunaan ‘AI bayangan’ oleh karyawan membuat organisasi jauh lebih sulit mengetahui apa saja yang perlu dilindungi. Sebanyak 82% organisasi yang disurvei Cloud Security Alliance menemukan agen AI yang beroperasi dalam setahun terakhir tanpa sepengetahuan tim keamanan atau TI, meskipun 68% menyatakan sangat yakin bahwa mereka dapat memantau agen-agen tersebut. Secara terpisah, EY menemukan bahwa seperempat perusahaan besar di AS yang menggunakan AI agen mengakui bahwa mereka tidak mampu mendeteksi agen tanpa izin yang beroperasi di dalam perusahaan.

Tentu saja, kedua perubahan ini menimbulkan tekanan operasional yang besar pada sistem perusahaan. Jika digabungkan, keduanya menempatkan organisasi pada posisi yang sangat tidak menguntungkan: terlalu lambat untuk mengidentifikasi dan memperbaiki kerentanan yang terekspos, serta tidak mengetahui sistem mana yang terekspos sejak awal.

Mengendalikan Hal-Hal yang Bisa Dikendalikan

Organisasi memerlukan inventaris terkini yang mencakup setiap agen yang beroperasi di dalam perusahaan, baik yang disetujui maupun tidak, lengkap dengan nama penanggung jawab dan batasan yang didefinisikan dengan jelas mengenai hal-hal yang boleh diakses dan dilakukan setiap agen. Inilah langkah pertama untuk mengendalikan ‘hal-hal yang bisa dikendalikan’. Meskipun model AI mungkin bersifat probabilistik, kendali yang diterapkan atasnya dapat bersifat deterministik, tetap, dan didefinisikan dengan jelas.

Dalam praktiknya, ini berarti bahwa setiap kali agen mengusulkan suatu tindakan, lapisan penegakan terpisah yang independen dari model itu sendiri harus memverifikasi apakah tindakan tersebut diizinkan dan menyimpan catatan audit. Namun, hanya 11% organisasi yang secara otomatis memblokir tindakan agen saat melampaui batas kewenangannya; sebagian besar organisasi mengandalkan persetujuan manusia atau sekadar mencatat tindakan tersebut. Insiden di Australia menunjukkan dampak mengandalkan sistem sasaran untuk menolak akses: setelah akses ditolak, agen tersebut menemukan cara lain untuk masuk. Arsitektur tata kelola yang lebih luas juga harus mampu mengidentifikasi, mengizinkan, dan memverifikasi semua agen secara berkelanjutan guna mencegah terwujudnya risiko operasional yang tak terduga. Semua ini perlu dilakukan dengan cepat, karena serangan yang berlangsung dengan kecepatan mesin membutuhkan aturan yang juga bergerak dengan kecepatan mesin.

Dari Ketakutan Hipotetis ke Solusi Praktis

Betapapun meyakinkannya, banjir pemberitaan tentang kiamat yang dipicu oleh sistem AI otonom sangat jauh dari kenyataan. Risiko yang patut dikhawatirkan jauh lebih biasa daripada AI yang memutuskan untuk memusnahkan kita: agen yang bertindak di dalam perusahaan Anda lebih cepat daripada siapa pun dapat mengawasinya, dengan izin yang tidak pernah diberikan siapa pun kepadanya.

Masalah kecepatan dan visibilitas sama-sama dapat diatasi, asalkan sistem keamanan yang mengatur AI bersifat deterministik dan mampu memverifikasi serta melacak setiap agen secara akurat dengan kecepatan yang sama seperti kecepatan operasinya.

Bagi dewan direksi dan pemimpin keamanan, hal ini bermuara pada tiga pertanyaan praktis: apakah kita mengetahui setiap agen yang berjalan di lingkungan kita, apakah masing-masing memiliki penanggung jawab dan batasan yang jelas, serta apakah kita dapat menghentikan tindakan tanpa izin sebelum tindakan itu dijalankan? Membantu klien mengatasi kesenjangan praktis ini adalah cara penyedia keamanan siber dapat berkontribusi lebih besar terhadap ketahanan, alih-alih menjual ketakutan akan masa depan hipotetis.