Pemimpin pemikiran

Merevisi Kembali Ketahanan AI: Mengapa Saatnya Meninggalkan Model ‘Setel dan Lupakan’

Diterbitkan
Tambahkan Unite.AI ke sumber pilihan Anda di Google

Sebuah poll Gallup terbaru menunjukkan tren adopsi AI yang semakin meningkat, karena lebih dari setengah orang dewasa yang bekerja mengatakan mereka menggunakan teknologi tersebut setidaknya beberapa kali dalam setahun. Data ini hanya memberi petunjuk tentang adopsi AI yang cepat terjadi di seluruh lingkungan perusahaan. Meskipun banyak pemimpin perusahaan mulai mempertanyakan ROI AI, hal itu tidak menghentikan organisasi untuk memanfaatkan teknologi guna menyederhanakan tugas manual dan memaksimalkan produktivitas.

Sementara adopsi ini terus berlanjut, organisasi dapat tergoda untuk mengabaikan kesalahan berbahaya dalam alur kerja otomatis. Mereka melihat AI sebagai solusi siap pakai, yang hanya memerlukan tim TI untuk mengatur teknologi, membiarkannya berjalan, dan “melupakan” keberadaannya. Beberapa tim keamanan berusaha melawan pemikiran ini dengan membuat playbook otomatisasi yang bertujuan mempromosikan penggunaan AI yang aman dan terjamin. Namun, bahkan tim TI dan keamanan terbaik sekalipun memberi ruang penyesuaian yang sangat sedikit dalam playbook tersebut. Akibatnya, perusahaan tidak dapat berkembang dengan aman seiring AI yang terus berubah.

As enterprises grant AI more authority in business-critical workflows, operational agility must be the new mandate for today’s organizations. For this to become a universal practice, enterprise security leaders must abandon a “set-it-and-forget-it” mindset and engineer for resilience.

Memahami Paradoks Otomatisasi

Otomatisasi berbasis AI memberikan peningkatan produktivitas yang besar di berbagai fungsi perusahaan. Mari kita gunakan keamanan siber sebagai contoh. Alat AI memungkinkan analis melakukan langkah tambahan yang sebelumnya tidak pernah mereka miliki waktu di pusat operasi keamanan yang kelebihan beban. Ini mencakup tugas seperti prioritas peringatan, peninjauan kejadian, deteksi ancaman, validasi silang, dan mendapatkan pendapat kedua. Tidak seperti beberapa pemimpin C‑suite, para CISO secara umum tetap optimis tentang nilai yang akan diberikan AI di masa depan. Menurut data dari “The CISO Report: From Risk to Resilience in the AI Era”, 83 % CISO percaya bahwa otomatisasi adalah investasi yang paling mungkin melampaui harapan.

Di tengah manfaat ini, masih ada paradoks. Laporan yang sama menyoroti skeptisisme CISO terhadap AI, karena khawatir akan konsekuensi kesalahan otonom. 83 % CISO menilai dampak halusinasi, seperti peringatan yang terlewat atau positif palsu, sebagai kekhawatiran terbesar mereka terhadap AI yang bersifat agen. Ada bukti yang cukup untuk mendukung kekhawatiran ini. Sebuah maskapai penerbangan komersial besar dikenakan tanggung jawab hukum dan diperintahkan membayar ganti rugi setelah chatbot layanan pelanggannya menghasilkan halusinasi kebijakan pengembalian tarif duka cita. Sebuah perusahaan intelijen ancaman menghadapi masalah hukum karena diduga merilis laporan yang menghubungkan sebuah startup dengan peretas dari kekuatan asing. Ketika AI membuat kesalahan, dampaknya dapat meluas melampaui sistem internal hingga memengaruhi modal dan reputasi.

Masalah Playbook yang Ketinggalan Zaman

Playbook keamanan yang berfokus pada AI menjadi landasan bagi adopsi AI yang berhasil dan aman. Namun masalah muncul ketika playbook tersebut tidak pernah berubah. Ancaman, infrastruktur TI, dan lingkungan bisnis terus berkembang. AI memungkinkan pelaku ancaman meningkatkan skala serangan, sementara lingkungan TI yang semakin luas dan kompleks membuat deteksi menjadi lebih sulit. Pada saat yang sama, seiring bisnis memberikan AI tanggung jawab yang lebih besar, konsekuensi kesalahan menjadi lebih signifikan.

Jika semua faktor ini terus berkembang, maka logika otomatisasi harus berkembang bersamanya. Playbook otomatisasi yang dibekukan menghalangi hal ini. Mereka memaksa tim keamanan menghadapi masalah saat ini dengan logika yang usang. Kadang‑kadang, skenario ini bahkan dapat berakhir lebih buruk daripada tidak memiliki playbook sama sekali.

  • Teruji secara berkelanjutan dengan intelijen ancaman terbaru
  • Diperbarui setelah insiden nyata terjadi
  • Dihentikan bila tidak lagi efektif atau memberikan nilai

Pandangan ini sejalan dengan panduan dari Cybersecurity and Infrastructure Security Agency (CISA) serta lembaga keamanan siber global lainnya, yang mendorong pemantauan berkelanjutan sistem AI dan intervensi manusia secara terus‑menerus.

Menerapkan Rumus Ketahanan

Era AI menuntut perusahaan meninggalkan pola pikir yang menganggap AI sebagai solusi titik, atau sekadar menempelkan otomatisasi pada kasus penggunaan yang ada. Sebaliknya, organisasi perlu membangun budaya ketahanan yang memungkinkan baik personel TI maupun sistem meningkatkan area di mana AI berfungsi dengan baik — dan merespons secara efisien ketika teknologi membuat kesalahan.

  • Keyakinan: Untuk setiap alur kerja otomatis, tim harus bertanya pada diri sendiri: Seberapa yakin kami terhadap pemicu yang memulai respons otomatis?
  • Reversibilitas: Apakah tindakan tersebut dapat dibalik? Jika ya, seberapa cepat dan aman kami dapat melakukannya?
  • Radius Ledakan: Seberapa luas konsekuensi jika sebuah kesalahan menyebar, dan seberapa kritis aset yang terdampak bagi bisnis?

Alat observabilitas dan pemantauan yang tepat sangat penting untuk menjawab pertanyaan‑pertanyaan ini. Tim harus memanfaatkan platform observabilitas dan manajemen data terpadu sehingga mereka dapat memahami secara menyeluruh di mana dalam lingkungan TI respons otomatis dapat terjadi, aset lain apa yang terpengaruh, serta konsekuensi bisnis yang terkait. Melakukan latihan ini secara rutin akan memungkinkan tim keamanan menjaga playbook AI tetap mutakhir. Lebih jauh, hal ini akan mendukung praktik human‑in‑the‑loop yang tepat, karena tim TI akan tahu di mana dan bagaimana melakukan intervensi untuk mencegah tindakan otomatis yang tidak tepat menghasilkan dampak luas dan mahal.

Tidak Lagi Setel dan Lupakan

Penting bagi CISO modern dan pemimpin TI untuk menyadari bahwa tanggung jawab akhir berada pada mereka terkait perilaku AI. Semakin banyak AI menyentuh pekerjaan penting perusahaan, semakin besar beban bagi chief cybersecurity officer. Aturan praktis yang baik untuk diingat adalah, “Otomatisasi mengubah siapa yang menekan tombol. Itu tidak mengubah siapa yang bertanggung jawab atas tombol yang ditekan.”

Taruhan dan beban pada CISO saat ini terlalu tinggi untuk mempertahankan playbook “set‑it‑and‑forget‑it”. Sebaliknya, ketahanan harus menjadi praktik sekaligus budaya yang meresap ke seluruh perusahaan dan memungkinkan organisasi bangkit kembali setelah AI melakukan kesalahan. Ketika tim menempatkan pemantauan berkelanjutan, reversibilitas, penahanan, dan kepemilikan manusia ke dalam playbook otomatisasi, perusahaan dapat mencegah keputusan otomatis menjadi masalah yang meluas ke seluruh bisnis.

David Dalling adalah pakar materi dengan lebih dari 20 tahun pengalaman di Keamanan Informasi dan Operasi TI. David bergabung dengan Splunk pada Februari 2024 setelah 4 tahun di Accenture sebagai Cyber Chief Technology Officer. Ia adalah profesional TI yang berprestasi, termotivasi, dan serbaguna di berbagai bidang, mulai dari pengembangan, pengujian, dan manajemen sistem secara langsung hingga perencanaan strategis dan konsultasi tingkat perusahaan.

David adalah orang yang selalu menjadi yang pertama — ia membantu program DHS Enterprise Security Operations memperoleh ATO pertama dalam sejarahnya, menulis paket kontrol bersama pertama untuk DHS, dan menerima penghargaan rekayasa keamanan karena mengembangkan program metrik SOC yang berkontribusi pada kartu skor sempurna pertama DHS. Selanjutnya, ia memimpin pengembangan layanan Managed XDR pertama yang memperoleh Otorisasi FedRAMP.

David kini menjabat sebagai GVP Global Cyber Strategy, di mana ia mengarahkan strategi dan upaya go-to-market untuk Splunk, bekerja dengan pelanggan dalam mencapai tujuan bintang utara mereka serta peta jalan. Di luar pekerjaan, David menyalurkan semangat yang sama ke dalam Adventure Racing — lari lintas alam, bersepeda gunung, dan berkayak lebih dari 100 mil melalui alam liar.