Cara Mengatasi Tantangan Keamanan Jaringan yang Berhubungan dengan Agentic AI

Agentic artificial intelligence (AI) mewakili frontier berikutnya dari AI, yang berjanji untuk melampaui bahkan kemampuan AI generatif (GenAI). Tidak seperti kebanyakan sistem GenAI, yang bergantung pada input manusia atau pengawasan, agentic AI adalah proaktif karena tidak memerlukan input pengguna untuk memecahkan masalah kompleks, multi-langkah. Dengan memanfaatkan ekosistem digital dari model bahasa besar (LLM), pembelajaran mesin (ML), dan pengolahan bahasa alami (NLP), agentic AI melakukan tugas secara otonom atas nama manusia atau sistem, memperbaiki produktivitas dan operasi secara signifikan.

Sementara agentic AI masih dalam tahap awal, para ahli telah menyoroti beberapa kasus penggunaan yang revolusioner. Pertimbangkan lingkungan layanan pelanggan untuk bank di mana agen AI melakukan lebih dari sekadar menjawab pertanyaan pengguna ketika diminta. Sebaliknya, agen akan benar-benar menyelesaikan transaksi atau tugas seperti memindahkan dana ketika diminta oleh pengguna. Contoh lain bisa dalam pengaturan keuangan di mana sistem agentic AI membantu analis manusia dengan menganalisis secara otonom dan cepat jumlah besar data untuk menghasilkan laporan yang siap untuk audit guna pengambilan keputusan berbasis data.

Kemungkinan luar biasa dari agentic AI tidak dapat disangkal. Namun, seperti teknologi baru lainnya, ada kekhawatiran tentang keamanan, tata kelola, dan kepatuhan. Sifat unik dari agen-agen AI ini menyajikan beberapa tantangan keamanan dan tata kelola bagi organisasi. Perusahaan harus mengatasi tantangan ini untuk tidak hanya memanen manfaat dari agentic AI tetapi juga memastikan keamanan jaringan dan efisiensi.

Apa Tantangan Keamanan Jaringan yang Dibuat Agentic AI untuk Organisasi?

Agen AI memiliki empat operasi dasar. Yang pertama adalah persepsi dan pengumpulan data. Ratusan, ribuan, dan mungkin jutaan agen ini mengumpulkan dan mengumpulkan data dari berbagai tempat, baik itu cloud, on-premises, edge, dll., dan data ini bisa secara fisik dari mana saja, bukan dari satu lokasi geografis tertentu. Langkah kedua adalah pengambilan keputusan. Setelah agen-agen ini mengumpulkan data, mereka menggunakan AI dan model ML untuk membuat keputusan. Langkah ketiga adalah tindakan dan eksekusi. Setelah memutuskan, agen-agen ini bertindak sesuai untuk melaksanakan keputusan tersebut. Langkah terakhir adalah pembelajaran, di mana agen-agen ini menggunakan data yang dikumpulkan sebelum dan setelah keputusan mereka untuk menyesuaikan dan beradaptasi.

Dalam proses ini, agentic AI memerlukan akses ke dataset yang sangat besar untuk berfungsi secara efektif. Agen biasanya terintegrasi dengan sistem data yang menangani atau menyimpan informasi sensitif, seperti catatan keuangan, database kesehatan, dan informasi pribadi lainnya (PII). Sayangnya, agentic AI mempersulit upaya untuk mengamankan infrastruktur jaringan terhadap kerentanan, terutama dengan konektivitas cross-cloud. Ini juga menyajikan tantangan keamanan egress, membuatnya sulit bagi bisnis untuk melindungi terhadap eksfiltrasi, serta pelanggaran perintah dan kontrol. Jika agen AI dikompromikan, data sensitif bisa dengan mudah bocor atau dicuri. Demikian pula, agen bisa diambil alih oleh aktor jahat dan digunakan untuk menghasilkan dan mendistribusikan disinformasi secara besar-besaran. Ketika pelanggaran terjadi, tidak hanya ada sanksi keuangan, tetapi juga konsekuensi reputasi.

Kemampuan kunci seperti observabilitas dan traceabilitas dapat terganggu oleh agentic AI karena sulit untuk melacak dataset mana yang diakses oleh agen AI, meningkatkan risiko data terpapar atau diakses oleh pengguna tidak sah. Demikian pula, pembelajaran dan adaptasi dinamis agentic AI dapat menghambat audit keamanan tradisional, yang bergantung pada log terstruktur untuk melacak aliran data. Agentic AI juga bersifat ephemeris, dinamis, dan terus berjalan, menciptakan kebutuhan 24/7 untuk mempertahankan visibilitas dan keamanan yang optimum. Skala adalah tantangan lain. Permukaan serangan telah tumbuh secara eksponensial, meluas melampaui pusat data on-premises dan cloud untuk mencakup edge. Bahkan, tergantung pada organisasi, agentic AI dapat menambahkan ribuan hingga jutaan endpoint baru di edge. Agen-agen ini beroperasi di berbagai lokasi, baik cloud, on-premises, edge, dll., membuat jaringan lebih rentan terhadap serangan.

Pendekatan Komprehensif untuk Mengatasi Tantangan Keamanan Agentic AI

Organisasi dapat mengatasi tantangan keamanan agentic AI dengan menerapkan solusi keamanan dan praktik terbaik pada setiap langkah operasional dasar:

1. Persepsi dan Pengumpulan Data: Bisnis memerlukan konektivitas jaringan dengan bandwidth tinggi yang dienkripsi ujung-ke-ujung untuk memungkinkan agen mereka mengumpulkan jumlah data yang sangat besar yang diperlukan untuk berfungsi. Ingat bahwa data ini bisa sensitif atau sangat berharga, tergantung pada kasus penggunaan. Perusahaan harus mengimplementasikan solusi konektivitas terenkripsi berkecepatan tinggi untuk dijalankan di antara semua sumber data ini dan melindungi data sensitif dan PII.
2. Pengambilan Keputusan: Perusahaan harus memastikan agen AI mereka memiliki akses ke model dan infrastruktur AI dan ML yang tepat untuk membuat keputusan yang benar. Dengan mengimplementasikan cloud firewall, perusahaan dapat memperoleh konektivitas dan keamanan yang diperlukan agen AI mereka untuk mengakses model yang tepat dengan cara yang dapat diaudit.
3. Eksekusi Tindakan: Agen AI melakukan tindakan berdasarkan keputusan. Namun, bisnis harus mengidentifikasi agen mana dari ratusan atau ribuan agen yang membuat keputusan tersebut. Mereka juga perlu mengetahui bagaimana agen-agen mereka berkomunikasi satu sama lain untuk menghindari konflik atau “robot melawan robot.” Oleh karena itu, organisasi memerlukan observabilitas dan traceabilitas tindakan yang diambil oleh agen AI mereka. Observabilitas adalah kemampuan untuk melacak, memantau, dan memahami status internal dan perilaku agen AI secara real-time. Traceabilitas adalah kemampuan untuk melacak dan mendokumentasikan data, keputusan, dan tindakan yang diambil oleh agen AI.
4. Pembelajaran dan Adaptasi: Perusahaan menghabiskan jutaan, jika tidak ratusan juta atau lebih, untuk menyetel algoritma mereka, yang meningkatkan nilai dan presisi agen-agen ini. Jika aktor jahat mendapatkan model tersebut dan melakukan eksfiltrasi, semua sumber daya tersebut bisa berada di tangan mereka dalam hitungan menit. Bisnis dapat melindungi investasi mereka melalui fitur keamanan egress yang melindungi terhadap eksfiltrasi dan pelanggaran perintah dan kontrol.

Mengoptimalkan Agentic AI dengan Cara yang Aman dan Bertanggung Jawab

Agentic AI memiliki potensi luar biasa, memberdayakan perusahaan untuk mencapai ketinggian baru dalam produktivitas dan efisiensi. Namun, seperti teknologi baru lainnya di ruang AI, organisasi harus mengambil tindakan pencegahan untuk melindungi jaringan dan data sensitif mereka. Keamanan sangat penting saat ini mengingat aktor jahat yang sangat canggih dan terorganisir yang didanai oleh negara, seperti Salt Typhoon dan Silk Typhoon, yang terus melakukan serangan skala besar.

Organisasi harus bermitra dengan ahli keamanan cloud untuk mengembangkan strategi keamanan yang kuat, scalable, dan siap untuk masa depan yang dapat mengatasi tantangan unik agentic AI. Mitra-mitra ini dapat memungkinkan perusahaan untuk melacak, mengelola, dan mengamankan agen AI mereka; selain itu, mereka membantu memberikan perusahaan dengan kesadaran yang mereka butuhkan untuk memenuhi standar terkait kepatuhan dan tata kelola.