Memastikan Keamanan yang Kuat untuk AI Otonom di Bidang Kesehatan

Perang melawan pelanggaran data merupakan tantangan yang semakin meningkat bagi organisasi kesehatan di seluruh dunia. Berdasarkan statistik saat ini, biaya rata-rata pelanggaran data sekarang mencapai $4,45 juta di seluruh dunia, sebuah angka yang lebih dari dua kali lipat menjadi $9,48 juta untuk penyedia layanan kesehatan yang melayani pasien di Amerika Serikat. Menambah pada masalah yang sudah menakutkan ini adalah fenomena modern proliferasi data antar- dan intra-organisasi. Sebuah laporan yang mengkhawatirkan 40% dari pelanggaran yang dilaporkan melibatkan informasi yang tersebar di beberapa lingkungan, sangat memperluas permukaan serangan dan menawarkan banyak jalur masuk bagi penyerang.

Pertumbuhan otonomi AI generatif membawa era perubahan radikal. Oleh karena itu, dengan itu datanglah gelombang risiko keamanan tambahan sebagai agen pintar ini bergerak keluar dari teori ke penerapan di beberapa domain, seperti sektor kesehatan. Memahami dan memitigasi ancaman baru ini sangat penting untuk meningkatkan AI secara bertanggung jawab dan meningkatkan ketahanan organisasi terhadap serangan siber apa pun, baik karena ancaman perangkat lunak berbahaya, pelanggaran data, atau bahkan serangan rantai pasokan yang terkoordinasi dengan baik.

Ketahanan pada Tahap Desain dan Implementasi

Organisasi harus mengadopsi strategi pertahanan proaktif yang komprehensif dan evolusioner untuk mengatasi risiko keamanan yang meningkat yang disebabkan oleh AI, terutama di bidang kesehatan, di mana taruhan melibatkan kesejahteraan pasien serta kepatuhan terhadap langkah-langkah regulasi.

Ini memerlukan pendekatan sistematis dan rinci, dimulai dengan pengembangan dan desain sistem AI, dan berlanjut hingga penerapan besar-besaran sistem ini.

• Langkah pertama dan paling kritis yang harus diambil organisasi adalah untuk memetakan dan memodelkan ancaman seluruh pipa AI mereka, dari penggunaan data hingga pelatihan model, validasi, penerapan, dan inferensi. Langkah ini memfasilitasi identifikasi presisi semua titik potensial paparan dan kerentanan dengan granularitas risiko berdasarkan dampak dan kemungkinan.
• Kedua, penting untuk menciptakan arsitektur yang aman untuk penerapan sistem dan aplikasi yang menggunakan model bahasa besar (LLM), termasuk yang dengan Kemampuan AI Agentic. Ini melibatkan pertimbangan hati-hati berbagai langkah, seperti keamanan kontainer, desain API yang aman, dan penanganan dataset pelatihan yang sensitif.
• Ketiga, organisasi perlu memahami dan menerapkan rekomendasi dari berbagai standar/bingkai. Misalnya, patuhi pedoman yang diberikan oleh NIST’s Kerangka Manajemen Risiko AI untuk identifikasi dan mitigasi risiko yang komprehensif. Mereka juga dapat mempertimbangkan saran OWASP tentang kerentanan unik yang diperkenalkan oleh aplikasi LLM, seperti injeksi prompt dan penanganan output yang tidak aman.
• Lebih lanjut, teknik pemodelan ancaman klasik juga perlu berkembang untuk mengelola serangan unik dan rumit yang dihasilkan oleh Gen AI, termasuk serangan peracunan data yang mengancam integritas model dan potensi menghasilkan konten yang sensitif, bias, atau diproduksi secara tidak tepat dalam output AI.
• Terakhir, bahkan setelah penerapan, organisasi akan perlu tetap waspada dengan melakukan manuver red-teaming teratur dan audit keamanan AI khusus yang secara khusus menargetkan sumber seperti bias, kekuatan, dan kejelasan untuk terus menemukan dan memitigasi kerentanan dalam sistem AI.

Penting untuk dicatat bahwa dasar pembuatan sistem AI yang kuat di bidang kesehatan adalah untuk melindungi seluruh siklus hidup AI, dari penciptaan hingga penerapan, dengan pemahaman yang jelas tentang ancaman baru dan kepatuhan terhadap prinsip keamanan yang mapan.

Langkah-Langkah Selama Siklus Operasional

Selain desain dan penerapan yang aman awal, sikap keamanan AI yang kuat memerlukan perhatian yang teliti dan pertahanan aktif di seluruh siklus hidup AI. Ini memerlukan pemantauan konten yang terus-menerus, dengan menggunakan pengawasan AI yang didorong untuk mendeteksi output yang sensitif atau berbahaya segera, sambil mematuhi kebijakan pelepasan informasi dan izin pengguna. Selama pengembangan model dan di lingkungan produksi, organisasi akan perlu secara aktif memindai malware, kerentanan, dan aktivitas musuh pada saat yang sama. Ini semua, tentu saja, melengkapi langkah-langkah keamanan siber tradisional.

Untuk mendorong kepercayaan pengguna dan meningkatkan interpretasi keputusan AI, sangat penting untuk menggunakan alat Explainable AI (XAI) untuk memahami rasionalitas yang mendasari output dan prediksi AI.

Kontrol dan keamanan yang ditingkatkan juga difasilitasi melalui penemuan data otomatis dan klasifikasi data pintar dengan pengklasifikasi yang berubah secara dinamis, yang memberikan pandangan kritis dan mutakhir tentang lingkungan data yang terus berubah. Inisiatif ini berasal dari keharusan untuk menerapkan kontrol keamanan yang kuat seperti metode akses berbasis peran yang halus (RBAC), kerangka kerja enkripsi ujung-ke-ujung untuk melindungi informasi dalam perjalanan dan saat istirahat, dan teknik pemaskaran data yang efektif untuk menyembunyikan data sensitif.

Pelatihan kesadaran keamanan yang menyeluruh oleh semua pengguna bisnis yang berinteraksi dengan sistem AI juga sangat penting, karena ini membentuk firewall manusia yang kritis untuk mendeteksi dan menetralkan serangan teknik sosial yang mungkin dan ancaman AI lainnya.

Mengamankan Masa Depan AI Agentic

Dasar ketahanan yang berkelanjutan dalam menghadapi ancaman keamanan AI yang berkembang terletak pada metode multi-dimensi dan terus-menerus yang diusulkan untuk memantau, memindai, menjelaskan, mengklasifikasikan, dan mengamankan sistem AI dengan ketat. Ini, tentu saja, ditambah dengan pembentukan budaya keamanan yang berorientasi pada manusia dan kontrol keamanan siber tradisional yang matang. Ketika agen AI otonom diintegrasikan ke dalam proses organisasi, kebutuhan akan kontrol keamanan yang kuat meningkat. Kenyataan saat ini adalah pelanggaran data di cloud publik memang terjadi dan biayanya rata-rata $5,17 juta, sangat menekankan ancaman terhadap keuangan organisasi serta reputasi.

Di samping inovasi revolusioner, masa depan AI bergantung pada pengembangan ketahanan dengan fondasi keamanan yang tertanam, kerangka operasional yang terbuka, dan prosedur tata kelola yang ketat. Membangun kepercayaan pada agen pintar seperti itu pada akhirnya akan menentukan seberapa luas dan lestari mereka akan diterima, membentuk jalur potensial transformatif AI.