Pagar Pengaman AI Perusahaan Mungkin Lebih Penting daripada AI Terdepan

Lupakan AI terdepan. Pelanggan mendesak perusahaan untuk menerapkan lebih banyak pagar pengaman pada AI yang sudah digunakan, dan pengalaman dengan PCI DSS dapat menjadi model yang berguna.

Masa bulan madu regulasi untuk AI telah berakhir. Pengungkapan terbaru memicu perbincangan tentang pembatasan pengembangan AI terdepan dan kewajiban menerapkan kontrol. Salah satu dari sedikit hal yang disepakati adalah bahwa kontrol sebaiknya diterapkan di luar model dan diverifikasi secara independen.

Langkah selanjutnya masih diperdebatkan, tetapi regulator mulai bergerak. Undang-Undang AI Uni Eropa secara bertahap memberlakukan kewajiban keamanan, termasuk tanggung jawab pembeli. Di Amerika Serikat, Kerangka Manajemen Risiko AI NIST mulai diadopsi sebagai standar untuk menunjukkan kehati-hatian yang wajar. Secara global, 10 Risiko Teratas OWASP untuk Aplikasi LLM telah menjadi acuan umum dalam tinjauan keamanan, sementara sertifikasi ISO/IEC 42001 mulai dicantumkan dalam dokumen pengadaan.

Artinya, pengembang model bukan satu-satunya pihak yang bertanggung jawab. Kewajiban dan risiko keamanan juga menjadi tanggungan perusahaan yang menggunakan model yang sudah dirilis, terutama untuk kasus penggunaan berisiko tinggi. Jawaban yang keliru dalam kuesioner keamanan pelanggan atau tanggapan terhadap RFP dapat menghambat kesepakatan B2B.

PCI DSS Menunjukkan Jalannya

Untungnya, kita pernah menghadapi situasi serupa. Dua puluh tahun lalu, keamanan aplikasi web sebagian besar mengandalkan audit kode berkala, pemindaian statis, dan kedisiplinan pengembang. Kemudian, Persyaratan 6.6 PCI DSS, yang diterbitkan pada 2006 dan mulai diberlakukan pada 2008, mewajibkan organisasi yang menangani data pemegang kartu untuk meninjau seluruh kode aplikasi guna menemukan kerentanan atau memasang kontrol teknis otomatis. Belakangan, opsi peninjauan kode dihapus dan kontrol teknis diwajibkan.

Namun, PCI DSS tidak bermula sebagai undang-undang. Standar ini berawal sebagai standar kontraktual yang membentuk ulang pasar, kemungkinan lebih cepat daripada yang bisa dilakukan legislasi karena kontrak bergerak lebih cepat daripada undang-undang pemerintah.

Demikian pula, kini organisasi merasakan tekanan untuk menerapkan pagar pengaman pada AI yang telah digunakan, bukan dari regulator, melainkan dari pelanggan dan mitra—melalui kuesioner keamanan, klausul RFP, dan persyaratan polis asuransi.

Atasi Masalah Operasional, Maka Kepatuhan Akan Mengikuti

Tekanan itu bisa sulit ditangani karena tata kelola AI bukan hanya soal kebijakan. Hal ini juga menyangkut bukti teknis yang berkelanjutan.

Banyak perusahaan yang saya ajak bicara menjalankan setidaknya setengah lusin model di lingkungan produksi, dan sering kali merangkai atau mengorkestrasikannya agar keluaran satu model menjadi masukan bagi model lain. Bayangkan bagaimana membuktikan bahwa suatu kebijakan—misalnya, mencegah keluaran model memuat PII—diberlakukan di seluruh sistem dalam kondisi seperti ini. Mengaudit secara manual banyak model yang konfigurasinya berbeda-beda akan menghabiskan waktu pengembang. Selain itu, sebagian besar organisasi kesulitan menangani penggunaan AI tanpa izin dan berisiko tinggi, seperti karyawan yang menempelkan data sensitif ke alat AI konsumen atau penyedia SaaS yang diam-diam mengaktifkan fitur AI baru. Namun, seluruh tanggung jawab tetap berada pada perusahaan.

Dalam situasi yang menantang seperti ini, persyaratannya dapat diringkas menjadi satu tugas sederhana: Buktikan bahwa Anda dapat terus membatasi masukan dan keluaran model sekaligus mencatat aktivitas tersebut untuk keperluan verifikasi. Saat aplikasi memanggil model, agen menggunakan alat, dan model melakukan tindakan atau memicu alur kerja, yang perlu dikendalikan adalah tindakannya—pemanggilan alat, permintaan API, atau pemicu alur kerja.

Pindahkan Keamanan ke Jalur Inferensi

Tindakan itulah titik penegakan yang telah dibangun para pakar keamanan aplikasi selama 20 tahun untuk lalu lintas aplikasi. Terutama ketika inferensi dirutekan melalui infrastruktur bersama, jalur inferensi menjadi titik kontrol yang ideal untuk berbagai model, bahkan untuk penggunaan AI tanpa izin. Lalu lintas inferensi AI perlu disalurkan, diperiksa, diautentikasi, dan dikelola seperti interaksi aplikasi penting lainnya, berdasarkan asal lalu lintas dan tujuannya. Tidak seperti audit manual, tata kelola lalu lintas inferensi dapat ditingkatkan skalanya.

Cara Memulai

Mengingat arah perkembangan regulasi, organisasi perlu segera memulai tiga hal:

1. Petakan cakupan tanggung jawab Anda, mulai dari API SaaS dan titik akhir yang dihosting hingga AI bayangan.
2. Pisahkan kebijakan dan penegakan keamanan dari model, lalu tempatkan keduanya di jalur inferensi.
3. Pastikan jejak audit dibuat di luar kendali model dan agen, yang terbukti berupaya mengubah catatan tindakan mereka sendiri.

Apa yang memenuhi standar pemantauan dan penegakan yang memadai masih ditentukan. Namun, tim operasional dan keamanan perusahaan Anda tahu apa yang benar-benar dapat ditegakkan, berapa biaya suatu kontrol dalam hal latensi dan kompleksitas, serta di mana aturan yang dimaksudkan untuk membantu justru dapat menimbulkan hasil yang keliru. Libatkan mereka sekarang. Risiko dan kewajiban keamanan yang terkait dengan penggunaan AI itu nyata, dan pelanggan serta eksekutif Anda tentu lebih peduli pada risiko yang mereka hadapi saat ini daripada ancaman dari model AI terdepan di masa mendatang.