AI Anda Tahu Terlalu Banyak: AI Konfidensial Tidak Lagi Opsi

Model generatif beralih dari laboratorium penelitian ke proses bisnis biasa — dan kelemahan struktural yang sunyi tumbuh tepat di samping mereka.

Ambil contoh ini: Microsoft Copilot mengakses hampir tiga juta catatan sensitif per organisasi di paruh pertama tahun 2025. Angka-angka tersebut berarti ada masalah sistemik dengan cara AI didekati. Perusahaan telah membangun mesin yang kuat untuk memproses data, tetapi mereka belum menempatkan perlindungan yang cukup untuk data yang mereka gunakan.

Model bahasa besar dan alat asisten sering menghitung dokumen, pesan, dan database tanpa perlindungan berbasis perangkat keras. Celah ini, yang mengungkap “data dalam penggunaan” selama inferensi, sekarang secara langsung mengancam bisnis yang mengutamakan privasi, kepatuhan, dan kepercayaan pelanggan.

Di sinilah komputasi konfidensial masuk. Proses ini menggunakan lingkungan eksekusi tepercaya (TEEs) yang dibantu perangkat keras untuk menjaga kode dan data aman saat mereka digunakan. TEEs ini adalah area memori yang terisolasi yang dilindungi dari sistem operasi host dan hypervisor.

Perlindungan itu mengubah model keamanan, memungkinkan rahasia diproses tanpa terungkap ke stack lain. Microsoft dan penyedia cloud lainnya sekarang menawarkan inferensi pribadi dan mesin virtual (VM) yang mengintegrasikan inferensi dalam TEEs.

Mengapa privasi penting untuk aturan dan tata kelola

Enkripsi konvensional biasanya melindungi data yang beristirahat atau dalam transisi, dengan data yang sedang diproses secara aktif tidak menikmati perlindungan yang sama, meskipun itu adalah tempat di mana AI generatif berinteraksi paling banyak dengan input pribadi.

Awal tahun ini, sebuah studi oleh peneliti Universitas Cornell tentang Unit Komputasi Tepercaya mengungkap bagaimana isolasi dan pengujian perangkat keras dapat membantu mengurangi kebutuhan kepercayaan antara pihak. Selain itu, analis memperkirakan bahwa nilai infrastruktur komputasi pribadi bernilai lebih dari $13 miliar, dengan perkiraan menunjukkan pertumbuhan yang lebih cepat hingga $350,04 miliar pada tahun 2032.

Singkatnya, lebih banyak orang menggunakan teknologi ini, menyebabkan regulator dan tim kepatuhan menunjukkan lebih banyak minat pada sistem AI daripada sebelumnya. Dengan demikian, kerangka yang memastikan data sensitif tidak pernah meninggalkan eksekusi yang dilindungi selama kueri model akan membuat jejak audit lebih mudah diikuti, mengurangi risiko masalah hukum.

Namun, jika perlindungan runtime tidak menjadi norma, perbedaan itu bisa membuat regulator lebih lama menerima AI di bidang yang ketat diatur.

Situasi kehidupan nyata di mana privasi sangat penting

Ada beberapa skenario perusahaan yang menunjukkan mengapa AI konfidensial bukanlah mewah, tetapi sesuatu yang harus dimiliki setiap organisasi.

Contohnya, di keuangan, ini bisa diterapkan pada lembaga yang perlu menjalankan model deteksi penipuan dan risiko terhadap riwayat transaksi pelanggan tanpa memberikan akses operator model eksternal ke catatan mentah.

Di bidang kesehatan, ada situasi di mana model diagnostik harus beroperasi pada data klinis yang dilindungi sambil melestarikan privasi pasien dan memenuhi kewajiban regulasi yang ketat. Selain itu, pemerintah dan lembaga pertahanan mungkin memerlukan eksekusi yang diverifikasi untuk menjalankan beban kerja sensitif di cloud pihak ketiga.

Ada juga pipa penelitian yang menggabungkan dataset dari beberapa sumber, terutama penelitian kesehatan federasi yang hanya dapat dilanjutkan jika setiap peserta yakin bahwa input mereka akan tetap tidak dapat dibaca selama perhitungan.

Terdapat juga penelitian akademis dan industri yang terus mendokumentasikan pendekatan ML yang menjaga privasi untuk alur kerja medis yang berpasangan dengan baik dengan eksekusi konfidensial.

Bagaimana eksekusi konfidensial melindungi data-in-use

Eksekusi konfidensial bergantung pada dua sistem yang terkait: isolasi perangkat keras dan pengujian. Isolasi perangkat keras mencegah perangkat lunak di luar enclave aman membaca memori enclave.

Pengujian adalah cara yang dapat diverifikasi untuk memeriksa kode yang berjalan di dalam enclave dan bahwa enclave itu sendiri asli. Fitur-fitur ini memungkinkan pemilik model menunjukkan bahwa model akan bekerja dengan input dalam lingkungan yang diverifikasi dan tertutup, dan bahwa output hanya akan keluar setelah aturan enclave diikuti.

Hasilnya adalah kontrak antara pemilik data, operator model, dan penyedia cloud yang membuatnya kurang mungkin bagi mereka untuk memerlukan solusi hukum yang bersifat musuh atau mengandalkan kebijakan yang rapuh.

Batasan dan hambatan yang realistis

Tentu saja, mengadopsi AI konfidensial datang dengan tantangannya sendiri. Pengujian dan perangkat keras yang dapat bekerja di enclave membuat penerapan lebih rumit, mengingat ada celah di ekosistem antara tooling model-serving tradisional dan runtime enclave-aware. Beberapa runtime enclave mengenakan overhead yang berat, menghabiskan hingga sepuluh kali lebih banyak untuk dijalankan, dan ada juga trade-off dalam kinerja tergantung pada jumlah pekerjaan.

Selain itu, biaya lebih tinggi sekarang daripada sebelumnya untuk inferensi cloud biasa, yang bisa membuatnya sulit bagi bisnis kecil untuk memahami angka-angka tersebut. Ada juga masalah perubahan standar interoperabilitas, yang mungkin meninggalkan beberapa pelopor dengan risiko terjebak dengan vendor mereka.

Namun, masalah-masalah ini hanyalah masalah rekayasa sementara yang dapat diatasi. Penyedia cloud dan pembuat chip terus mengeluarkan produk baru, dan proyek perangkat lunak membuat middleware yang menghubungkan tumpukan ML saat ini dan TEEs.

Jika tidak, perusahaan yang berpikir bahwa enkripsi standar dan kontrol akses sudah cukup berisiko lebih besar karena mereka akan rentan ketika model memproses banyak catatan sensitif.

Panggilan untuk perubahan praktik perusahaan

Tim manajemen risiko perlu mengubah aturan untuk membeli dan menggunakan AI. Klasifikasi data dan tata kelola masih penting, tetapi mereka perlu didukung oleh jaminan teknis saat digunakan.

Kontrak dengan penyedia model pihak ketiga harus memerlukan mereka untuk menunjukkan bukti pengujian. Tim pengadaan harus meminta baseline kinerja dan opsi yang diaudit untuk eksekusi konfidensial. Latihan tim merah harus mencakup pengujian enclave-aware sebagai bagian dari pekerjaan mereka. Langkah-langkah ini memindahkan tanggung jawab dari komitmen ad hoc ke kontrol yang dapat diperiksa.

Juga, kebijakan publik dan kelompok standar industri perlu menetapkan harapan. Auditor, petugas kepatuhan, dan regulator harus menuntut perlindungan runtime yang dapat diverifikasi untuk kategori beban kerja yang memproses data yang diatur.

Aturan-aturan ini akan mengurangi jumlah pelanggaran yang terjadi kemudian dan memberi sektor kebebasan untuk berinovasi tanpa khawatir tentang masalah hukum. Ini akan memungkinkan alur kerja keuangan, kesehatan, dan sektor publik menggunakan model baru tanpa hambatan regulasi.

Konfidensialitas sebagai standar

AI generatif telah menjadi alat yang berguna untuk bisnis yang menangani informasi pribadi yang sangat sensitif. Kenyataan itu berarti bahwa eksekusi konfidensial tidak lagi hanya menjadi pilihan; itu harus menjadi praktik standar untuk setiap sistem AI yang menangani data yang diatur, milik, atau pribadi.

Sudah ada alat yang tersedia, seperti TEEs, layanan pengujian, dan penawaran VM pribadi, dan ekonominya semakin membaik dengan sangat cepat. Opsi lainnya adalah membiarkan aset sensitif terbuka untuk kebocoran waktu inferensi, yang bisa memiliki dampak hukum, keuangan, dan reputasi yang bisnis tidak lagi bisa terima. Misalnya, menurut laporan IBM 2025 tentang Biaya Pelanggaran Data, biaya pelanggaran rata-rata global mencapai hampir $5 juta, dengan peraturan seperti GDPR mengenakan denda hingga €20 juta untuk pelanggaran serius.

Perusahaan yang menempatkan privasi pertama dalam tata kelola AI akan memiliki keunggulan: mereka dapat menjalankan pengujian yang lebih menyeluruh, mematuhi, dan menggunakan model di area di mana inovasi luar dulu tidak diizinkan. Singkatnya, melindungi data saat model berjalan bukanlah hambatan untuk adopsi; itu adalah dasar untuk AI yang bertanggung jawab dan dapat diskalakan di bisnis dan pemerintahan.