Aaron Fulkerson, CEO OPAQUE – Seri Wawancara

Aaron Fulkerson, CEO OPAQUE, adalah pengusaha berpengalaman di bidang perangkat lunak perusahaan sekaligus pelopor sumber terbuka. Selama lebih dari dua dekade, ia membangun dan memperluas platform teknologi yang berfokus pada kepercayaan, data, dan transformasi digital. Sebelum bergabung dengan OPAQUE pada 2023, ia mendirikan MindTouch dan membantu mengembangkannya menjadi platform pengelolaan pengetahuan perusahaan yang digunakan secara luas, sebelum diakuisisi NICE Systems. Kemudian, ia memimpin peluncuran ServiceNow Impact, salah satu unit bisnis dengan pertumbuhan tercepat dalam sejarah ServiceNow. Sepanjang kariernya, Fulkerson bekerja di persimpangan teknologi baru, perangkat lunak perusahaan, dan ekosistem terbuka, sekaligus menjadi penasihat bagi sejumlah perusahaan rintisan teknologi dan organisasi. Belakangan, ia menjadi pendukung terkemuka Confidential AI, yakni AI yang menjaga kerahasiaan data. Menurutnya, privasi, tata kelola, dan kepercayaan yang dapat diverifikasi akan menjadi persyaratan mendasar ketika sistem AI terintegrasi ke dalam alur kerja bisnis yang penting.

OPAQUE adalah perusahaan Confidential AI yang lahir dari RISELab UC Berkeley yang ternama, ekosistem riset yang juga membantu melahirkan teknologi seperti Apache Spark dan Databricks. Perusahaan ini mengembangkan platform yang memungkinkan perusahaan menjalankan model AI, agen, dan alur kerja pada data sangat sensitif dengan jaminan privasi dan kepatuhan yang dapat diverifikasi secara kriptografis. Alih-alih memaksa organisasi memilih antara inovasi AI dan keamanan data, OPAQUE menggunakan komputasi rahasia, lingkungan eksekusi terenkripsi, dan eksekusi dengan atestasi perangkat keras untuk melindungi informasi sensitif sebelum, selama, dan setelah pemrosesan AI. Teknologinya dirancang untuk industri dengan regulasi ketat, termasuk keuangan, asuransi, layanan kesehatan, dan teknologi tinggi. Pelanggan dan mitranya mencakup ServiceNow (NOW ), Anthropic, Accenture, serta perusahaan lain yang ingin membawa proyek AI dari tahap percontohan ke produksi tanpa mengekspos data milik perusahaan atau data yang diatur regulasi.

Anda telah membangun dan memperluas sejumlah platform perusahaan sepanjang karier. Apa yang mendorong Anda menjadi CEO OPAQUE dan memusatkan babak berikutnya pada kepercayaan, privasi, dan tata kelola AI?

Saya menghabiskan hampir dua dekade membangun platform perusahaan, mula-mula di MindTouch, yang masih digunakan oleh satu miliar pengguna setiap tahun, lalu di ServiceNow, tempat saya menciptakan produk mereka dengan pertumbuhan tercepat. Keduanya mengajarkan pelajaran yang sama: teknologi paling hebat sekalipun hanya menang jika orang memercayainya.

Saat bertemu para pendiri bersama OPAQUE, Raluca Ada Popa, Ion Stoica, dan Rishabh Poddar, saya melihat perpaduan bakat dan visi yang langka. Raluca adalah salah satu peneliti terkemuka dunia dalam bidang privasi dan keamanan. Ion turut mendirikan Databricks. Rishabh membangun sistem kriptografis inti yang menjadi fondasi OPAQUE.

Di RISELab UC Berkeley, mereka telah menciptakan sesuatu yang langsung saya kenali sebagai terobosan berdampak bagi satu generasi: bukti kriptografis bahwa data tetap privat di sepanjang setiap alur kerja AI. Bukan janji. Bukan kebijakan. Bukti.

Saya melihat arah perkembangan AI: agen yang bertindak otonom di berbagai sistem perusahaan dengan kecepatan mesin. Saya melihat kesenjangan yang sama dengan yang diperingatkan Vint Cerf selama 30 tahun: tidak adanya lapisan kepercayaan. Internet bertahan tanpa lapisan itu karena manusia menjadi pagar pengamannya. Web yang digerakkan agen tidak akan memiliki kemewahan tersebut. Itulah yang menarik saya.

MCP (Model Context Protocol, standar yang memungkinkan agen AI mengakses alat, aplikasi, dan data secara aman) kini menjadi fondasi bersama. Bagaimana menurut Anda hal ini akan mengubah cara perusahaan menerapkan AI berbasis agen dan memperluas skalanya?

MCP merupakan langkah penting dalam cara perusahaan menerapkan AI berbasis agen dan memperluas skalanya. Bayangkan penghubung universal untuk alur kerja AI. Protokol ini menstandarkan cara agen terhubung ke alat, aplikasi, dan data, mengurangi hambatan nyata, dan mempercepat eksperimen.

Namun, standardisasi akses saja tidak membuat AI berbasis agen aman atau mampu ditingkatkan skalanya. Ketika koneksi bertambah, bersama lebih banyak agen, alat, dan sumber data, area tempat data dapat bocor meluas dengan setiap integrasi baru. Setiap titik koneksi yang tidak menegakkan aturan saat eksekusi menjadi jalur paparan potensial. Ketika agen AI berinteraksi dengan sistem sensitif dan logika milik perusahaan, enkripsi data tersimpan dan kontrol jaringan saja tidak cukup. Batas keamanan telah bergeser ke saat eksekusi, dan pergeseran ini makin mendesak seiring bertambahnya skala ekosistem.

Kemampuan melakukan verifikasi pada titik koneksi penting ini akan menjadi kebutuhan yang menentukan bagi perusahaan. Perusahaan dapat memperluas skala AI berbasis agen jika akses ala MCP dipadukan dengan bukti kriptografis tentang kode apa yang dijalankan, di mana kode itu dijalankan, dan kebijakan apa yang berlaku—sebelum, selama, dan setelah eksekusi. Akses ditambah kemampuan verifikasi. Kombinasi itulah yang memungkinkan penggunaan dalam produksi.

Ketika MCP menstandarkan akses agen, di mana Anda melihat kesenjangan terbesar saat ini dalam keamanan, penegakan kebijakan, dan kepercayaan pada sistem yang digerakkan agen?

Kami telah menyelesaikan riset AI Leak Surface 2026 dan menerbitkan ringkasan temuan berjudul “Selusin Cara Data Bocor dari Lingkungan AI Anda”, yang membahas hal ini. Kami mengidentifikasi 46 jalur paparan dalam 8 kategori yang mencakup seluruh batas kepercayaan AI: komputasi, kontrol, aplikasi, dan penyerahan di antaranya. Itu belum memperhitungkan pelaku jahat. Ini adalah skenario ketika tidak ada yang rusak, log tampak bersih, tetapi sistem tetap membocorkan data.

Kesenjangan terbesar bukan pada konektivitas; MCP menyelesaikan itu. Kesenjangannya terletak pada apa yang terjadi setelah agen terhubung. Sebagian besar organisasi tidak dapat menjawab tiga pertanyaan mendasar: Bagaimana AI kami sebenarnya berperilaku? Siapa yang mengendalikannya? Dan bagaimana kami membuktikan bahwa kebijakan telah ditegakkan?

Riset kami menunjukkan bahwa batas-batas telah dikonfigurasi, tetapi tidak pernah ditegakkan. Kebijakan ada dalam dokumen, berkas konfigurasi, atau pengaturan saat penerapan, tetapi tidak membatasi sistem yang berjalan. Asisten AI untuk eksekutif menempatkan informasi material yang belum dipublikasikan pada undangan kalender. Asisten RAG memberikan informasi keuangan untuk tingkat dewan kepada analis junior. SDK pemasok diam-diam mengekstraksi 10 juta kueri keluar dari sistem selama 12 bulan. Dalam setiap kasus, kontrol akses telah diterapkan. Data tetap bocor.

Sampai perusahaan menutup kesenjangan antara kebijakan yang dikonfigurasi dan yang benar-benar ditegakkan, MCP menstandarkan pintu depan. Namun, rumahnya tetap tidak dijaga.

Ketika agen AI mendapat akses ke sistem sensitif dan data milik perusahaan, risiko privasi dan kepatuhan baru apa yang muncul dan sering kali belum diantisipasi perusahaan?

Sebagian besar perusahaan memikirkan privasi dalam konteks data yang tersimpan atau sedang dikirim. Model itu gagal pada alur kerja berbasis agen karena risiko terbesarnya adalah paparan data saat digunakan.

Begini maksud saya. Produsen mobil berperforma tinggi menggunakan AI di sepanjang lini perakitannya. Data mentah tampak tidak berbahaya: pembacaan sensor, urutan waktu, dan pemeriksaan kualitas. Namun, model bahasa besar kini dapat merekonstruksi proses manufaktur milik perusahaan dari jejak data yang dihasilkan sebagai produk sampingan aktivitas tersebut. Yang lima tahun lalu dianggap derau kini menjadi cetak biru bagi pesaing.

Riset AI Leak Surface kami mendokumentasikan pola ini dalam puluhan skenario. Alat telemetri operasional merekam seluruh muatan data AI secara bawaan. Di satu bank Eropa, 2,1 juta prompt berisi informasi identitas pribadi mengalir ke instans SaaS di AS karena tidak ada yang mengubah pengaturan bawaan pemantauan kinerja aplikasi (APM). Memori agen membocorkan konteks antar-sesi. Jejak rantai penalaran mengungkapkan catatan investigasi lengkap ke platform observabilitas yang dapat diakses kontraktor. Kerangka kepatuhan tradisional tidak dirancang untuk mendeteksi kebocoran seperti ini. Kerangka itu mengasumsikan bahwa manusia memindahkan data dengan kecepatan manusia.

Mengapa Confidential AI menjadi pelengkap penting bagi MCP, dan bagaimana teknologi ini menangani tantangan yang tidak dapat diatasi standar akses saja?

MCP mengatur siapa yang dapat mengakses apa dan bagaimana caranya, sedangkan Confidential AI menangani apa yang terjadi setelah akses diberikan. Keduanya merupakan lapisan yang saling melengkapi.

Standar akses saja tidak dapat mencegah gangguan keamanan saat eksekusi, penyimpangan bertahap dari kebijakan, atau penggunaan data tanpa izin. Bayangkan begini: MCP menyediakan cara standar untuk menghubungkan agen ke sistem Anda. Confidential AI memberi jaminan kriptografis bahwa setelah terhubung, agen tersebut hanya dapat melakukan tindakan yang diizinkan—dan Anda dapat membuktikannya.

Confidential AI memberikan jaminan tersebut saat eksekusi untuk data, identitas, kode, dan komunikasi. Teknologi ini menyediakan bukti eksekusi yang dapat diverifikasi dan memastikan bahwa privasi serta penegakan kebijakan tidak berhenti pada batas akses, tetapi berlanjut ketika AI aktif bernalar, menghasilkan, dan bertindak. Tanpanya, MCP adalah fondasi yang kokoh. Namun, fondasi saja tidak membuat bangunan aman.

Dalam praktiknya, seperti apa kepercayaan yang dapat diverifikasi bagi perusahaan yang menjalankan agen AI otonom dalam alur kerja penting?

Kepercayaan yang dapat diverifikasi berarti saya dapat membuktikan kode apa yang dijalankan, di mana kode itu dijalankan, kebijakan apa yang berlaku, data apa yang diakses, dan bagaimana sistem berperilaku dari waktu ke waktu.

Ambil contoh perusahaan asuransi yang menggunakan agen AI untuk memproses surat tuntutan ganti rugi. Sebelum eksekusi, atestasi perangkat keras memverifikasi identitas agen dan integritas lingkungannya. Selama eksekusi, pengikatan kriptografis pada kebijakan di dalam lingkungan eksekusi tepercaya yang dilindungi perangkat keras (Trusted Execution Environment, TEE) memastikan data tetap terlindungi dan kebijakan ditegakkan. Setelah eksekusi, jejak audit yang tahan manipulasi mencatat dengan tepat apa yang terjadi.

Risiko alur kerja berbasis agen bukanlah agen yang lepas kendali. Risiko sebenarnya adalah ketidakmampuan Anda menunjukkan apakah kebijakan ditegakkan atau data sensitif dilindungi saat agen beroperasi—sebelum, selama, dan setelahnya. Itulah makna kepercayaan yang dapat diverifikasi.

Mengapa pengawasan manusia tradisional tidak memadai ketika sistem berbasis agen beroperasi dengan kecepatan mesin, dan bagaimana organisasi harus memikirkan ulang tata kelola dalam lingkungan ini?

Selama beberapa dekade, internet memiliki pagar pengaman tak terlihat: kita. Manusia membaca konten, mengeklik dengan sengaja, dan tidak bertindak diam-diam di seratus sistem sekaligus.

AI berbasis agen menghapus asumsi itu dalam semalam. Agen beroperasi terus-menerus, mengambil keputusan dengan kecepatan mesin, dan dapat dimanipulasi melalui lingkungan yang dirancang bagi manusia tetapi dapat dieksploitasi mesin. Halaman web berbahaya tidak perlu menipu AI seperti menipu manusia; halaman itu cukup memberikan instruksi.

Dengan risiko hanya 1% per agen, jaringan berisi 100 agen menghadapi probabilitas pelanggaran keamanan sebesar 63%. Jika skalanya dinaikkan menjadi seribu agen, angkanya mencapai 99,99%. Tata kelola yang mengharuskan keterlibatan manusia dalam proses tidak dapat mengimbangi angka tersebut. Pengawasan harus beralih dari peninjauan reaktif ke jaminan saat eksekusi. Artinya, alur kerja berbasis prinsip tanpa kepercayaan bawaan, penegakan kebijakan secara bawaan, dan eksekusi yang dapat diverifikasi tanpa bergantung pada manusia yang menemukan kegagalan setelah kejadian.

Kegagalan keamanan apa yang paling sering Anda lihat ketika perusahaan bereksperimen dengan AI berbasis agen tanpa lapisan kepercayaan yang terintegrasi?

Pola yang paling sering saya lihat adalah perusahaan membiarkan agen bertindak dan berkoordinasi tanpa jaminan kriptografis atas perilakunya. Mereka memproses kekayaan intelektual sensitif dengan hanya mengandalkan harapan.

Yang terjadi selanjutnya dapat diprediksi, dan kami telah mendokumentasikan pola-pola spesifiknya dalam riset AI Leak Surface. Gangguan keamanan saat eksekusi melewati pertahanan perimeter tradisional karena agen sudah berada di dalam jaringan. Rantai agen otonom menciptakan kegagalan berantai. Satu agen yang dieksploitasi memicu efek domino di sistem-sistem yang terhubung. Logika milik perusahaan bocor melalui jejak data yang tidak terpikir untuk dipantau. Agen kehilangan kemampuan membedakan maksud perusahaan dari masukan berbahaya karena tidak ada identitas yang dapat diverifikasi atau pengikatan pada kebijakan saat eksekusi.

Ini bukan hal hipotetis. Kami memetakan 46 jalur tempat data keluar dari kendali yang dimaksudkan, bahkan ketika tidak ada yang tampak rusak. Agen AI menghasilkan dan berbagi data dengan kecepatan mesin. Tanpa pengamanan saat eksekusi yang dapat diverifikasi dan terintegrasi dalam alur kerja, kegagalan menyebar lebih cepat daripada kemampuan tim keamanan mana pun untuk mendeteksi atau meresponsnya.

Bagaimana organisasi terkemuka menyeimbangkan pemanfaatan kemampuan AI canggih dengan perlindungan data mereka yang paling sensitif?

Organisasi yang berhasil memperlakukan privasi dan tata kelola sebagai pendorong, bukan rem. Itulah pemahaman utamanya.

Dalam praktiknya, saya melihat perusahaan terkemuka memadukan kemampuan AI canggih dengan platform Confidential AI yang memberikan jaminan terverifikasi, bukan sekadar daftar periksa kepatuhan. Mereka membuka pemanfaatan data sensitif untuk inovasi AI sambil memastikan informasi milik perusahaan tetap terlindungi, bahkan ketika alur kerja berjalan otonom.

Dulu, persoalannya digambarkan sebagai pilihan antara kemampuan dan keamanan. Organisasi yang bergerak paling cepat telah menolak kompromi itu sepenuhnya. Mereka menanamkan kepercayaan yang dapat diverifikasi dalam fondasi strategi AI, sehingga dapat memanfaatkan data mereka yang paling berharga. Sementara itu, pesaing masih terjebak pada tahap percontohan, menjalankan AI pada kumpulan data yang telah dibersihkan tetapi tidak memberi hasil berarti.

Berdasarkan yang Anda lihat saat ini, bagaimana model tata kelola AI perusahaan akan berkembang dalam beberapa tahun mendatang saat sistem berbasis agen beralih dari tahap percontohan ke produksi penuh?

Tata kelola akan beralih dari dokumen ke bukti. Itulah cara paling sederhana untuk mengatakannya. Model tata kelola awal dirancang bagi perangkat lunak yang berjalan pada kecepatan manusia: kebijakan di atas kertas, persetujuan sebelum penerapan, dan peninjauan setelah sesuatu berjalan salah. Sistem berbasis agen mematahkan semua asumsi itu. Mereka beroperasi terus-menerus, bertindak otonom, dan menghasilkan efek berantai dengan kecepatan mesin.

Kami melihat tata kelola beralih menuju kemampuan verifikasi saat eksekusi sebagai batas keamanan baru, didukung jaminan kriptografis yang membuktikan perilaku pada setiap tahap siklus hidup agen—sebelum, selama, dan setelahnya. Pola yang sama seperti yang kita lihat pada HTTPS menjadi standar untuk lalu lintas web. Tidak ada lagi perdebatan apakah koneksi web perlu dienkripsi. Dalam beberapa tahun, tidak akan ada lagi perdebatan apakah eksekusi AI perlu diverifikasi saat berlangsung. Itu akan menjadi persyaratan dasar.

Terima kasih atas wawancara yang luar biasa ini. Pembaca yang ingin mengetahui lebih lanjut dapat mengunjungi OPAQUE.