Aaron Fulkerson, CEO OPAQUE – Seri Wawancara

Aaron Fulkerson, CEO OPAQUE, adalah seorang wirausaha perangkat lunak perusahaan yang berpengalaman dan pelopor open-source yang telah membangun dan menskala platform teknologi yang fokus pada kepercayaan, data, dan transformasi digital selama lebih dari dua dekade. Sebelum bergabung dengan OPAQUE pada 2023, ia mendirikan MindTouch, membantu tumbuh menjadi platform pengetahuan perusahaan yang sangat diadopsi sebelum diakuisisi oleh NICE Systems, dan kemudian memimpin peluncuran ServiceNow (NOW ) Impact, salah satu unit bisnis yang tumbuh paling cepat dalam sejarah ServiceNow. Sepanjang karirnya, Fulkerson telah bekerja di persimpangan teknologi yang muncul, perangkat lunak perusahaan, dan ekosistem terbuka, sementara juga membimbing beberapa perusahaan rintisan teknologi dan organisasi. Belakangan ini, ia telah menjadi advokat terkemuka untuk Confidential AI, berpendapat bahwa privasi, tata kelola, dan kepercayaan yang dapat diverifikasi akan menjadi persyaratan dasar ketika sistem AI menjadi terintegrasi ke dalam alur kerja perusahaan yang kritis.

OPAQUE adalah perusahaan Confidential AI yang muncul dari UC Berkeley RISELab yang terkenal, ekosistem penelitian yang sama yang membantu menciptakan teknologi seperti Apache Spark dan Databricks. Perusahaan ini telah mengembangkan platform yang memungkinkan perusahaan untuk menjalankan model AI, agen, dan alur kerja pada data yang sangat sensitif sambil mempertahankan jaminan privasi dan kepatuhan yang dapat diverifikasi secara kriptografis. Daripada memaksa organisasi untuk memilih antara inovasi AI dan keamanan data, OPAQUE menggunakan komputasi yang dapat dipercaya, lingkungan runtime yang dienkripsi, dan eksekusi yang diverifikasi perangkat keras untuk memastikan informasi sensitif tetap dilindungi sebelum, selama, dan setelah pemrosesan AI. Teknologinya dirancang untuk industri yang sangat diatur, termasuk keuangan, asuransi, perawatan kesehatan, dan teknologi tinggi, dengan pelanggan dan mitra yang mencakup ServiceNow, Anthropic, Accenture, dan organisasi perusahaan lainnya yang mencari untuk memindahkan proyek AI dari program pilot ke produksi tanpa mengungkapkan data yang dipatenkan atau diatur.

Anda telah membangun dan menskala beberapa platform perusahaan selama karir Anda, jadi apa yang memicu Anda untuk mengambil peran CEO di OPAQUE dan fokus babak berikutnya pada kepercayaan, privasi, dan tata kelola AI?

Saya telah menghabiskan hampir dua dekade membangun platform perusahaan, pertama di MindTouch, yang masih digunakan oleh miliaran pengguna setiap tahun, dan kemudian di ServiceNow, di mana saya menciptakan produk tercepat tumbuh mereka. Keduanya mengajarkan saya pelajaran yang sama: teknologi yang paling kuat hanya menang ketika orang percaya padanya.

Ketika saya bertemu dengan pendiri OPAQUE, Raluca Ada Popa, Ion Stoica, dan Rishabh Poddar, saya melihat kombinasi bakat dan visi yang langka. Raluca adalah salah satu peneliti terkemuka di dunia dalam privasi dan keamanan. Ion mendirikan Databricks. Rishabh membangun sistem kriptografis inti yang menjadi dasar OPAQUE.

Di UC Berkeley’s RISELab, mereka telah menciptakan sesuatu yang saya segera mengenali sebagai generasi. Bukti kriptografis bahwa data tetap pribadi sepanjang setiap alur kerja AI. Bukan janji. Bukan kebijakan. Bukti.

Saya melihat ke mana AI menuju, agen yang bertindak secara otonom di seluruh sistem perusahaan dengan kecepatan mesin, dan saya melihat celah yang sama yang telah diperingatkan oleh Vint Cerf selama 30 tahun: tidak ada lapisan kepercayaan. Internet bertahan tanpa itu karena manusia adalah penjaga. Web agen tidak akan memiliki kemewahan itu. Itulah yang menarik saya.

Dengan MCP (Protokol Konteks Model, standar yang memungkinkan agen AI mengakses alat, aplikasi, dan data secara aman) muncul sebagai fondasi umum, bagaimana Anda melihat perubahan ini dalam cara perusahaan menggelar dan menskala AI agen?

MCP adalah langkah penting dalam cara perusahaan menggelar dan menskala AI agen. Bayangkan sebagai penghubung universal untuk alur kerja AI. Ini memstandarkan bagaimana agen terhubung ke alat, aplikasi, dan data, mengurangi gesekan nyata dan mempercepat eksperimen.

Tapi, memstandarkan akses saja tidak membuat AI agen aman atau dapat diskalakan. Ketika koneksi ini berkembang, dengan lebih banyak agen, lebih banyak alat, dan lebih banyak sumber data, permukaan kebocoran data berkembang dengan setiap integrasi baru. Setiap titik koneksi yang tidak memiliki penguatan runtime adalah vektor paparan potensial. Ketika agen AI berinteraksi dengan sistem sensitif dan logika propietary, enkripsi saat istirahat dan kontrol jaringan tidak cukup. Batas keamanan telah bergeser ke runtime, dan pergeseran itu menjadi lebih mendesak ketika ekosistem berkembang.

Memiliki verifiabilitas pada titik koneksi esensial ini akan menjadi sangat penting bagi perusahaan. Perusahaan dapat menskala AI agen ketika akses MCP dipasangkan dengan bukti kriptografis tentang apa yang dijalankan, di mana dijalankan, dan di bawah kebijakan apa—sebelum, selama, dan setelah eksekusi. Akses plus verifiabilitas. Itulah kombinasi yang membuka produksi.

Bagaimana Anda melihat celah terbesar saat ini dalam keamanan, penerapan kebijakan, dan kepercayaan dalam sistem yang digerakkan oleh agen?

Kami telah menyelesaikan penelitian AI Leak Surface 2026 dan menerbitkan ringkasan temuan kami, “A Dozen Ways Your AI Stack Is Bleeding Data”, yang menyentuh hal ini. Kami mengidentifikasi 46 vektor paparan di seluruh 8 kategori yang meliputi seluruh batas kepercayaan AI: komputasi, kontrol, aplikasi, dan pertukaran di antaranya. Itu tanpa mempertimbangkan aktor jahat. Skenario ini terjadi ketika tidak ada yang rusak, log terlihat bersih, dan sistem Anda masih mengalami kebocoran data.

Celah terbesar tidak terletak pada koneksi; MCP memecahkan itu. Celah terletak pada apa yang terjadi setelah agen terhubung. Sebagian besar organisasi tidak dapat menjawab tiga pertanyaan dasar: Bagaimana AI kami sebenarnya berperilaku? Siapa yang mengendalikannya? Dan bagaimana kami membuktikan kebijakan ditegakkan?

Penelitian kami menunjukkan bahwa batas-batas dikonfigurasi tetapi tidak pernah ditegakkan. Kebijakan ada dalam dokumen, file konfigurasi, atau pengaturan waktu deploy, tetapi sistem yang berjalan tidak terikat olehnya. Asisten eksekutif AI menempatkan informasi non-publik material pada undangan kalender. Copilot RAG menyajikan keuangan tingkat dewan kepada analis junior. SDK vendor secara diam-diam mengekstraksi 10 juta kueri selama 12 bulan. Dalam setiap kasus, kontrol akses ada di tempat. Data masih bocor.

Sampai perusahaan menutup celah antara kebijakan yang dikonfigurasi dan kebijakan yang ditegakkan, MCP memstandarkan pintu depan. Tapi rumah itu masih tidak terjaga.

Ketika agen AI diberi akses ke sistem sensitif dan data propietary, apa risiko privasi dan kepatuhan baru yang cenderung muncul yang sering kali tidak disiapkan oleh perusahaan?

Sebagian besar perusahaan berpikir tentang privasi dalam hal data saat istirahat atau dalam transaksi. Model itu gagal dalam alur kerja AI karena risiko terbesar adalah paparan data saat digunakan.

Inilah yang saya maksud. Sebuah pabrikan mobil kinerja menjalankan AI di seluruh jalur perakitan. Data mentah tampaknya tidak berbahaya: pembacaan sensor, urutan waktu, pemeriksaan kualitas. Tapi LLM sekarang dapat merekonstruksi proses manufaktur propietary dari data exhaust itu. Apa yang merupakan kebisingan lima tahun yang lalu sekarang adalah cetakan biru untuk pesaing.

Penelitian AI Leak Surface kami mendokumentasikan pola ini di seluruh puluhan skenario. Alat telemetri operasional menangkap payload AI penuh secara default, dan satu bank Eropa memiliki 2,1 juta prompt yang berisi PII mengalir ke instance SaaS AS karena tidak ada yang mengubah default APM. Memori agen mengalir konteks antara sesi. Jejak pemikiran rantai mengungkapkan catatan investigasi lengkap ke platform observabilitas yang dapat diakses oleh kontraktor. Kerangka kepatuhan tradisional tidak dirancang untuk mendeteksi jenis kebocoran ini. Mereka menganggap manusia memindahkan data dengan kecepatan manusia.

Mengapa Confidential AI menjadi lawan yang diperlukan untuk MCP, dan bagaimana itu menangani tantangan yang tidak dapat dipecahkan oleh standar akses saja?

MCP memecahkan siapa yang dapat mengakses apa dan bagaimana, sementara Confidential AI memecahkan apa yang terjadi setelah akses diberikan. Mereka adalah lapisan yang komplementer.

Standar akses saja tidak dapat mencegah kompromi runtime, drift kebijakan, atau penggunaan data yang tidak sah. Bayangkan seperti ini: MCP memberi Anda cara standar untuk menghubungkan agen ke sistem Anda. Confidential AI memberi Anda jaminan kriptografis bahwa setelah terhubung, agen-agen tersebut hanya dapat melakukan apa yang mereka izinkan untuk dilakukan, dan Anda dapat membuktikannya.

Confidential AI memberikan jaminan tersebut pada runtime di seluruh data, identitas, kode, dan komunikasi. Ini memberikan bukti eksekusi yang dapat diverifikasi dan memastikan bahwa privasi dan penerapan kebijakan tidak berhenti pada batas akses tetapi berlanjut ketika AI secara aktif bernalar, menghasilkan, dan bertindak. Tanpa itu, MCP adalah fondasi yang solid. Tapi fondasi saja tidak membuat bangunan aman.

Dalam istilah praktis, apa yang terlihat seperti kepercayaan yang dapat diverifikasi untuk perusahaan yang menjalankan agen AI otonom di seluruh alur kerja kritis?

Kepercayaan yang dapat diverifikasi berarti saya dapat membuktikan kode apa yang dijalankan, di mana dijalankan, di bawah kebijakan apa, data apa yang diakses, dan bagaimana sistem berperilaku seiring waktu.

Dalam prakteknya, ambil contoh perusahaan asuransi yang menggunakan agen AI untuk memproses surat tuntutan. Sebelum eksekusi, verifikasi perangkat keras memverifikasi identitas agen dan integritas lingkungan. Selama eksekusi, ikatan kebijakan kriptografis dalam Lingkungan Eksekusi Tepercaya (TEE) yang didukung perangkat keras memastikan bahwa data tetap dilindungi dan kebijakan ditegakkan. Setelah eksekusi, jejak audit yang tahan perubahan mencatat secara tepat apa yang terjadi.

Risiko dalam alur kerja AI bukanlah bahwa agen menjadi liar. Risiko sebenarnya adalah bahwa Anda tidak dapat membuktikan apakah kebijakan ditegakkan atau apakah data sensitif dilindungi saat agen beroperasi—sebelum, selama, dan setelah. Itulah yang terlihat seperti kepercayaan yang dapat diverifikasi.

Bagaimana agen sistem operasional pada kecepatan mesin, mengapa pengawasan manusia tradisional gagal, dan bagaimana organisasi harus memikirkan kembali tata kelola dalam lingkungan baru ini?

Selama beberapa dekade, internet memiliki penjaga tak terlihat: kita. Manusia membaca konten, mengklik dengan sengaja, dan tidak bertindak secara diam-diam di seluruh sistem seratus kali secara bersamaan.

AI agen menghapus asumsi tersebut semalam. Agen beroperasi terus-menerus, membuat keputusan dengan kecepatan mesin, dan dapat dimanipulasi oleh lingkungan yang dirancang untuk manusia tetapi dapat dieksploitasi oleh mesin. Halaman web yang berbahaya tidak perlu menipu AI dengan cara yang sama seperti menipu manusia; itu cukup untuk menginstruksikannya.

Pada risiko 1% per agen, jaringan 100 agen menghadapi probabilitas 63% pelanggaran. Skala hingga seribu dan Anda berada pada 99,99%. Pengawasan manusia tidak dapat mengimbangi angka-angka tersebut. Pengawasan harus bergeser dari tinjauan reaktif ke jaminan runtime. Itu berarti alur kerja zero-trust, penerapan kebijakan secara default, dan eksekusi yang dapat diverifikasi yang tidak bergantung pada manusia menangkap kegagalan setelah fakta.

Apa kegagalan keamanan yang paling umum yang Anda lihat ketika perusahaan bereksperimen dengan AI agen tanpa lapisan kepercayaan yang terintegrasi?

Polanya yang paling sering saya lihat adalah bahwa perusahaan membiarkan agen bertindak dan berkoordinasi tanpa jaminan kriptografis seputar perilaku mereka. Mereka memproses IP sensitif dengan harapan.

Apa yang mengikuti adalah dapat diprediksi, dan kami telah mendokumentasikan pola-pola spesifik dalam penelitian AI Leak Surface kami. Kompromi runtime melewati pertahanan perimeter tradisional karena agen sudah berada di dalam jaringan. Rantai agen otonom menciptakan kegagalan berantai. Satu agen yang dieksploitasi memicu efek domino di seluruh sistem terhubung. Logika propietary bocor melalui data exhaust yang tidak pernah dipantau. Agen kehilangan kemampuan untuk membedakan antara niat perusahaan dan input berbahaya karena tidak ada identitas atau ikatan kebijakan yang dapat diverifikasi pada runtime.

Ini bukanlah hipotetis. Kami memetakan 46 vektor di mana data melampaui kontrol yang dimaksudkan, bahkan ketika tidak ada yang tampak rusak. Agen AI menghasilkan dan berbagi data dengan kecepatan mesin. Tanpa perlindungan runtime yang dapat diverifikasi yang terintegrasi ke dalam alur kerja, kegagalan berpropagasi lebih cepat dari tim keamanan yang dapat mendeteksi atau merespons.

Bagaimana organisasi terkemuka menyeimbangkan kebutuhan untuk membuka kemampuan AI lanjutan sambil melindungi aset data sensitif mereka?

Organisasi yang melakukan hal ini dengan benar memperlakukan privasi dan tata kelola sebagai pendorong, bukan rem. Itulah wawasan kunci.

Apa yang saya lihat di lapangan adalah bahwa perusahaan terkemuka memasangkan kemampuan AI lanjutan dengan platform AI yang dapat dipercaya yang memberikan jaminan yang dapat diverifikasi, bukan hanya daftar kepatuhan. Mereka membuka data sensitif untuk inovasi AI sambil memastikan informasi propietary tetap dilindungi, bahkan ketika alur kerja berjalan secara otonom.

Penggambaran lama adalah kemampuan versus keamanan. Organisasi yang bergerak paling cepat telah menolak perdagangan itu sepenuhnya. Mereka membangun kepercayaan yang dapat diverifikasi ke dalam fondasi strategi AI mereka, memungkinkan mereka untuk mengerahkan data paling berharga mereka. Pada saat yang sama, pesaing masih terjebak dalam mode pilot, menjalankan AI pada dataset yang disanitasi yang tidak menggerakkan jarum.

Berdasarkan apa yang Anda lihat hari ini, bagaimana Anda mengharapkan model tata kelola AI perusahaan berkembang selama beberapa tahun mendatang ketika sistem agen berpindah dari pilot ke produksi penuh?

Tata kelola akan berkembang dari kertas ke bukti. Itulah cara termudah saya dapat mengatakannya. Model tata kelola awal dibangun untuk perangkat lunak yang berjalan dengan kecepatan manusia: kebijakan pada kertas, persetujuan sebelum deploy, tinjauan setelah sesuatu salah. Sistem agen memecahkan setiap asumsi tersebut. Mereka beroperasi terus-menerus, bertindak secara otonom, dan menghasilkan efek berantai dengan kecepatan mesin.

Apa yang kami lihat adalah tata kelola bergeser ke arah verifiabilitas runtime sebagai batas keamanan baru, didukung oleh jaminan kriptografis yang membuktikan perilaku di seluruh tahap siklus hidup agen, sebelum, selama, dan setelah. Pola yang sama yang kami lihat dengan HTTPS menjadi default untuk lalu lintas web. Tidak ada lagi perdebatan tentang apakah mengenkripsi koneksi web. Dalam beberapa tahun, tidak ada lagi perdebatan tentang apakah memverifikasi eksekusi AI pada runtime. Itu akan menjadi syarat minimum.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi OPAQUE.