Jonathan Mortensen, Pendiri dan CEO Confident Security – Seri Wawancara

Jonathan Mortensen, Pendiri dan CEO Confident Security, saat ini memimpin pengembangan sistem AI yang dapat dibuktikan privasinya untuk industri dengan keamanan dan persyaratan kepatuhan yang ketat. Ia juga menjabat sebagai Pendiri Fellow di South Park Commons, di mana ia mengeksplorasi masa depan komputasi AI, memori, privasi, dan kepemilikan. Sebelum meluncurkan Confident Security, ia adalah Staff Software Engineer di Databricks, mengintegrasikan teknologi bit.io ke dalam platform data dengan fokus pada keamanan multi-penyewa, IAM/ACL, isolasi VPC, enkripsi, dan kepemilikan data. Sebelumnya, ia mendirikan dan menjabat sebagai CTO bit.io, membangun layanan serverless PostgreSQL multi-awan, multi-wilayah yang mendukung ratusan ribu database aman dan kemudian diakuisisi oleh Databricks.

Confident Security membangun infrastruktur yang memungkinkan perusahaan menjalankan alur kerja AI tanpa mengungkapkan informasi sensitif. Platformnya dirancang sehingga prompt, data, dan output model tetap sepenuhnya pribadi, tidak pernah dicatat, dan tidak pernah digunakan kembali, memberikan organisasi cara aman untuk mengadopsi AI sambil memenuhi standar regulasi dan kepatuhan yang ketat.

Anda mendirikan Confident Security pada 2024 setelah membangun bit.io dan bekerja di Databricks. Apa yang memicu kesadaran bahwa AI memerlukan pendekatan yang berbeda terhadap privasi?

Pengalaman saya membangun infrastruktur data mengajarkan saya ini: jika orang memasukkan informasi sensitif ke dalam sistem, kepercayaan tidak cukup. Mereka memerlukan bukti. Kami membangun infrastruktur di mana pelanggan memiliki data mereka, dan kami memberi mereka cara untuk memverifikasi hal itu.

Saat saya melihat bagaimana perusahaan menggunakan LLM, bukti itu tidak ada. Karyawan menempelkan kode sumber, dokumen hukum, dan catatan pasien ke dalam model yang dijalankan oleh pihak ketiga yang tidak dapat diverifikasi. Kami sudah melihat percakapan pribadi yang tidak sengaja diindeks secara online dan perubahan kebijakan yang tiba-tiba membuat percakapan menjadi data pelatihan secara default. Ini menunjukkan betapa rapuhnya model privasi saat ini.

Jika AI akan menangani informasi paling sensitif di dunia, kita memerlukan jaminan yang tidak bergantung pada janji internal vendor. Itulah yang mendorong saya untuk memulai Confident Security.

OpenPCC digambarkan sebagai “Signal untuk AI.” Mengapa lapisan privasi ini harus terbuka, dapat diverifikasi, dan interoperabel sejak hari pertama?

Enkripsi ujung-ke-ujung tidak populer sampai menjadi standar yang dapat diadopsi semua orang. Kami ingin hal yang sama untuk privasi AI. Jika hanya beberapa perusahaan yang dapat menawarkan jaminan nyata, maka privasi tidak akan berkembang.

OpenPCC adalah open source di bawah Apache 2.0, sehingga siapa pun dapat membangun atau memeriksa kode sumbernya. Tidak ada persyaratan kepercayaan rahasia. Attestasi perangkat keras menyediakan bukti kriptografis tentang apa yang dijalankan dan di mana. Dan kami memastikan itu berfungsi di mana saja: cloud mana pun, penyedia model mana pun, tumpukan pengembang mana pun.

Ada nilai besar dalam lantai privasi yang konsisten dan universal. Jika Anda menggunakan OpenPCC, Anda tahu data Anda tidak terlihat oleh penyedia model, regulator, atau bahkan kami. Standar hanya berfungsi jika seluruh ekosistem dapat berpartisipasi, sehingga kami merancangnya untuk menjadi seinklusif mungkin sejak hari pertama.

Sebelum Confident Security, Anda membangun sistem skala besar untuk multi-tenancy, enkripsi, dan kepemilikan data. Bagaimana pengalaman itu membentuk arsitektur OpenPCC?

Sistem itu memperkuat dua kebenaran: jika sistem dapat menyimpan data, akhirnya akan menyimpannya, baik melalui log, konfigurasi yang salah, atau permintaan hukum. Dan kepercayaan bukanlah model privasi. Pengguna memerlukan visibilitas dan kontrol.

OpenPCC berjalan dalam mode tanpa keadaan sehingga prompt menghilang setelah diproses. Attestasi memungkinkan pengguna memverifikasi ke mana data mereka pergi dan kode apa yang dijalankan. Dan dengan memisahkan kontrol dari data, OpenPCC mencegah input pribadi dari pernah dianggap sebagai instruksi yang dapat dieksekusi.

Itulah yang ditunggu-tunggu oleh perusahaan: jaminan bahwa data tidak akan muncul kembali di tempat yang tidak terduga.

Anda telah berargumen bahwa sebagian besar solusi “AI pribadi” bergantung pada kepercayaan terhadap sistem yang tidak transparan. Mengapa verifikasi independen sangat penting untuk privasi yang sebenarnya?

Sebagian besar bahasa privasi saat ini secara efektif “percayalah saja kepada kami.” Itu tidak cukup ketika taruhannya termasuk keamanan nasional dan data kesehatan yang diatur. Jika pengguna tidak dapat memverifikasi klaim, itu bukanlah jaminan—itu hanya pemasaran.

Privasi yang dapat diverifikasi berbeda. Anda tidak mempercayai niat operator. Anda memverifikasi perangkat keras, gambar perangkat lunak, dan jaminan penanganan data. Kriptografi memaksakan batasan. Log tidak ada untuk seseorang yang tidak sengaja bocorkan atau ajukan permintaan hukum.

Saat privasi dapat diaudit oleh pengguna, Anda menciptakan sistem yang jauh lebih aman. Itu adalah akuntabilitas yang berakar pada matematika.

Pengumuman “AI Pribadi” Google (GOOGL ) muncul tidak lama setelah OpenPCC. Anda secara terbuka menantang mereka untuk menyediakan TPU untuk pengujian independen. Apa yang memotivasi tantangan itu, dan apa yang Anda harapkan untuk menemukan?

Untuk mengklaim jaminan privasi, Anda harus membiarkan komunitas memverifikasi klaim tersebut. NVIDIA (NVDA ) sudah memungkinkan verifikasi eksternal pada GPU H100-nya, dan kami bahkan membuka sumber kode perpustakaan attestasi mereka untuk mendorong adopsi.

Jika Google ingin membuat janji serupa pada TPU, kami harus dapat mengukur dan memverifikasi janji tersebut, bukan hanya membacanya dalam posting blog. Kami akan mencari kontrol yang sama yang kami harapkan dari sistem privasi mana pun: batasan retensi data yang ketat, attestasi yang dapat diaudit, dan tidak ada jalur rahasia di mana log atau telemetry dapat melarikan diri. Klaim privasi harus bertahan dari pengawasan.

Bagi pembaca yang tidak familiar dengan mekanisme, apa yang membuat saluran terenkripsi OpenPCC berbeda dari enkripsi sisi klien tradisional atau komputasi yang dapat dipercaya?

Enkripsi sisi klien melindungi data saat masuk, dan komputasi yang dapat dipercaya melindunginya saat diproses, tetapi masih ada celah sebelum dan sesudahnya di mana operator atau penyerang dapat mengakses informasi sensitif.

OpenPCC menutup celah itu. Ini menciptakan jalur ujung-ke-ujung yang tertutup antara klien dan model yang melindungi prompt, respons, identitas pengguna, dan bahkan metadata atau sinyal waktu yang dapat mengungkapkan niat secara diam-diam. Operator tidak dapat mendekripsi apa pun. Tidak ada yang dicatat atau disimpan, bahkan dalam kondisi pelanggaran.

Privasi tidak boleh bergantung pada harapan bahwa penyedia melakukan hal yang benar di balik layar. Ini harus ditegakkan secara kriptografis.

Bagaimana privasi yang dapat diverifikasi mengubah persamaan untuk industri yang diatur seperti keuangan, kesehatan, dan pertahanan?

Industri yang diatur memiliki yang paling banyak untuk diperoleh dari AI, tetapi juga yang paling banyak untuk kehilangan jika sesuatu bocor. Saat ini, 78% karyawan menempelkan data internal ke dalam alat AI, dan satu dari lima kasus termasuk informasi yang diatur seperti PHI atau PCI. Paparan sudah terjadi.

Privasi yang dapat diverifikasi menghilangkan penghalang terbesar. Prompt sensitif tidak pernah ada dalam teks biasa di dalam lingkungan penyedia model. Tidak ada yang dapat digunakan untuk pelatihan. Bahkan permintaan hukum tidak dapat mengakses apa yang sistem itu sendiri tidak dapat lihat.

Tim risiko dan kepatuhan akhirnya memiliki jalur di mana “ya” menjadi default bukan “tidak.”

Apa tantangan rekayasa terbesar dalam merancang lapisan privasi yang cloud-agnostik yang berfungsi di seluruh tumpukan perusahaan?

Komputasi yang dapat dipercaya dan attestasi jarak jauh masih dalam masa bayi, menurut pendapat saya. Setiap penyedia cloud dan penyedia bare metal melakukan sesuatu yang sedikit berbeda. Beberapa penyedia, seperti AWS, tidak memiliki perangkat keras yang diperlukan untuk melakukannya. Jadi, setiap fitur yang kami tambahkan seperti 1000 sayatan dan berjalan di atas tali. Tetapi tujuan utamanya adalah menjadi standar terbuka, sehingga kami perlu melakukannya sehingga berfungsi untuk platform apa pun. Ini adalah open source sehingga saya mendorong orang untuk menambahkan platform dan konfigurasi yang didukung lebih banyak!

Apa yang terlihat seperti dunia dengan enkripsi verifiable default, dan bagaimana itu dapat mengubah keseimbangan kekuatan antara perusahaan, penyedia cloud, dan penyedia model?

Perusahaan mempertahankan kontrol atas aset paling berharga mereka: data mereka. Penyedia model bersaing dalam kinerja dan biaya bukan siapa yang dapat mengumpulkan informasi propietary terbanyak. Cloud memungkinkan privasi bukan hanya diam-diam mengamati privasi.

Itu adalah keseimbangan kekuatan yang lebih sehat. Dan seluruh ekosistem memenangkan ketika keamanan dibangun ke dalam fondasi bukan hanya ditambal di atas.

Di masa depan di mana AI menjadi sangat umum dan sangat diatur, bagaimana Anda melihat privasi yang dapat diverifikasi mengubah lanskap kompetitif untuk perusahaan, penyedia cloud, dan pengembang model?

Regulator sudah mempertanyakan bagaimana data pengguna disimpan dan digunakan. Privasi berbasis kepercayaan tidak akan memuaskan mereka untuk waktu yang lama. Pengguna akan mengharapkan jaminan privasi dengan cara yang sama mereka mengharapkan enkripsi dalam aplikasi perpesanan saat ini.

Pemenangnya akan menjadi perusahaan yang tidak meminta pengguna untuk mengorbankan. Jika Anda dapat membuktikan privasi, Anda memenangkan kepercayaan organisasi yang memiliki data paling berharga di dunia. Data menjadi dapat digunakan di tempat-tempat yang sebelumnya dikunci.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Confident Security.