Chester Leung, Co-Founder dan Kepala Platform AI di OPAQUE – Seri Wawancara

Chester Leung adalah Co-Founder dan Kepala Arsitektur Platform di OPAQUE, sebuah startup Seri A yang membangun platform data dan AI yang memungkinkan tim untuk memperluas pipa data perusahaan mereka dengan lapisan kerahasiaan, memungkinkan wawasan yang lebih cepat dengan usaha yang lebih sedikit dan privasi yang terverifikasi dan terkendali.

Sebelumnya, Chester adalah seorang mahasiswa pascasarjana ilmu komputer di UC Berkeley, di mana ia menerbitkan makalah yang ditinjau oleh rekan sejawat di konferensi terkemuka dan juga menjabat sebagai pemelihara utama proyek MC2 sumber terbuka untuk analitik kolaboratif dan pembelajaran mesin yang aman.

Anda mendirikan Opaque setelah waktu Anda di RISELab UC Berkeley, di mana pekerjaan Anda menghubungkan AI dan sistem keamanan. Apa celah spesifik dalam infrastruktur data perusahaan yang Anda lihat yang menyebabkan pembentukan OPAQUE, dan bagaimana pengalaman akademis Anda mempengaruhi arah perusahaan?

Pada saat itu, ada fokus besar, baik di akademisi maupun di industri, pada pemanfaatan pembelajaran mesin untuk kasus penggunaan tertentu. Di laboratorium, kami sangat beruntung memiliki sponsor perusahaan besar yang membantu kami peneliti untuk membentuk pekerjaan kami untuk memecahkan masalah yang lebih mendesak yang mereka hadapi dalam organisasi mereka. Kelompok kami, khususnya, memiliki kesempatan unik untuk bekerja sama dengan tim dari perusahaan teknologi dan perbankan, layanan keuangan, dan asuransi (BFSI), berkolaborasi untuk memecahkan masalah privasi yang sulit seputar penggunaan data sensitif tetapi berharga untuk pembelajaran mesin. Seperti semua bidang AI, pembelajaran mesin bergantung pada kuantitas besar data berkualitas tinggi untuk menghasilkan wawasan yang berharga dan kuat.

Kami menemukan pola yang sama berulang kali saat bekerja sama dengan tim dari perusahaan seperti Amazon (AMZN ), Scotiabank, dan Ant Group (saat itu Ant Financial): proyek pembelajaran mesin mereka macet sebelum mencapai produksi karena kekhawatiran seputar penggunaan data sensitif tetapi kritis untuk kasus penggunaan tersebut. Dengan kata lain, tim-tim tersebut tidak dapat menggunakan AI dalam proyek yang mereka tahu dapat menghasilkan nilai untuk perusahaan, bukan karena masalah teknis dengan AI, tetapi karena mereka tidak dapat mengakses data yang tepat.

Di Opaque, kami telah memecahkan masalah yang sama. Membantu tim mendapatkan akses ke data yang tepat, memungkinkan mereka untuk membuka atau meningkatkan kemampuan AI mereka. Satu-satunya perubahan sejak hari-hari penelitian kami adalah urgensi masalahnya: kami sekarang secara konsisten melihat adopsi dan integrasi AI, yang terus menjadi imperatif strategis perusahaan.

Dalam lanskap di mana perusahaan menginvestasikan besar-besaran dalam model penalaran dan AI agen, mengapa Anda percaya bahwa pipa data yang aman lebih penting dari sebelumnya?

Pipa data yang aman adalah tulang punggung di mana perusahaan membangun model penalaran dan AI agen. Semuanya, dari pelatihan model penalaran ini hingga penerapan AI agen, melibatkan data sensitif dan bergantung pada pipa data yang aman.

Sebagai contoh, kami sekarang sebagai industri melihat investasi yang tumbuh dalam menghasilkan data berkualitas tinggi untuk melatih model-model ini. Beberapa laporan bahkan telah memprediksi bahwa investasi komputasi dalam menghasilkan data berkualitas tinggi akan segera lebih besar dari investasi komputasi pada pelatihan model-model itu sendiri. Tentu saja, generasi data adalah proses multi-langkah yang ditenagai oleh pipa yang menghasilkan IP paling berharga perusahaan: data domain-spesifik berkualitas tinggi yang dapat melatih model yang menghasilkan nilai yang luar biasa di hilir. Investasi dalam menghasilkan data ini sangat besar, dan data yang dihasilkan, mengingat garis keturunannya, secara efektif membedakan satu perusahaan dari pesaingnya, berfungsi sebagai paritnya. Perusahaan harus melakukan segalanya untuk menjaga pipa ini tetap aman.

Platform komputasi kerahasiaan OPAQUE memungkinkan analitik pada data terenkripsi. Apa tantangan teknis inti dalam membuatnya baik skalabel dan ramah pengembang untuk lingkungan perusahaan?

Platform AI Kerahasiaan kami tidak hanya memungkinkan analitik, pembelajaran mesin, dan AI generatif pada data terenkripsi, tetapi juga menyediakan bukti verifikasi bahwa data Anda digunakan dengan cara yang hanya Anda harapkan dan izinkan.

Tantangan utama, dengan skalabilitas, pengembangan, dan manajemen, terletak pada membuat orkestrasi beban kerja yang aman dan verifiable pada skala besar. Secara khusus, banyak perusahaan saat ini menggunakan layanan cloud yang dikelola ketika mereka perlu menskalakan. Ini dapat menjadi efektif biaya dan nyaman. Namun, subset perangkat lunak yang memungkinkan layanan cloud yang dikelola secara inheren dikelola oleh penyedia cloud. Jadi, tantangannya menjadi, bagaimana suatu organisasi dapat mengamankan dan memverifikasi perangkat lunak yang tidak berada di bawah kendali mereka? Jika organisasi mengambil kembali kendali atas semua perangkat lunak, apa yang harus mereka berikan dengan tidak menggunakan layanan yang dikelola, dan apa yang mereka hilangkan dengan melakukannya?

Anda telah mengatakan bahwa arsitektur yang dirancang dengan keamanan dapat memberikan keunggulan kompetitif yang langgeng. Bisakah Anda menjelaskan bagaimana prinsip ini bermain secara praktis untuk tim AI perusahaan?

Ada dua sudut untuk melihat ini dari: sudut produk dan sudut teknik.

Dari sudut produk, setiap orang memahami bahwa datanya adalah radioaktif, parit, atau keduanya. Perusahaan menjadi semakin matang dalam mengevaluasi privasi data, keamanan, dan kedaulatan solusi. Konsekuensinya, setiap tim yang membangun produk apa pun yang memproses data perusahaan harus memberikan jaminan bahwa data yang diproses hanya terlihat dan digunakan oleh pihak dan entitas yang berwenang. Arsitektur yang dirancang dengan keamanan memberikan kepercayaan bahwa privasi data, keamanan, dan kedaulatan adalah pertimbangan utama dalam desain produk, dan memungkinkan produk untuk secara eksplisit memberikan jaminan ini.

Dari sudut teknik, arsitektur yang dirancang dengan keamanan lebih ekstensibel dan tahan lama. Tim hukum, risiko, dan kepatuhan menjadi semakin ketat dalam menanggapi risiko dan peraturan yang baru ditemukan. Oleh karena itu, organisasi teknik harus ingin membangun sistem AI perusahaan yang aman dari awal sehingga mereka tidak perlu merancang ulang dan/atau memperbaiki sistem mereka ketika mereka menyadari bahwa sistem mereka yang ada tidak cukup aman dan tahan risiko. Merancang ulang dan memperbaiki membutuhkan bulan, jika tidak tahun, bandwidth teknik yang berharga.

Bagaimana organisasi harus memikirkan kembali peran data—di luar sumber daya—sebagai parit yang dapat dipertahankan ketika sistem AI otonom berkembang?

Ada kesepakatan yang tumbuh di industri bahwa data mungkin segera menjadi satu-satunya parit yang dimiliki organisasi. Kami telah melihat bakat penelitian dan teknik, dan teknologi serta produk yang mereka bangun, melompat dari organisasi ke organisasi. Sebagai hasilnya, banyak organisasi dapat menawarkan produk yang sama, didukung oleh teknologi yang sama.

Apa yang tidak dapat dengan mudah dipindahkan dari organisasi ke organisasi, bagaimanapun, adalah data organisasi—kecuali jika itu bocor. Lebih lanjut, data itu adalah yang dapat membuat produk lebih menarik daripada pesaingnya—lebih disesuaikan, disesuaikan, dan domain-spesifik. Organisasi harus melakukan segalanya untuk mengamankan data mereka, memungkinkan mereka untuk memanfaatkan data mereka sebagai keunggulan kompetitif.

Apa yang terlihat seperti pipa AI yang tangguh dalam praktek, dan bagaimana itu membantu perusahaan menghindari biaya atau risiko tersembunyi ketika mereka menskalakan penerapan AI?

Pipa AI yang tangguh adalah pipa yang dapat diandalkan, tahan kesalahan, tetapi yang paling penting, secara verifiable aman dari ujung ke ujung. Sebelum pemrosesan, perusahaan harus memverifikasi baik data yang masuk ke pipa, serta pipa itu sendiri, untuk memastikan bahwa tidak ada kemungkinan pipa menyalahgunakan data. Selama pemrosesan, pipa AI harus tahan tamper, untuk memastikan bahwa tidak ada yang dapat mencuri data yang sedang diproses atau memengaruhi wawasan yang disediakan. Setelah pemrosesan, pipa AI harus dapat diaudit dengan verifiable, sehingga tim dapat mengamati dan menjelaskan pengambilan keputusan dan trajektori pipa AI, dan sehingga tim dapat melihat apa yang salah ketika sesuatu salah.

Sangat penting untuk mempertimbangkan bagaimana pipa AI yang tidak aman, rusak, dapat membocorkan data perusahaan atau model proprietary, dan implikasinya terhadap faktor pembeda perusahaan atau reputasi. Yang lebih penting, bagaimanapun, adalah ini: ketika perusahaan menskalakan penerapan AI ke dalam kasus penggunaan yang lebih kritis dan berdampak, risiko pipa AI yang tidak aman, tidak dapat dijelaskan, tumbuh secara eksponensial. Dalam dunia di mana keputusan pemberian pinjaman dan keputusan perekrutan sudah ditingkatkan dengan AI, memengaruhi segalanya dari keuangan pribadi hingga karir, kesalahan sengaja atau tidak sengaja dalam pipa AI dapat memiliki efek dramatis pada kehidupan seorang individu.

Banyak perusahaan fokus pada akurasi model atau latency. Apa yang mereka lewatkan ketika datang ke integritas data dan risiko operasional jangka panjang?

Sementara banyak perusahaan fokus pada model atau teknologi AI, saya telah lama percaya bahwa data adalah bottleneck fundamental untuk menggelindingkan AI yang menghasilkan nilai.

Memiliki model yang sangat cepat menghasilkan respons akurat tentang topik yang pengguna akhir tidak peduli menghasilkan nilai nol. Untuk membangun produk yang unik dan menarik, perusahaan harus memastikan bahwa model mereka, dan produk yang mereka kuasai, dilatih dengan data berkualitas tinggi, relevan. Masalah kebersihan data yang dihasilkan dari kurangnya data input berkualitas tinggi mungkin tidak muncul sampai bulan kemudian.

Kedua, kami telah menemukan bahwa perusahaan umumnya tidak memiliki cerita yang baik untuk mendeteksi drift data, kontaminasi, atau kebocoran, yang membahayakan integritas model. Ini erat terkait dengan poin pertama saya, dan sementara lebih dari solusi reaktif, itu membuat evaluasi dan pengamatan menjadi lebih penting.

OPAQUE terintegrasi dengan tumpukan cloud yang ada. Apa yang telah Anda pelajari tentang mempertahankan keseimbangan antara kemudahan adopsi dengan jaminan keamanan yang kuat dalam penerapan perusahaan?

Kami telah menghabiskan hampir satu dekade, mulai dari hari-hari penelitian kami, untuk memecahkan masalah ini. Keamanan yang dapat dibuktikan dari sistem AI, terutama dalam pengaturan perusahaan, adalah masalah yang sangat sulit. Ini memerlukan sistem, keamanan, kriptografi, dan keahlian AI. Sebagai hasilnya, sebagian besar sistem yang kami temui tidak secara fundamental aman – karena keamanan sangat sulit untuk diimplementasikan.

Di Opaque, kami telah membangun produk yang merupakan yang terbaik dari kedua dunia – secara inheren dan verifiably aman dari awal, tetapi dapat diterapkan dengan mudah melalui pasar cloud dan cukup fleksibel untuk diintegrasikan ke dalam aplikasi AI baru dan yang ada.

Apakah jenis ancaman atau kerentanan yang muncul sekitar pipa AI dan berbagi data yang pemimpin perusahaan mungkin belum sepenuhnya menghargai?

Apa yang kami lihat dalam demam emas agen ini adalah urgensi buta untuk menerapkan agen AI yang berinteraksi dengan berbagai sistem catatan. Sementara agen-agen ini dapat memberikan nilai, mereka juga menimbulkan risiko besar karena mereka menyentuh banyak sistem dengan data berharga. Agen-agen ini secara inheren tidak deterministik, dan kami telah melihat berbagai contoh di mana mereka pergi dan melakukan sesuatu yang kami tidak harapkan. Dalam dunia di mana data Anda adalah satu-satunya parit, pemimpin perusahaan harus selalu mempertanyakan apakah mereka dapat mempercayai dan mengandalkan agen AI yang memiliki akses ke semua data mereka untuk tidak menyalahgunakan data tersebut secara tidak sengaja atau bahkan disengaja.

Bagaimana Anda melihat interaksi antara infrastruktur data yang aman, akuntabilitas model, dan kepatuhan berkembang dalam beberapa tahun mendatang ketika peraturan AI mengambil bentuk secara global?

Infrastruktur data yang aman dan verifiable memungkinkan akuntabilitas model dan agen. Secara khusus, tanpa bukti verifikasi pengambilan keputusan atau penggunaan alat agen atau model, kita tidak dapat yakin dengan apa pun, sehingga kita tidak akan dapat melacak akuntabilitas. Ketika AI menjadi semakin terintegrasi ke dalam kehidupan sehari-hari kita, kita ingin lebih banyak penjelasan dan pengamatan ke dalam AI. Namun, ketika AI dapat beroperasi pada kecepatan mesin, dan kita tidak bisa, AI yang berbahaya dapat dengan mudah menipu kita dengan membangun sejarah palsu. Kita membutuhkan verifikasi untuk mempertahankan AI akuntabel.

Bagi saya, kepatuhan peraturan sangat reaktif. Pengembangan dan penerapan peraturan bergerak jauh lebih lambat daripada inovasi teknologi. Ini akan semakin benar ketika AI membantu kita meningkatkan kecepatan inovasi kita. Sementara kepatuhan akhirnya akan mengarahkan pengikut ketinggalan untuk mengadopsi infrastruktur data yang aman, pengadopsi awal dan mayoritas awal mengenali bahwa itu sangat penting untuk keamanan AI, dan akan mengadopsinya jauh sebelum kepatuhan membuatnya wajib. Mereka memahami bahwa akuntabilitas agen, yang diaktifkan oleh infrastruktur data yang aman, sangat penting untuk adopsi produk AI yang ditenagai oleh mereka sendiri.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi OPAQUE.