Mike Capps, Co-Founder & CEO of Diveplane – Interview Series

Dr. Michael Capps adalah seorang teknolog terkenal dan CEO dari Diveplane Corporation. Sebelum menjadi co-founder Diveplane, Mike memiliki karir legendaris di industri videogame sebagai presiden Epic Games, pembuat blockbuster Fortnite dan Gears of War. Masa jabatannya termasuk ratusan penghargaan game-of-the-year, puluhan konferensi kunci, penghargaan lifetime achievement, dan pertahanan kebebasan berbicara yang sukses tentang videogame di Mahkamah Agung AS.

Diveplane menawarkan solusi bisnis yang ditenagai AI di berbagai industri. Dengan enam paten yang disetujui dan beberapa paten yang sedang diproses, Understandable AI dari Diveplane memberikan pemahaman penuh dan transparansi keputusan untuk mendukung kebijakan AI etis dan strategi privasi data.

Anda berhasil pensiun dari karir yang sukses di industri video game di Epic Games, apa yang menginspirasi Anda untuk keluar dari pensiun dan fokus pada AI?

Membuat game itu sangat menyenangkan, tetapi – setidaknya pada saat itu – tidak ideal sebagai karir ketika memiliki keluarga baru. Saya tetap sibuk dengan posisi dewan dan peran penasihat, tetapi itu tidak memuaskan. Jadi, saya membuat daftar tiga masalah besar yang dihadapi dunia yang mungkin saya bisa dampak – dan itu termasuk proliferasi sistem AI black-box. Rencana saya adalah menghabiskan setahun untuk setiap masalah tersebut, tetapi beberapa minggu kemudian, teman saya yang brilian, Chris Hazard, memberitahu saya bahwa dia telah bekerja secara rahasia pada platform AI yang transparan dan dapat dijelaskan sepenuhnya. Dan di sinilah kita sekarang.

Diveplane dimulai dengan misi membawa kemanusiaan ke AI, dapatkah Anda menjelaskan apa yang dimaksud dengan ini secara khusus?

Tentu. Di sini kita menggunakan kemanusiaan untuk berarti “humaneness” atau “kemurahan hati.” Untuk memastikan yang terbaik dari kemanusiaan ada dalam model AI Anda, Anda tidak bisa hanya melatih, menguji sedikit, dan berharap semuanya baik-baik saja.

Kita perlu dengan hati-hati meninjau data input, model itu sendiri, dan output dari model tersebut, dan memastikan bahwa itu mencerminkan yang terbaik dari kemanusiaan kita. Sebagian besar sistem yang dilatih pada data historis atau dunia nyata tidak akan benar pertama kali, dan mereka tidak selalu tidak bias juga. Kami percaya bahwa satu-satunya cara untuk menghilangkan bias dalam model – yang berarti baik kesalahan statistik dan prasangka – adalah kombinasi dari transparansi, auditabilitas, dan penjelasan yang dapat dipahami manusia.

Inti teknologi di Diveplane disebut REACTOR, apa yang membuat ini menjadi pendekatan novel untuk membuat machine learning dapat dijelaskan?

Machine learning biasanya melibatkan menggunakan data untuk membangun model yang membuat keputusan tertentu. Keputusan mungkin termasuk sudut untuk membelokkan roda kendaraan, apakah untuk menyetujui atau menolak pembelian atau menandainya sebagai penipuan, atau produk apa yang harus direkomendasikan kepada seseorang. Jika Anda ingin mempelajari bagaimana model membuat keputusan, Anda biasanya harus meminta keputusan serupa dan mencoba lagi untuk memprediksi apa yang mungkin dilakukan model itu.

Bekerja dengan REACTOR sangat berbeda. REACTOR mengkarakterisasi ketidakpastian data Anda, dan data Anda menjadi model. Alih-alih membangun satu model per jenis keputusan, Anda hanya perlu bertanya kepada REACTOR apa yang Anda inginkan untuk diputuskan – itu bisa apa saja yang terkait dengan data – dan REACTOR mengajukan pertanyaan apa data yang diperlukan untuk keputusan tertentu. REACTOR selalu dapat menunjukkan data yang digunakan, bagaimana data tersebut terkait dengan jawaban, setiap aspek ketidakpastian, penalaran kontrafaktual, dan hampir semua pertanyaan tambahan yang Anda inginkan. Karena data adalah model, Anda dapat mengedit data dan REACTOR akan diperbarui secara instan. Ini dapat menunjukkan jika ada data yang terlihat anomali yang masuk ke dalam keputusan, dan melacak setiap edit ke data dan sumbernya. REACTOR menggunakan teori probabilitas sepenuhnya, yang berarti bahwa kita dapat memberitahu Anda unit pengukuran dari setiap bagian operasinya. Dan akhirnya, Anda dapat mereproduksi dan memvalidasi setiap keputusan menggunakan hanya data yang mengarah ke keputusan dan ketidakpastian, menggunakan matematika yang relatif sederhana tanpa perlu REACTOR.

REACTOR dapat melakukan semua ini sambil mempertahankan akurasi yang sangat kompetitif, terutama untuk set data kecil dan langka.

GEMINAI adalah produk yang membangun kembar digital dari sebuah set data, apa yang dimaksud dengan ini secara khusus dan bagaimana ini memastikan privasi data?

Ketika Anda memberi GEMINAI sebuah set data, itu membangun pengetahuan yang mendalam tentang bentuk statistik data tersebut. Anda dapat menggunakannya untuk membuat kembar sintetis yang menyerupai struktur data asli, tetapi semua catatan dibuat baru. Tetapi bentuk statistiknya sama. Jadi, misalnya, rata-rata denyut jantung pasien di kedua set akan hampir sama, begitu juga dengan semua statistik lainnya. Dengan demikian, setiap analisis data menggunakan kembar tersebut akan memberikan jawaban yang sama dengan aslinya, termasuk pelatihan model ML.

Dan jika seseorang memiliki catatan di data asli, tidak akan ada catatan untuk mereka di kembar sintetis. Kami tidak hanya menghapus nama – kami memastikan bahwa tidak ada catatan baru yang “dekat” dengan catatan mereka (dan semua yang lain) di ruang informasi. Artinya, tidak ada catatan yang dapat dikenali di kedua set asli dan sintetis.

Dan itu berarti, set data sintetis dapat dibagikan lebih bebas dengan tidak ada risiko berbagi informasi rahasia secara tidak tepat. Tidak peduli apakah itu transaksi keuangan pribadi, informasi kesehatan pasien, data terklasifikasi – selama statistik data tidak rahasia, kembar sintetis tidak rahasia.

Mengapa GEMINAI adalah solusi yang lebih baik daripada menggunakan privasi diferensial?

Privasi diferensial adalah sekumpulan teknik yang menjaga kemungkinan individu mana pun dari pengaruh statistik lebih dari jumlah marginal, dan merupakan bagian fundamental dalam hampir semua solusi privasi data. Namun, ketika privasi diferensial digunakan sendiri, anggaran privasi untuk data perlu dikelola, dengan noise yang cukup ditambahkan ke setiap kueri. Setelah anggaran tersebut habis, data tidak dapat digunakan lagi tanpa menghadapi risiko privasi.

Salah satu cara untuk mengatasi anggaran ini adalah dengan menerapkan anggaran privasi penuh sekaligus untuk melatih model machine learning untuk menghasilkan data sintetis. Ideanya adalah bahwa model ini, yang dilatih menggunakan privasi diferensial, dapat digunakan relatif aman. Namun, penerapan privasi diferensial yang tepat dapat sulit, terutama jika ada volume data yang berbeda untuk individu yang berbeda dan hubungan yang lebih kompleks, seperti orang yang tinggal di rumah yang sama. Dan data sintetis yang dihasilkan dari model ini seringkali mungkin berisi, secara kebetulan, data nyata yang dapat diklaim sebagai milik seseorang karena terlalu mirip.

GEMINAI memecahkan masalah ini dan lebih dengan menggabungkan beberapa teknik privasi ketika mensintesis data. Ini menggunakan bentuk praktis privasi diferensial yang dapat menampung berbagai jenis data. Ini dibangun atas mesin REACTOR kami, sehingga juga mengetahui kemungkinan bahwa potongan data mungkin salah mengenali satu sama lain, dan mensintesis data untuk memastikan bahwa itu selalu cukup berbeda dari data asli yang paling mirip. Selain itu, ini memperlakukan setiap bidang, setiap potongan data sebagai potensial sensitif atau mengidentifikasi, sehingga menerapkan bentuk praktis privasi diferensial untuk bidang yang tidak secara tradisional dianggap sensitif tetapi dapat mengidentifikasi individu secara unik, seperti transaksi tunggal di toko 24 jam antara pukul 2 pagi dan 3 pagi. Kami sering menyebut ini sebagai privasi cross-shredding.

GEMINAI dapat mencapai akurasi tinggi untuk hampir semua tujuan, yang terlihat seperti data asli, tetapi mencegah siapa pun menemukan data sintetis yang terlalu mirip dengan data sintetis.

Diveplane sangat berperan dalam co-founding Data & Trust Alliance, apa itu aliansi ini?

Ini adalah grup yang luar biasa dari CEO teknologi, berkolaborasi untuk mengembangkan dan mengadopsi praktik data dan AI yang bertanggung jawab. Organisasi kelas dunia seperti IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ), dan Diveplane. Kami sangat bangga telah menjadi bagian dari tahap awal, dan juga bangga dengan pekerjaan yang telah kami lakukan bersama pada inisiatif kami.

Diveplane baru-baru ini menggalang putaran Series A yang sukses, apa yang akan terjadi pada masa depan perusahaan?

Kami telah beruntung dengan proyek perusahaan kami, tetapi sulit untuk mengubah dunia satu perusahaan pada satu waktu. Kami akan menggunakan dukungan ini untuk membangun tim kami, membagikan pesan kami, dan mendapatkan Understandable AI di tempat-tempat sebanyak mungkin!

Apakah ada yang ingin Anda bagikan tentang Diveplane?

Diveplane adalah tentang memastikan AI dilakukan dengan benar ketika AI berkembang. Kami tentang AI yang adil, transparan, dan dapat dijelaskan, proaktif menunjukkan apa yang mendorong keputusan, dan menjauh dari “mentalitas black box” di AI yang memiliki potensi untuk tidak adil, tidak etis, dan bias. Kami percaya bahwa Explainability adalah masa depan AI, dan kami sangat bersemangat untuk memainkan peran penting dalam mendorongnya maju!

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Diveplane.