Jonathan Dambrot, CEO & Co-Founder of Cranium AI – Seri Wawancara

Jonathan Dambrot adalah CEO & Co-Founder dari Cranium AI, sebuah perusahaan yang membantu tim keamanan siber dan ilmu data memahami di mana AI mempengaruhi sistem, data, atau layanan mereka.

Jonathan adalah mantan Partner di KPMG, pemimpin industri keamanan siber, dan visioner. Sebelum KPMG, ia memimpin Prevalent menjadi pemimpin industri di bidang manajemen risiko pihak ketiga sebelum diakuisisi oleh Insight Venture Partners pada akhir 2016. Pada 2019, Jonathan mengalihkan peran CEO Prevalent karena perusahaan tersebut ingin terus tumbuh di bawah kepemimpinan baru. Ia telah dikutip dalam beberapa publikasi dan sering berbicara dengan klien tentang tren di IT, keamanan informasi, dan kepatuhan.

Apakah Anda dapat membagikan kisah di balik Cranium AI?

Saya memiliki ide untuk Cranium sekitar Juni 2021 ketika saya menjadi partner di KPMG yang memimpin layanan keamanan pihak ketiga secara global. Kami sedang membangun dan mengirimkan solusi yang ditenagai AI untuk beberapa klien terbesar kami, dan saya menyadari bahwa kami tidak melakukan apa pun untuk mengamankan mereka dari ancaman lawan. Jadi, saya bertanya kepada pemimpin keamanan siber di klien terbesar kami, dan jawaban yang saya terima sama buruknya. Banyak tim keamanan tidak pernah berbicara dengan ilmuwan data – mereka berbicara bahasa yang berbeda ketika datang ke teknologi dan pada akhirnya tidak memiliki visibilitas ke AI yang berjalan di seluruh perusahaan. Semua ini dikombinasikan dengan perkembangan peraturan yang terus tumbuh adalah pemicu untuk membangun platform yang dapat menyediakan keamanan untuk AI. Kami mulai bekerja dengan inkubator KPMG Studio dan membawa beberapa klien terbesar kami sebagai mitra desain untuk memandu pengembangan untuk memenuhi kebutuhan perusahaan besar ini. Pada Januari tahun ini, Syn Ventures datang untuk menyelesaikan pendanaan Seed, dan kami berpisah secara independen dari KPMG pada Maret dan muncul dari stealth pada April 2023.

Apa itu Cranium AI Card dan apa saja wawasan kunci yang diberikannya?

Cranium AI Card memungkinkan organisasi untuk mengumpulkan dan berbagi informasi tentang kepercayaan dan kepatuhan model AI mereka dengan klien dan regulator, serta memperoleh visibilitas keamanan sistem AI vendor mereka. Pada akhirnya, kami bertujuan untuk memberikan tim keamanan dan kepatuhan dengan kemampuan untuk memvisualisasikan dan memantau keamanan AI dalam rantai pasokan mereka, menyelaraskan sistem AI mereka dengan persyaratan kepatuhan saat ini dan mendatang, serta dengan mudah berbagi bahwa sistem AI mereka aman dan dapat dipercaya.

Apa saja masalah kepercayaan yang dimiliki orang dengan AI yang diselesaikan dengan solusi ini?

Orang umumnya ingin tahu apa yang ada di balik AI yang mereka gunakan, terutama karena semakin banyak alur kerja sehari-hari yang dipengaruhi oleh AI. Kami bertujuan untuk memberikan klien kami kemampuan untuk menjawab pertanyaan yang akan mereka terima dari pelanggan mereka sendiri, seperti “Bagaimana ini dikelola?”, “Apa yang dilakukan untuk mengamankan data dan model?”, dan “Apakah informasi ini telah divalidasi?”. AI Card memberikan organisasi cara cepat untuk menangani pertanyaan-pertanyaan ini dan untuk menunjukkan transparansi dan kepercayaan sistem AI mereka.

Pada Oktober 2022, Kantor Sains dan Teknologi Gedung Putih (OSTP) menerbitkan Blueprint untuk Hak AI, yang membagikan peta jalan non-mengikat untuk penggunaan AI yang bertanggung jawab. Apakah Anda dapat membahas pandangan pribadi Anda tentang kelebihan dan kekurangan tagihan ini?

Meskipun sangat penting bahwa Gedung Putih mengambil langkah pertama dalam mendefinisikan prinsip-prinsip panduan untuk AI yang bertanggung jawab, kami tidak percaya itu cukup jauh untuk memberikan panduan bagi organisasi dan bukan hanya individu yang khawatir tentang keputusan berbasis AI. Panduan regulasi di masa depan harus tidak hanya untuk penyedia sistem AI, tetapi juga pengguna untuk memahami dan memanfaatkan teknologi ini dengan cara yang aman dan terjamin. Pada akhirnya, manfaat utama adalah sistem AI akan lebih aman, lebih inklusif, dan lebih transparan. Namun, tanpa kerangka risiko untuk organisasi mempersiapkan regulasi di masa depan, ada potensi untuk memperlambat laju inovasi, terutama dalam keadaan di mana memenuhi persyaratan transparansi dan keterjelasan secara teknis tidak mungkin.

Bagaimana Cranium AI membantu perusahaan mematuhi Bill of Rights ini?

Cranium Enterprise membantu perusahaan dalam mengembangkan dan mengirimkan sistem yang aman dan terjamin, yang merupakan prinsip kunci pertama dalam Bill of Rights. Selain itu, AI Card membantu organisasi memenuhi prinsip pemberitahuan dan penjelasan dengan memungkinkan mereka untuk berbagi detail tentang bagaimana sistem AI mereka bekerja dan data apa yang mereka gunakan.

Apa itu Kerangka Manajemen Risiko AI NIST, dan bagaimana Cranium AI membantu perusahaan dalam memenuhi kewajiban kepatuhan AI mereka untuk kerangka ini?

Kerangka Manajemen Risiko AI NIST adalah kerangka untuk organisasi untuk lebih baik mengelola risiko yang terkait dengan AI. Ini mengikuti struktur yang sangat mirip dengan kerangka lainnya dengan menguraikan hasil dari program manajemen risiko yang sukses untuk AI. Kami telah memetakan AI Card kami ke objek yang diuraikan dalam kerangka untuk mendukung organisasi dalam melacak bagaimana sistem AI mereka sesuai dengan kerangka dan karena platform perusahaan kami sudah mengumpulkan banyak informasi ini, kami dapat mempopulasi dan memvalidasi beberapa bidang secara otomatis.

Aktivitas AI Uni Eropa adalah salah satu legislasi AI paling monumental yang pernah kita lihat dalam sejarah baru-baru ini, mengapa perusahaan non-UE harus mematuhinya?

Mirip dengan GDPR untuk privasi data, Aktivitas AI akan secara mendasar mengubah cara perusahaan global mengembangkan dan mengoperasikan sistem AI mereka. Organisasi yang berbasis di luar UE masih perlu memperhatikan dan mematuhinya, karena sistem AI yang menggunakan atau mempengaruhi warga UE akan tunduk pada persyaratan, terlepas dari yurisdiksi perusahaan.

Bagaimana Cranium AI mempersiapkan diri untuk Aktivitas AI Uni Eropa?

Di Cranium, kami telah mengikuti pengembangan Aktivitas AI sejak awal dan telah menyesuaikan desain penawaran produk AI Card kami untuk mendukung perusahaan dalam memenuhi persyaratan kepatuhan. Kami merasa memiliki awal yang sangat baik karena kesadaran awal kami tentang Aktivitas AI dan bagaimana ia berkembang selama bertahun-tahun.

Mengapa AI yang bertanggung jawab harus menjadi prioritas bagi perusahaan?

Kecepatan di mana AI dimasukkan ke dalam setiap proses bisnis dan fungsi berarti bahwa hal-hal dapat kehilangan kontrol dengan cepat jika tidak dilakukan dengan bertanggung jawab. Memprioritaskan AI yang bertanggung jawab sekarang di awal revolusi AI akan memungkinkan perusahaan untuk berkembang lebih efektif dan tidak menemui hambatan besar dan masalah kepatuhan di kemudian hari.

Apa visi Anda untuk masa depan Cranium AI?

Kami melihat Cranium menjadi raja kategori yang sebenarnya untuk AI yang aman dan dapat dipercaya. Meskipun kami tidak dapat menyelesaikan semua masalah, seperti tantangan kompleks seperti penggunaan etis dan keterjelasan, kami bertujuan untuk bermitra dengan pemimpin di bidang lain dari AI yang bertanggung jawab untuk menggerakkan ekosistem yang membuatnya sederhana bagi klien kami untuk menangani semua bidang AI yang bertanggung jawab. Kami juga bertujuan untuk bekerja dengan pengembang solusi AI generatif inovatif untuk mendukung keamanan dan kepercayaan kemampuan ini. Kami ingin Cranium memungkinkan perusahaan di seluruh dunia untuk terus berinovasi dengan cara yang aman dan terpercaya.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Cranium AI.