Cillian Kieran, Pendiri dan CEO Ethyca – Seri Wawancara

Cillian Kieran, Pendiri dan CEO Ethyca, adalah seorang wirausaha serial dan insinyur privasi dengan lebih dari dua dekade pengalaman membangun bisnis teknologi yang intensif data. Sebelum mendirikan Ethyca pada 2019, ia memimpin biro digital CKSK selama satu dekade dan kemudian mendirikan BrandCommerce, memanfaatkan latar belakangnya dalam teknik perangkat lunak, pengalaman pengguna, dan program data perusahaan besar. Di Ethyca, Kieran telah fokus pada mengubah privasi dan tata kelola data dari fungsi kepatuhan manual menjadi infrastruktur yang dapat disematkan langsung dalam cara organisasi membangun dan mengoperasikan teknologi.

Ethyca mengembangkan infrastruktur data tepercaya yang membantu perusahaan menemukan informasi sensitif, mengelola persetujuan, memenuhi permintaan privasi, dan menerapkan aturan yang mengatur bagaimana data digunakan di seluruh aplikasi konvensional dan sistem kecerdasan buatan. Platformnya dibangun di sekitar Fides, bahasa tata kelola sumber terbuka yang menciptakan kerangka kerja konsisten untuk mendefinisikan, memeriksa, dan menerapkan penggunaan data yang diizinkan di seluruh sistem, API, dan pipa kecerdasan buatan. Perusahaan ini sekarang meluncurkan Astralis, lapisan tata kelola kecerdasan buatan yang menggabungkan penilaian regulasi otomatis dengan kontrol akses berbasis tujuan, memungkinkan organisasi menentukan mengapa model dan agen mengakses data tertentu dan menerapkan izin tersebut secara real-time. Ethyca mengatakan platform ini dapat mengurangi penilaian yang biasanya memerlukan 40 hingga 60 jam kerja manual menjadi sekitar 20 hingga 40 menit, membantu perusahaan memperluas penerapan kecerdasan buatan tanpa membiarkan proses tata kelola menjadi bottleneck.

Anda mendirikan beberapa perusahaan sebelum meluncurkan Ethyca pada 2019, termasuk membangun CKSK menjadi konsultasi digital global yang melayani organisasi Fortune 500. Pengalaman apa selama perjalanan itu yang meyakinkan Anda bahwa tata kelola data, bukan model kecerdasan buatan itu sendiri, akan menjadi bottleneck yang menentukan untuk adopsi kecerdasan buatan perusahaan?

Saya menghabiskan waktu bertahun-tahun membangun konsultasi digital yang melayani perusahaan besar seperti Heineken, Sony, dan Pepsi selama ledakan iklan digital dan media sosial. Berulang kali, saya menyaksikan pola yang sama terjadi. Teknologi yang kuat tiba, semua orang berlomba untuk mengadopsinya, dan hanya setelah itu tertanam dalam bisnis, regulator menunjukkan untuk memasang rel pengaman di sekitarnya, meninggalkan tim kepatuhan untuk menangani konsekuensinya. Ambil GDPR, serangan pertama yang nyata terhadap cara perusahaan menggunakan data pribadi. Regulator hanya mengambil tindakan setelah martech dan media sosial telah mengubah pengumpulan data menjadi tulang punggung model bisnis mereka. Jelas bagi saya bahwa pola yang sama akan terjadi dengan kecerdasan buatan.

Apa yang memperkuat dugaan yang saya miliki adalah pekerjaan kepatuhan privasi yang saya lakukan di Ethyca. Dalam membangun sistem kepatuhan untuk perusahaan besar, saya menyadari bahwa Anda bisa meletakkan lapisan di sekitar data perusahaan yang mengevaluasi setiap permintaan terhadap tiga hal: apa data itu, apa yang diizinkan untuk dilakukan dengannya, dan apa risikonya jika Anda melakukannya. Bekerja pada itu membuat kendala yang sebenarnya menjadi jelas. Perusahaan tidak kekurangan data. Mereka kekurangan lapisan tata kelola yang menentukan data apa yang diizinkan untuk digunakan. Itulah taruhan yang kami buat pada 2019, dan sejak munculnya kecerdasan buatan, itu hanya menjadi lebih relevan.

Selama setahun terakhir, kecerdasan buatan perusahaan telah bergeser dari chatbot sederhana ke agen kecerdasan buatan otonom yang dapat membuat keputusan dan mengambil tindakan. Bagaimana evolusi itu mengubah tantangan tata kelola yang dihadapi organisasi, dan mengapa pendekatan kepatuhan tradisional tidak lagi efektif?

Orang-orang berbicara tentang kecerdasan buatan perusahaan dan ROI-nya seolah nilai itu berasal dari sekadar memasang agen ke dalam alur kerja. Pada kenyataannya, nilai itu berasal dari menghubungkan agen tersebut ke berbagai sistem, sehingga dapat mensintesis data dan menghasilkan output yang tidak dapat dilakukan manusia dalam waktu yang sama. Akses ke data adalah bottleneck yang sebenarnya.

Namun, hal yang membuat agen itu berharga adalah juga yang membuatnya berisiko. Semakin banyak sistem yang dihubungkan, semakin banyak data yang mengalir dari satu bagian organisasi ke bagian lain, dan setiap aliran tersebut menjadi kesempatan bagi data untuk berakhir di tempat yang salah.

Setiap aliran tersebut perlu diperiksa: apakah data ini diizinkan untuk digunakan dengan cara ini, untuk tujuan ini, di bawah hukum privasi dan kebijakan kami? Ketika ada beberapa keputusan seperti itu setiap hari, manusia dapat membuat setiap keputusan secara manual. Ketika ada agen kecerdasan buatan yang mengeluarkan ribuan permintaan per detik, itu menjadi mustahil bagi manusia. Itulah titik di mana kepatuhan tradisional gagal.

Untuk valuasi yang berbusa dari perusahaan kecerdasan buatan besar untuk direalisasikan, tata kelola harus bergerak ke waktu nyata, dengan kecepatan mesin, pada saat data diakses.

Ethyca meluncurkan Astralis sebagai lapisan tata kelola untuk kecerdasan buatan perusahaan. Apa tantangan pelanggan spesifik yang menyebabkan pembuatan platform ini, dan mengapa sekarang adalah waktu yang tepat untuk memperkenalkannya?

Pekerjaan membersihkan data untuk kecerdasan buatan masih terjadi dengan cara yang sama seperti untuk privasi pada 2016, dengan orang mengisi kuesioner dan menjalankan penilaian secara manual. Proses itu sudah terlalu lambat untuk pekerjaan privasi biasa, dan melawan volume kasus kecerdasan buatan, itu tidak memiliki kesempatan. Sebagian besar dari apa yang dijual sebagai tata kelola kecerdasan buatan sekarang adalah bentuk dan alur kerja yang sama dengan label “kecerdasan buatan” di atasnya. Mengisi formulir bukanlah tata kelola. Apa yang hilang adalah perangkat lunak yang melakukan pekerjaan tata kelola itu sendiri, bukan hanya menghasilkan catatan bahwa seseorang telah melakukannya secara manual. Itulah yang kami bangun Astralis untuk dilakukan.

Permintaan yang kami tanggapi datang dari tim yang telah diberitahu untuk mengirim kecerdasan buatan dengan cepat dan aman, dan mereka saat ini tidak dapat melakukan keduanya. Agen masuk ke produksi lebih cepat daripada tim mana pun dapat mengikuti, dan pertanyaan yang diajukan regulator telah berubah. Sebelumnya, mereka bertanya apakah Anda memiliki kebijakan. Sekarang, mereka bertanya apakah Anda dapat menunjukkan bahwa kebijakan itu diikuti pada data tertentu, untuk tujuan tertentu. Sebagian besar perusahaan dapat menjawab pertanyaan pertama dengan baik. Sangat sedikit yang dapat menjawab yang kedua.

Gartner memproyeksikan bahwa perusahaan rata-rata Fortune 500 bisa menjalankan 150.000 agen kecerdasan buatan pada 2028, naik dari hanya 15 pada 2025. Bagaimana pemimpin perusahaan harus memikirkan kembali tata kelola dalam dunia di mana agen otonom mungkin melebihi jumlah karyawan yang berinteraksi dengan data?

Pada 2028, agen yang menyentuh data perusahaan akan melebihi jumlah karyawan yang melakukannya. Ketika aktor yang menggunakan data Anda sebagian besar adalah mesin, siapa yang bertanggung jawab? Model lama menempatkan akuntabilitas pada persetujuan akhir manusia, tetapi ketika sebagian besar keputusan tersebut tidak dibuat atau ditinjau oleh manusia, akuntabilitas harus bergeser dari orang ke sistem.

Perbankan membuat perubahan ini sejak lama. Kami tidak mempercayai bank karena seorang kasir menghitung catatan secara manual. Kami mempercayainya karena kontrolnya kuat, dan karena ada orang yang bertanggung jawab untuk menjaganya. Tata kelola data harus melakukan hal yang sama. Bukti bahwa perusahaan menangani data dengan bertanggung jawab berhenti menjadi bahwa seseorang meninjauinya, dan menjadi bahwa sistem menerapkan kebijakan secara otomatis pada setiap penggunaan, dan dapat menyediakan bukti dari ini, sehingga akuntabilitas terintegrasi. Itu akan memungkinkan pemimpin bisnis untuk fokus pada apa yang mereka lakukan dengan baik: menerapkan penilaian, menetapkan aturan, dan berdiri di belakang sistem.

Astralis menggabungkan Model Regulasi Bahasa Besar (LLRM) dengan Kontrol Akses Berbasis Tujuan (PBAC). Bisakah Anda menjelaskan bagaimana teknologi ini bekerja bersama untuk memastikan sistem kecerdasan buatan memahami tidak hanya siapa yang dapat mengakses data, tetapi juga mengapa mereka seharusnya dapat mengaksesnya?

Kontrol akses tradisional memeriksa siapa Anda, dan jika identitas Anda memungkinkan Anda untuk menyentuh data tertentu.

Tetapi privasi berbeda; itu bukanlah pertanyaan tentang siapa yang masuk. Seseorang dapat sepenuhnya berwenang untuk mengakses dataset dan masih menggunakannya untuk sesuatu yang tidak pernah diizinkan. Pertanyaan yang menjadi penting adalah apa data itu digunakan untuk, dan apakah tujuan itu diizinkan. Itulah yang dijawab dan diterapkan oleh PBAC.

Bagian yang sulit adalah bahwa tujuan bukanlah fakta teknis yang dapat dibaca dari database. Itu tergantung pada apa yang bisnis Anda lakukan, apa yang Anda janjikan kepada pelanggan, dan apa yang diizinkan oleh hukum. Itulah untuk apa LLRM digunakan. Ini mempelajari bagaimana bisnis Anda beroperasi, kemudian bekerja melalui peraturan yang berlaku untuknya. Keluarannya adalah penentuan yang jelas tentang apa yang dapat dan tidak dapat digunakan untuk setiap jenis data. PBAC kemudian menerapkan penentuan itu pada titik akses. LLRM bernalar, PBAC bertindak.

Pengumuman peluncuran Anda menyatakan bahwa penilaian kecerdasan buatan dapat dikurangi dari 40 hingga 60 jam kerja manual menjadi hanya 20 hingga 40 menit. Bagian mana dari proses tata kelola saat ini yang paling tidak efisien, dan di mana otomatisasi menciptakan keuntungan terbesar?

Sebagian besar dari 40 hingga 60 jam itu tidak dihabiskan untuk apa pun yang memerlukan penilaian manusia. Mereka dihabiskan untuk perakitan. Seseorang memetakan data secara manual, menyimpannya dalam spreadsheet, dan kemudian mengejar konteks di seluruh tim. Oleh saat semua itu dikumpulkan, penilaian yang sebenarnya, bagian yang memerlukan seseorang untuk berpikir, adalah irisan kecil dari pekerjaan. Sisa pekerjaan adalah seorang profesional yang bertindak sebagai agen pengumpulan informasi yang bisnis sudah miliki, hanya itu tersebar di seluruh tim.

Yang menjengkelkan adalah bahwa pekerjaan itu tidak pernah selesai. Penilaian adalah foto satu kali, tetapi kasus kecerdasan buatan tidak pernah berhenti muncul. Kasus baru muncul secara konstan, dan setiap kasus memerlukan tinjauan sendiri. Jadi, proses manual tidak hanya lambat sekali, tetapi juga selalu tertinggal dari kecepatan yang diinginkan bisnis, dan akan menjadi tidak terkendali ketika perusahaan

Keuntungan efisiensi datang dari mengubah siapa yang melakukan apa. Sistem itu sendiri mengumpulkan metadata, sehingga tidak ada yang mengejar konteks secara manual. Ini hanya menampilkan pertanyaan yang dapat dijawab oleh manusia – keputusan penilaian yang sebenarnya – bukan membuat seseorang menggiling melalui bidang yang dapat diisi oleh mesin. Dan jejak audit membangun dirinya sendiri saat penilaian terjadi, bukan seseorang menulisnya nanti dari ingatan. Itulah di mana 40 jam menjadi 40 menit.

Salah satu klaim yang paling mencolok adalah bahwa sebuah lembaga keuangan besar di AS memproses sekitar 6.000 permintaan tata kelola per detik melalui Astralis. Apa yang dipelajari dari operasi pada skala itu tentang persyaratan infrastruktur masa depan untuk kecerdasan buatan perusahaan?

Pelajaran itu adalah bahwa tata kelola tidak dapat menjadi langkah terpisah lagi. Pada 6.000 keputusan per detik, itu harus terjadi di dalam jalur data itu sendiri, dengan kecepatan yang sama dengan kueri dan model yang dikelolanya. Untuk kecerdasan buatan, tata kelola harus menjadi infrastruktur: selalu aktif dan selalu online, bukan laporan yang dihasilkan di samping. Ini harus cepat, karena jika tata kelola lambat, itu menjadi hal yang orang lewati untuk memenuhi deadline.

Regulasi kecerdasan buatan terus berkembang dengan cepat di seluruh Amerika Serikat dan Eropa. Bagaimana Anda membangun platform tata kelola yang dapat beradaptasi dengan kerangka hukum yang berubah tanpa memaksa perusahaan untuk melakukan pembaruan kebijakan manual yang konstan?

Kesalahan yang dilakukan oleh sebagian besar alat kepatuhan adalah memasukkan aturan ke dalam produk, sehingga ketika hukum berubah, Anda terjebak menunggu vendor untuk merancang ulang alat tersebut. Astralis dibangun untuk bekerja dengan cara yang berlawanan. Di dasarnya adalah bahasa umum untuk menggambarkan data dan penggunaannya, dan tidak ada aturan yang disimpan. Aturan tersebut duduk terpisah, dalam lapisan kebijakan di atasnya. LLRM membaca regulasi, bekerja melalui apa yang berarti untuk bisnis Anda, dan menulis kebijakan sesuai. PBAC kemudian menerapkan apa yang dikatakan kebijakan tersebut pada saat itu – sehingga perubahan pada aturan meninggalkan mekanisme penerapan sama sekali tidak terganggu.

Ketika regulasi baru tiba, semua upaya perusahaan dapat difokuskan pada memahami apa yang dimaksud untuk bisnis mereka; tidak ada yang pergi ke pengembangan kembali sistem privasi mereka.

Banyak eksekutif khawatir tentang agen kecerdasan buatan yang tidak sah membuat keputusan atau mengakses informasi sensitif. Seberapa realistis kekhawatiran itu saat ini, dan apa yang harus dilakukan organisasi sebagai tindakan pencegahan sebelum mengirim agen kecerdasan buatan dalam skala besar?

Itu sangat realistis, dan itu sudah terjadi. California mengenakan denda sebesar $2,75 juta kepada Disney karena sistemnya tidak dapat secara andal menerapkan sesuatu yang sederhana seperti opt-out pelanggan. Di sistem mereka, konsumen yang memilih keluar pada satu perangkat tetap masuk pada perangkat lain, dan instruksi opt-out tingkat browser tidak dianggap sebagai permintaan yang valid. Insiden itu tidak disebabkan oleh agen yang bertindak tidak terduga, tetapi adalah celah yang cukup sederhana antara apa yang dikatakan kepada pelanggan dan apa yang sistemnya mampu untuk menerapkan.

Tindakan pencegahan yang sebenarnya mencegah hal ini adalah yang tidak glamor: tahu apa data yang Anda pegang dan apa yang Anda komitmen tentang itu, dan simpan semua itu di satu tempat, karena sebagian besar kegagalan ini datang dari janji satu tim yang tidak pernah mencapai database tim lain.

Menghadap ke depan tiga hingga lima tahun, apa yang Anda percayai akan membedakan perusahaan yang sukses mengoperasikan kecerdasan buatan dari mereka yang inisiatif kecerdasan buatan masih terjebak dalam proyek pilot, dan apa peran yang akan dimainkan tata kelola dalam menciptakan keunggulan kompetitif tersebut?

Perbedaan itu akan turun ke apakah sebuah perusahaan memiliki satu sistem untuk mengelola semua data mereka, atau jika mereka memilih untuk menempelkan tata kelola ke setiap database dan tim secara terpisah. Perusahaan yang masih mengelola data mereka departemen per departemen akan terus menghadapi hambatan, karena kecerdasan buatan mencapai di seluruh departemen oleh desain. Setiap perusahaan diberitahu untuk mengirim kecerdasan buatan dengan cepat dan tidak berakhir di surat regulator, dan sampai sekarang keduanya saling bertentangan. Siapa pun yang menyelesaikan keduanya, bukan hanya satu, akan memenangkan dekade.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Ethyca atau Astralis.