Gerald Kierce, CEO dan Co-Founder Trustible – Seri Wawancara

Gerald Kierce, CEO dan Co-Founder Trustible, adalah seorang pemimpin teknologi dan kebijakan yang fokus pada pengoperasian AI yang bertanggung jawab. Ia memimpin misi Trustible untuk membantu organisasi membangun kepercayaan, mengelola risiko, dan mematuhi peraturan AI yang muncul. Sebelumnya, ia menjabat sebagai Wakil Presiden dan General Manager Solusi AI di FiscalNote, di mana ia mengawasi produk AI perusahaan, dan memegang posisi senior di pengembangan perusahaan, produk, keberhasilan pelanggan, dan operasi eksekutif. Karirnya selalu berada di persimpangan teknologi, peraturan, dan eksekusi perusahaan yang dapat diskalakan.

Trustible menyediakan platform tata kelola AI yang membantu organisasi untuk menginventarisasi sistem AI, menilai dan memitigasi risiko, serta mengoperasikan kepatuhan melalui alur kerja dan dokumentasi yang terstruktur. Dirancang untuk tim hukum, kepatuhan, dan AI, platform ini memusatkan kegiatan tata kelola, menyelaraskan kasus penggunaan AI dengan kerangka peraturan, dan memungkinkan penerapan AI yang lebih cepat dan transparan di seluruh perusahaan.

Anda pindah dari pemasaran produk dan pekerjaan Kepala Staf ke pengembangan solusi AI di FiscalNote sebelum mendirikan Trustible. Apa yang Anda lihat dalam peran tersebut yang meyakinkan Anda bahwa tata kelola AI memerlukan platform yang didedikasikan, dan apa masalah yang Anda tentukan untuk diselesaikan pertama kali saat meluncurkan Trustible?

Saya cukup beruntung untuk memiliki banyak peran selama 8+ tahun di FiscalNote, di mana saya memulai sebagai karyawan awal Seed/Series A dan meninggalkan sebagai eksekutif senior setelah IPO.

Di seluruh pemasaran produk, pekerjaan Kepala Staf, dan akhirnya memimpin solusi AI di FiscalNote, saya terus melihat masalah yang sama muncul dari sudut yang berbeda. Tata kelola AI secara fundamental adalah masalah sosioteknis, tetapi kebanyakan organisasi mendekatinya dengan cara yang terfragmentasi. Tim memperlakukan kinerja AI, keamanan, privasi, etika, dan tinjauan hukum sebagai jalur terpisah, sering dimiliki oleh fungsi yang berbeda dengan sedikit tulang punggung operasional yang mempersatukan mereka. Kelima dimensi tersebut sangat penting, dan mereka perlu ditangani secara kolaboratif. Tetapi di mana organisasi mengalami kesulitan adalah menerjemahkan niat sosioteknis tersebut menjadi sesuatu yang tahan lama sekali AI memasuki pengambilan keputusan yang sebenarnya.

Secara bersamaan, lingkungan peraturan sekitar AI jelas berubah. Undang-Undang AI Uni Eropa dan standar terkait menandakan pergeseran menuju mengatur AI sebagai infrastruktur yang diatur daripada teknologi eksperimental. Apa yang menjadi jelas adalah bahwa banyak perusahaan mencoba memetakan kebijakan dan harapan peraturan ke sistem AI setelah penerapan, bukan merancang tata kelola yang dapat terus mengoperasikan niat peraturan di seluruh dimensi sosioteknis.

Pengalaman saya di FiscalNote sangat penting karena kami menerapkan AI ke lanskap hukum, kebijakan, dan peraturan itu sendiri. Kami membantu organisasi memahami bagaimana hukum berevolusi, bagaimana persyaratan ditafsirkan, dan bagaimana harapan peraturan diterjemahkan menjadi kewajiban operasional seiring waktu. Pengalaman itu membuat jelas bahwa tata kelola AI yang efektif memerlukan disiplin yang sama dalam arah yang berlawanan: menerapkan pemikiran kebijakan dan peraturan langsung ke cara sistem AI dibangun, diterapkan, dipantau, dan disesuaikan saat kondisi berubah.

Pelanggan secara konsisten menggambarkan kesulitan yang sama. Mereka tidak bisa dengan percaya diri menjawab apa sistem AI yang ada dalam produksi, mana yang berisiko tinggi di bawah peraturan yang muncul, siapa yang bertanggung jawab ketika sistem melintasi batas fungsional, atau bagaimana menunjukkan kepatuhan yang berkelanjutan saat model, data, vendor, dan peraturan berkembang secara bersamaan.

Ketika kami meluncurkan Trustible, masalah pertama yang kami tentukan untuk diselesaikan adalah mengubah tata kelola sosioteknis dari teori menjadi kenyataan operasional. Kami fokus pada menciptakan sistem yang menghubungkan perilaku teknis, konteks risiko penggunaan, kepemilikan, dan harapan peraturan dalam satu tempat. Trustible dibangun untuk memberikan organisasi sistem catatan yang hidup untuk AI, dengan visibilitas dan akuntabilitas yang berkelanjutan, sehingga tata kelola dapat mengikuti perubahan teknologi dan evolusi peraturan daripada tertinggal.

Apa yang telah Anda pelajari selama setahun terakhir tentang mengapa program tata kelola mandek sekali AI memasuki keputusan yang sebenarnya, alur kerja, dan pengalaman pelanggan?

Sekali AI memasuki alur kerja yang sebenarnya, tata kelola cenderung mandek karena alasan yang sangat praktis daripada filosofis. Kebanyakan organisasi tidak tahu bagaimana menilai risiko AI dengan cara yang sesuai dengan cara sistem tersebut digunakan. Mereka dapat menilai model dalam abstrak, tetapi mereka bergelut untuk menilai risiko pada tingkat penggunaan, di mana konteks, dampak, dan keputusan huluan jauh lebih penting daripada metrik teknis saja.

Masalah ini menjadi lebih menonjol dengan AI generatif. Satu model dasar mungkin digunakan untuk dukungan pelanggan, penelitian internal, dukungan keputusan, atau pembuatan konten, masing-masing dengan profil risiko yang sangat berbeda. Tanpa cara terstruktur untuk menilai dan membandingkan penggunaan tersebut, tim baik berlebihan dalam kehati-hatian atau melanjutkan tanpa kepercayaan yang sebenarnya.

AI pihak ketiga lebih mempersulit hal ini. Organisasi sangat bergantung pada vendor dan kemampuan AI yang tertanam, namun kekurangan metode konsisten untuk menilai sistem tersebut, memahami kontrol huluan, atau menentukan bagaimana risiko vendor diterjemahkan menjadi paparan operasional dan peraturan mereka sendiri. Sebagai hasilnya, tinjauan menjadi subjektif dan lambat.

Tantangan ini diperkuat oleh kesenjangan dalam keahlian dan kepemilikan. Tanggung jawab tata kelola sering dibagi di seluruh tim hukum, kepatuhan, keamanan, data, dan produk tanpa kerangka atau pemilik yang jelas bertanggung jawab sekali sistem mencapai produksi. Dikombinasikan dengan alat yang tidak sesuai seperti spreadsheet, repositori dokumen, atau platform GRC warisan, tim tata kelola kehilangan visibilitas ke dalam apa yang berubah dan mengapa itu penting.

Intinya, tata kelola mandek karena organisasi menerapkan buku pedoman lama yang dirancang untuk sistem statis ke sistem AI dinamis. AI memerlukan evaluasi risiko yang berkelanjutan, kepemilikan yang jelas yang terkait dengan hasil, dan alat yang mencerminkan bagaimana sistem sebenarnya berperilaku dalam produksi daripada bagaimana mereka disetujui di atas kertas.

Akhirnya, kepemilikan sering tidak terpecahkan. Di banyak organisasi, tidak ada pemilik yang jelas bertanggung jawab untuk sistem AI sekali melintasi dari eksperimen ke produksi. Tanpa pemilik bisnis yang bertanggung jawab untuk hasil, tata kelola menjadi penasihat dan kemajuan melambat.

Benang merahnya adalah bahwa organisasi menerapkan buku pedoman tata kelola lama ke teknologi yang secara fundamental baru. Buku pedoman tersebut dibangun untuk sistem statis dan tinjauan periodik. AI memerlukan evaluasi risiko yang berkelanjutan, kepemilikan yang lebih jelas, dan alat yang menghubungkan tata kelola langsung ke bagaimana sistem sebenarnya beroperasi dalam produksi.

Bagaimana Anda mendefinisikan Tata Kelola AI Tahun Kedua, dan apa yang berubah ketika organisasi beralih dari adopsi awal ke pemantauan berkelanjutan, manajemen drift, dan kepatuhan yang berkelanjutan?

Tata Kelola AI Tahun Kedua adalah saat ketika AI berhenti diperlakukan sebagai serangkaian proyek dan mulai diperlakukan sebagai infrastruktur dasar untuk pengambilan keputusan. Apa yang saya maksud dengan ini adalah bahwa, pada tahun pertama, tata kelola AI sebagian besar tentang pemberdayaan. Tim fokus pada menyetujui kasus penggunaan, mendokumentasikan model, dan memasang proses tinjauan sehingga AI dapat melanjutkan secara bertanggung jawab.

Ketika sistem AI berkembang dan menjadi terintegrasi dalam proses bisnis inti, fokusnya bergeser. Pertanyaannya tidak lagi apakah sesuatu harus diterapkan, tetapi apakah dapat dioperasikan dengan aman dan dapat diandalkan seiring waktu ketika data, pengguna, vendor, dan peraturan berubah. Tata kelola AI menjadi berkelanjutan daripada episodik, dipicu oleh perubahan nyata dalam perilaku atau konteks daripada tinjauan berbasis kalender.

Risiko juga menjadi dinamis. Alih-alih menetapkan peringkat risiko statis pada peluncuran, organisasi perlu memahami bagaimana risiko berkembang ketika model bergeser, cakupan berkembang, atau pemangku kepentingan baru berinteraksi dengan sistem. Kepatuhan juga mengikuti pergeseran yang sama. Persyaratan peraturan berpindah dari dipetakan ke kebijakan menjadi ditegakkan melalui kontrol langsung, sinyal pemantauan, dan bukti yang terus ditangkap.

Aspek kunci lain dari Tata Kelola AI Tahun Kedua adalah pengenalan manajemen insiden AI yang sebenarnya. Organisasi perlu tahu sistem mana yang dipantau, memprioritaskan mereka berdasarkan risiko bawaan, mengintegrasikan data yang tepat untuk menampilkan sinyal yang bermakna, dan mendefinisikan kriteria peringatan dan eskalasi yang jelas. Ini memungkinkan tim untuk campur tangan lebih awal, sebelum masalah berubah menjadi insiden.

Dengan sistem yang terfragmentasi dan sumber daya yang terbatas, apa yang Anda anggap sebagai kemampuan tata kelola pertama yang perlu distandarisasi di seluruh organisasi?

Ketika sumber daya terbatas, organisasi perlu bersikap tegas tentang di mana mereka memulai, karena pilihan awal menentukan arah untuk semua yang mengikuti. Prioritas pertama adalah memperoleh visibilitas yang dapat diandalkan tentang di mana AI sebenarnya ada dalam bisnis. Banyak tim percaya bahwa mereka hanya memiliki beberapa sistem AI, hanya untuk menemukan AI bayangan, kemampuan vendor yang tertanam, dan kasus penggunaan yang diperluas yang tidak pernah ditinjau secara formal. Tanpa pandangan hidup tentang apa yang ada dalam produksi, diskusi tata kelola tetap teoretis dan terputus dari kenyataan.

Setelah visibilitas ada melalui Inventaris AI Anda, itu tentang memasukkan akuntabilitas ke dalam kasus penggunaan AI. Tata kelola rusak dengan cepat ketika tanggung jawab dibagi di seluruh komite atau fungsi. Organisasi perlu secara jelas menetapkan siapa yang bertanggung jawab atas hasil ketika sistem AI membuat atau mempengaruhi keputusan, bukan hanya siapa yang membangunnya atau meninjaunya awalnya. Klarifikasi ini menjadi sangat penting ketika insiden terjadi atau ketika model berkembang di luar cakupan aslinya.

Setelah itu, tim perlu memiliki cara praktis untuk berpikir tentang risiko. Ini berarti membangun pendekatan bersama untuk klasifikasi risiko yang bekerja di seluruh sistem yang dibangun internal, kasus penggunaan AI generatif, dan vendor pihak ketiga. Tanpa lensa risiko yang umum, organisasi baik mengawasi sistem risiko rendah secara berlebihan atau memantau yang paling penting dengan kurang.

Akhirnya, tata kelola harus menghasilkan bukti sebagai hasil dari operasi normal. Kami sering berbicara tentang “Katakan, Lakukan, Buktikan” sebagai cara untuk menunjukkan kepercayaan dalam tata kelola AI Anda. Menangkap persetujuan, perubahan, dan sinyal pemantauan saat sistem berjalan memungkinkan organisasi untuk merespons audit, insiden, permintaan pelanggan, dan pertanyaan peraturan dengan percaya diri daripada merekonstruksi keputusan.

Mengapa Anda percaya bahwa tata kelola AI perlu diperlakukan dengan serius seperti keamanan siber atau GRC, dan di mana pemimpin paling meremehkan beban kerja operasional?

Tata kelola AI membawa risiko sistemik yang setara dengan keamanan siber dan GRC, tetapi dengan kompleksitas tambahan. Seperti kegagalan keamanan siber, kegagalan AI dapat menyebar dengan cepat dan tidak terlihat di seluruh organisasi. Seperti GRC, AI bersinggungan dengan kewajiban hukum, etika, dan operasional. Tidak seperti keduanya, sistem AI dapat berubah perilaku seiring waktu tanpa tindakan manusia yang eksplisit.

Di mana pemimpin cenderung meremehkan beban kerja adalah dalam tuntutan operasional yang berkelanjutan. Pemantauan adalah berkelanjutan daripada periodik. Koordinasi melintasi tim produk, data, IT, hukum, kepatuhan, dan pengadaan. Manajemen perubahan adalah konstan karena model, vendor, kasus penggunaan, dan peraturan berkembang secara bersamaan.

Organisasi yang memperlakukan tata kelola AI sebagai latihan kepatuhan satu kali pasti akan bergelut. Mereka yang mendekatinya sebagai infrastruktur operasional, banyak seperti keamanan atau rekayasa keandalan, jauh lebih siap untuk menskalakan AI dengan aman dan berkelanjutan.

Bagaimana perusahaan harus merancang tata kelola yang tetap tangguh melalui ketidakpastian peraturan saat negara-negara bagian AS mendorong ke depan aturan AI sementara kebijakan federal tetap diperdebatkan?

Lingkungan peraturan untuk AI tidak pasti dan berkembang. Program tata kelola yang paling tangguh dibangun di sekitar persyaratan daripada peraturan individual. Alih-alih bereaksi terhadap setiap hukum baru dengan proses khusus, organisasi harus fokus pada harapan umum yang muncul di seluruh yurisdiksi, seperti inventaris, transparansi, akuntabilitas, penilaian risiko, pengawasan manusia, dan dokumentasi.

Ketika sistem tata kelola modular, persyaratan peraturan baru dapat dipetakan ke kontrol yang ada daripada memaksa tim untuk mengubah pendekatan mereka setiap kali lanskap berubah. Ini mengurangi gesekan dan membantu tata kelola untuk mengikuti perubahan kebijakan.

Tujuannya bukanlah untuk mengoptimalkan kepatuhan dengan aturan hari ini, tetapi untuk menyesuaikannya saat harapan berkembang.

Menuju 2026, apa kemampuan tata kelola AI yang Anda harapkan menjadi tidak dapat dinegosiasikan ketika organisasi menskalakan AI di seluruh unit bisnis lebih banyak?

Ketika AI berpindah dari pilot yang terisolasi ke sistem yang membentuk keputusan dunia nyata, harapan tata kelola berubah dengan cepat. Pada 2026, organisasi tidak akan dapat lagi mengandalkan buku pedoman yang bekerja pada 2024 dan 2025, ketika pengawasan AI sering manual, episodik, dan berpusat pada tinjauan individual. Pemantauan berkelanjutan akan menjadi syarat utama, karena dokumentasi statis dan penilaian waktu tertentu tidak akan memuaskan regulator, dewan, karyawan, atau pelanggan dalam lingkungan AI yang dinamis.

Ketika AI menjadi terintegrasi di seluruh tim dan alur kerja, organisasi juga akan memerlukan tata kelola yang konsisten di seluruh rantai pasokan AI yang semakin kompleks. Model internal, vendor pihak ketiga, fitur AI yang tertanam, dan komponen otonom semua perlu dikelola melalui lensa yang sama, bukan memperlakukan AI vendor sebagai titik buta atau menganggap tanggung jawab berakhir pada pengadaan.

Bukti yang siap audit akan diperlukan secara langsung ketika penegakan peraturan memperketat dan harapan transparansi publik meningkat. Ini berarti menangkap aktivitas tata kelola saat sistem AI dirancang, diterapkan, dan dipantau, bukan merekonstruksi keputusan setelah insiden atau permintaan audit.

Jika Anda memberikan saran kepada perusahaan yang sudah memiliki AI dalam produksi tetapi tidak memiliki program tata kelola formal, apa yang akan menjadi 90 hari pertama yang realistis?

30 hari pertama harus fokus pada memperoleh visibilitas dasar. Ini berarti mengidentifikasi sistem AI mana yang ada dalam produksi, memahami di mana mereka mempengaruhi keputusan yang sebenarnya, dan menetapkan kepemilikan yang jelas.

Fase berikutnya adalah tentang membangun kontrol dasar. Organisasi harus mendefinisikan bagaimana mereka mengklasifikasikan risiko, memperkenalkan titik persetujuan untuk sistem risiko yang lebih tinggi, dan mulai memantau area yang paling penting.

Di tahap terakhir, tata kelola perlu berpindah dari pengaturan ke operasi. Pemantauan harus diintegrasikan ke dalam alur kerja yang ada, jalur eskalasi harus didefinisikan dengan jelas, dan bukti harus mulai mengumpulkan secara alami saat sistem berjalan.

Tujuan selama 90 hari pertama bukanlah kesempurnaan. Ini adalah momentum. Program tata kelola yang berfungsi secara tidak sempurna dalam prakteknya jauh lebih berharga daripada yang hanya ada di atas kertas.”

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Trustible.