Wawancara
Stavros Gadinis, Profesor di Berkeley Law dan Penulis Penataan Korporasi – Seri Wawancara

Poin utamaPemesanan korporat menggambarkan bagaimana perusahaan menulis aturan dan memantau diri…
Lihat selengkapnya
- Pemesanan korporat menggambarkan bagaimana perusahaan menulis aturan dan memantau diri mereka sendiri sebelum regulator bertindak.
- Evaluasi keselamatan AI kehilangan independensi ketika manajemen merekrut dan dapat memecat peninjau eksternalnya sendiri.
- Kerangka keselamatan yang tidak pernah menunda peluncuran tidak dapat dibedakan dari hubungan masyarakat.
Stavros Gadinis adalah George R. Johnson Professor of Law di UC Berkeley School of Law. Risetnya mengkaji tata kelola korporasi, regulasi keuangan, serta sistem internal yang digunakan perusahaan untuk mengambil keputusan dan memantau pelaksanaannya. Sebelum berkarier di dunia akademis, ia berpraktik di bidang hukum korporasi di Eropa.
Buku terbarunya, Penataan Korporasi: Bagaimana Korporasi Menavigasi Konflik Sosial, yang diterbitkan oleh Cambridge University Press, mengkaji cara perusahaan mengembangkan sistem tata kelola ketika aturan publik belum mapan. Melalui kasus-kasus yang melibatkan layanan berbagi tumpangan, keberlanjutan iklim, dan kecerdasan buatan, buku ini membahas cara perusahaan menetapkan aturan, menjalankan kewenangan, dan mengawasi perilaku mereka sendiri.
Karier Anda mencakup praktik hukum korporasi di Eropa serta riset tentang tata kelola korporasi dan regulasi keuangan di Berkeley Law. Bagaimana latar belakang tersebut membentuk pemikiran Anda, dan apa yang menginspirasi Anda menulis Penataan Korporasi?
Saya memulai karier dengan berpraktik di bidang hukum korporasi di Eropa, lalu menghabiskan bertahun-tahun di Berkeley untuk mengkaji tata kelola korporasi dan regulasi keuangan, termasuk bagaimana aturan menyebar lintas batas ketika tidak ada satu pemerintahan pun yang memegang kendali. Kita cenderung menganggap dunia bisnis dan dunia regulasi sebagai dua hal yang berlawanan: yang satu ingin mengambil keputusan dengan cepat dan meraih keuntungan besar, sedangkan yang lain berpegang pada proses birokratis dan kepentingan publik. Praktik dan riset sama-sama mengajarkan kepada saya bahwa batas antara keduanya jauh lebih samar daripada yang kita kira.
Buku ini berawal dari percakapan dengan penasihat hukum umum dan eksekutif senior tentang cara mereka menangani keputusan kontroversial, yakni keputusan yang menyangkut kepentingan berbeda-beda dari karyawan, pelanggan, masyarakat, dan pemerintah. Yang menarik bagi saya adalah betapa miripnya metode mereka dengan metode regulator yang baik. Mereka mengumpulkan informasi dengan melibatkan orang-orang yang terdampak, menjelaskan pilihan mereka kepada publik, dan membangun mekanisme untuk memeriksa apakah pilihan tersebut dapat dipertanggungjawabkan. Ini bukan kebiasaan yang khusus dimiliki regulator ataupun perusahaan. Ini adalah prinsip pengambilan keputusan yang baik di lembaga mana pun yang memiliki kekuasaan atas pihak lain. Penataan Korporasi merupakan upaya saya untuk menjelaskan mekanisme tersebut, menunjukkan bagian yang berhasil dan bagian yang gagal.
Apa yang dimaksud dengan “penataan korporasi”, dan bagaimana konsep ini membantu menjelaskan cara perusahaan AI menetapkan aturan bagi teknologi yang belum mampu diimbangi oleh regulasi?
Penataan korporasi adalah infrastruktur tata kelola internal yang dibangun perusahaan untuk mengambil keputusan yang diperselisihkan sebelum hukum menentukan apa yang harus mereka lakukan. Infrastruktur ini memiliki tiga fungsi yang mencerminkan cabang-cabang pemerintahan. Penyusunan aturan adalah cara perusahaan merumuskan prinsip-prinsipnya sendiri. Tindakan eksekutif adalah cara perusahaan menerapkan prinsip-prinsip tersebut pada keputusan konkret. Pemantauan adalah cara perusahaan memeriksa apakah prinsip-prinsip itu benar-benar diterapkan dan mengetahui ketika penerapannya tidak berjalan sebagaimana mestinya.
Perusahaan AI menjalankan ketiga fungsi tersebut. Laboratorium terdepan menyusun konstitusi, spesifikasi model, dan kerangka keselamatan—itulah penyusunan aturan. Mereka memutuskan apakah suatu model siap diluncurkan, hal apa yang akan ditolaknya, dan siapa yang dapat mengaksesnya—itulah tindakan eksekutif. Mereka juga menugaskan pengujian red team, evaluasi eksternal, dan pelaporan insiden—itulah pemantauan. Dalam buku ini, saya memetakan fungsi-fungsi tersebut di berbagai laboratorium utama. Perbedaannya nyata, tetapi demikian pula kecenderungan yang menarik menuju kesamaan, seiring setiap perusahaan menyadari mengapa mereka membutuhkan semua unsur tersebut.
Ada satu hal yang ingin saya tegaskan karena sering disalahartikan: penataan korporasi bukanlah argumen untuk menentang regulasi. Konsep ini menjelaskan bahan dasar yang akan digunakan untuk menyusun regulasi. Ketika legislator bertindak, mereka meminjam konsep yang lebih dahulu dikembangkan perusahaan. Pertanyaan sebenarnya adalah apakah draf awal tersebut disusun dengan cukup cermat sehingga layak untuk dipinjam.
Buku Anda mengkaji layanan berbagi tumpangan, keberlanjutan iklim, dan tata kelola AI. Pelajaran apa dari dua bidang pertama yang paling berguna bagi AI, dan tantangan apa yang secara mendasar berbeda dalam bidang AI?
Pelajaran dari layanan berbagi tumpangan dan iklim adalah bahwa perusahaan sangat sering menyusun draf awal undang-undang. Uber dan Lyft mengembangkan praktik pelaporan keselamatan dan asuransi sebelum negara bagian memiliki aturan tentang hal itu, sementara sebagian besar akuntansi karbon perusahaan menggunakan GHG Protocol, sebuah standar yang turut dikembangkan oleh pelaku bisnis. Regulator kemudian menyetujui praktik-praktik tersebut, melengkapinya, atau menuangkannya ke dalam undang-undang. Regulasi jarang sekali dimulai dari nol. Semakin cermat perusahaan mempertimbangkan pilihan mereka dan semakin besar perhatian mereka terhadap pihak-pihak yang terdampak, semakin besar kemungkinan pilihan tersebut tetap dipertahankan dalam regulasi.
AI berbeda dalam dua hal. Pertama, kecepatannya. Regulator sering tertinggal selangkah dari industri, tetapi kesenjangan di bidang AI jauh lebih lebar. Regulator perlu mengandalkan perusahaan untuk mengembangkan standar dan proses internal, sementara upaya mereka sendiri perlu difokuskan pada pengawasan, verifikasi, dan penegakan. Peran mereka pun berbeda, bukan berkurang. Verifikasi adalah ranah yang paling membutuhkan kewenangan publik karena di sanalah konflik kepentingan dengan pihak manajemen paling kuat. Perbedaan kedua adalah jangkauannya. AI menyentuh hampir setiap aspek kehidupan sehari-hari dan telah menjadi investasi besar bagi seluruh bangsa. Implikasi risiko sistemiknya sangat jelas, meski sulit dipahami sepenuhnya.
Ketika perusahaan AI memilih dan membayar evaluator keselamatan eksternal mereka sendiri, perlindungan apa yang dapat memastikan pengawasan tersebut benar-benar independen?
Konflik kepentingan ini sudah lazim dalam audit keuangan, dan hukum perusahaan telah memiliki perangkat untuk menanganinya. Pertama, siapa yang berwenang mengangkat dan memberhentikan evaluator. Hubungan dengan evaluator sebaiknya berada di bawah pengawasan direktur independen yang tidak memiliki keterikatan finansial lain dengan perusahaan, sebagaimana komite audit—bukan CEO atau CFO—mengawasi auditor eksternal. Manajemen tidak seharusnya dapat memberhentikan peninjau hanya karena temuannya tidak sesuai dengan keinginan perusahaan.
Kedua, akses dan publikasi. Evaluator perlu dapat melihat apa pun yang ingin diperiksanya, dan memiliki hak untuk memublikasikan temuannya, atau setidaknya ringkasan yang bermakna, tanpa dapat diveto oleh perusahaan. Risiko reputasilah yang membuat peninjauan memiliki daya tekan. Ketiga, standar peninjauan yang seragam, agar evaluasi memiliki arti yang sama di berbagai perusahaan dan para evaluator tidak dapat bersaing dengan bersikap lunak. Keempat, perlindungan bagi pelapor pelanggaran, bahkan imbalan jika mereka menyampaikan informasi yang dapat ditindaklanjuti, karena orang-orang di dalam perusahaan sering kali menjadi pihak pertama yang mengetahui jika suatu evaluasi diarahkan.
Misalkan evaluator eksternal menemukan masalah keselamatan serius tepat sebelum peluncuran besar suatu model. Siapa yang seharusnya menerima temuan itu, dan siapa yang seharusnya berwenang menunda atau menghentikan penerapannya?
Temuan tersebut seharusnya disampaikan langsung kepada dewan, idealnya kepada komite direktur independen yang bertanggung jawab atas keselamatan, bukan hanya melalui tim manajemen yang mendorong peluncuran. Manajemen dapat dan seharusnya memberikan tanggapan, tetapi tidak boleh menjadi penyaring. Wewenang untuk menunda atau menghentikan penerapan seharusnya berada di tangan dewan, karena keputusan seperti inilah yang memang menjadi tugas dewan: keputusan dengan risiko besar, kepentingan yang saling bertentangan, dan tidak ada jawaban yang jelas benar.
Namun, yang lebih penting adalah keputusan tersebut harus dinyatakan secara tegas, didokumentasikan, dan dapat ditelusuri hingga ke orang-orang yang mengambilnya. Jika dewan tetap melanjutkan meski ada kekhawatiran, catatan harus menunjukkan apa yang diketahuinya, apa saja yang dipertimbangkannya, dan mengapa dewan menilai risiko tersebut dapat diterima. Jejak dokumentasi itu menciptakan dasar untuk pertanggungjawaban hukum, atau setidaknya kerusakan reputasi, dan membuat orang berpikir dua kali. Pengadilan semakin bersedia mengakui bahwa pilihan desain dalam perangkat lunak berdampak pada pengguna, dan perusahaan yang dapat menunjukkan upaya serius yang terdokumentasi berada dalam posisi yang sangat berbeda dari perusahaan yang tidak dapat menunjukkannya.
Ketika masalah keselamatan berbenturan dengan target pendapatan atau tekanan persaingan, seperti apa proses pengambilan keputusan dewan yang dapat dipercaya?
Proses yang dapat dipercaya adalah proses yang didasarkan pada informasi memadai dan meninggalkan catatan. Dewan harus melihat informasi konkret tentang biaya penundaan, sifat dan kemungkinan terjadinya masalah keselamatan, serta opsi untuk menguranginya. Dewan harus menanyakan apakah pengujian sudah memadai dan, jika belum, menugaskan pengujian tambahan atau meminta peninjauan dari pihak luar. Jika masih ada ketidakpastian yang nyata, tersedia pilihan di antara meluncurkan dan membatalkan, seperti merilis secara terbatas, meluncurkan secara bertahap, atau menggunakan lingkungan uji terisolasi, yang memungkinkan perusahaan memperoleh lebih banyak informasi sebelum mengambil keputusan. Apa pun keputusan dewan, pernyataan publik perusahaan selanjutnya mengenai keselamatan model harus akurat; di sinilah banyak risiko litigasi saat ini berada.
Selanjutnya, dewan harus mencatat keputusan yang diambil beserta alasannya. Seiring waktu, catatan tersebut menjadi kumpulan preseden, sehingga keputusan sulit berikutnya dapat dibandingkan dengan keputusan sebelumnya dan siapa pun yang meninjau perusahaan dapat melihat apakah prinsip-prinsip yang dinyatakannya benar-benar mengikat. Microsoft telah mulai membangun catatan keputusan semacam ini, dan menurut saya, ini adalah salah satu perangkat tata kelola AI yang paling kurang dihargai. Tekanan persaingan memang nyata, dan dewan mungkin secara wajar memutuskan untuk tetap melanjutkan. Namun, dewan tidak boleh membiarkan keputusan terjadi begitu saja tanpa pertimbangan.
Karya Anda mengusulkan standar “pertimbangan bisnis sosial” untuk mengevaluasi keputusan dewan. Bagaimana standar itu berlaku bagi perusahaan AI yang menunda peluncuran produk yang menguntungkan karena potensi dampaknya terhadap masyarakat?
Berdasarkan hukum perusahaan yang berlaku, dewan yang menunda peluncuran produk yang menguntungkan sudah mendapat perlindungan yang kuat. Pengadilan menghormati pertimbangan bisnis direktur, dan menerima laba yang lebih rendah hari ini demi menghindari dampak buruk di kemudian hari sepenuhnya sejalan dengan prinsip tersebut. Pertanyaan yang lebih sulit justru sebaliknya: apakah dewan sungguh-sungguh mempertimbangkan dampak buruk terhadap masyarakat?
Pertimbangan bisnis sosial meminta dewan mengevaluasi potensi dampak buruk terhadap masyarakat sebagaimana dewan mengevaluasi risiko bisnis lainnya, dengan menggunakan metrik yang nyata, terukur, dan spesifik bila memungkinkan. Penekanannya ada pada proses dan uji tuntas, bukan pada hasilnya. Dewan yang memperoleh informasi yang tepat, mendengarkan pihak-pihak yang terdampak, dan mencatat pertimbangannya layak mendapat penghormatan, baik jika menunda peluncuran maupun tetap melanjutkannya. Dewan yang tidak melakukan semua itu tidak layak mendapatkannya. Jadi, dalam kasus yang Anda gambarkan, penundaan itu sendiri bukan persoalannya. Persoalannya adalah apakah dewan dapat menjelaskan bagaimana keputusan itu diambil, dan apakah dewan akan mengambil keputusan yang sama lagi jika menghadapi fakta yang sama.
Perusahaan AI menerbitkan kerangka keselamatan dan komitmen sukarela, tetapi pembaca jarang melihat bagaimana kebijakan tersebut memengaruhi keputusan individual. Bukti apa yang dapat membedakan tata kelola yang efektif dari sekadar upaya hubungan masyarakat?
Sering kali, ketika perusahaan menerbitkan kerangka kerja, publik bertanya-tanya apakah kerangka itu benar-benar diterapkan pada keputusan tertentu atau hanya menjadi retorika yang tidak pernah ditindaklanjuti perusahaan. Jawabannya adalah keterbukaan informasi dalam bentuk tertentu. Alih-alih mengeluarkan lebih banyak pernyataan prinsip, perusahaan sebaiknya melaporkan pilihan konkret yang mereka buat dan bagaimana kerangka tersebut membentuk pilihan itu: peluncuran mana yang ditunda, kemampuan mana yang ditahan, ambang batas risiko mana yang terlampaui, dan apa yang terjadi setelahnya.
Bukti yang paling meyakinkan adalah keputusan yang membuat perusahaan harus menanggung kerugian. Kerangka kerja yang tidak pernah mengubah hasil, menunda peluncuran, ataupun diterapkan dengan mengorbankan pendapatan sulit dibedakan dari sekadar hubungan masyarakat. Pengungkapan ini juga harus cukup spesifik agar dapat diverifikasi. Untuk persoalan yang paling berdampak, verifikasi sebaiknya dilakukan oleh pihak ketiga yang memiliki kredibilitas untuk menyampaikan temuannya secara terbuka.
Di mana batas kemampuan perusahaan untuk mengatur dirinya sendiri? Keputusan apa mengenai risiko AI yang dapat diterima yang memerlukan aturan publik atau pengawasan demokratis?
Batas yang paling penting berkaitan dengan kegagalan dalam melakukan pemantauan. Perusahaan yang berniat baik dan bertanggung jawab pun dapat menghadapi krisis besar, dan pada saat itu konflik kepentingan akan berlipat ganda. Karyawan mungkin menahan informasi yang dapat merugikan pekerjaan atau bonus mereka. Eksekutif mungkin menekan kabar buruk demi menghindari kritik publik. Kekhawatiran akan tuntutan hukum dapat membuat perusahaan enggan bersikap terbuka. Dalam berbagai krisis perusahaan di masa lalu, informasi penting biasanya berasal dari orang-orang yang tidak dapat dikendalikan oleh pimpinan, auditor dan peninjau eksternal, pihak-pihak terdampak, atau pelapor pelanggaran internal yang menggunakan saluran pelaporan independen.
Di sinilah aturan publik paling berperan. Pada tahap penyusunan peraturan, hukum hanya dapat memberi tambahan yang relatif kecil karena undang-undang cenderung meminjam konsep-konsep utamanya dari perusahaan. Hukum dapat berbuat lebih banyak dalam hal keterbukaan informasi dengan menjangkau perusahaan yang tidak bersedia mengungkapkan informasi secara sukarela. Peran terbesarnya adalah dalam verifikasi, yakni dengan mewajibkan peninjauan independen, melindungi pelapor pelanggaran, dan memberikan kewenangan nyata kepada pihak-pihak eksternal yang melakukan pemeriksaan.
Batas lainnya bersifat kolektif. Hal maksimal yang dapat dilakukan satu perusahaan adalah menghentikan dirinya sendiri. Perusahaan itu tidak dapat menghentikan para pesaingnya. Keputusan mengenai risiko bencana, termasuk apakah laju perkembangan teknologi terdepan perlu diperlambat, memerlukan koordinasi lintas perusahaan dan pemerintah, baik di dalam negeri maupun secara internasional. Salah satu model yang menurut saya menjanjikan adalah badan penetap standar internasional seperti ISSB dalam pelaporan keberlanjutan, yang independen dari pemerintah tetapi diawasi oleh dewan wali amanat yang mencakup perwakilan pemerintah. Tatanan korporasi diperlukan untuk pekerjaan ini karena pengendalian model-model tersebut berlangsung di dalam perusahaan yang membangunnya, tetapi perusahaan tidak dapat menjalankan pekerjaan itu sendirian.
Jika saat ini Anda diminta memberi saran kepada dewan direksi sebuah perusahaan AI yang berkembang pesat, tiga perubahan tata kelola apa yang akan Anda prioritaskan, dan bukti apa yang akan Anda cari setahun kemudian untuk menentukan apakah perubahan itu berhasil?
Pertama, menjangkau pihak-pihak terkait dalam penyusunan peraturan. Sebelum mengadopsi atau merevisi kerangka keselamatan atau kebijakan penggunaan, perusahaan sebaiknya berkonsultasi dengan pihak-pihak yang terdampak (pengguna, masyarakat sipil, dan pakar bidang terkait), lalu memublikasikan masukan yang diterima dan tanggapannya. Kedua, pelaporan tanggung jawab secara berkala: laporan tahunan yang merinci keputusan sulit yang dibuat dewan direksi dan manajemen berdasarkan kerangka tersebut, dengan detail yang memadai agar dapat diperiksa. Ketiga, menunjuk pemantau eksternal yang direkrut oleh dan melapor kepada direktur independen, dengan akses penuh dan hak untuk menerbitkan laporannya.
Setahun kemudian, saya akan mencari bukti bahwa masing-masing perubahan benar-benar berdampak. Untuk pelibatan pihak terkait, setidaknya harus ada satu aturan yang berubah karena masukan yang diterima perusahaan. Untuk pelaporan, harus ada pengungkapan keputusan yang sebenarnya lebih ingin dirahasiakan perusahaan, termasuk keputusan yang merugikan pendapatan atau menyita waktu. Untuk pemantau, harus ada temuan yang tidak ingin diterima perusahaan serta catatan tentang tindakan dewan direksi untuk menindaklanjutinya. Jika setelah setahun semua yang dilaporkan merupakan kabar baik, berarti perubahan tersebut belum berhasil.
Terima kasih atas wawancara yang luar biasa ini. Pembaca yang ingin mendalami buku tersebut dan mengetahui pilihan pembelian dapat mengunjungi situs web resmi Tatanan Korporasi.












