Pemimpin pemikiran

Mengapa Perusahaan Perlu Menerapkan Tata Kelola AI Berbasis Nilai

Isabella Grandi
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaKerangka tata kelola AI berbasis nilai memungkinkan perusahaan beroperasi secara global…
Lihat selengkapnya
  • Kerangka tata kelola AI berbasis nilai memungkinkan perusahaan beroperasi secara global tanpa harus membangun ulang sistem untuk setiap yurisdiksi.
  • Mengadopsi enam nilai kunci seperti akuntabilitas dan keadilan membangun kepercayaan publik dan memenuhi standar etika tertinggi.
  • Tata kelola AI yang kuat menciptakan nilai bisnis dengan memungkinkan penetrasi pasar yang lebih cepat dan mengurangi risiko di berbagai wilayah.

Pada September 2025, untuk pertama kalinya seluruh negara anggota Perserikatan Bangsa-Bangsa berkumpul untuk membahas tata kelola AI internasional. Banyak negara kembali mengirim perwakilan pada Februari ke AI Impact Summit di Delhi. Pertemuan itu melahirkan dua badan baru yang berfokus pada tata kelola AI, tetapi paling jauh hanya merupakan keberhasilan simbolis.

Mekanisme baru PBB dirancang untuk mencapai konsensus. Karena itu, mekanisme tersebut menghindari bidang yang dipersengketakan, seperti penggunaan AI untuk kepentingan militer, serta tidak memiliki sumber pendanaan yang jelas dan kewenangan penegakan. Hal ini seharusnya tidak mengejutkan pengamat berpengalaman. PBB saat ini tidak mampu bergerak cepat atau menjamin semua pihak mematuhi keputusannya, sehingga sulit menghasilkan perubahan nyata melalui forum ini.

Situasi ini mengikuti pola yang sudah lama terbentuk. Meskipun upaya membangun konsensus mengenai regulasi AI telah berlangsung secara terpencar selama bertahun-tahun, belum ada kesepakatan internasional yang signifikan. Kekosongan itu memaksa masing-masing negara dan blok negara menyusun aturannya sendiri. Namun, tata kelola AI yang efektif sangat penting jika kita ingin AI diadopsi secara luas, dipercaya masyarakat, dan digunakan untuk menghasilkan manfaat sosial dan ekonomi yang bertahan lama

Bertahan dengan Solusi Tambal Sulam

Bagi perusahaan global yang mengembangkan dan mengoperasikan sistem AI, ketiadaan mekanisme tata kelola bersama yang disepakati merupakan masalah. Mereka ingin menerapkan sistem AI di seluruh dunia, tetapi tidak ada dua yurisdiksi yang menggunakan aturan persis sama. Akibatnya, mereka harus membuat kerangka tata kelola umum untuk sistemnya, kemudian membangunnya kembali dari awal di setiap negara tempat mereka beroperasi agar sesuai dengan hukum dan peraturan setempat. Pendekatan ini menimbulkan pekerjaan tambahan yang sangat besar, meningkatkan biaya inisiatif AI dan risiko keterlambatan, serta mengurangi kemampuan perusahaan global memperoleh skala ekonomi dan menyediakan alat yang efektif bagi pengguna di mana pun.

Namun, ada alternatif. Bagi perusahaan yang ingin menyederhanakan pendekatannya, pilihan terbaik mungkin berupa kerangka tata kelola AI yang memperhitungkan prinsip etika bersama di berbagai wilayah dan menjamin standar tinggi untuk melindungi kebebasan, privasi, serta keamanan individu di semua tempat. Cara ini dapat membantu bisnis AI meningkatkan kepercayaan publik terhadap teknologinya, memperkuat basis pelanggan, dan memanfaatkan potensi manfaat AI bagi masyarakat.

Enam Nilai Utama dalam Tata Kelola AI

Bagi organisasi yang tertarik menerapkan tata kelola AI berbasis nilai, saya menyarankan enam nilai utama yang kami pegang: akuntabilitas, keterjelasan proses pengambilan keputusan, transparansi, keadilan, keamanan, dan kemampuan menggugat atau mengajukan keberatan atas keputusan.

Kami memilih nilai-nilai ini karena mencakup semua bidang utama dalam siklus hidup sistem AI dan telah dituangkan dalam berbagai standar AI internasional maupun nasional, seperti standar Organisasi Internasional untuk Standardisasi ISO/IEC 42001 dan Buku Panduan Kecerdasan Buatan untuk Pemerintah Inggris.

Pertama, akuntabilitas berarti mengetahui siapa bertanggung jawab atas apa pada setiap tahap siklus hidup AI. Tanpa pembagian tanggung jawab yang jelas, kontrol penting bisa terlewat karena tidak ada individu atau tim yang memikul tanggung jawab akhir. Organisasi perlu menunjuk secara tegas nama pejabat senior, seperti Chief AI Officer, yang bertanggung jawab atas sistem AI dan tahap-tahap utama. Mereka perlu menggunakan model tata kelola berbasis risiko dan memeriksa alat pihak ketiga sama ketatnya dengan alat yang dikembangkan secara internal. Artinya, organisasi harus memahami ketentuan, batasan, dan tanggung jawab hukum pemasok sebaik mereka memahami sistemnya sendiri.

Organisasi untuk Kerja Sama dan Pembangunan Ekonomi, OECD, merangkum hal ini dengan baik dalam panduannya untuk meningkatkan akuntabilitas AI, yang menganjurkan organisasi menciptakan “mekanisme untuk mengintegrasikan proses manajemen risiko AI ke dalam tata kelola organisasi yang lebih luas, serta menumbuhkan budaya manajemen risiko baik di dalam organisasi maupun di seluruh rantai nilai AI”.

Berikutnya adalah keterjelasan proses pengambilan keputusan. Organisasi harus dapat menunjukkan bagaimana sistem AI mencapai suatu keputusan. Untuk itu diperlukan mekanisme dokumentasi dan penelusuran pengambilan keputusan, disertai catatan yang jelas mengenai desain sistem, data pelatihan, serta proses keputusan. Secara bersama-sama, hal ini memungkinkan tim memahami asal-usul dan alur informasi sejak sistem pertama kali dirancang hingga diterapkan.

Keadilan berfokus pada memastikan sistem AI menghasilkan keluaran yang adil dan tidak meniru atau memperkuat bias yang sudah ada. Tanpa pemeriksaan yang disengaja, sistem dapat menimbulkan kerugian melalui hasil yang bias, terutama dalam bidang berdampak besar seperti rekrutmen, layanan kesehatan, dan peradilan pidana. Untuk mengurangi masalah ini, organisasi perlu menerapkan langkah deteksi bias, meninjau keluaran secara rutin untuk kelompok yang relevan, dan merancang kerangka tata kelola yang dapat mengakomodasi persyaratan nondiskriminasi setempat. Dalam praktiknya, sistem harus memenuhi standar hukum tertinggi yang kemungkinan akan dihadapi, termasuk kewajiban dalam undang-undang seperti Equality Act 2010 Inggris dan Piagam Hak-Hak Dasar Uni Eropa.

Transparansi memberikan kejelasan bagi pengguna dan regulator. Orang perlu memahami kapan AI digunakan, perannya dalam pengambilan keputusan, dan data yang menjadi dasarnya. Langkah awal yang praktis adalah menyeragamkan dokumentasi sistem AI dengan dukungan alat internal seperti kartu model: dokumen singkat yang menyertai model pembelajaran mesin dan menjelaskan konteks penggunaan yang dimaksud, rincian prosedur evaluasi kinerja, serta informasi relevan lainnya. Tanpa transparansi, pengguna tidak dapat menggugat hasil yang tidak adil, regulator tidak dapat melakukan intervensi secara efektif, dan dampak merugikan bisa disembunyikan.

Keamanan mencakup perlindungan sistem AI dari akses tanpa izin, manipulasi, atau perilaku yang tidak dimaksudkan. Keamanan yang lemah dapat membahayakan organisasi, pengguna, dan data mereka, serta menimbulkan kerugian finansial dan reputasi. Organisasi perlu menetapkan ambang kinerja dan akurasi, melakukan uji ketahanan sistem dalam kondisi realistis, dan menyertakan pengujian red team untuk menemukan kerentanan.

Terakhir, kemampuan menggugat keputusan memastikan orang memiliki cara yang jelas dan mudah diakses untuk mempertanyakan atau mengajukan banding atas keputusan berbasis AI. Tanpanya, pengguna terdampak tidak memiliki jalan untuk memperoleh pemulihan, dan masalah mungkin tidak pernah terungkap atau diselesaikan. Organisasi perlu menyediakan saluran pelaporan di tempat penggunaan, menunjuk pejabat senior untuk menangani keluhan, dan memastikan sistem dapat dijeda, ditinjau, atau diperbarui bila diperlukan.

Apa Manfaat Kerangka Berbasis Nilai?

Ada dua alasan kuat untuk menggunakan pendekatan tata kelola AI berbasis nilai ini. Pertama, pihak yang mengembangkan dan menerapkan sistem AI memiliki tanggung jawab etis terhadap orang dan organisasi yang terdampak sistem tersebut. Kedua, pendekatan ini lebih efektif untuk mewujudkan manfaat AI yang dijanjikan dalam praktik.

Pengguna sistem AI, baik perusahaan maupun individu, secara tersirat percaya bahwa pembuatnya tidak akan menyalahgunakan data pribadi atau membuat mereka menghadapi risiko yang tidak perlu. Ketika organisasi mengkhianati kepercayaan itu, sangat sulit mempertahankan pengguna. Pada akhirnya, orang tidak akan menerima penerapan sistem kecuali kedua syarat terpenuhi: mereka mempercayai sistem tersebut dan melihat manfaat jelas yang diberikannya. Jika tidak, perpecahan sosial dan ekonomi akan meningkat, dan kita akan kehilangan banyak peluang yang ditawarkan teknologi ini.

Sebaliknya, perusahaan yang menerapkan kerangka berbasis nilai di semua tempat, termasuk wilayah dengan persyaratan tata kelola yang lebih longgar, dapat menunjukkan kepada pelanggan, investor, dan regulator bahwa mereka menetapkan standar yang lebih tinggi daripada tuntutan kepatuhan dasar. Hal ini membangun kepercayaan, keterlibatan, dan pada akhirnya keberhasilan bisnis.

Tata kelola AI yang kuat menciptakan nilai, bukan menjadi beban kepatuhan. Tata kelola ini memungkinkan bisnis membawa produk baru ke pasar lebih cepat, mengurangi paparan risiko, dan memperluas solusi ke berbagai pasar dengan percaya diri.

Laporan McKinsey “Keadaan AI” menyatakan, berdasarkan temuannya, bahwa “pengawasan CEO terhadap tata kelola AI… merupakan salah satu unsur yang paling berkorelasi dengan dampak yang lebih tinggi pada laba bersih, sebagaimana dilaporkan sendiri oleh organisasi, dari penggunaan AI generatifnya”, yang menegaskan manfaat komersial pendekatan ini. Dalam pengertian itu, menanamkan kerangka etika yang kuat ke dalam sistem AI merupakan bentuk kepentingan diri yang berwawasan.

Di luar semua itu, inilah tindakan yang benar. Kami membangun kebijakan AI etis global kami berdasarkan prinsip yang sama: teknologi canggih harus melayani manusia dan masyarakat, bukan sebaliknya. Ini mencerminkan visi Masyarakat 5.0 yang lebih luas, sebuah model inovasi berpusat pada manusia yang berupaya menggabungkan kemajuan ekonomi dengan penyelesaian tantangan sosial.

Jika teknologi baru seperti AI ingin membantu mewujudkan masyarakat yang lebih bahagia dan harmonis, teknologi itu harus dibangun di atas landasan etika yang kuat. Langkah awalnya adalah memperhatikan bukan hanya standar yang wajib dipenuhi organisasi, tetapi juga standar yang ingin mereka capai.

Isabella Grandi adalah Direktur Strategi Data & AI, Tata Kelola dan Etika di NTT DATA UK&I. Ia bermitra dengan organisasi untuk merancang dan menerapkan AI yang bertanggung jawab & tata kelola AI yang memindahkan mereka dari keadaan saat ini ke model operasional yang lebih matang, berbasis data.

Ia bekerja untuk memasukkan praktik etis dan manajemen risiko AI yang kuat ke dalam cara organisasi merancang dan menerapkan AI, memastikan penggunaan yang bertanggung jawab dibangun ke dalam struktur pengambilan keputusan dan operasional sehari-hari.