Rencana Tata Kelola AI Anda Memiliki Masalah Shift Malam

Bayangkan sebuah alur kerja AI menandai sebuah pengecualian pada pukul 2:13 pagi. Sistem telah melakukan persis apa yang diminta oleh rencana tata kelola: menghentikan dan memanggil seorang manusia. Hanya ada satu masalah. Orang yang memenuhi syarat untuk membuat keputusan mulai bekerja pada pukul sembilan.

Kesenjangan itu penting dalam operasi apa pun yang berjalan di luar jam kantor. Sebuah kebijakan dapat menetapkan pemilik dan menggambar jalur eskalasi yang rapi. Pada pukul 2 pagi, keduanya tidak membantu jika satu-satunya orang yang memahami panggilan itu, atau memiliki izin untuk membuat keputusan, sedang offline.

Jadi ketersediaan harus menjadi bagian dari kontrol itu sendiri. Untuk sistem yang beroperasi semalaman, pertanyaan praktisnya sederhana: siapa yang menutupi, apa yang dapat mereka putuskan, apa yang harus mereka lihat, dan apa yang terjadi jika tidak ada yang menjawab? Jawabannya juga harus tetap berlaku saat pergantian shift.

Regulasi Memiliki Batas Waktu. Operasi Memiliki Beberapa

Kalender regulasi memberi isu ini keunggulan waktu. Pada 2 Agustus 2026, Kantor AI Komisi Eropa dan otoritas nasional mulai menegakkan ketentuan yang berlaku dari AI Act, dan peraturan transparansi baru mulai berlaku.

Tanggal tersebut tidak seharusnya diartikan bahwa semua kewajiban AI berisiko tinggi menjadi dapat ditegakkan sekaligus. Jadwal saat ini dari Komisi menempatkan peraturan untuk sistem berisiko tinggi Annex III pada 2 Desember 2027, dengan peraturan untuk AI berisiko tinggi yang tertanam dalam produk yang diatur akan berlaku pada 2 Agustus 2028.

Poin operasional yang lebih sempit tetap lebih berguna. Persyaratan tata kelola beralih dari pekerjaan kebijakan menuju penegakan, sementara sistem yang diatur sudah beroperasi melintasi malam, akhir pekan, dan zona waktu. Sebuah kontrol yang dirancang berdasarkan struktur organisasi Senin hingga Jumat pada akhirnya akan menghadapi pengecualian pada Sabtu pagi.

Banyak rencana tata kelola tidak menggambarkan pertemuan itu. Mereka menentukan siapa yang memiliki sistem, siapa yang menyetujui kasus penggunaan, dan komite mana yang meninjau risiko. Itu adalah keputusan yang diperlukan. Mereka tidak memberi tahu operator semalaman apakah transaksi harus tetap ditahan selama tujuh jam, apakah analis yang siaga dapat melepaskannya, atau siapa yang menerima risiko jika antrean terus bertambah.

Kebijakan memiliki nama dalam kotak. Operasi membutuhkan orang yang berada di jam kerja.

Manusia dalam Loop Mengasumsikan Daftar Penugasan

Unite.AI telah menunjukkan bahwa sebuah gerbang validasi yang nyata memerlukan visibilitas dan kontrol yang bermakna. Peninjau perlu melihat tindakan yang diusulkan dan mengapa sistem berhenti. Lebih penting lagi, layar harus memungkinkan mereka melakukan sesuatu yang berguna: menyetujuinya, mengubahnya, menolaknya, atau menghentikan proses.

Cakupan adalah masalah desain berikutnya. Layar peninjauan yang dirancang dengan baik tidak dapat membantu ketika satu-satunya peninjau yang memenuhi syarat sedang tidur, cuti, atau bekerja di wilayah lain tanpa serah terima formal.

Di sinilah frasa “human in the loop” menjadi terlalu samar. Frasa ini dapat menyembunyikan beberapa pekerjaan yang berbeda. Pemilik alur kerja bertanggung jawab atas cara proses beroperasi, sementara peninjau yang sedang bertugas menafsirkan pengecualian dan mengumpulkan konteks yang hilang. Spesialis subjek menilai risiko domain. Seorang penyetuju memiliki wewenang untuk mengizinkan, mengubah, atau menghentikan tindakan yang diusulkan. Ketika pengecualian menandakan kegagalan yang lebih luas, pemilik insiden mengoordinasikan respons.

Menggabungkan peran tidak serta-merta menjadi masalah. Pada alur kerja berisiko rendah, ini mungkin merupakan susunan paling bersih. Namun, tuliskanlah. Analis yang memahami output model mungkin masih tidak memiliki izin untuk melepaskan pembayaran besar, mengesampingkan batas keamanan, atau menyetujui tindakan yang memengaruhi pelanggan.

NIST AI Risk Management Framework berguna di sini karena memperlakukan tata kelola sebagai struktur operasional. Fungsi Govern‑nya menuntut peran, tanggung jawab, dan jalur komunikasi yang jelas, dengan orang yang tepat diberdayakan, bertanggung jawab, dan terlatih. Ia juga menuntut proses pengawasan manusia didefinisikan, dinilai, dan didokumentasikan. “Seorang manusia akan meninjau ini” tidak memenuhi standar kejelasan tersebut.

Tentukan Apa Arti Kualifikasi Sebelum Peringatan Datang

Bertugas tidak membuat seseorang siap untuk memutuskan. Mereka mungkin sangat memahami proses bisnis namun tetap tidak memiliki dasar untuk menilai pengecualian model tertentu ini.

Kualifikasi harus didefinisikan berdasarkan keputusan, bukan berdasarkan jabatan pekerjaan yang luas. Sebuah organisasi mungkin mengharuskan peninjau memahami tujuan alur kerja, bukti yang ditampilkan sistem, batasan model, ambang kebijakan yang relevan, dan konsekuensi dari setiap tindakan yang tersedia. Beberapa peran mungkin juga memerlukan pelatihan terkini, sertifikasi, atau praktik terawasi baru-baru ini.

Keterkinian penting. Seseorang yang menyelesaikan pelatihan dua tahun lalu mungkin masih tampak memenuhi syarat dalam spreadsheet statis meskipun model, antarmuka, dan aturan eskalasi telah berubah dua kali sejak itu. Pertanyaan tata kelola adalah apakah bukti kesiapan masih sesuai dengan alur kerja saat ini.

Wewenang harus dicatat secara terpisah. Pertimbangkan seorang analis penipuan yang dapat menjelaskan mengapa suatu transaksi ditandai. Analis tersebut mungkin sepenuhnya memenuhi syarat untuk menilai bukti namun tidak dapat melepaskan pembayaran di atas jumlah tertentu. Keputusan semalaman kemudian bergantung pada dua jenis cakupan: seseorang yang mampu membuat penilaian dan seseorang yang diizinkan untuk mengotorisasi tindakan.

Pembedaan ini mencegah kegagalan yang umum. Tim menemukan seseorang yang berpengetahuan, menganggap ketersediaannya sebagai cakupan lengkap, dan kemudian menyadari selama insiden bahwa orang tersebut tidak dapat mengambil langkah yang diperlukan. Eskalasi terus naik hingga mencapai seseorang yang sekaligus memenuhi syarat dan berwenang, seringkali setelah batas waktu operasional berlalu.

Definisi cakupan yang dapat digunakan dimulai dengan empat pertanyaan. Apa yang harus diketahui peninjau? Bukti apa yang membuktikannya? Peninjau juga memerlukan batas keputusan yang terdefinisi. Akhirnya, kapan izin tersebut kedaluwarsa atau memerlukan peninjauan kembali? Jika jawaban‑jawaban itu berada di sistem yang berbeda, proses eskalasi harus menyelaraskannya sebelum menugaskan kasus.

Berikan Otoritas kepada Peninjau dan Tetapkan Default Aman untuk Sistem

Peninjau di luar jam kerja membutuhkan lebih dari sekadar notifikasi. Peringatan harus disertai dengan tindakan yang diusulkan, sumber atau catatan yang mendasarinya, pengecualian yang memicu peninjauan, waktu yang tersedia, dan konsekuensi dari penundaan. Peringatan juga harus menunjukkan apa yang diizinkan bagi peninjau untuk dilakukan.

Izin‑izin tersebut memerlukan batasan. Apakah peninjau diizinkan menyetujui tindakan sebagaimana diusulkan atau mengeditnya? Penolakan dapat bersifat permanen, atau hanya mengembalikan kasus ke antrean. Beberapa pengecualian serupa juga dapat membenarkan penghentian alur kerja yang lebih luas. Batas akhir adalah titik di mana approver kedua harus dipanggil.

Pertanyaan‑pertanyaan ini termasuk dalam desain kontrol runtime untuk agen AI, bukan dalam diskusi darurat setelah antrean terbentuk. Status jeda, karantina, dan izin terbatas memberikan tim operasional tempat yang aman untuk menempatkan pekerjaan yang tidak pasti. Telemetri dan catatan audit menunjukkan apa yang terjadi saat proses menunggu.

Kasus tersulit adalah tidak ada respons. Setiap alur kerja yang diatur memerlukan jawaban yang telah disetujui sebelumnya untuk kondisi tersebut. Bergantung pada risiko, sistem dapat menahan tindakan, menempatkannya dalam antrean untuk shift berikutnya yang memenuhi syarat, melanjutkan dalam mode terbatas, atau menghentikan proses yang terdampak. Sistem dukungan pelanggan dapat menjeda pengembalian dana yang sangat besar sementara tetap memproses permintaan rutin. Alur kerja kualitas manufaktur dapat mengarantina batch yang dipertanyakan alih‑alih membiarkan jalur produksi menganggap keheningan sebagai persetujuan.

Keheningan tidak dapat dihitung sebagai persetujuan.

Delegasi hanya berfungsi dengan pengaman. Catat siapa yang memberikan otoritas, siapa yang menerimanya, panggilan apa yang dicakup, kapan otoritas itu kedaluwarsa, dan batasan apa pun. Tanpa jejak tersebut, proses di luar jam kerja hanyalah rangkaian pesan yang tidak mungkin disatukan kembali nanti.

Serah Terima Shift adalah Bagian dari Kontrol

Beberapa pengecualian akan melampaui satu shift. Peninjau yang keluar mungkin telah mengumpulkan bukti, menghubungi spesialis, dan menyingkirkan satu opsi tanpa mencapai keputusan akhir. Nomor tiket dan catatan terburu‑buruan bukanlah serah terima yang memadai. Peninjau berikutnya membuang waktu berharga untuk menyusun kembali pekerjaan yang sudah selesai.

Ini bukan masalah baru. Operasi yang kritis terhadap keselamatan telah lama memperlakukan serah terima sebagai pekerjaan tersendiri. UK Health and Safety Executive menggambarkan serah terima shift yang efektif sebagai proses tiga bagian: persiapan oleh personel yang keluar, pertukaran informasi yang relevan dengan tugas, dan pemeriksaan silang oleh personel yang masuk saat mereka mengambil alih tanggung jawab. Panduannya mendukung komunikasi dua arah yang didukung oleh informasi tertulis dan lisan, dengan cukup waktu dan sumber daya untuk menyelesaikan pekerjaan.

Serah terima pengecualian AI memerlukan disiplin yang sama, disesuaikan dengan alur kerja. Catatan harus memuat tindakan yang diusulkan, bukti yang disajikan oleh sistem, alasan eskalasi, langkah‑langkah yang telah diambil, opsi yang ditolak, waktu yang tersisa, dan tingkat risiko saat ini. Catatan juga memerlukan kepemilikan yang dinamai di kedua sisi transfer.

Bagian terpenting adalah pengakuan. Log dapat menunjukkan bahwa informasi telah dicatat. Namun tidak dapat membuktikan bahwa peninjau yang masuk memahami keadaan kasus atau menerima tanggung jawab untuk keputusan berikutnya. Pemeriksaan silang memberi orang yang masuk kesempatan untuk menantang bukti yang hilang, mengonfirmasi batas waktu, dan menyatakan kembali tindakan berikutnya yang diizinkan.

Desain antarmuka penting di sini. Layar serah terima tidak boleh menyembunyikan alasan model, catatan manusia, dan status izin dalam tab terpisah. Peninjau yang masuk perlu melihat apa yang berubah selama shift sebelumnya dan fakta mana yang masih perlu diperiksa. Jika tidak, setiap serah terima menciptakan peluang baru bagi konteks untuk menghilang.

Pemetaan Cakupan yang Memenuhi Kualifikasi di Seluruh Shift

Sebagian besar tim dapat membuat daftar orang yang terkait dengan alur kerja AI. Lebih sedikit yang dapat menunjukkan bahwa setiap periode operasional memiliki kombinasi pengetahuan dan otoritas yang tepat.

Titik awal yang praktis adalah tampilan per‑peran per‑shift. Bangun tampilan berdasarkan keputusan nyata, bukan nama pada daftar. Untuk setiap kemungkinan eskalasi, catat pengetahuan yang dibutuhkan, bagaimana kompetensi saat ini dibuktikan, dan otoritas yang diperlukan untuk bertindak. Kemudian cocokkan dengan orang yang menutupi malam, akhir pekan, dan hari libur.

Matriks keterampilan atau kompetensi dapat membuat risiko staffing terlihat dengan memetakan cakupan yang memenuhi syarat di seluruh shift, peran, dan lokasi sebelum terjadi pengecualian. Matriks tersebut dapat mengungkap bahwa satu orang memiliki satu-satunya kualifikasi saat ini untuk tinjauan kritis, bahwa sebuah sertifikasi akan kedaluwarsa selama penempatan yang direncanakan, atau bahwa shift akhir pekan memiliki keahlian teknis namun tidak ada pemberi persetujuan akhir.

Kesenjangan menjadi konkret. Namun, visibilitas itu bukan bukti bahwa siapa pun dapat melakukan pekerjaan tersebut, karena praktik yang terbukti, pelatihan terkini, dan keputusan yang diamati tetap penting, dan sebuah matriks tidak dapat memberikan otoritas hukum atau organisasi. Tugasnya lebih sempit: menunjukkan di mana model cakupan bergantung pada asumsi, catatan usang, atau satu orang.

Setelah kesenjangan terlihat, tim memiliki pilihan. Mereka dapat melatih silang reviewer lain, menyesuaikan cakupan on-call, mempersempit izin alur kerja semalam, atau mengubah cadangan aman sampai cakupan membaik. Respons yang tepat bergantung pada konsekuensi keterlambatan dan konsekuensi keputusan yang salah. Antrian berisiko rendah dapat menunggu. Pengecualian terkait keamanan mungkin memerlukan cakupan spesialis segera atau penghentian keras.

Cakupan juga harus diuji, bukan hanya didokumentasikan. Lakukan latihan di luar jam kerja. Aktifkan pengecualian representatif, ikuti jalur eskalasi, dan ukur apakah orang yang ditugaskan menerima cukup konteks untuk bertindak dalam waktu yang diizinkan. Kemudian ulangi pengujian saat pergantian shift. Cakupan dalam dokumen sering tampak meyakinkan sampai pesan pertama dikirim ke nomor telepon yang sudah usang atau sampai kepada seseorang yang batas persetujuannya terlalu rendah.

Jalankan Tes Shift Malam

Tata kelola perusahaan sudah bergantung pada pemilik yang ditetapkan dan jalur eskalasi. Tes shift malam memeriksa apakah struktur tersebut tetap dapat digunakan ketika orang biasa tidak berada di meja mereka.

Mulailah dengan alur kerja nyata dan satu pengecualian yang masuk akal. Tanyakan siapa yang menerima peringatan pada jam yang paling tidak nyaman. Pastikan orang tersebut memenuhi syarat untuk penilaian tepat itu, lalu periksa apa yang dapat mereka setujui, ubah, hentikan, atau delegasikan. Ikuti jalur tanpa respons. Akhirnya, bawa kasus yang belum terselesaikan melalui serah terima shift dan lihat apakah reviewer yang masuk dapat menjelaskan statusnya tanpa membangun kembali penyelidikan.

Tes biasanya akan mengungkap masalah-masalah biasa: peran tanpa jadwal on-call, catatan kualifikasi yang tidak sesuai dengan model saat ini, pemberi persetujuan yang batasnya terlalu rendah, atau serah terima yang mentransfer catatan tanpa mentransfer kepemilikan. Hal biasa itu baik. Ini adalah masalah operasional yang dapat diperbaiki, asalkan ditemukan sebelum pengecualian yang sedang berlangsung menempatkannya pada tenggat waktu.

Alur kerja AI dapat berjalan sepanjang malam. Tata kelolanya harus melakukan hal yang sama.